2016-06-08 4 views
0

Azure Data Lake 디렉토리에 액세스하려고하는 HD Insight 파이프 라인이있는 데이터 팩토리 파이프 라인이 있습니다. 나는이 파이프 라인을 실행할 때Azure 데이터 팩토리 하이브리드의 HDInsight ... 외부 : CREATE EXTERNAL TABLE ... 위치 : 구성표의 FileSystem이 없습니다.

"type": "HDInsightHive", 
      "typeProperties": { 
       "scriptPath": "mpp-hive-scripts/parse_log.q", 
       "scriptLinkedService": "AzureStorageLinkedService", 
       "defines": { 
        "inputtable": "adl://mppmetering.azuredatalakestore.net/hour=23", 
        "outputtable": "wasb://[email protected]/output/" 
       } 
      }, 

나는 다음과 같은 오류가 발생합니다 :

FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. MetaException(message:Got exception: java.io.IOException No FileSystem for scheme: ad 

이 다음과 같은 사양을 가진 푸른 물방울 저장소에 액세스하는 파이프 라인에서 잘 작동 :

"type": "HDInsightHive", 
      "typeProperties": { 
       "scriptPath": "mpp-hive-scripts/parse_log.q", 
       "scriptLinkedService": "AzureStorageLinkedService", 
       "defines": { 
        "inputtable": "wasb://[email protected]/hour=23", 
        "outputtable": "wasb://[email protected]/output/" 
       } 
      }, 

하나를 도움을 주시면 감사하겠습니다. js

답변

0

현재 Azure Data Factory는 하이브 스크립트에서 ADL 저장소를 참조하는 것을 지원하지 않습니다. 지원되는 유일한 저장소는 blob 저장소 (wasb)입니다. 이것이 오류를 보는 이유입니다. '정의'섹션에서 BLOB 저장소 (와스 링크)를 사용해야합니다. ADL 저장소에 데이터를 저장하려는 경우 ADOB에서 '복사'작업을 사용하여 BLOB 저장소에서 ADL 저장소로 데이터를 이동할 수 있습니다.

+0

감사합니다. 이 기사의 하이브 쿼리는 대화 형 하이브 쿼리에서 ADL 저장소를 사용할 수 있지만 하이브 스크립트에서는 사용할 수 없다는 것을 의미합니까? https://azure.microsoft.com/en-gb/documentation/articles/data-lake-store-hdinsight-hadoop-use-portal/ 내 하이브를 실행할 수있는 영구 HDFS 저장소로 ADL을 사용하는 사례가 있습니다. , U-SQL, Spark on - 합리적인 유스 케이스인가? –

+0

예, 유스 케이스가 합리적입니다. 그러나 현재 데이터 공장에서는 대화 형 하이브 쿼리에서 ADL 저장소 사용을 허용하지 않습니다. –