메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


oozie의 sqoop action으로 import혹은 export수행시 발생한 오류는 oozie의 job browser에서 자세한 내용을 확인할 수 없다. 

이류는 oozie sqoop action으로 작업시 최초에 Launcher를 수행하기 위한 YARN application을 수행하며 이 Launcher에서 

실제 map/reduce작업을 위한 YARN application을 수행하는 구조이기 때문에 

M/R작업에 사용된 application_id를 확인하여 거기서 실행된 task의 log를 확인해야 정확안 오류 내용을 확인할 수 있다. 

이때 M/R용 application_id를 확인하는 방법은 다음과 같다.


oozie launcher에 application의 Logs->stdout에서 Submitted application 부분에 명시된 application_id를 확인하고 이것을 이용하여

ResourceManager WebUI나 HistoryServer WebUI에서 application혹은 job의 로그를 확인한다. 


* oozie launcher(application_1705745455734_635833) 의 stdout에 보여지는 log의 일부

.....

16:09:47.515 [main] INFO  org.apache.hadoop.yarn.client.api.impl.YarnClientImpl - Submitted application application_1705745455734_635836

16:09:47.555 [main] INFO  org.apache.hadoop.mapreduce.Job - The url to track the job: http://bdapnamp01.bdp.samsungfire.com:8088/proxy/application_1705745455734_635836/

16:09:47.555 [main] INFO  org.apache.hadoop.mapreduce.Job - Running job: job_1705745455734_635836

16:09:54.620 [main] INFO  org.apache.hadoop.mapreduce.Job - Job job_1705745455734_635836 running in uber mode : false

16:09:54.621 [main] INFO  org.apache.hadoop.mapreduce.Job -  map 0% reduce 0%

16:10:03.665 [main] INFO  org.apache.hadoop.mapreduce.Job -  map 8% reduce 0%

16:10:04.668 [main] INFO  org.apache.hadoop.mapreduce.Job -  map 100% reduce 0%

16:10:04.673 [main] INFO  org.apache.hadoop.mapreduce.Job - Job job_1705745455734_635836 failed with state FAILED due to: Task failed task_1705745455734_635836_m_000001

Job failed as tasks failed. failedMaps:1 failedReduces:0 killedMaps:0 killedReduces: 0

...


번호 제목 글쓴이 날짜 조회 수
» [CDP7.1.7] oozie sqoop action으로 import혹은 export수행시 발생한 오류에 대한 자세한 로그 확인 하는 방법 gooper 2024.04.19 0
17 Oracle 12c DB의 LOB타입 컬럼이 있는 테이블을 import할 때 주의 할 사항 gooper 2022.09.14 181
16 oracle 접속 방식에 따른 --connect 지정 방법 총관리자 2022.02.11 24
15 Oracle NLOB type의 데이터를 import하는 경우 No Java type for SQL type 2011 for column rst와 같은 오류 발생시 조치사항 총관리자 2022.01.14 35
14 oracle 12에 sqoop해서 데이터 import하기 (console에서 sqoop import하는 방법) 총관리자 2021.12.31 57
13 [sap] Error: java.io.IOException: SQLException in nextKeyValue 오류 발생 총관리자 2020.06.08 275
12 [sqoop] mapper를 2이상으로 설정하기 위한 split-by컬럼을 찾을때 유용하게 활용할 수 있는 쿼리 총관리자 2020.05.13 341
11 컬럼및 라인의 구분자를 지정하여 sqoop으로 데이타를 가져오고 hive테이블을 생성하는 명령문 총관리자 2018.08.03 420
10 sqoop으로 mariadb에 접근해서 hive 테이블로 자동으로 생성하기 총관리자 2018.08.03 673
9 Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.http.HttpConfig.getSchemePrefix()Ljava/lang/String; 해결->실패 총관리자 2015.06.14 405
8 hadoop 2.6.0에 sqoop2 (1.99.5) server및 client설치 == fail 총관리자 2015.06.11 1772
7 sqoop작업시 hdfs의 개수보다 더많은 값이 중복되어 oracle에 입력되는 경우가 있음 총관리자 2014.09.02 4093
6 java.util.NoSuchElementException발생시 조치 총관리자 2014.08.27 476
5 oozie 에서 sqoop action실행 에러 - 컬럼개수 차이 총관리자 2014.07.17 1002
4 import 혹은 export할때 hive파일의 default 구분자는 --input-fields-terminated-by "x01"와 같이 지정해야함 총관리자 2014.05.20 4245
3 sqoop에서 oracle관련 작업할때 테이블명, 사용자명, DB명은 모두 대문자로 사용할것 총관리자 2014.05.15 1528
2 sqoop export/import등을 할때 driver를 못찾는 오류가 발생하면... 총관리자 2014.05.15 867
1 sqoop 1.4.4 설치및 테스트 총관리자 2014.04.21 3134

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로