메뉴 건너뛰기

검색창 닫기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


sqoop [CDP7.1.7] oozie sqoop action으로 import혹은 export수행시 발생한 오류에 대한 자세한 로그 확인 하는 방법

gooper 2024.04.19 09:36 조회 수 : 0

oozie의 sqoop action으로 import혹은 export수행시 발생한 오류는 oozie의 job browser에서 자세한 내용을 확인할 수 없다. 

이류는 oozie sqoop action으로 작업시 최초에 Launcher를 수행하기 위한 YARN application을 수행하며 이 Launcher에서 

실제 map/reduce작업을 위한 YARN application을 수행하는 구조이기 때문에 

M/R작업에 사용된 application_id를 확인하여 거기서 실행된 task의 log를 확인해야 정확안 오류 내용을 확인할 수 있다. 

이때 M/R용 application_id를 확인하는 방법은 다음과 같다.


oozie launcher에 application의 Logs->stdout에서 Submitted application 부분에 명시된 application_id를 확인하고 이것을 이용하여

ResourceManager WebUI나 HistoryServer WebUI에서 application혹은 job의 로그를 확인한다. 


* oozie launcher(application_1705745455734_635833) 의 stdout에 보여지는 log의 일부

.....

16:09:47.515 [main] INFO  org.apache.hadoop.yarn.client.api.impl.YarnClientImpl - Submitted application application_1705745455734_635836

16:09:47.555 [main] INFO  org.apache.hadoop.mapreduce.Job - The url to track the job: http://bdapnamp01.bdp.samsungfire.com:8088/proxy/application_1705745455734_635836/

16:09:47.555 [main] INFO  org.apache.hadoop.mapreduce.Job - Running job: job_1705745455734_635836

16:09:54.620 [main] INFO  org.apache.hadoop.mapreduce.Job - Job job_1705745455734_635836 running in uber mode : false

16:09:54.621 [main] INFO  org.apache.hadoop.mapreduce.Job -  map 0% reduce 0%

16:10:03.665 [main] INFO  org.apache.hadoop.mapreduce.Job -  map 8% reduce 0%

16:10:04.668 [main] INFO  org.apache.hadoop.mapreduce.Job -  map 100% reduce 0%

16:10:04.673 [main] INFO  org.apache.hadoop.mapreduce.Job - Job job_1705745455734_635836 failed with state FAILED due to: Task failed task_1705745455734_635836_m_000001

Job failed as tasks failed. failedMaps:1 failedReduces:0 killedMaps:0 killedReduces: 0

...


이 게시물을
목록
번호 제목 글쓴이 날짜 조회 수
39 동일서버에서 LA와 LC동시에 기동하여 테스트 총관리자 2014.04.01 928
38 다수의 로그 에이전트로 부터 로그를 받아 각각의 파일로 저장하는 방법(interceptor및 multiplexing) 총관리자 2014.04.04 4089
37 sqoop 1.4.4 설치및 테스트 총관리자 2014.04.21 3134
36 sqoop export/import등을 할때 driver를 못찾는 오류가 발생하면... 총관리자 2014.05.15 867
35 sqoop에서 oracle관련 작업할때 테이블명, 사용자명, DB명은 모두 대문자로 사용할것 총관리자 2014.05.15 1528
34 source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 총관리자 2014.05.20 687
33 import 혹은 export할때 hive파일의 default 구분자는 --input-fields-terminated-by "x01"와 같이 지정해야함 총관리자 2014.05.20 4245
32 oozie 에서 sqoop action실행 에러 - 컬럼개수 차이 총관리자 2014.07.17 1002
31 java.util.NoSuchElementException발생시 조치 총관리자 2014.08.27 476
30 sqoop작업시 hdfs의 개수보다 더많은 값이 중복되어 oracle에 입력되는 경우가 있음 총관리자 2014.09.02 4093
29 kafka의 re-balance를 이용하여 consumer를 multi thread로 돌려서 topic의 partitions을 활용 총관리자 2015.03.31 248
28 flume 1.5.2 설치및 테스트(source : file, sink : hdfs) in HA 총관리자 2015.05.21 1415
27 hadoop 2.6.0에 sqoop2 (1.99.5) server및 client설치 == fail 총관리자 2015.06.11 1770
26 Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.http.HttpConfig.getSchemePrefix()Ljava/lang/String; 해결->실패 총관리자 2015.06.14 403
25 kafka 0.9.0.1 for scala 2.1.1 설치및 테스트 총관리자 2016.05.02 412
24 kafka broker기동시 brokerId가 달라서 기동에 실패하는 경우 조치방법 총관리자 2016.05.02 2337
23 avro 사용하기(avsc 스키마 파일 컴파일 방법, consumer, producer샘플소스) 총관리자 2016.07.08 1281
22 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 총관리자 2016.08.02 97
21 down된 broker로 메세지를 전송하려는 경우의 오류 내용및 조치사항 총관리자 2016.08.12 238
20 kafka 0.9.0.1버젼의 producer와 kafka버젼이 0.10.0.1인 consumer가 서로 대화하는 모습 총관리자 2016.08.18 288
쓰기 태그

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로