메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


oozie의 action에 user_retry및 retry_interval을 지정하여 작업이 바로 종료되지 않고 일정 시간 대기하도록 할 수 있는데.. 이때 L4가 round robin형태로 처리하면 retry간격이 일정하지 않게 짧아지는 문제가 있다. 

이는 action 수행 순서인 Start action->call for action->Preparing retry가 각각 다른 oozie서버에서 수행되면서 retry간격을 정확히 측정하지 못하는 문제가 있다. 

특히 선행 retry에서 Start action과 call for action은 반드시 같은 서버에서 수행되고 다음 retry도 같은 oozie서버에서 수행되어야 문제 없이 정해진 시간만큼 wait시킬 수 있다 .


예를 들어 아래와 같은 ooze log상의 작업이 진행되면..

17회와 18회 사이는 지정된 시간만큼 정확하게 wait이 되지만 18회와 19회 사이는 원하는 만큼의 시간만큼 wait하지 못한다.


userRetryCount[17]

->Start action(oozie#1)

->callback for action(oozie#1)

->Preparing retry(oozie#1, callback for action서버와 같음)


userRetryCount[18]

->Start action(oozie#1)

->callback for action(oozie#2)

->Preparing retry(oozie#2, callback for action서버와 같음)


userRetryCount[19]

->Start action(oozie#1)

->callback for action(oozie#2)

->Preparing retry(oozie#2, callback for action서버와 같음)


번호 제목 날짜 조회 수
407 Hive 사용법 및 쿼리 샘플코드 2013.03.07 5441
406 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 5383
405 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 5343
404 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 2018.07.03 5340
403 mysql-server 기동시 Do you already have another mysqld server running on port 오류 발생할때 확인및 조치방법 2017.05.14 5337
402 Cloudera Hadoop and Spark Developer Certification 준비(참고) 2018.05.16 5312
401 [CDP7.1.7]impala-shell수행시 간헐적으로 "-k requires a valid kerberos ticket but no valid kerberos ticket found." 오류 2023.11.16 5307
400 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 2013.03.15 5303
399 HBase, BigTable, Cassandra Schema Design file 2013.03.15 5294
398 Hive Query Examples from test code (1 of 2) 2014.03.26 5245
397 [Kudu]ERROR: Unable to advance iterator for node with id '2' for Kudu table 'impala::core.pm0_abdasubjct': Network error: recv error from unknown peer: Transport endpoint is not connected (error 107) 2023.03.16 5210
396 kafka broker기동시 brokerId가 달라서 기동에 실패하는 경우 조치방법 2016.05.02 5188
395 Hive+mysql 설치 및 환경구축하기 file 2013.03.07 5120
394 hive job실행시 meta정보를 원격의 mysql에 저장하는 경우 설정방법 2014.05.28 5098
393 HBase 설치하기 – Pseudo-distributed file 2013.03.12 5094
392 kudu rebalance수행 command예시 2022.01.17 5072
391 Master rejected startup because clock is out of sync 오류 해결방법 2016.05.03 5067
390 HiveServer2인증을 PAM을 이용하도록 설정하는 방법 2018.07.21 5043
389 Cloudera의 API를 이용하여 impala의 실행되었던 쿼리 확인하는 예시 2018.05.03 5005
388 scan의 startrow, stoprow지정하는 방법 2015.04.08 4970
위로