메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


1. YARN application로그는 container가 수행된 노드의 로컬 파일 경로(yarn.nodemanager.log-dirs, /var/log/hadoop-yarn/containers) 저장된다. 

2. CM->YARN->Applications->application list의 우측에 Application Details를 클릭시 "Failed to read the application application_123456789012_123456" 발생시 아래와 같은 방법으로 log파일을 직접 조회해서 볼 수 있다. 

(yarn.resourcemanager.max-completed-applications(default 10k)와 yarn.resourcemanager.state-store.max-completed-applications값을 동시에 설정하여 조절 가능하나 너무 큰 값을 설정하면 RM recovery performance 부하가 발생함, 권장값은 30k이내임)

3. 또한 yarn.log-aggregation-enable(Enalbe Log Aggregation)이 enable상태라면 로컬 파일들(stderr, stdout등)을 1개의 파일로 묶어서 HDFS(yarn.nodemanager.remote-app-log-dir/계정명/yarn.nodemanager.remote-app-log-dir-suffix,  /tmp/logs/계정/logs)에 저장(yarn.log-aggregation_retain-seconds, default : 7 days(s))하고 로컬 파일을 지우므로 HDFS의 /tmp/logs/계정/logs/application_id에 가서 직접 application수행 로그 파일을 조회할 수 도 있다.


번호 제목 글쓴이 날짜 조회 수
439 메이븐 (maven) 설치 및 이클립스 연동하기 file 구퍼 2013.03.06 2280
438 Hadoop 설치 및 시작하기 file 구퍼 2013.03.06 1951
437 Hadoop wordcount 소스 작성 file 구퍼 2013.03.06 1888
436 이클립스에서 생성한 jar 파일 hadoop 으로 실행하기 file 구퍼 2013.03.06 2836
435 ExWordCount jar파일 file 구퍼 2013.03.06 1336
434 Hadoop Cluster 설치 (Hadoop+Zookeeper+Hbase) file 구퍼 2013.03.07 3995
433 Hive+mysql 설치 및 환경구축하기 file 구퍼 2013.03.07 2722
432 Hive 사용법 및 쿼리 샘플코드 구퍼 2013.03.07 2991
431 hadoop 설치(3대) file 구퍼 2013.03.07 2613
430 hadoop설치시 참고사항 구퍼 2013.03.08 2131
429 org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-root/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible. 구퍼 2013.03.11 14781
428 HBase 설치하기 – Pseudo-distributed file 구퍼 2013.03.12 2644
427 HBase 설치하기 – Fully-distributed 구퍼 2013.03.12 3548
426 Cacti로 Hadoop 모니터링 하기 file 구퍼 2013.03.12 2367
425 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 구퍼 2013.03.15 2668
424 HBase shell로 작업하기 구퍼 2013.03.15 5834
423 HBase, BigTable, Cassandra Schema Design file 구퍼 2013.03.15 2506
422 하둡 분산 파일 시스템을 기반으로 색인하고 검색하기 구퍼 2013.03.15 5573
421 HBASE Client API : 기본 기능 정리 file 구퍼 2013.04.01 3554
420 Hbase Shell 명령 정리 구퍼 2013.04.01 3170

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로