메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Cloudera설치중 실패로 여러번 설치하는 과정에서 기존에 사용을 위해서 만들어둔 폴더들이 있어서 "Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting."와 같은 오류가 발생하면서 설치가 되지 않으면 /dfs/nn를 삭제후 설치과정을 Resume하면 자동으로 생성하면서 설치가 정상적으로 진행된다.

18/03/29 11:11:01 INFO util.GSet: Computing capacity for map cachedBlocks
18/03/29 11:11:01 INFO util.GSet: VM type       = 64-bit
18/03/29 11:11:01 INFO util.GSet: 0.25% max memory 678.6 MB = 1.7 MB
18/03/29 11:11:01 INFO util.GSet: capacity      = 2^18 = 262144 entries
18/03/29 11:11:01 INFO namenode.FSNamesystem: dfs.namenode.safemode.threshold-pct = 0.9990000128746033
18/03/29 11:11:01 INFO namenode.FSNamesystem: dfs.namenode.safemode.min.datanodes = 1
18/03/29 11:11:01 INFO namenode.FSNamesystem: dfs.namenode.safemode.extension     = 30000
18/03/29 11:11:01 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.window.num.buckets = 10
18/03/29 11:11:01 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.num.users = 10
18/03/29 11:11:01 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.windows.minutes = 1,5,25
18/03/29 11:11:01 INFO namenode.FSNamesystem: Retry cache on namenode is enabled
18/03/29 11:11:01 INFO namenode.FSNamesystem: Retry cache will use 0.03 of total heap and retry cache entry expiry time is 600000 millis
18/03/29 11:11:01 INFO util.GSet: Computing capacity for map NameNodeRetryCache
18/03/29 11:11:01 INFO util.GSet: VM type       = 64-bit
18/03/29 11:11:01 INFO util.GSet: 0.029999999329447746% max memory 678.6 MB = 208.5 KB
18/03/29 11:11:01 INFO util.GSet: capacity      = 2^15 = 32768 entries
18/03/29 11:11:01 INFO namenode.FSNamesystem: ACLs enabled? false
18/03/29 11:11:01 INFO namenode.FSNamesystem: XAttrs enabled? true
18/03/29 11:11:01 INFO namenode.FSNamesystem: Maximum size of an xattr: 16384
Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting.
18/03/29 11:11:01 INFO util.ExitUtil: Exiting with status 1
18/03/29 11:11:01 INFO namenode.NameNode: SHUTDOWN_MSG: 
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at gsda1/XXX.XXX.XXX.XXX
************************************************************/
번호 제목 글쓴이 날짜 조회 수
561 Query Status: Sender xxx.xxx.xxx.xxx timed out waiting for receiver fragment instance: 1234:cdsf, dest node: 10 의 오류 원인및 대응방안 총관리자 2021.11.03 78
560 로컬에 있는 jar파일을 지정하고 dependency로 가져오기 총관리자 2016.08.19 79
559 다중 모듈 프로젝트 설정에 대한 설명 총관리자 2016.09.21 80
558 python3.5에서 numpy버젼에 따른 문제점을 조치하는 방법및 pymysql import할때 오류 발생시 조치사항 총관리자 2017.09.28 80
557 외부 jar파일을 만들려고하는jar파일의 package로 포함하는 방법 총관리자 2016.08.10 81
556 테이블의 row수를 빠르게 카운트 하는 방법 총관리자 2017.01.26 81
555 Lagom에서 제공하는 Maven을 이용한 Hello프로젝트 자동생성 및 실행 총관리자 2018.01.19 81
554 A Cluster의 HDFS 디렉토리및 파일을 사용자및 권한 유지 하여 다운 받아서 B Cluster에 넣기 총관리자 2020.05.06 81
553 small file 한개 파일로 만들기(text file 혹은 parquet file의 테이블) gooper 2022.07.04 81
552 jena의 data폴더를 hadoop nfs를 이용하여 HDFS상의 폴더에 마운트 시키고 fuseki를 통하여 inert를 시도했을때 transaction 오류 발생 총관리자 2016.12.02 82
551 oneM2M Specification(Draft Release 3, 2, 1), Draft Technical Reports 총관리자 2017.10.25 82
550 TLS/SSl설정시 방법및 참고 사항 총관리자 2021.10.08 83
549 Hue Job Browser의 Queries탭에서 조건을 지정하는 방법 총관리자 2018.05.10 84
548 Query 1234:1234 expired due to client inactivity(timeout is 5m)및 invalid query handle gooper 2022.06.10 85
547 HBase write 성능 튜닝 file 총관리자 2017.07.18 87
546 collection생성시 -shards와 -replicationFactor값을 잘못지정하면 write.lock for client xxx.xxx.xxx.xxx already exists오류가 발생한다. 총관리자 2016.04.28 88
545 http://blog.naver.com... 총관리자 2017.06.23 88
544 에러 추적(Error Tracking) 및 로그 취합(logging aggregation) 시스템인 Sentry 설치 총관리자 2018.03.14 88
543 각 서버에 설치되는 cloudera서비스 프로그램 목록(CDH 5.14.0의 경우) 총관리자 2018.03.29 88
542 Authorization within Hadoop Projects gooper 2022.06.13 89

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로