메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Cloudera설치중 실패로 여러번 설치하는 과정에서 기존에 사용을 위해서 만들어둔 폴더들이 있어서 "Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting."와 같은 오류가 발생하면서 설치가 되지 않으면 /dfs/nn를 삭제후 설치과정을 Resume하면 자동으로 생성하면서 설치가 정상적으로 진행된다.

18/03/29 11:11:01 INFO util.GSet: Computing capacity for map cachedBlocks
18/03/29 11:11:01 INFO util.GSet: VM type       = 64-bit
18/03/29 11:11:01 INFO util.GSet: 0.25% max memory 678.6 MB = 1.7 MB
18/03/29 11:11:01 INFO util.GSet: capacity      = 2^18 = 262144 entries
18/03/29 11:11:01 INFO namenode.FSNamesystem: dfs.namenode.safemode.threshold-pct = 0.9990000128746033
18/03/29 11:11:01 INFO namenode.FSNamesystem: dfs.namenode.safemode.min.datanodes = 1
18/03/29 11:11:01 INFO namenode.FSNamesystem: dfs.namenode.safemode.extension     = 30000
18/03/29 11:11:01 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.window.num.buckets = 10
18/03/29 11:11:01 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.num.users = 10
18/03/29 11:11:01 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.windows.minutes = 1,5,25
18/03/29 11:11:01 INFO namenode.FSNamesystem: Retry cache on namenode is enabled
18/03/29 11:11:01 INFO namenode.FSNamesystem: Retry cache will use 0.03 of total heap and retry cache entry expiry time is 600000 millis
18/03/29 11:11:01 INFO util.GSet: Computing capacity for map NameNodeRetryCache
18/03/29 11:11:01 INFO util.GSet: VM type       = 64-bit
18/03/29 11:11:01 INFO util.GSet: 0.029999999329447746% max memory 678.6 MB = 208.5 KB
18/03/29 11:11:01 INFO util.GSet: capacity      = 2^15 = 32768 entries
18/03/29 11:11:01 INFO namenode.FSNamesystem: ACLs enabled? false
18/03/29 11:11:01 INFO namenode.FSNamesystem: XAttrs enabled? true
18/03/29 11:11:01 INFO namenode.FSNamesystem: Maximum size of an xattr: 16384
Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting.
18/03/29 11:11:01 INFO util.ExitUtil: Exiting with status 1
18/03/29 11:11:01 INFO namenode.NameNode: SHUTDOWN_MSG: 
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at gsda1/XXX.XXX.XXX.XXX
************************************************************/
번호 제목 글쓴이 날짜 조회 수
521 참고할만한 spark예제를 설명하는 사이트 총관리자 2016.11.11 98
520 Class.forName을 이용한 메서드 호출 샘플소스 총관리자 2016.12.21 100
519 RDF storage조합에대한 test결과(4store, Jena+HBase, Hive+HBase, CumulusRDF, Couchbase) 페이지 링크 총관리자 2016.05.26 102
518 fuseki의 endpoint를 이용한 insert, delete하는 sparql예시 총관리자 2018.02.14 102
517 https://github.com/Merck/Halyard프로젝트 컴파일및 배포/테스트 총관리자 2017.01.24 103
516 TopBraid Composer에서 SPIN 사용법 file 총관리자 2016.02.25 104
515 Hue Load Balancer를 L4로 L/B하는 경우는 L4쪽 도멘인으로 발행된 인증서를 TLS/SSL항목에 설정해주어야 한다. 총관리자 2021.10.08 104
514 [AD(LADP)] CDP1.7에서 AD및 Kerberos를 연동해도 각 노드에 os account, os group은 생성되어야 하지만 SSSD서비스를 이용하면 직접 생성될 필요가 없다. gooper 2022.06.10 105
513 [SparkR]SparkR 설치 사용기 1 - Installation Guide On Yarn Cluster & Mesos Cluster & Stand Alone Cluster file 총관리자 2016.11.04 106
512 spark 2.0.0를 windows에서 실행시 로컬 파일을 읽을때 발생하는 오류 해결 방법 총관리자 2017.01.12 106
511 컴퓨터 무한 재부팅 원인및 조치방법 file 총관리자 2017.12.05 106
510 [Impala TLS/SSL이슈]RangerAdminRESTClient.java:151] Failed to get response, Error is: TrustManager is not specified gooper 2023.02.02 106
509 .gitignore파일에 지정되지 않은 파일이 ignore되는 경우 확인방법 총관리자 2016.11.22 107
508 collection생성혹은 collection조회시 Plugin init failure for [schema.xml] fieldType "pdate": Error loading class 'solr.IntField' 오류 조치사항 총관리자 2022.04.07 107
507 elasticsearch 1.3.0에서 rdf및 hadoop plugin설치 총관리자 2016.04.06 108
506 hue.axes_accessattempt테이블 데이터 샘플 총관리자 2020.02.10 108
505 https용 인증서 발급 명령문 예시및 오류 메세지 총관리자 2018.01.24 109
504 impala external 테이블 생성시 컬럼과 라인 구분자를 지정하여 테이블 생성하는 예시 총관리자 2020.02.20 109
503 딥러닝 수학/알고리즘 '한국어' 강의 총관리자 2016.04.10 110
502 Toree 0.1.0-incubating이 Scala 2.10.4까지만 지원하게 되어서 발생하는 NoSuchMethod오류 문제 해결방법(scala 2.11.x을 지원하지만 오류가 발생할 수 있음) 총관리자 2018.04.20 110

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로