메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


아래와 같은 내용의 오류가 발생하면서 zookeeper 데몬이 실행되지 않는 경우가 있는데 이는 마지막 transaction log파일에 문제가 발생하여 읽지 못해서 발생하는 오류임.

먼저 dataDir(예, /var/lib/zookeeper)로 지정된 위치의 version-2폴더로 이동한다.

마지막의 log파일과 snapshot파일을 지우고 파일 크기가 0인 log파일도 삭제하고 zookeeper를 재기동하면 정상적으로 데몬이 기동되며 현재의 log및 snapshot를 새롭게 생성한것을 확인할 수 있다.


----- 수행 명령문 예시

gooper@gsda1:/var/lib/zookeeper/version-2$ sudo rm log.19000a12e6 snapshot.19000a12e5

gooper@gsda1:/var/lib/zookeeper/version-2$ sudo rm log.19000a2c4e


-----------------오류발생시의 파일------------------

-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 13 17:27 log.1900040c76

-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 16 05:25 log.1900054051

-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 19 21:23 log.1900061d04

-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 24 06:49 log.1900076140

-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 27 17:00 log.190008e4b7

-rw-r--r-- 1 zookeeper zookeeper 67108880 Aug  1 13:07 log.19000a12e6

-rw-r--r-- 1 zookeeper zookeeper        0 Aug  1 21:08 log.19000a2c4e

-rw-r--r-- 1 zookeeper zookeeper 11662886 Jul 13 17:27 snapshot.190005404f

-rw-r--r-- 1 zookeeper zookeeper 11662889 Jul 16 05:25 snapshot.1900061d03

-rw-r--r-- 1 zookeeper zookeeper 11662893 Jul 19 21:23 snapshot.190007613f

-rw-r--r-- 1 zookeeper zookeeper 11662834 Jul 24 06:49 snapshot.190008e4b7

-rw-r--r-- 1 zookeeper zookeeper 11662882 Jul 27 17:00 snapshot.19000a12e5


---------------조치후의 파일-----------
drwxr-xr-x 2 zookeeper zookeeper     4096 Aug  3 10:49 .
drwxr-xr-x 4 zookeeper zookeeper     4096 Jun  8 15:36 ..
-rw-r--r-- 1 zookeeper zookeeper        2 Aug  3 10:49 acceptedEpoch
-rw-r--r-- 1 zookeeper zookeeper        2 Aug  3 10:49 currentEpoch
-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 13 17:27 log.1900040c76
-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 16 05:25 log.1900054051
-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 19 21:23 log.1900061d04
-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 24 06:49 log.1900076140
-rw-r--r-- 1 zookeeper zookeeper 67108880 Jul 27 17:00 log.190008e4b7
-rw-r--r-- 1 zookeeper zookeeper 67108880 Aug  3 10:55 log.1f00003cfc
-rw-r--r-- 1 zookeeper zookeeper 11662886 Jul 13 17:27 snapshot.190005404f
-rw-r--r-- 1 zookeeper zookeeper 11662889 Jul 16 05:25 snapshot.1900061d03
-rw-r--r-- 1 zookeeper zookeeper 11662893 Jul 19 21:23 snapshot.190007613f
-rw-r--r-- 1 zookeeper zookeeper 11662834 Jul 24 06:49 snapshot.190008e4b7
-rw-r--r-- 1 zookeeper zookeeper 11663132 Aug  3 10:49 snapshot.1f00003cfb


-------------------------------------오류내용------------------------------------------

10:20:40.395 AMINFOFileSnap

Reading snapshot /var/lib/zookeeper/version-2/snapshot.19000a12e5
10:20:40.920 AMERRORUtil
Last transaction was partial.
10:20:40.932 AMERRORQuorumPeer
Unable to load database on disk
java.io.EOFException
	at java.io.DataInputStream.readInt(DataInputStream.java:392)
	at org.apache.jute.BinaryInputArchive.readInt(BinaryInputArchive.java:63)
	at org.apache.zookeeper.server.persistence.FileHeader.deserialize(FileHeader.java:64)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.inStreamCreated(FileTxnLog.java:595)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.createInputArchive(FileTxnLog.java:614)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.goToNextLog(FileTxnLog.java:580)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.next(FileTxnLog.java:662)
	at org.apache.zookeeper.server.persistence.FileTxnSnapLog.restore(FileTxnSnapLog.java:204)
	at org.apache.zookeeper.server.ZKDatabase.loadDataBase(ZKDatabase.java:223)
	at org.apache.zookeeper.server.quorum.QuorumPeer.loadDataBase(QuorumPeer.java:530)
	at org.apache.zookeeper.server.quorum.QuorumPeer.start(QuorumPeer.java:520)
	at org.apache.zookeeper.server.quorum.QuorumPeerMain.runFromConfig(QuorumPeerMain.java:167)
	at org.apache.zookeeper.server.quorum.QuorumPeerMain.initializeAndRun(QuorumPeerMain.java:116)
	at org.apache.zookeeper.server.quorum.QuorumPeerMain.main(QuorumPeerMain.java:79)
10:20:40.945 AMERRORQuorumPeerMain
Unexpected exception, exiting abnormally
java.lang.RuntimeException: Unable to run quorum server 
	at org.apache.zookeeper.server.quorum.QuorumPeer.loadDataBase(QuorumPeer.java:578)
	at org.apache.zookeeper.server.quorum.QuorumPeer.start(QuorumPeer.java:520)
	at org.apache.zookeeper.server.quorum.QuorumPeerMain.runFromConfig(QuorumPeerMain.java:167)
	at org.apache.zookeeper.server.quorum.QuorumPeerMain.initializeAndRun(QuorumPeerMain.java:116)
	at org.apache.zookeeper.server.quorum.QuorumPeerMain.main(QuorumPeerMain.java:79)
Caused by: java.io.EOFException
	at java.io.DataInputStream.readInt(DataInputStream.java:392)
	at org.apache.jute.BinaryInputArchive.readInt(BinaryInputArchive.java:63)
	at org.apache.zookeeper.server.persistence.FileHeader.deserialize(FileHeader.java:64)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.inStreamCreated(FileTxnLog.java:595)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.createInputArchive(FileTxnLog.java:614)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.goToNextLog(FileTxnLog.java:580)
	at org.apache.zookeeper.server.persistence.FileTxnLog$FileTxnIterator.next(FileTxnLog.java:662)
	at org.apache.zookeeper.server.persistence.FileTxnSnapLog.restore(FileTxnSnapLog.java:204)
	at org.apache.zookeeper.server.ZKDatabase.loadDataBase(ZKDatabase.java:223)
	at org.apache.zookeeper.server.quorum.QuorumPeer.loadDataBase(QuorumPeer.java:530)
	... 4 more
번호 제목 글쓴이 날짜 조회 수
621 hadoop에서 yarn jar ..를 이용하여 appliction을 실행하여 정상적으로 수행되었으나 yarn UI의 어플리케이션 목록에 나타나지 않는 문제 총관리자 2017.05.02 51
620 RDF4J의 rdf4j-server.war가 제공하는 RESTFul API를 이용하여 repository에 CRUD테스트 총관리자 2017.08.30 51
619 jar파일의 dependency찾는 프로그램 총관리자 2016.08.11 52
618 DataSetCreator.py 실행시 파일을 찾을 수 없는 오류 총관리자 2016.05.27 53
617 [HDFS]Encryption Zone에 생성된 테이블 조회시 Failed to open HDFS file hdfs://nameservice1/tmp/zone1/sec_test_file.txt Error(255): Unknown error 255 Root cause: AuthorizationException: User:impala not allowd to do 'DECRYPT_EEK' on 'testkey' gooper 2023.06.29 53
616 서버 5대에 solr 5.5.0 설치하고 index data를 HDFS에 저장/search하도록 설치/설정하는 방법 총관리자 2016.04.08 54
615 Windows에서 sbt개발환경 구축 방법(링크) 총관리자 2016.06.02 54
614 fuseki가 제공하는 web ui를 통해서 dataset를 remove->create할 경우 동일한 동일한 이름으로 지정했을때 fuseki-server.jar가 뜨지 않는 현상 총관리자 2017.02.03 54
613 oracle 12에 sqoop해서 데이터 import하기 (console에서 sqoop import하는 방법) 총관리자 2021.12.31 55
612 [hive] hive.tbls테이블의 owner컬럼값은 hadoop.security.auth_to_local에 의해서 filtering된다. 총관리자 2022.04.14 55
611 9대가 hbase cluster로 구성된 서버에서 테스트 data를 halyard에 적재하고 테스트 하는 방법및 절차 총관리자 2017.07.21 56
610 Lagom프레임웍에서 제공하는 HelloWorld 테스트를 수행시 [unknown-version]오류가 발생하면서 빌드가 되지 않는 경우 조치사항 총관리자 2017.12.22 56
609 queryTranslator실행시 NullPointerException가 발생전에 java.lang.ArrayIndexOutOfBoundsException발생시 조치사항 총관리자 2016.06.16 58
608 HDFS에서 quota 설정 방법및 확인 방법 총관리자 2022.03.30 58
607 [Impala jdbc]CDP7.1.7환경에서 java프로그램을 이용하여 kerberized impala cluster에 접근하여 SQL을 수행하는 방법 gooper 2023.08.22 58
606 Master rejected startup because clock is out of sync 오류 해결방법 총관리자 2016.05.03 60
605 Mysql DB 생성 및 권한. 특정아이피, 대역에 대한 접근 허용 총관리자 2017.05.04 60
604 lagom-windows용 build.sbt파일 내용 총관리자 2017.10.12 60
603 [TLS]TLS용 사설 인증서 변경 혹은 신규 지정시 No trusted certificate found 오류 발생시 확인및 조치사항 총관리자 2022.03.15 60
602 [TLS/SSL]Kudu Master 설정하기 총관리자 2022.05.13 61

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로