메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Kudu tablet server 혹은 kudu master가 어떤 원인에 의해서 replica가 failed상태인 경우는 다음과 같이 wal디렉토리 및 data디렉토리의  데이터를 지워서 내부적으로 다시 생성되도록 하여 복구 해야 한다. 

(단,  Kudu의 replication factor가 3이상 이어야 하며 1인 경우 데이터가 영구 손실 될 수 있으니 주의해야 한다.)


0. wal및 data영역 데이터 백업(필요시)

1. tablet service or kudu master stop 

2. wal disk directory의 모든 데이터및 폴더 삭제 : sudo rm -rf /data21/kudu/wal

3. kudu data disk directory의 모든 데이터 삭제(space로 구분) : sudo rm -r /data01/kudu/data01/*...../data19/kudu/data19/*

4. tablet service or kudu master start 

5. 전체 클러스터 대상 kudu rebalance수행


번호 제목 글쓴이 날짜 조회 수
220 HiveServer2인증을 PAM을 이용하도록 설정하는 방법 총관리자 2018.07.21 255
219 DB별 JDBC 드라이버 총관리자 2015.10.02 256
218 Not enough replica available for query at consistency QUORUM가 발생하는 경우 총관리자 2017.06.21 256
217 Windows7 64bit 환경에서 Apache Spark 2.2.0 설치하기 총관리자 2017.07.26 260
216 hive metastore db중 TBLS, TABLE_PARAMS테이블 설명 총관리자 2021.10.22 260
215 kafka에서 메세지 중복 consume이 발생할 수 있는 상황 총관리자 2018.10.23 262
214 hbase가 기동시키는 zookeeper에서 받아드리는 ip가 IPv6로 사용되는 경우가 있는데 이를 IPv4로 강제적용하는 방법 총관리자 2015.05.08 268
213 [sap] Error: java.io.IOException: SQLException in nextKeyValue 오류 발생 총관리자 2020.06.08 273
212 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 총관리자 2018.05.30 282
211 Caused by: java.lang.ClassNotFoundException: org.apache.spark.Logging 발생시 조치사항 총관리자 2017.04.19 284
210 kafka 0.9.0.1버젼의 producer와 kafka버젼이 0.10.0.1인 consumer가 서로 대화하는 모습 총관리자 2016.08.18 288
209 Spark에서 KafkaUtils.createStream()를 이용하여 이용하여 kafka topic에 접근하여 객채로 저장된 값을 가져오고 처리하는 예제 소스 총관리자 2017.04.26 292
208 spark-submit으로 spark application실행하는 다양한 방법 총관리자 2016.05.25 304
207 cassandra cluster 문제가 있는 node제거 하기(DN상태의 노드가 있으면 cassandra cluster 전체에 문제가 발생하므로 반드시 제거할것) 총관리자 2017.06.21 309
206 Cloudera설치중 실패로 여러번 설치하는 과정에 "Running in non-interactive mode, and data appears to exist in Storage Directory /dfs/nn. Not formatting." 오류가 발생시 조치하는 방법 총관리자 2018.03.29 309
205 [Oozie]Disk I/O error: Failed to open HDFS file dhfs://..../tb_aaa/....OPYING 총관리자 2019.02.15 312
204 editLog의 문제로 발생하는 journalnode 기동 오류 발생시 조치사항 총관리자 2017.09.14 313
» [Kudu] tablet server 혹은 kudu master가 어떤 원인에 의해서 replica가 failed상태인 경우 복구하는 방법 총관리자 2021.05.24 317
202 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable원인 총관리자 2015.04.27 322
201 [JSON 파싱]mongodb의 document를 GSON을 이용하여 parsing할때 ObjectId값에서 오류 발생시 조치방법 총관리자 2017.01.18 325

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로