Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
hbase Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리
Hadoop에서 Discommission시킨 노드를 ./conf/regionservers에서 제거하고 HBase를 restart했는데 Dead regionserver 목록에 표시되면서 HBase의 전반적인 성능에 악영향을 주는 경우가 있는데 이는 HDFS상에 있는 HBase의 dead regionserver가 여전히 WAL(보통 /hbase/WALs)에 존재하기 때문이다.
이때는 HDFS상에 존재하는 dead regionserver의 정보를 삭제해주면 된다.
1. HDFS상의 WALs목록을 확인한다.
hdfs dfs -ls /hbase/WALs
->
drwxr-xr-x - root supergroup 0 2017-07-18 18:02 /hbase/WALs/gsda9,16020,1500283210109
2. 해당 폴더를 삭제한다.
hdfs dfs -rm -R /hbase/WALs/gsda9,16020,1500283210109
3. HBase를 재기동한다.
./bin/stop-hbase.sh
./bin/start-hbase.sh
댓글 0
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
9 | Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 | 총관리자 | 2017.04.26 | 239 |
8 | bin/start-hbase.sh실행시 org.apache.hadoop.hbase.util.FileSystemVersionException: HBase file layout needs to be upgraded오류가 발생하면 조치사항 | 총관리자 | 2016.08.01 | 206 |
7 | hbase CustomFilter만들기 (0.98.X이상) | 총관리자 | 2015.05.08 | 162 |
6 | HBase 설정 최적화하기(VCNC) | 총관리자 | 2017.07.18 | 120 |
5 | HBase write 성능 튜닝 | 총관리자 | 2017.07.18 | 87 |
4 | 테이블의 row수를 빠르게 카운트 하는 방법 | 총관리자 | 2017.01.26 | 77 |
3 | hbase startrow와 endrow를 지정하여 검색하기 샘플 | 총관리자 | 2016.12.07 | 70 |
2 | org.apache.hadoop.hbase.ClockOutOfSyncException: org.apache.hadoop.hbase.ClockOutOfSyncException 오류시 조치사항 | 총관리자 | 2016.07.14 | 62 |
1 | Master rejected startup because clock is out of sync 오류 해결방법 | 총관리자 | 2016.05.03 | 60 |