Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
hbase Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리
Hadoop에서 Discommission시킨 노드를 ./conf/regionservers에서 제거하고 HBase를 restart했는데 Dead regionserver 목록에 표시되면서 HBase의 전반적인 성능에 악영향을 주는 경우가 있는데 이는 HDFS상에 있는 HBase의 dead regionserver가 여전히 WAL(보통 /hbase/WALs)에 존재하기 때문이다.
이때는 HDFS상에 존재하는 dead regionserver의 정보를 삭제해주면 된다.
1. HDFS상의 WALs목록을 확인한다.
hdfs dfs -ls /hbase/WALs
->
drwxr-xr-x - root supergroup 0 2017-07-18 18:02 /hbase/WALs/gsda9,16020,1500283210109
2. 해당 폴더를 삭제한다.
hdfs dfs -rm -R /hbase/WALs/gsda9,16020,1500283210109
3. HBase를 재기동한다.
./bin/stop-hbase.sh
./bin/start-hbase.sh
댓글 0
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 9 | bin/start-hbase.sh실행시 org.apache.hadoop.hbase.util.FileSystemVersionException: HBase file layout needs to be upgraded오류가 발생하면 조치사항 | 총관리자 | 2016.08.01 | 205 |
| 8 |
Flume을 이용한 데이타 수집시 HBase write 성능 튜닝
 | 총관리자 | 2016.10.31 | 621 |
| 7 | hbase startrow와 endrow를 지정하여 검색하기 샘플 | 총관리자 | 2016.12.07 | 70 |
| 6 | 테이블의 row수를 빠르게 카운트 하는 방법 | 총관리자 | 2017.01.26 | 77 |
| 5 | Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 | 총관리자 | 2017.04.26 | 239 |
| 4 |
HBase write 성능 튜닝
| 총관리자 | 2017.07.18 | 87 |
| 3 |
HBase 설정 최적화하기(VCNC)
| 총관리자 | 2017.07.18 | 120 |
| 2 | Current heap configuration for MemStore and BlockCache exceeds the threshold required for successful cluster operation | 총관리자 | 2017.07.18 | 892 |
| » | Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리 | 총관리자 | 2018.01.25 | 246 |