Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
kinit -kt /var/lib/keytab/hdfs.keytab hdfs
hdfs fsck / -list-corruptfileblocks
수행결과 :
Connecting to namenode via http://namenode01.gooper.com:9870/fsck?ugi=hadoop&listcorruptfileblocks=1&path=%2F
The list of corrupt files under path '/' are:
blk_1073743651 /test/hdfs/test_terasort/pat-r-00196
The filesystem under path '/' has 1 CORRUPT files
조치하는 2가지 방법
### 1. /lost+found 디렉터리로 corrupt 파일 이동
$ hdfs fsck / -move
### 2. corrupt 파일 삭제
$ hdfs fsck / -delete
댓글 0
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 7 | Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 | 총관리자 | 2018.09.20 | 215 |
| 6 | 기준일자 이전의 hdfs 데이타를 지우는 shellscript 샘플 | 총관리자 | 2019.06.14 | 359 |
| 5 | A Cluster의 HDFS 디렉토리및 파일을 사용자및 권한 유지 하여 다운 받아서 B Cluster에 넣기 | 총관리자 | 2020.05.06 | 77 |
| 4 | W/F수행후 Logs not available for 1. Aggregation may not to complete. 표시되며 로그내용이 보이지 않은 경우 | 총관리자 | 2020.05.08 | 2110 |
| » | missing block및 관련 파일명 찾는 명령어 | 총관리자 | 2021.02.20 | 159 |
| 2 | hadoop nfs gateway설정 (Cloudera 6.3.4, CentOS 7.4 환경에서) | 총관리자 | 2022.01.07 | 124 |
| 1 | [Hadoop Encryption] Encryption Zone에 생성된 table에 Hue에서 insert 수행시 User:hdfs not allowed to do 'DECRYPT_EEK' ON 'testkey' 오류 | gooper | 2023.11.01 | 12 |