Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
impala [Impala] alter table구문수행시 "WARNINGS: Impala does not have READ_WRITE access to path 'hdfs://nameservice1/DATA/Temp/DB/source/table01_ccd'" 발생시 조치
oozie sqoop action을 이용하여 source DB로 부터 데이터를 가져와서 DB.table01_ccd의 HDFS경로인 '/DATA/Temp/DB/source/table01_ccd/20240425'에 저장후 20240425를 파티션 일자로 alter table을 수행할때 (예, ALTER TABLE temp_db.table01_ccd ADD IF NOT EXISTS PARTITION (partition_dt = '20240425') LOCATION '/DATA/Temp/DB/source/table01_ccd/20240425') 다음의 경고 메세지가 표시될 수 있는데 그 이유는 Hive table의 table정보등의 meta정보를 저장하는 것은 HDFS상의 해당 경로에 대한 권한 없음과는 상과 없는 부분이어서 alter table은 정상 수행해주나 HDFS권한 체크하는 부분에서 권한이 없는 것으로 나와서 WARNINGS메세지를 표시해주는것이다.
이런 경우는 HDFS상의 경로를 확인하여 권한이 적절하게 부여되어 있는지 확인후 권한을 변경해주면 된다.
enduser가 impala등의 table을 이용해서 데이터를 조회하는 경우는 Ranger에 설정된 HDFS및 DB/table의 권한이 부여되며 HDFS 폴더에 설정된 user:group및 권한의 영향을 받지 않는다.
sqoop등의 component에서 HDFS에 직접 접근하는 경우는 HDFS에 설정된 권한등에 영향을 받을 수 있다.
* 경고 메세지
WARNINGS: Impala does not have READ_WRITE access to path 'hdfs://nameservice1/DATA/Temp/DB/source/table01_ccd'
댓글 0
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|
| 10 |
Hive java connection 설정
 | 구퍼 | 2013.04.01 | 2013 |
| 9 |
banana pi에 hive 0.13.1+mysql(metastore)설치
| 총관리자 | 2014.09.09 | 2406 |
| 8 |
Hive+mysql 설치 및 환경구축하기
| 구퍼 | 2013.03.07 | 2722 |
| 7 | spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 | 총관리자 | 2016.06.09 | 2803 |
| 6 | Hive 사용법 및 쿼리 샘플코드 | 구퍼 | 2013.03.07 | 2991 |
| 5 | 의사분산모드에서 presto설치하기 | 총관리자 | 2014.03.31 | 3050 |
| 4 | Spark에서 Serializable관련 오류및 조치사항 | 총관리자 | 2017.04.21 | 4901 |
| 3 | Hive Query Examples from test code (2 of 2) | 총관리자 | 2014.03.26 | 5030 |
| 2 | hive 2.0.1 설치및 mariadb로 metastore 설정 | 총관리자 | 2016.06.03 | 5187 |
| 1 | insert hbase by hive ... error occured after 5 hours..HMaster가 뜨지 않는 장애에 대한 복구 방법 | 총관리자 | 2014.04.29 | 7129 |