메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


일반적으로 Replication]Encryption Zone내 HDFS파일을 비Encryption Zone으로 혹은 비Encryption Zone에서 비Encryption Zone으로 HDFS Replication 수행시 User hdfs를 사용하게 된다.

그래야 권한등을 보존하여 Replication을 수행할 수 있다.

(참고적으로 Hive External Table Replication은 User hdfs로 수행해도 정상 수행되며 HDFS Replication만 문제가 발생한다)

하지만 Replication]Encryption Zone내 HDFS파일을 비Encryption Zone으로 HDFS Replication을 수행시 User hdfs가 Ranger KMS with Key Trustee Server의 Hadoop KMS Blacklist Decrypt EEK(hadoop.kms.blacklist.DECRYPT_EEK)항목에 등록되어 있어 Replication과정에서 User:hdfs not allowed to do "DECRYPT_EEK' on 'enc_key'라는 오류가 발생하면서 실패한다. 

Hadoop KMS Blacklist Decrypt EEK(hadoop.kms.blacklist.DECRYPT_EEK)에서 hdfs를 지우면 되겠지만 이는 보안에 취약하게 만들 수 있다. 

그래서 User hdfs대신 hadoop으로 동일한 작업을 수행할 수 있으나 Replication Policy에서 다음과 같이 설정해줘야 한다. 

(다른 설정은 일반적인 설정과 같음)


General -> Run As Username : hadoop

General -> Run on Peer as Username : 빈칸

Advanced -> Error Handling -> Skip Checksum Checks : uncheck

Advanced -> Error Handling -> Skip Listing Checksum Checks : uncheck


와 같이 설정하고 HDFS Replication을 다시 수행하면 정상적으로 수행된다. 

다만, 권한을 유지 하지 못하고 User등이 hadoop으로 변경되어 checksum을 보장할 수 없다는 단정이 있다. 


번호 제목 글쓴이 날짜 조회 수
439 [CDP7.1.7] oozie sqoop action으로 import혹은 export수행시 발생한 오류에 대한 자세한 로그 확인 하는 방법 gooper 2024.04.19 0
438 [Impala] alter table구문수행시 "WARNINGS: Impala does not have READ_WRITE access to path 'hdfs://nameservice1/DATA/Temp/DB/source/table01_ccd'" 발생시 조치 gooper 2024.04.26 0
» [CDP7.1.7, Replication]Encryption Zone내 HDFS파일을 비Encryption Zone으로 HDFS Replication시 User hdfs가 아닌 hadoop으로 수행하는 방법 gooper 2024.01.15 1
436 [CDP7.1.7]Hive Replication수행중 Specified catalog.database.table does not exist : hive.db명.table명 오류 발생시 조치방법 gooper 2024.04.05 1
435 [CDP7.1.7][Replication]Table does not match version in getMetastore(). Table view original text mismatch gooper 2024.01.02 2
434 [Cloudera Agent] Metadata-Plugin throttling_logger INFO (713 skipped) Unable to send data to nav server. Will try again. gooper 2022.05.16 7
433 [CDP7.1.7, Hive Replication]Hive Replication진행중 "The following columns have types incompatible with the existing columns in their respective positions " 오류 gooper 2023.12.27 7
432 [CDP7.1.7]Oozie job에서 ERROR: Kudu error(s) reported, first error: Timed out: Failed to write batch of 774 ops to tablet 8003f9a064bf4be5890a178439b2ba91가 발생하면서 쿼리가 실패하는 경우 gooper 2024.01.05 7
431 oozie의 sqoop action수행시 ooize:launcher의 applicationId를 이용하여 oozie:action의 applicationId및 관련 로그를 찾는 방법 gooper 2023.07.26 10
430 [CDP7.1.7]Encryption Zone내부/외부 간 데이터 이동(mv,cp)및 CTAS, INSERT SQL시 오류(can't be moved into an encryption zone, can't be moved from an encryption zone) gooper 2023.11.14 10
429 [EncryptionZone]User:testuser not allowed to do "DECRYPT_EEK" on 'testkey' gooper 2023.06.29 11
428 [CDP7.1.7]impala-shell수행시 간헐적으로 "-k requires a valid kerberos ticket but no valid kerberos ticket found." 오류 gooper 2023.11.16 11
427 [Encryption Zone]Encryption Zone에 생성된 table을 select할때 HDFS /tmp/zone1에 대한 권한이 없는 경우 gooper 2023.06.29 12
426 [Hadoop Encryption] Encryption Zone에 생성된 table에 Hue에서 insert 수행시 User:hdfs not allowed to do 'DECRYPT_EEK' ON 'testkey' 오류 gooper 2023.11.01 12
425 [Oracle 11g]Kudu table의 meta정보를 담고 있는 table_params의 백업본을 이용하여 특정 컬럼값을 update하는 Oracle SQL문 gooper 2023.09.04 13
424 Hadoop Clsuter에 이미 포함된 host의 hostname변경시 처리 절차 gooper 2023.03.24 14
423 [CDP7.1.7]EncryptionZone에 table생성및 권한 테스트 gooper 2023.09.26 14
422 [EncryptionZone]User:hdfs not allowed to do 'DECRYPT_EEK on 'enc_key'오류 gooper 2023.11.02 14
421 service name방식의 oracle을 메타정보 저장소로 사용할때 Hue Configuration설정하는 방법 총관리자 2022.02.12 15
420 [kerberos]Kerberos HA구성 참고 페이지 gooper 2022.08.31 15

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로