메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Hue에서 query 수행 결과를 HDFS file로 export할때(All옵션 선택) 내부적으로 Hue에서 선택한 Database밑에 query-impala-123456 형태의 impala테이블을 생성하면서 지정된 HDFS폴더에 파일을 생성하여 export해준다.

이때 Hue에서 create권한이 없는 db를 선택하면 AuthorizationException: User 'gooper1234' does not have privileges to access: 선택된db명.query_impala_123456의 오류가 발생한다. 

이때는 exportonly db를 만들고 이곳에 대한 all 권한을 gooper1234에게 부여해준다. 

(grant all on database exportonly to role rl_gooper1234)

또한 export된 데이터를 저장할 HDFS폴더에 대한 URI권한을 gooper1234에 부여해 줘야 권한 오류없이 정상적으로 데이터가 저장되며 해당 폴더에 대한 소유자는 impala:gooper1234로 부여하고 권한은 770이상을 부여한다.


Sentry의 Admin Groups(sentry.service.admin.group)에 지정된 사용자나 "grant all on server..."형태로 권한을 부여받은 사용자는 기본적으로 클러스터내 모든 database및 URI에 대한 all권한이 있으므로 별도의 DB에 대한 all권한 부여 없이도 사용가능하다. (export 목적지 HDFS URI에 대한 권한은 write가능하게 조정할 필요가 있음)


server scope의 권한이 있는 Hue계정이라고 해도 될때 있고 안될때 있는것으로 보인다. 

export전용 db를 만들고 이곳에 대한 all 권한을 부여해 주는것이 명확하고 문제 발생 소지를 없애는 방법이다. 


번호 제목 글쓴이 날짜 조회 수
439 메이븐 (maven) 설치 및 이클립스 연동하기 file 구퍼 2013.03.06 2280
438 Hadoop 설치 및 시작하기 file 구퍼 2013.03.06 1951
437 Hadoop wordcount 소스 작성 file 구퍼 2013.03.06 1888
436 이클립스에서 생성한 jar 파일 hadoop 으로 실행하기 file 구퍼 2013.03.06 2836
435 ExWordCount jar파일 file 구퍼 2013.03.06 1336
434 Hadoop Cluster 설치 (Hadoop+Zookeeper+Hbase) file 구퍼 2013.03.07 3995
433 Hive+mysql 설치 및 환경구축하기 file 구퍼 2013.03.07 2722
432 Hive 사용법 및 쿼리 샘플코드 구퍼 2013.03.07 2991
431 hadoop 설치(3대) file 구퍼 2013.03.07 2613
430 hadoop설치시 참고사항 구퍼 2013.03.08 2131
429 org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-root/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible. 구퍼 2013.03.11 14781
428 HBase 설치하기 – Pseudo-distributed file 구퍼 2013.03.12 2644
427 HBase 설치하기 – Fully-distributed 구퍼 2013.03.12 3548
426 Cacti로 Hadoop 모니터링 하기 file 구퍼 2013.03.12 2367
425 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 구퍼 2013.03.15 2668
424 HBase shell로 작업하기 구퍼 2013.03.15 5834
423 HBase, BigTable, Cassandra Schema Design file 구퍼 2013.03.15 2509
422 하둡 분산 파일 시스템을 기반으로 색인하고 검색하기 구퍼 2013.03.15 5573
421 HBASE Client API : 기본 기능 정리 file 구퍼 2013.04.01 3554
420 Hbase Shell 명령 정리 구퍼 2013.04.01 3170

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로