메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Hue에서 query 수행 결과를 HDFS file로 export할때(All옵션 선택) 내부적으로 Hue에서 선택한 Database밑에 query-impala-123456 형태의 impala테이블을 생성하면서 지정된 HDFS폴더에 파일을 생성하여 export해준다.

이때 Hue에서 create권한이 없는 db를 선택하면 AuthorizationException: User 'gooper1234' does not have privileges to access: 선택된db명.query_impala_123456의 오류가 발생한다. 

이때는 exportonly db를 만들고 이곳에 대한 all 권한을 gooper1234에게 부여해준다. 

(grant all on database exportonly to role rl_gooper1234)

또한 export된 데이터를 저장할 HDFS폴더에 대한 URI권한을 gooper1234에 부여해 줘야 권한 오류없이 정상적으로 데이터가 저장되며 해당 폴더에 대한 소유자는 impala:gooper1234로 부여하고 권한은 770이상을 부여한다.


Sentry의 Admin Groups(sentry.service.admin.group)에 지정된 사용자나 "grant all on server..."형태로 권한을 부여받은 사용자는 기본적으로 클러스터내 모든 database및 URI에 대한 all권한이 있으므로 별도의 DB에 대한 all권한 부여 없이도 사용가능하다. (export 목적지 HDFS URI에 대한 권한은 write가능하게 조정할 필요가 있음)


server scope의 권한이 있는 Hue계정이라고 해도 될때 있고 안될때 있는것으로 보인다. 

export전용 db를 만들고 이곳에 대한 all 권한을 부여해 주는것이 명확하고 문제 발생 소지를 없애는 방법이다. 


번호 제목 글쓴이 날짜 조회 수
380 Kafka의 API중 Consumer.createJavaConsumerConnector()를 이용하고 다수의 thread를 생성하여 Kafka broker의 topic에 접근하여 데이타를 가져오고 처리하는 예제 소스 총관리자 2017.04.26 226
379 Cloudera설치중에 "Error, CM server guid updated"오류 발생시 조치방법 총관리자 2018.03.29 225
378 [shell script] 파일을 한줄씩 읽어서 파일내용으로 명령문 만들고 실행하는 shell script예제 총관리자 2017.02.21 224
377 lagom의 online-auction-java프로젝트 실행시 "Could not find Cassandra contact points, due to: ServiceLocator is not bound" 경고 발생시 조치사항 총관리자 2017.10.12 219
376 [보안/인증]javax.net.ssl.SSLHandshakeException: sun.security.validator.ValidatorException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: unable to find valid certification path to requested target발생 원인/조치내용 gooper 2023.10.24 218
375 impala테이블 쿼리시 max_row_size 관련 오류가 발생할때 조치사항 총관리자 2020.02.12 216
» Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 총관리자 2022.03.17 215
373 [sentry]role부여후 테이블명이 변경되어 오류가 발생할때 조치방법 총관리자 2018.10.16 215
372 Error: java.lang.RuntimeException: java.lang.OutOfMemoryError 오류가 발생하는 경우 총관리자 2018.09.20 215
371 프로그래밍 언어별 딥러닝 라이브러리 정리 file 총관리자 2016.10.05 215
370 AIX 7.1에 Hadoop설치(정리중#2) 총관리자 2016.09.20 215
369 우분투 서버에 GUI로 접속하기 file 총관리자 2018.05.27 212
368 lagom의 online-auction-java프로젝트 실행시 외부의 kafka/cassandra를 사용하도록 설정하는 방법 총관리자 2017.10.12 211
367 /etc/logrotate.d 을 이용한 catalina.out 나누기 file 총관리자 2017.01.19 208
366 숭실대 교수님등 강의영상(바이오데이터마이닝, 빅데이터분산컴퓨팅, 컴퓨터 그래픽스, 데이터베이스응용및 프로그램밍, 데이터베이스, 의생명영상처리, 웹그로그래밍, 데이터마이닝, 컴퓨터구조) file 총관리자 2017.06.13 205
365 [Jsoup]특정페이지를 jsoup을 이용하여 파싱하는 샘플소스 총관리자 2017.04.18 205
364 bin/start-hbase.sh실행시 org.apache.hadoop.hbase.util.FileSystemVersionException: HBase file layout needs to be upgraded오류가 발생하면 조치사항 총관리자 2016.08.01 205
363 Hadoop 완벽 가이드 정리된 링크 총관리자 2016.04.19 205
362 solr명령 실행시 "Session 0x0 for server null, unexpected error, closing socket connection and attempting reconnect" 오류발생 총관리자 2017.06.30 202
361 [개발] 온라인 IDE - 개발 환경 구축 없어 어디서나 웹브라우저로 개발하기 총관리자 2022.05.02 201

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로