메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Hue에서 query 수행 결과를 HDFS file로 export할때(All옵션 선택) 내부적으로 Hue에서 선택한 Database밑에 query-impala-123456 형태의 impala테이블을 생성하면서 지정된 HDFS폴더에 파일을 생성하여 export해준다.

이때 Hue에서 create권한이 없는 db를 선택하면 AuthorizationException: User 'gooper1234' does not have privileges to access: 선택된db명.query_impala_123456의 오류가 발생한다. 

이때는 exportonly db를 만들고 이곳에 대한 all 권한을 gooper1234에게 부여해준다. 

(grant all on database exportonly to role rl_gooper1234)

또한 export된 데이터를 저장할 HDFS폴더에 대한 URI권한을 gooper1234에 부여해 줘야 권한 오류없이 정상적으로 데이터가 저장되며 해당 폴더에 대한 소유자는 impala:gooper1234로 부여하고 권한은 770이상을 부여한다.


Sentry의 Admin Groups(sentry.service.admin.group)에 지정된 사용자나 "grant all on server..."형태로 권한을 부여받은 사용자는 기본적으로 클러스터내 모든 database및 URI에 대한 all권한이 있으므로 별도의 DB에 대한 all권한 부여 없이도 사용가능하다. (export 목적지 HDFS URI에 대한 권한은 write가능하게 조정할 필요가 있음)


server scope의 권한이 있는 Hue계정이라고 해도 될때 있고 안될때 있는것으로 보인다. 

export전용 db를 만들고 이곳에 대한 all 권한을 부여해 주는것이 명확하고 문제 발생 소지를 없애는 방법이다. 


번호 제목 글쓴이 날짜 조회 수
381 [shell script] 파일을 한줄씩 읽어서 파일내용으로 명령문 만들고 실행하는 shell script예제 총관리자 2017.02.21 224
380 [shell script]test.txt에 space로 분리된 내용을 일어들이는 예제 총관리자 2017.02.21 198
379 spark에서 hive table을 읽어 출력하는 예제 소스 총관리자 2017.03.09 35
378 spark에서 hive table을 읽어 출력하는 예제 소스 총관리자 2017.03.09 37
377 spark2.0.0에서 hive 2.0.1 table을 읽어 출력하는 예제 소스(HiveContext, SparkSession, SQLContext) 총관리자 2017.03.09 163
376 It is indirectly referenced from required .class files 오류 발생시 조치방법 총관리자 2017.03.09 93
375 spark 2.0.0의 api를 이용하는 예제 프로그램 총관리자 2017.03.15 199
374 kafka-manager 1.3.3.4 설정및 실행하기 총관리자 2017.03.20 617
373 nc -l 7777 : 7777포트에서 입력을 받는다. 총관리자 2017.03.23 278
372 JavaStreamingContext를 이용하여 스트림으로 들어오는 문자열 카운트 소스 총관리자 2017.03.30 129
371 [메모리 덤프파일 분석] 총관리자 2017.03.31 198
370 streaming작업시 입력된 값에 대한 사본을 만들게 되는데 이것이 실패했을때 발생하는 경고메세지 총관리자 2017.04.03 126
369 protege 설명및 사용법 file 총관리자 2017.04.04 2754
368 Container killed by the ApplicationMaster. Container killed on request. Exit code is 143 Container exited with a non-zero exit code 143 TaskAttempt killed because it ran on unusable node 오류시 조치방법 총관리자 2017.04.06 325
367 LUBM 개수별 hadoop HDFS data사이즈 정리 총관리자 2017.04.06 142
366 update를 많이 하면 heap memory가 많이 소진되고 최종적으로 OOM가 발생하는데 이에 대한 설명 총관리자 2017.04.10 717
365 [jsoup]Jsoup Tutorial 총관리자 2017.04.11 146
364 [Jsoup]특정페이지를 jsoup을 이용하여 파싱하는 샘플소스 총관리자 2017.04.18 205
363 Caused by: java.lang.ClassNotFoundException: org.apache.spark.Logging 발생시 조치사항 총관리자 2017.04.19 284
362 Spark에서 Serializable관련 오류및 조치사항 총관리자 2017.04.21 4901

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로