메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Hue에서 왼쪽 DB및 테이블 목록이 hive tab에서는 정상적으로 보이는데 impala tab에서는 보이지 않고 실제 query를 수행해보면 테이블의 데이터 조회는 가능한 경우가 있다.

이때 Impala의 catalogd log를 살펴보면 아래와 같은 오류가 반복적으로 발생하는데 원인은 impala catalogd가 정보를 가져올 서버(?)에 접근시 TLS 인증을 하지 못하기 때문이다. 

(Enable TLS/SSL for Impala는 disable상태, 

Enable TLS/SSL to the Hive Metastore Database, Enable TLS/SSL for HiveServer2, Enable TLS/SSL for HiveServer2 WebUI모두 disable상태,

Enable TLS/SSL for Hue는 enable상태)



또한 Hue에서 다음의 작업이 실패하는 현상이 있다(AD및 Ranager에서 정상적으로 권한이 부여된것은 확인된 상태임)

1. table create등의 DML 쿼리 수행시 궈한이 없다고 나오면서 작업이 실패한다. (예, REFRESH, QueryError: AuthorizationException: User 'hadoop' does not have privileges to execute 'INVALIDATE METADATA/REFRESH' on: testDB.testtbl1)

2. Hue에서 해당 테이블명을 주고 select 구문을 수행하면 정상적으로 조회된다. 

3. Hue의 좌측 SQL탭에서 DB의 하위 테이블 목록이 조회되지 않는다.

4. Refresh 버튼을 클릭시 정상수행된듯하나 여전히 하위 테이블 목록이 조회되지 않는다.

5. Invalidate metadata버튼을 클릭시 "Too many tables(23) to invalidate. please do a full refresh." 라는 에러가 뜨면 수행되지 않는다. 


이때는 

1. Impala->Configuration의 아래 항목에 서비스(예, catalog데몬이 실행중인 서버) 서버의 인증서를 담고 있는 파일의 위치를 등록해주면 된다. 

Impala TLS/SSL Trust Store File : /opt/cloudera/security/certs/truststore

Impala TLS/SSL Trust Store Password : changeit


2. 위의 설정으로 CDP Hue에서 url이 자동 변경되면서 Hue서비스를 restart하여 반영하라고 메세지가 나올 수 있는데 이때는 Hue->Configuration->Solr Service중 CDP_INFRA-SOLR부분을 uncheck한다. 


---impala catalogd의 오류내용---

RangerAdminRESTClient.java:151] Failed to get response, Error is not specified

RangerAdminRESTClient.java:167] Error getting policies: Received NULL response!! secureMode=true,

user=impala/node02.gooper.com@GOOPER.COM (auth:KERBEROS), serviceName=cm_hive

RangerAdminRESTClient.java:230] Failed to get response, Error is: TrustManager is not specified


번호 제목 글쓴이 날짜 조회 수
320 Cloudera Manager web UI의 언어를 한글에서 영문으로 변경하기 총관리자 2018.04.03 743
319 hive metastore ERD file 총관리자 2018.09.20 731
318 hortonworks에서 제공하는 메모리 설정값 계산기 사용법 file 총관리자 2015.06.14 719
317 secureCRT에서 backspace키가 작동하지 않는 경우 해결방법 총관리자 2015.05.11 719
316 SASL configuration failed: javax.security.auth.login.LoginException: java.lang.NullPointerException 오류 해결방법 총관리자 2015.04.02 701
315 oozie가 말하는 start시간은..서버에서 확인되는 시간이 아닙니다. 총관리자 2014.05.14 699
314 [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안 gooper 2022.11.30 697
313 lateral view 예제 총관리자 2014.09.18 691
312 source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 총관리자 2014.05.20 687
311 sqoop으로 mariadb에 접근해서 hive 테이블로 자동으로 생성하기 총관리자 2018.08.03 673
310 znode /hbase recursive하게 지우기 총관리자 2015.05.06 673
309 hadoop cluster에 포함된 노드중에서 문제있는 decommission하는 방법및 절차 file 총관리자 2017.12.28 662
308 "File /user/hadoop/share/lib does not exist" 오류 해결방법 총관리자 2015.06.07 655
307 hive테이블의 물리적인 위치인 HDFS에 여러개의 데이터 파일이 존재할때 한개의 파일로 merge하여 동일한 테이블에 입력하는 방법 총관리자 2019.05.23 640
306 hue.desktop_document2의 type의 종류 총관리자 2020.02.10 631
305 kafka로 부터 메세지를 stream으로 받아 처리하는 spark샘플소스(spark의 producer와 consumer를 sbt로 컴파일 하고 서버에서 spark-submit하는 방법) 총관리자 2016.07.13 631
304 Flume을 이용한 데이타 수집시 HBase write 성능 튜닝 file 총관리자 2016.10.31 624
303 kafka-manager 1.3.3.4 설정및 실행하기 총관리자 2017.03.20 617
302 [Sentry]HDFS의 ACL을 Sentry와 연동후 테스트 총관리자 2020.06.02 610
301 hadoop 클러스터 실행 스크립트 정리 총관리자 2018.03.20 608

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로