메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


AnalysisException: Failed to load metadata for table: 'db.table' CAUSED BY: TableLoadingException: Failed to load metadata for table: db.table CAUSED BY: InvalidStorageDescriptorException: Impala does not support tables of this type. REASON: SerDe library ' org.apache.hadoop.hive.kudu.KuduSerDe' is not supported..

혹은 Hue에서 kudu table이름을 클릭하면 하단에 컬럼정보가 표시되는 대신 "Error loading columns"라는 메세지가 보인다. 


상기한 메세지가 발생하는 경우는 kudu 테이블의 metadata를 저정하고 있는 hive.table_params에 관련 정보가 없거나 잘못되어 발생하는 문제이므로 kudu table의 meta data를 저정하는 table의 정보를 확인해보고 Kudu Master의 WebUI의 Tables탭에서 보이는 Table Name있는 이름이 kudu table meta data를 저장하는 테이블에 동일하게 저장되어 있는지 확인해 봐야 한다.

(테이블 정보는 hive.TBLS에 저정되며 select * from HIVE.TBLS where tbl_name = 'table명 으로 찾을 수 있고 tbl_id가 1234인 경우 kudu 테이블의 meta data는 select * from HIVE.TABLE_PARMS where tbl_id =1234로 검색해 볼수 있다.)

특히 meta data를 저장하는 RDBMS의 이관이나 변경등이 발생할때는 전후 건수 체크를 통해서 누락되지 않도록 하는 조치가 필요해 보인다. 

번호 제목 글쓴이 날짜 조회 수
241 Cannot create /var/run/oozie/oozie.pid: Directory nonexistent오류 총관리자 2014.06.03 479
240 DataSetCreator실행시 "Illegal character in fragment at index"오류가 나는 경우 조치방안 총관리자 2016.06.17 480
239 시스템날짜를 현재 정보로 동기화 하는 방법(rdate, ntpdate이용) 총관리자 2014.08.24 481
238 [dovecot]dovecot restart할때 root@gsda4:/usr/lib/dovecot# service dovecot restart 오류 발생시 조치사항 총관리자 2017.06.12 492
237 Incompatible clusterIDs오류 원인및 해결방법 총관리자 2016.04.01 493
236 원격지에서 zio공유기를 통해서 노트북의 mysql접속을 허용하는 방법 총관리자 2014.09.07 495
235 hive기동시 Caused by: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D 오류 발생시 조치사항 총관리자 2016.09.25 496
234 compile할때와 exclude할때 대상을 표현하는 명칭이 다르므로 주의할것 총관리자 2016.08.10 503
233 CDH에서 Sentry 개념및 설정 file 총관리자 2018.06.21 504
232 데이타 제공 사이트 링크 총관리자 2014.08.03 508
231 동시에 많은 요청이 endpoint로 몰려서java.net.NoRouteToHostException가 발생하는 경우의 처리방법 총관리자 2016.10.17 510
230 anaconda3 (v5.2) 설치및 머신러닝 관련 라이브러리 설치 절차 총관리자 2018.07.27 513
229 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 총관리자 2018.02.01 517
228 Ubuntu 16.04 LTS에 4대에 Hadoop 2.8.0설치 총관리자 2017.05.01 521
227 Kafka Offset Monitor로 kafka 상태 모니터링 하기 file 총관리자 2016.11.08 529
226 hadoop의 data디렉토리를 변경하는 방법 총관리자 2014.08.24 536
225 [Kudu]ERROR: Unable to advance iterator for node with id '2' for Kudu table 'impala::core.pm0_abdasubjct': Network error: recv error from unknown peer: Transport endpoint is not connected (error 107) gooper 2023.03.16 536
224 spark client프로그램 기동시 "Error initializing SparkContext"오류 발생할때 조치사항 총관리자 2016.05.27 539
223 spark-shell을 실행하면 "Attempted to request executors before the AM has registered!"라는 오류가 발생하면 총관리자 2018.06.08 545
222 외부 기기(usb, 하드)등 mount(연결)하기 총관리자 2014.08.03 546

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로