메뉴 건너뛰기

검색창 닫기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Cloudera CDH/CDP 하둡 클러스터 전체 노드를 다시 기동하면 invalidate metadata를 수행해야 데이터가 틀어지지 않는다.

총관리자 2019.05.20 13:56 조회 수 : 114

하둡클러스터의 노드를 재기동하는등의 작업을 수행한후에는 hadoop계정으로 invalidate metadata를 수행해줘야 메티정보가 갱신되어 정상적으로 데이터가 사용된다.

invalidate metadata 이전과 이후의 테이블의 카운트를 수행해보면 두개의 결과 값이 다를 수 있으므로 invalidate metadata를 수행하여 최신의 정보로 meta데이터를 갱신하도록 해주어야할 필요가 있다.

이 게시물을
목록
번호 제목 글쓴이 날짜 조회 수
320 Cloudera Manager web UI의 언어를 한글에서 영문으로 변경하기 총관리자 2018.04.03 743
319 hive metastore ERD file 총관리자 2018.09.20 731
318 hortonworks에서 제공하는 메모리 설정값 계산기 사용법 file 총관리자 2015.06.14 719
317 secureCRT에서 backspace키가 작동하지 않는 경우 해결방법 총관리자 2015.05.11 719
316 SASL configuration failed: javax.security.auth.login.LoginException: java.lang.NullPointerException 오류 해결방법 총관리자 2015.04.02 701
315 oozie가 말하는 start시간은..서버에서 확인되는 시간이 아닙니다. 총관리자 2014.05.14 699
314 [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안 gooper 2022.11.30 697
313 lateral view 예제 총관리자 2014.09.18 691
312 source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 총관리자 2014.05.20 687
311 sqoop으로 mariadb에 접근해서 hive 테이블로 자동으로 생성하기 총관리자 2018.08.03 673
310 znode /hbase recursive하게 지우기 총관리자 2015.05.06 673
309 hadoop cluster에 포함된 노드중에서 문제있는 decommission하는 방법및 절차 file 총관리자 2017.12.28 662
308 "File /user/hadoop/share/lib does not exist" 오류 해결방법 총관리자 2015.06.07 655
307 hive테이블의 물리적인 위치인 HDFS에 여러개의 데이터 파일이 존재할때 한개의 파일로 merge하여 동일한 테이블에 입력하는 방법 총관리자 2019.05.23 640
306 hue.desktop_document2의 type의 종류 총관리자 2020.02.10 631
305 kafka로 부터 메세지를 stream으로 받아 처리하는 spark샘플소스(spark의 producer와 consumer를 sbt로 컴파일 하고 서버에서 spark-submit하는 방법) 총관리자 2016.07.13 630
304 Flume을 이용한 데이타 수집시 HBase write 성능 튜닝 file 총관리자 2016.10.31 622
303 kafka-manager 1.3.3.4 설정및 실행하기 총관리자 2017.03.20 617
302 [Sentry]HDFS의 ACL을 Sentry와 연동후 테스트 총관리자 2020.06.02 610
301 hadoop 클러스터 실행 스크립트 정리 총관리자 2018.03.20 608
쓰기 태그

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로