메뉴 건너뛰기

검색창 닫기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


impala [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안

gooper 2022.11.30 16:50 조회 수 : 2761

compute incremental stats db명.테이블명 수행시 밞생하는 오류 "ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB."는

inc_stats_size_limit_bytes(default 200Mb)를 초과하여 발생하는 오류입니다. 

inc_stats_size_limit_bytes는 table metadata를 update하다가 out of memory가 발생하는 것을 방지하기 위한 값입니다. 

아래의 계산식으로 현재 값을 계산할 수 있습니다. 

(예, 파티션개수 :1795, 컬럼수 : 588인경우 약 201.3MB가 산출됨)

값을 변경 적용하기 전에 우선 고려할 수 있는 방안은 다음과 같습니다.


1. compute stats방식으로 통계정보 생성

2. 파티션을 줄이기 줄이기(예, 일단위->월단위)

3. 데이터를 삭제하여 물리적인 파티션의 개수를 줄임.

4. table을 여러개로 나누어 테이블당 파티션 개수를 줄임.


*참고 

1. 기본 계산식 : 200 bytes * 컬럼수 * 피티션수

2. inc_stats_size_limit_byte값을 변경하면 heap usage에 spike가 발생되어 impala가 crash될 수 있음

3. inc_stats_size_limit_byte변경하려면 impala catalogd및 impalad를 같이 변경해줘야 합니다. 


이 게시물을
이 글의 추천인 목록 목록
번호 제목 날짜 조회 수
710 "java.net.NoRouteToHostException: 호스트로 갈 루트가 없음" 오류시 확인및 조치할 사항 2016.04.01 4368
709 spark-sql실행시 The specified datastore driver ("com.mysql.jdbc.Driver") was not found in the CLASSPATH오류 발생시 조치사항 2016.06.09 4358
708 banana pi(lubuntu)에서 한글 설정및 한글깨짐 문제 해결 2014.07.06 4357
707 이클립스에서 생성한 jar 파일 hadoop 으로 실행하기 file 2013.03.06 4310
706 Hive 사용법 및 쿼리 샘플코드 2013.03.07 4257
705 sqoop 1.4.4 설치및 테스트 2014.04.21 4207
704 의사분산모드에서 presto설치하기 2014.03.31 4177
703 빅데이터 분석을 위한 샘플 빅데이터 파일 다운로드 사이트 2014.04.28 4174
702 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 2013.03.15 4008
701 JobHistory 서버 기동시 HDFS상에 특정 폴더를 생성할 수 없어서 기동하지 못하는 경우 조치 2018.05.29 4007
700 ping 안될때.. networking restart 날려주면 잘됨.. 2014.05.09 3962
699 의사분산모드에 hadoop설치및 ecosystem 환경 정리 2014.05.29 3943
698 Hive+mysql 설치 및 환경구축하기 file 2013.03.07 3904
697 HBase, BigTable, Cassandra Schema Design file 2013.03.15 3896
696 AIX 7.1에 MariaDB 10.2 소스 설치 2016.09.24 3886
695 hbase shell 필드 검색 방법 2015.05.24 3872
694 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 3866
693 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 3840
692 HBase 설치하기 – Pseudo-distributed file 2013.03.12 3834
691 mysql-server 기동시 Do you already have another mysqld server running on port 오류 발생할때 확인및 조치방법 2017.05.14 3818
쓰기 태그
위로