메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Kudu서비스의 WebUI(node01.gooper.com/8050)를 통해서 Memory(detail)탭을 클릭하면 설정된 최대 메모리와 현재 사용 현황을 확인 할 수 있다. 

화면의 Process memory usage에서 아래 값을 확인해서 Percentage consumed가 100%이상인 상태로 1일 이상 유지 되는 경우가 있는데 이경우 해당 table server에서 kudu서비스가 사용할 수 있는 최대치의 메모리를 사용했기 때문에 no server availabe상태가 되는것이므로 tablet server를 restart해서 메모리가 release되게 해줘야 한다. 

(정상적인 경우라면 메모리가 자동으로 release되어야 하는데 악성 쿼리 혹은 OS, Kudu 버그 등에 의해서 메모리가 release되지 않고 1일 이상 유지되는 경우가 있음)


Total consumption : 100G

Memory limit 100.00G

Percentage consumed 100%


*오류내용 : 

Error in Kudu table 'impala::DB명.table명': Timed out: Failed to write batch of 1432 ops to tablet 5trgy678996hjh after 455 attempt(s): Failed to write to server: (no server available): Write(tablet : 5trgy678996hjh, num_ops: 1432, num_attempts: 455) passwd its deadline: Illegal state: replica 456hfy38jghrugfhf3434 is not leader of this config: current role FOLLOWER (1 of 1808 similiar)

번호 제목 날짜 조회 수
125 kudu rebalance수행 command예시 2022.01.17 5084
124 Kudu tablet이 FAILED일때 원인 확인 방법 2022.01.17 5062
123 Impala Admission Control 설정시 쿼리가 사용하는 메모리 사용량 판단 방법 2023.05.19 4993
122 Spark 2.1.1 clustering(5대) 설치(YARN기반) 2016.04.22 4960
121 json으로 존재하는 데이터 parsing하기 2019.03.25 4928
120 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 2022.03.17 4912
119 VisualVM 1.3.9을 이용한 spark-submit JVM 모니터링을 위한 설정및 spark-submit실행 옵션 2016.10.28 4904
118 [KUDU] kudu tablet server여러가지 원인에 의해서 corrupted상태가 된 경우 복구방법 2023.03.28 4883
117 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 4858
116 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 4848
115 [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안 2022.11.30 4847
114 임시 테이블에서 데이터를 읽어서 partitioned table에 입력하는 impala SQL문 예시 2023.11.10 4839
113 Scala에서 countByWindow를 이용하기(예제) 2018.03.08 4838
112 [Hue]Hue의 메타정보를 담고 있는 desktop_document테이블과 desktop_document2의 관계 2022.05.09 4827
111 [CDP7.1.7]Oozie job에서 ERROR: Kudu error(s) reported, first error: Timed out: Failed to write batch of 774 ops to tablet 8003f9a064bf4be5890a178439b2ba91가 발생하면서 쿼리가 실패하는 경우 2024.01.05 4821
110 hive의 메타정보 테이블을 MariaDB로 사용하는 경우 table comment나 column comment에 한글 입력시 깨지는 경우 utf8로 바꾸는 방법. 2023.03.10 4811
109 impald에서 idle_query_timeout 와 idle_session_timeout 구분 2021.05.20 4808
108 beeline실행시 User: root is not allowed to impersonate오류 발생시 조치사항 2016.06.03 4749
107 [Hue admin]Add/Sync LDAP user, Sync LDAP users/groups 버튼 기능 설명 2023.08.09 4725
106 [CDP7.1.7, Hive Replication]Hive Replication진행중 "The following columns have types incompatible with the existing columns in their respective positions " 오류 2023.12.27 4723
위로