메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Kudu서비스의 WebUI(node01.gooper.com/8050)를 통해서 Memory(detail)탭을 클릭하면 설정된 최대 메모리와 현재 사용 현황을 확인 할 수 있다. 

화면의 Process memory usage에서 아래 값을 확인해서 Percentage consumed가 95%이상 이면 필요시 tablet server를 restart해서 메모리가 release되게 해줘야 한다. 

(정상적인 경우라면 메모리가 자동으로 release되어야 하는데 악성쿼리 혹은 OS, Kudu 버그 등에 의해서 메모리가 relase되지 않고 1일 이상 유지되는 경우가 있음)


Total consumption : 50G

Memory limit 100.00G

Percentage consumed 50%



*오류 내용 : 

Error in Kudu table 'impala::DB명.table명': Timed out: Failed to write batch of 1432 ops to tablet 5trgy678996hjh after 455 attempt(s): Failed to write to server: (no server available): Write(tablet : 5trgy678996hjh, num_ops: 1432, num_attempts: 455) passwd its deadline: Remote error: Service unavailable: Soft memory limit exceeded (at 100.05% of capacity)



번호 제목 날짜 조회 수
447 hue.axes_accessattempt테이블의 username컬럼에 NULL 혹은 space가 들어갈수도 있음. 2021.11.03 90865
446 bananapi 5대(ubuntu계열 리눅스)에 yarn(hadoop 2.6.0)설치하기-ResourceManager HA/HDFS HA포함, JobHistory포함 2015.04.24 22218
445 mapreduce appliction을 실행시 "is running beyond virtual memory limits" 오류 발생시 조치사항 2017.05.04 19792
444 org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-root/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible. 2013.03.11 16996
443 Hive Query Examples from test code (2 of 2) 2014.03.26 13505
442 drop table로 삭제했으나 tablet server에는 여전히 존재하는 테이블 삭제방법 2021.07.09 10808
441 [Decommission]시 시간이 많이 걸리면서(수일) Decommission이 완료되지 않는 경우 조치 2018.01.03 10200
440 [DataNode]org.apache.hadoop.security.KerberosAuthException: failure to login: for principal: hdfs/datanode03@GOOPER.COM from keytab hdfs.keytab오류 2023.04.18 9820
439 insert hbase by hive ... error occured after 5 hours..HMaster가 뜨지 않는 장애에 대한 복구 방법 2014.04.29 9666
438 hive 2.0.1 설치및 mariadb로 metastore 설정 2016.06.03 9032
437 HBase shell로 작업하기 2013.03.15 8335
436 spark-sql실행시 The specified datastore driver ("com.mysql.jdbc.Driver") was not found in the CLASSPATH오류 발생시 조치사항 2016.06.09 7887
435 dr.who로 공격들어오는 경우 조치방법 file 2018.06.09 7849
434 Spark에서 Serializable관련 오류및 조치사항 2017.04.21 7743
433 jupyter, zeppelin, rstudio를 이용하여 spark cluster에 job를 실행시키기 위한 정보 2018.04.13 7699
432 하둡 분산 파일 시스템을 기반으로 색인하고 검색하기 2013.03.15 7635
431 oracle to hive data type정리표 2018.08.22 7375
430 spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 2016.06.09 7108
429 [Kerberos]Kerberos상태의 클러스터에 JDBC로 접근할때 케이스별 오류내용 2020.02.14 7052
428 sqoop작업시 hdfs의 개수보다 더많은 값이 중복되어 oracle에 입력되는 경우가 있음 2014.09.02 6932
위로