메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Kafka로부터 메세지를 받는 spark기반 client프로그램을 구동시 처리할 메세지가 갑자기 증가하게 되면 OutOfMemoryError가 발생하면서 많은 수의 hs_err_pid???.log파일이 생성되며 JVM관련 명령어(예, jps)를 실행하면 "java.lang.OutOfMemoryError: unable to create new native thread"의 오류가 발생할 수 있는데 이것은 NIO관련 라이브러리가 디폴트로 0(무제한)의 DirectMemoryBuffer를 제공함으로서 모든 메모리를 소진하기 때문이다. 이럴때는 파일엑세스처리가 많이 일어나는 JVM을(예, tomcat)기동시 -XX:MaxDirectMemorySize(예, 2G(2147483648), 2*1024*1024*1024)등을 지정하여 무제한으로 사용되지 않도록 설정하고 재기동해준다.


*참고(Tomcat 메모리 CATALINA_OPTS 설정) : http://starplaying.tistory.com/446


-------------------오류내용--------------------

-bash-4.1$ jps

Error occurred during initialization of VM

java.lang.OutOfMemoryError: unable to create new native thread


------------------폴더에 오류로그 파일들도 다수 생성된다. ----------

hs_err_pid11579.log  hs_err_pid14873.log  hs_err_pid3724.log  hs_err_pid5596.log  hs_err_pid69979.log  hs_err_pid8240.log   hs_err_pid8859.log  hs_err_pid9857.log

번호 제목 날짜 조회 수
510 ./gradlew :composeDown 및 ./gradlew :composeUp 를 성공했을때의 메세지 2023.02.20 4414
509 flume 1.5.2 설치및 테스트(source : file, sink : hdfs) in HA 2015.05.21 4414
508 Oracle 12c DB의 LOB타입 컬럼이 있는 테이블을 import할 때 주의 할 사항 2022.09.14 4411
507 spark-submit으로 spark application실행하는 다양한 방법 2016.05.25 4408
506 Windows7 64bit 환경에서 Apache Spark 2.2.0 설치하기 2017.07.26 4405
505 VirtualBox에 ubuntu 설치 하기 (12.10) file 2013.03.04 4404
504 [Kudu]Schema별 혹은 테이블별 사용량(Replica포함) 구하는 방법 2022.07.14 4403
503 kudu hms check 사용법(예시) 2021.10.22 4401
502 RHEL 7.4에 zeppelin 0.7.4 설치 2018.07.31 4400
501 [Hadoop Encryption] Encryption Zone 생성/설정시 User:hadoop not allowed to do 'DECRYPT_EEK' ON 'testkey' 오류 발생 조치 사항 2023.06.28 4394
500 [Solr in Cloudera]Solr Data Directory변경 방법/절차 2023.04.21 4394
499 Cloudera의 CMS각 컴포넌트의 역할 2020.02.10 4390
498 lagom-linux용 build.sbt파일 내용 2017.10.12 4385
497 mongodb에서 큰데이타 sort시 오류발생에 대한 해결방법 2015.12.22 4378
496 원격에 있는 git를 받은후 기존repository삭제후 새로운 리포지토리에 연결하여 소스 등록 2019.07.13 4377
495 Kafka Offset Monitor로 kafka 상태 모니터링 하기 file 2016.11.08 4374
494 scala application 샘플소스(SparkSession이용) 2018.03.07 4366
493 통계자료 구할수 있는 곳 2014.04.16 4361
492 동일서버에서 LA와 LC동시에 기동하여 테스트 2014.04.01 4360
491 No broker partitions consumed by consumer thread오류 발생시 확인/조치할 사항 2016.09.02 4354
위로