메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


오류메세지에 있는것처럼 Full GC가 계속 발생하면서 메모리 해제는 이루어지지 않고 VisualVM을 이용하여 스레드를 확인하면 아래와 같이 다수의 MongoCleaner가 Sleep상태(Full GC에서 모든 쓰레드는 대시 상태가 된다.)에 있고 GC상황을 보면 Old Space가 full 상태에 있으면서 모든 처리가 대기 상태에 있는 경우가 있는데 이것은 mongodb의 커넥션혹은 cursor등을 사용후 닫지 않아서 발생하는 memory leak이라고 볼수 있다. 소스에서 커넥션 혹은 cursor가 제대로 close되었는지 확인하여 조치하여 준다.

20170111_144658.png

20170111_150127.png

20170111_151021.png



-오류 메세지

[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0743223 secs] [Times: user=0.59 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0779379 secs] [Times: user=0.68 sys=0.01, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0737145 secs] [Times: user=0.63 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0729195 secs] [Times: user=0.51 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0822866 secs] [Times: user=0.68 sys=0.00, real=0.09 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0788580 secs] [Times: user=0.66 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0719421 secs] [Times: user=0.58 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0724458 secs] [Times: user=0.60 sys=0.00, real=0.08 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0724485 secs] [Times: user=0.60 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0744425 secs] [Times: user=0.62 sys=0.00, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0751457 secs] [Times: user=0.63 sys=0.01, real=0.07 secs]
[Full GC (Ergonomics) [PSYoungGen: 345088K->345072K(694272K)] [ParOldGen: 2097094K->2097094K(2097152K)] 2442182K->2442167K(2791424K), [Metaspace: 59102K->59102K(1101824K)], 0.0697133 secs] [Times: user=0.51 sys=0.00, real=0.06 secs]


Heap
 PSYoungGen      total 694272K, used 345080K [0x0000000780000000, 0x00000007bfb80000, 0x00000007c0000000)
  eden space 345088K, 99% used [0x0000000780000000,0x00000007950fe270,0x0000000795100000)
  from space 349184K, 0% used [0x00000007aa600000,0x00000007aa600000,0x00000007bfb00000)
  to   space 349184K, 0% used [0x0000000795100000,0x0000000795100000,0x00000007aa600000)
 ParOldGen       total 2097152K, used 2097047K [0x0000000700000000, 0x0000000780000000, 0x0000000780000000)
  object space 2097152K, 99% used [0x0000000700000000,0x000000077ffe5e78,0x0000000780000000)
 Metaspace       used 59114K, capacity 59888K, committed 60672K, reserved 1101824K
  class space    used 7017K, capacity 7233K, committed 7424K, reserved 1048576K

번호 제목 글쓴이 날짜 조회 수
38 hadoop 기반 문서 검색 총관리자 2014.09.25 957
37 하둡 분산 파일 시스템을 기반으로 색인하고 검색하기 총관리자 2014.09.25 951
36 mysql 5.5.34-0ubuntu0.13.04용 설치/진행 화면 총관리자 2014.09.10 697
35 외부 기기(usb, 하드)등 mount(연결)하기 총관리자 2014.08.03 546
34 anaconda3 (v5.2) 설치및 머신러닝 관련 라이브러리 설치 절차 총관리자 2018.07.27 513
33 데이타 제공 사이트 링크 총관리자 2014.08.03 508
32 원격지에서 zio공유기를 통해서 노트북의 mysql접속을 허용하는 방법 총관리자 2014.09.07 494
31 시스템날짜를 현재 정보로 동기화 하는 방법(rdate, ntpdate이용) 총관리자 2014.08.24 481
30 원보드 컴퓨터 비교표 file 총관리자 2014.08.04 408
29 Ubuntu 16.04 LTS에서 사이트에 무료인증서를 이용하여 SSL적용 file 총관리자 2017.05.23 353
28 Runtime.getRuntime().exec(cmd) sample 소스 총관리자 2015.11.19 305
27 여러 홈페이지를 운영하거나 혹은 서버에 가입한 사용자들에게 홈페이지 계정을 나누어 줄수 있도록 설정/계정 생성방법 총관리자 2018.01.23 281
» [MemoryLeak분석]다수의 MongoCleaner 쓰레드가 Sleep상태에 있으면서 Full GC가 계속 발생되는 문제 해결방법 file 총관리자 2017.01.11 263
25 부팅을 외장하드에서 하도록 변경하는 방법 총관리자 2015.07.28 247
24 /etc/logrotate.d 을 이용한 catalina.out 나누기 file 총관리자 2017.01.19 208
23 [개발] 온라인 IDE - 개발 환경 구축 없어 어디서나 웹브라우저로 개발하기 총관리자 2022.05.02 200
22 anaconda3(v5.4)를 이용하여 tensorflow설치후 ipython프로그램을 실행하여 import할때 오류발생시 조치 총관리자 2018.07.27 188
21 우분투 16.04 설치후 APM (Apache2, PHP, MySQL) 설치 총관리자 2017.01.29 185
20 대표 오픈소스 라이선스, 한 눈에 보기! 총관리자 2015.12.10 168
19 [PHP7.0]로그파일 위치 총관리자 2017.05.07 151

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로