메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


* 출처 : http://epicdevs.com/22


Kafka는 기본적으로 JMX 인터페이스를 제공하기 때문에 Kafka에서 제공하는 MBean(managed bean)들의 값을 모니터링할 수 있다. 하지만 JMX 툴보다는 Kafka 전용으로 개발된 모니터링 툴을 사용하는 것이 훨씬 간편하고, 중요한 정보들을 좀 더 직관적으로 파악할 수 있기 때문에 이 글에서는 JMX를 통한 모니터링 대신 Kafka Offset Monitor를 사용하여 Kafka의 상태를 모니터링해 보도록 한다.


Kafka Offset Monitor 실행하기

Kafka Offset Monitor 홈페이지에서 jar 파일을 다운 받은 뒤 jar파일이 있는 위치에서 다음의 커맨드를 통해 Kafka Offset Monitor를 실행한다.

java -cp KafkaOffsetMonitor-assembly-0.2.1.jar com.quantifind.kafka.offsetapp.OffsetGetterWeb 
--zk kafka-test-001.epicdevs.com:2181,kafka-test-002.epicdevs.com:2181,kafka-test-003.epicdevs.com:2181 
--port 8080 --refresh 10.seconds --retain 2.days

nohup java -cp KafkaOffsetMonitor-assembly-0.2.1.jar 
     com.quantifind.kafka.offsetapp.OffsetGetterWeb 
     --zk gsda1:2181,gsda2:2181,gsda3:2181 
     --port 7080 
     --refresh 10.seconds 
     --retain 2.days 
 &

*데몬확인 : 109714 OffsetGetterWeb --zk gsda1:2181,gsda2:2181,gsda3:2181 --port 7080 --refresh 10.seconds --retain 2.days

웹 브라우저로 http://gsda1:7080에 접속하면 각 topic의 처리 현황, broker와 consumer 현황, Kafka 클러스터 현황 등을 살펴볼 수 있다.


참고자료

번호 제목 글쓴이 날짜 조회 수
280 spark 2.3.0을 설치하가 위해서 parcel에 다음 url을 입력한다. 총관리자 2018.07.15 198
279 sentry설정후 beeline으로 hive2server에 접속하여 admin계정에 admin권한 부여하기 총관리자 2018.07.03 336
278 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 총관리자 2018.07.03 1222
277 resouce manager에 dr.who가 아닌 다른 사용자로 로그인 하기 총관리자 2018.06.28 1207
276 CDH에서 Sentry 개념및 설정 file 총관리자 2018.06.21 505
275 cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임 총관리자 2018.06.20 181
274 dr.who로 공격들어오는 경우 조치방법 file 총관리자 2018.06.09 5603
273 spark-shell을 실행하면 "Attempted to request executors before the AM has registered!"라는 오류가 발생하면 총관리자 2018.06.08 545
272 SCM서비스를 추가하는 동안 Unexpected error. Unable to verify database connection. 오류발생시 확인 사항 총관리자 2018.06.08 196
271 Cloudera Manager에서 "Mismatched CDH versions: host has NONE but role expects 5 Suppress..."와 같이 오류 발생시 확인사항 총관리자 2018.06.06 228
270 JAVA_HOME을 명시적으로 지정하는 방법 총관리자 2018.06.04 165
269 spark 시동중 applicationHistory 로그 디렉토리가 없다고 하면서 기동되지 않는 경우 총관리자 2018.06.01 153
268 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 총관리자 2018.05.30 282
267 MapReduce2.0(YARN)기반의 CDH5 설치시 생성되는 사용자및 권한 부여 총관리자 2018.05.30 190
266 HUE를 사용할 사용자를 추가 하는 절차 총관리자 2018.05.29 367
265 JobHistory 서버 기동시 HDFS상에 특정 폴더를 생성할 수 없어서 기동하지 못하는 경우 조치 총관리자 2018.05.29 2898
264 DataNode를 기동할때 "Block pool ID needed, but service not yet registered with NN" 오류 발생에 따른 조치사항 총관리자 2018.05.28 962
263 Cloudera Manager설치및 Uninstall 방법(순서) 총관리자 2018.05.28 1645
262 Cloudera Manager재설치하는 동안 "Host is in bad health"오류가 발생하는 경우 확인/조치 사항 총관리자 2018.05.24 88
261 "You are running Cloudera Manager in non-production mode.." warning메세지가 나타나지 않게 조치하는 방법 총관리자 2018.05.23 64

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로