Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
1. kafka broker의 server.properties파일에 다음 옵션을 설정하고 broker를 재기동한다.
delete.topic.enable=true
2. 다음의 명령으로 원하는 topic(예, test)을 삭제한다.
bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic test
3. topic을 재생성한다.
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 3 --topic test
4. topic을 지우고 재생성한 상태에서 consumer프로그램을 돌리면 아래와 같은 오류가 발생하면서 재설정된다.
------오류내용-------------
[2016-10-24 10:43:12,735] [utils.Logging$class] [error(#97)] [ERROR] [ConsumerFetcherThread-AvroOneM2MDataSubscribe_sda1-1477273392365-4e4cbb22-0-1], Current offset 109883 for partition [COL_ONEM2M,1] out of range; r
eset offset to 0
[2016-10-24 10:43:12,735] [utils.Logging$class] [error(#97)] [ERROR] [ConsumerFetcherThread-AvroOneM2MDataSubscribe_sda1-1477273392365-4e4cbb22-0-3], Current offset 127067 for partition [COL_ONEM2M,0] out of range; r
eset offset to 0
[2016-10-24 10:43:12,735] [utils.Logging$class] [error(#97)] [ERROR] [ConsumerFetcherThread-AvroOneM2MDataSubscribe_sda1-1477273392365-4e4cbb22-0-2], Current offset 116344 for partition [COL_ONEM2M,2] out of range; r
eset offset to 0
댓글 0
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
39 | 동일서버에서 LA와 LC동시에 기동하여 테스트 | 총관리자 | 2014.04.01 | 928 |
38 | 다수의 로그 에이전트로 부터 로그를 받아 각각의 파일로 저장하는 방법(interceptor및 multiplexing) | 총관리자 | 2014.04.04 | 4089 |
37 | sqoop 1.4.4 설치및 테스트 | 총관리자 | 2014.04.21 | 3134 |
36 | sqoop export/import등을 할때 driver를 못찾는 오류가 발생하면... | 총관리자 | 2014.05.15 | 867 |
35 | sqoop에서 oracle관련 작업할때 테이블명, 사용자명, DB명은 모두 대문자로 사용할것 | 총관리자 | 2014.05.15 | 1528 |
34 | source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 | 총관리자 | 2014.05.20 | 687 |
33 | import 혹은 export할때 hive파일의 default 구분자는 --input-fields-terminated-by " |