메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


spark 2.0.0 환경에서 spark-streaming-kafka_2.11을 사용시 현재 최신버젼이 1.6.3인데 이 버젼에서는 logging에 org.apache.spark.Logging클래스를 사용한다.

하지만 spark 2.0.0환경에서는 해당 클래스를 사용하지 않아서 발생하는 문제이다.

이때는 아래와 같이 spark-streaming-kafka-0-8_2.11를 artifactId로 지정해주면 문제없이 spark streaming application을 실행할 수있다.


<!-- dependency>      <groupId>org.apache.spark</groupId>      <artifactId>spark-streaming-kafka_2.11</artifactId>      <version>1.6.3</version>      <scope>compile</scope>    </dependency -->


를 


 <dependency>      <groupId>org.apache.spark</groupId>      <artifactId>spark-streaming-kafka-0-8_2.11</artifactId>      <version>2.0.0</version>      <scope>compile</scope>    </dependency>

로 바꿔준다.

번호 제목 글쓴이 날짜 조회 수
41 Spark에서 Serializable관련 오류및 조치사항 총관리자 2017.04.21 4901
40 spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 총관리자 2016.06.09 2802
39 VisualVM 1.3.9을 이용한 spark-submit JVM 모니터링을 위한 설정및 spark-submit실행 옵션 총관리자 2016.10.28 1891
38 Spark 2.1.1 clustering(5대) 설치(YARN기반) 총관리자 2016.04.22 1880
37 spark stream처리할때 두개의 client프로그램이 동일한 checkpoint로 접근할때 발생하는 오류 내용 총관리자 2018.01.16 1114
36 "Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources"오류 발생시 조치사항 총관리자 2016.05.25 1026
35 kafka로 부터 메세지를 stream으로 받아 처리하는 spark샘플소스(spark의 producer와 consumer를 sbt로 컴파일 하고 서버에서 spark-submit하는 방법) 총관리자 2016.07.13 629
34 spark-env.sh에서 사용할 수있는 항목. 총관리자 2016.05.24 566
33 spark-shell실행시 "A read-only user or a user in a read-only database is not permitted to disable read-only mode on a connection."오류가 발생하는 경우 해결방법 총관리자 2016.05.20 551
32 spark client프로그램 기동시 "Error initializing SparkContext"오류 발생할때 조치사항 총관리자 2016.05.27 539
31 spark-submit 실행시 "java.lang.OutOfMemoryError: Java heap space"발생시 조치사항 총관리자 2018.02.01 516
30 java.lang.OutOfMemoryError: unable to create new native thread오류 발생지 조치사항 총관리자 2016.10.17 466
29 Spark 1.6.1 설치후 HA구성 총관리자 2016.05.24 455
28 spark-sql실행시 The specified datastore driver ("com.mysql.jdbc.Driver") was not found in the CLASSPATH오류 발생시 조치사항 총관리자 2016.06.09 439
27 Apache Spark와 Drools를 이용한 CEP구현 테스트 총관리자 2016.07.15 342
26 spark-submit으로 spark application실행하는 다양한 방법 총관리자 2016.05.25 303
25 Spark에서 KafkaUtils.createStream()를 이용하여 이용하여 kafka topic에 접근하여 객채로 저장된 값을 가져오고 처리하는 예제 소스 총관리자 2017.04.26 292
» Caused by: java.lang.ClassNotFoundException: org.apache.spark.Logging 발생시 조치사항 총관리자 2017.04.19 284
23 Windows7 64bit 환경에서 Apache Spark 2.2.0 설치하기 총관리자 2017.07.26 259
22 Scala에서 countByWindow를 이용하기(예제) 총관리자 2018.03.08 235

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로