메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


1. sbt 다운로드/설치

http://www.scala-sbt.org/release/docs/Installing-sbt-on-Windows.html


2. sbt플러그인 설치

sbt에는 sbt플러그인을 설치해야 하며, 


https://github.com/typesafehub/sbteclipse/ 여기보고 자신의 sbt 버전에 맞게  

~/.sbt/0.13/plugins/plugins.sbt 파일에 다음 내용을 추가합니다.


addSbtPlugin("com.typesafe.sbteclipse" % "sbteclipse-plugin" % "3.0.0")


3. 프로젝트 생성및 eclipse에서 import가능한 sbt프로젝트 만들기

원래 자바 개발하던 때처럼 사용할 workspace를 하나 만들고, 그 아래에 프로젝트 디렉터리를 하나 만들어줍니다. 

그 디렉터리에서 sbt eclipse 라고 실행하면 이클립스 프로젝트를 만들어줍니다.

이 때 build.sbt는 만들어주지 않으므로 아래의 예와 같이 build.sbt파일을 만들어줍니다. 


name := "icbms"


version := "1.1"


scalaVersion := "2.11.8"


libraryDependencies += "org.apache.spark" %% "spark-core" % "1.5.0" % "provided"


libraryDependencies += "org.apache.spark" %% "spark-sql" % "1.5.0"


4. import하기

이제 만들어진 프로젝트를 이클립스 내에서 import 하면 됩니다. 


5. sbt package

해당 프로젝트 밑에 가서 console창에서 sbt package를 하면 *.jar파일이 생성됨(eclipse에서는 안되남??)


*참고

libraryDependencies에 항목을 추가하고 난 다음에는 sbt eclipse 명령을 이클립스 외부에서 다시 실행해주고 이클립스에서 프로젝트를 새로 고침해주면 됩니다.

번호 제목 글쓴이 날짜 조회 수
361 linux에서 특정 포트를 사용하는 프로세스 확인하기 총관리자 2017.04.26 351
360 Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 총관리자 2017.04.26 239
359 Spark에서 KafkaUtils.createStream()를 이용하여 이용하여 kafka topic에 접근하여 객채로 저장된 값을 가져오고 처리하는 예제 소스 총관리자 2017.04.26 292
358 Kafka의 API중 Consumer.createJavaConsumerConnector()를 이용하고 다수의 thread를 생성하여 Kafka broker의 topic에 접근하여 데이타를 가져오고 처리하는 예제 소스 총관리자 2017.04.26 226
357 fuseki webUI를 통해서 전체 카운트를 하면 급격하게 메모리를 소모해 버리는 문제가 있음 file 총관리자 2017.04.28 162
356 Ubuntu 16.04 LTS에 4대에 Hadoop 2.8.0설치 총관리자 2017.05.01 521
355 Ubuntu 16.04 LTS에 MariaDB 10.1설치 및 포트변경 및 원격접속 허용 총관리자 2017.05.01 1081
354 test2 총관리자 2017.05.01 153
353 test333 총관리자 2017.05.01 189
352 test333444 총관리자 2017.05.01 113
351 Cleaning up the staging area file시 'cannot access' 혹은 'Directory is not writable' 발생시 조치사항 총관리자 2017.05.02 336
350 hadoop에서 yarn jar ..를 이용하여 appliction을 실행하여 정상적으로 수행되었으나 yarn UI의 어플리케이션 목록에 나타나지 않는 문제 총관리자 2017.05.02 24
349 hadoop에서 yarn jar ..를 이용하여 appliction을 실행하여 정상적으로 수행되었으나 yarn UI의 어플리케이션 목록에 나타나지 않는 문제 총관리자 2017.05.02 51
348 hadoop에서 yarn jar ..를 이용하여 appliction을 실행하여 정상적으로 수행되었으나 yarn UI의 어플리케이션 목록에 나타나지 않는 문제 총관리자 2017.05.02 117
347 hadoop에서 yarn jar ..를 이용하여 appliction을 실행하여 정상적(?)으로 수행되었으나 yarn UI의 어플리케이션 목록에 나타나지 않는 문제 총관리자 2017.05.02 77
346 우분투에서 패키지 설치시 E: Sub-process /usr/bin/dpkg returned an error code 발생시 조치 총관리자 2017.05.02 252
345 Ubuntu 16.04 LTS에 Hive 2.1.1설치하면서 "Version information not found in metastore"발생하는 오류원인및 조치사항 총관리자 2017.05.03 471
344 Hive MetaStore Server기동시 Could not create "increment"/"table" value-generation container SEQUENCE_TABLE since autoCreate flags do not allow it. 오류발생시 조치사항 총관리자 2017.05.03 348
343 Mysql DB 생성 및 권한. 특정아이피, 대역에 대한 접근 허용 총관리자 2017.05.04 60
342 mapreduce appliction을 실행시 "is running beyond virtual memory limits" 오류 발생시 조치사항 총관리자 2017.05.04 16899

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로