메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


1. sbt 다운로드/설치

http://www.scala-sbt.org/release/docs/Installing-sbt-on-Windows.html


2. sbt플러그인 설치

sbt에는 sbt플러그인을 설치해야 하며, 


https://github.com/typesafehub/sbteclipse/ 여기보고 자신의 sbt 버전에 맞게  

~/.sbt/0.13/plugins/plugins.sbt 파일에 다음 내용을 추가합니다.


addSbtPlugin("com.typesafe.sbteclipse" % "sbteclipse-plugin" % "3.0.0")


3. 프로젝트 생성및 eclipse에서 import가능한 sbt프로젝트 만들기

원래 자바 개발하던 때처럼 사용할 workspace를 하나 만들고, 그 아래에 프로젝트 디렉터리를 하나 만들어줍니다. 

그 디렉터리에서 sbt eclipse 라고 실행하면 이클립스 프로젝트를 만들어줍니다.

이 때 build.sbt는 만들어주지 않으므로 아래의 예와 같이 build.sbt파일을 만들어줍니다. 


name := "icbms"


version := "1.1"


scalaVersion := "2.11.8"


libraryDependencies += "org.apache.spark" %% "spark-core" % "1.5.0" % "provided"


libraryDependencies += "org.apache.spark" %% "spark-sql" % "1.5.0"


4. import하기

이제 만들어진 프로젝트를 이클립스 내에서 import 하면 됩니다. 


5. sbt package

해당 프로젝트 밑에 가서 console창에서 sbt package를 하면 *.jar파일이 생성됨(eclipse에서는 안되남??)


*참고

libraryDependencies에 항목을 추가하고 난 다음에는 sbt eclipse 명령을 이클립스 외부에서 다시 실행해주고 이클립스에서 프로젝트를 새로 고침해주면 됩니다.

번호 제목 글쓴이 날짜 조회 수
361 hive 0.13.1 설치 + meta정보는 postgresql 9.3에 저장 총관리자 2015.04.30 227
360 Cloudera Manager에서 "Mismatched CDH versions: host has NONE but role expects 5 Suppress..."와 같이 오류 발생시 확인사항 총관리자 2018.06.06 228
359 HDFS 파일및 디렉토리 생성시 생성방법에 따라 권한이 다르게 부여된다. gooper 2022.05.30 228
358 [CDP7.1.7]BDR작업후 오류로 Diagnostic Data를 수집하는 동안 "No content to map due to end-of-input at [Source: (String)""; line: 1, column: 0]" 오류 발생시 조치 gooper 2024.02.20 228
357 CentOS에서 리눅스(Linux) 포트 열기, 방화벽 설정/해제 등. 총관리자 2016.03.14 231
356 AIX 7.1에서 hive실행시 "hive: line 86: readlink: command not found" 오류가 발생시 임시 조치사항 총관리자 2016.09.25 235
355 Scala에서 countByWindow를 이용하기(예제) 총관리자 2018.03.08 235
354 AIX 7.1에 Hadoop설치(정리중) 총관리자 2016.09.12 236
353 Windows7 64bit 환경에서 Apache Hadoop 2.7.1설치하기 총관리자 2017.07.26 236
352 [보안/인증]javax.net.ssl.SSLHandshakeException: sun.security.validator.ValidatorException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: unable to find valid certification path to requested target발생 원인/조치내용 gooper 2023.10.24 236
351 down된 broker로 메세지를 전송하려는 경우의 오류 내용및 조치사항 총관리자 2016.08.12 238
350 [Dovecot] -ERR [SYS/PERM] Permission denied 총관리자 2017.06.13 238
349 Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 총관리자 2017.04.26 239
348 [우분투] suppoie 채굴 프로세스 발생시 자동으로 삭제하는 shell프로그램 총관리자 2018.04.01 243
347 cumulusRDF 1.0.1설치및 "KeyspaceCumulus" keyspace확인하기 file 총관리자 2016.04.15 244
346 oozie db변경후 재기동시 "Table 'oozie.VALIDATE_CONN' doesn't exist" 오류 발생시 조치방법 총관리자 2018.05.23 244
345 ResultSet에서 데이타를 List<Map<String,String>>형태로 만들어서 리턴하는 소스(Collections.sort를 이용한 정렬 가능) 총관리자 2016.12.15 246
344 Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리 총관리자 2018.01.25 246
343 부팅을 외장하드에서 하도록 변경하는 방법 총관리자 2015.07.28 247
342 kafka의 re-balance를 이용하여 consumer를 multi thread로 돌려서 topic의 partitions을 활용 총관리자 2015.03.31 248

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로