메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


1. presto 0.63다운로드

http://central.maven.org/maven2/com/facebook/presto/presto-server/0.63/presto-server-0.63.tar.gz

 

2. 압축풀고 폴더명 변경

 tar xvfz presto-server-0.63.tar.gz

 mv presto-server-0.63 presto-server

3. /home/hadoop/presto-server/etc폴더를 만들고 설정파일을 생성한다.

   가. node.properties파일

     node.environment=production
     node.id=ffffffff-ffff-ffff-ffff-ffffffffffff
     node.data-dir=/home/hadoop/presto-server/data

  나. hive.properties

     connector.name=hive-hadoop2
     hive.metastore.uri=thrift://localhost:9083

  

  다. log.properties

     com.facebook.presto=DEBUG

  라. config.properties

      coordinator=false
      datasources=jmx,hive
      http-server.http.port=8080
      presto-metastore.db.type=h2
      presto-metastore.db.filename=var/db/MetaStore
      task.max-memory=1GB
      discovery.uri=http://localhost:8080

  마. jvm.config

      -server
      -Xmx16G
      -XX:+UseConcMarkSweepGC
      -XX:+ExplicitGCInvokesConcurrent
      -XX:+CMSClassUnloadingEnabled
      -XX:+AggressiveOpts
      -XX:+HeapDumpOnOutOfMemoryError
      -XX:OnOutOfMemoryError=kill -9 %p
      -XX:PermSize=150M
      -XX:MaxPermSize=150M
      -XX:ReservedCodeCacheSize=150M
      -Xbootclasspath/p:/home/hadoop/presto-server/lib/floatingdecimal-0.1.jar

   바. ../presto-server/etc/calog/jmx.properties

      connector.name=jmx

4.  CLI툴 다운로드(presto-cli-0.63-executable.jar,)

   압축해제 하여 명칭을 presto로 바꾼후 chmod 755로 실행권한 부여함

 

5.서버및 CLI실행

   가. 서버실행 : ~/presto-server/bin/launcher start

   나 .CLI실행:  /home/hadoop/presto --server localhost:8080 혹은

                          /home/hadoop/presto --server localhost:8080 --catalog hive --schema default

   다. CLI TEST :  presto:default>select CAST(NULL AS BOOLEAN) AND TRUE;

번호 제목 글쓴이 날짜 조회 수
129 insert hbase by hive ... error occured after 5 hours..HMaster가 뜨지 않는 장애에 대한 복구 방법 총관리자 2014.04.29 7128
128 hive 2.0.1 설치및 mariadb로 metastore 설정 총관리자 2016.06.03 5176
127 Hive Query Examples from test code (2 of 2) 총관리자 2014.03.26 4971
126 Spark에서 Serializable관련 오류및 조치사항 총관리자 2017.04.21 4901
» 의사분산모드에서 presto설치하기 총관리자 2014.03.31 3050
124 Hive 사용법 및 쿼리 샘플코드 구퍼 2013.03.07 2991
123 spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 총관리자 2016.06.09 2802
122 Hive+mysql 설치 및 환경구축하기 file 구퍼 2013.03.07 2722
121 banana pi에 hive 0.13.1+mysql(metastore)설치 file 총관리자 2014.09.09 2406
120 Hive java connection 설정 file 구퍼 2013.04.01 2013
119 VisualVM 1.3.9을 이용한 spark-submit JVM 모니터링을 위한 설정및 spark-submit실행 옵션 총관리자 2016.10.28 1883
118 Spark 2.1.1 clustering(5대) 설치(YARN기반) 총관리자 2016.04.22 1880
117 hive에서 생성된 external table에서 hbase의 table에 값 insert하기 총관리자 2014.04.11 1747
116 index생성, 삭제, 활용 총관리자 2014.04.25 1702
115 java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: Hive Runtime Error: Unable to deserialize reduce input key from...오류해결방법 총관리자 2015.06.16 1632
114 impald에서 idle_query_timeout 와 idle_session_timeout 구분 총관리자 2021.05.20 1630
113 FAILED: IllegalStateException Variable substitution depth too large: 40 오류발생시 조치사항 총관리자 2014.08.19 1520
112 hiverserver2기동시 connection refused가 발생하는 경우 조치방법 총관리자 2014.05.22 1462
111 json 값 다루기 총관리자 2014.04.17 1222
110 upsert구현방법(년-월-일 파티션을 기준으로) 및 테스트 script file 총관리자 2018.07.03 1219

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로