메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


1. mysql을 설치/설정한다.(hive-site.xml)

 : hive.metastore.lcoal은 설정하지 않아도됨

 

-------------------------------------------------hive-site.xml의 일부--------------------------------------------------------

<property>
  <name>hive.metastore.uris</name>
  <value>thrift://192.168.8.5:9083</value>
  <description>Thrift uri for the remote metastore. Used by metastore client to connect to remote metastore.</description>
</property>
<property>
  <name>hive.metastore.local</name>
  <value>false</value>
</property>
<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:mysql://localhost:3306/metastore_db</value>
  <description>JDBC connect string for a JDBC metastore</description>
</property>
<property>
  <name>hive.metastore.warehouse.dir</name>
  <value>/user/hadoop/warehouse</value>
</property>
<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>com.mysql.jdbc.Driver</value>
  <description>Driver class name for a JDBC metastore</description>
</property>
 
2. Hive metastore interface를 기동해준다.
bin/hive --service metastore &
 
3. 9083포트 확인
netstat -an | grep 9083
 
* hive metastore interface기동하지 않고 oozie에서 hive job을 돌리면...
아래와 같은 오류가 발생하며 job이 kill된다.

================================================================= >>> Invoking Hive command line now >>> Hadoop Job IDs executed by Hive: Intercepting System.exit(40000) <<< Invocation of Main class completed <<< Failing Oozie Launcher, Main class [org.apache.oozie.action.hadoop.HiveMain], exit code [40000] Oozie Launcher failed, finishing Hadoop job gracefully Oozie Launcher ends -- End of task: attempt_201405271904_0020_m_000000_0 --




stderr logs

log4j:WARN No appenders could be found for logger (org.apache.hadoop.util.NativeCodeLoader). log4j:WARN Please initialize the log4j system properly. Logging initialized using configuration in jar:file:/tmp/mapr-hadoop/mapred/local/taskTracker/distcache/5455234734278781531_309545739_993904106/maprfs/mapr/my.cluster.com/lib/hive/hive-common-0.12-mapr-1401-140130.jar!/hive-log4j.properties FAILED: SemanticException Unable to fetch table ht_dm_101010 Log file: /tmp/mapr-hadoop/mapred/local/taskTracker/mapr/jobcache/job_201405271904_0020/attempt_201405271904_0020_m_000000_0/work/hive-oozie-job_201405271904_0020.log not present. Therefore no Hadoop jobids found Intercepting System.exit(40000) Failing Oozie Launcher, Main class [org.apache.oozie.action.hadoop.HiveMain], exit code [40000] -- End of task: attempt_201405271904_0020_m_000000_0 --

번호 제목 날짜 조회 수
84 데이타 제공 사이트 링크 2014.08.03 637
83 lubuntu 호스트 네임변경 2014.08.03 1008
82 oozie 에서 sqoop action실행 에러 - 컬럼개수 차이 2014.07.17 1156
81 uEnv.txt위치및 내용 2014.07.09 808
80 banana pi(lubuntu)에서 한글 설정및 한글깨짐 문제 해결 2014.07.06 3603
79 access=WRITE, inode="staging":ubuntu:supergroup:rwxr-xr-x 오류 2014.07.05 1846
78 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 2990
77 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 2869
76 2개 data를 join하고 마지막으로 code정보를 join하여 결과를 얻는 mr 프로그램 2014.06.30 540
75 jsoup 사용 예제 2014.06.06 1730
74 Cannot create /var/run/oozie/oozie.pid: Directory nonexistent오류 2014.06.03 959
73 oozie job 구동시 JA009: User: hadoop is not allowed to impersonate hadoop 오류나는 경우 2014.06.02 1014
72 원보드pc인 bananapi를 이용하여 hadoop 클러스터 구성하기(준비물) file 2014.05.29 3992
71 의사분산모드에 hadoop설치및 ecosystem 환경 정리 2014.05.29 3272
70 hadoop및 ecosystem에서 사용되는 명령문 정리 2014.05.28 3912
» hive job실행시 meta정보를 원격의 mysql에 저장하는 경우 설정방법 2014.05.28 1250
68 oozie의 meta정보를 mysql에서 관리하기 2014.05.26 1791
67 hive query에서 mapreduce돌리지 않고 select하는 방법 2014.05.23 1181
66 hiverserver2기동시 connection refused가 발생하는 경우 조치방법 2014.05.22 1659
65 import 혹은 export할때 hive파일의 default 구분자는 --input-fields-terminated-by "x01"와 같이 지정해야함 2014.05.20 4431
위로