메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


share/lib/pig/*
share/lib/streaming/*
share/lib/hive/*
share/lib/sqoop/*

 

oozie가 수행될때 action type별로 필요로 하는 jars들이 다르므로 각각의 폴더를 위에 처럼 구성하고 그 밑에 각각의 lib/*.* 넣는다.

hadoop fs -put lib/*.* /user/hadoop/share/lib/hive명령으로 넣고 job.properties에서 아래 부분을 추가하여 사용함

(그래야 동일한 jar가 각각의 jar버젼에 따르는 문제를 발생시키지 않게 됨)

oozie.use.system.libpath=true
oozie.libpath=${nameNode}/user/hadoop/share/lib/hive

-------------------------------------------------------------------------------------------------------------

 

예를 들어 hive action인경우..

1. hadoop@bigdata-host:~/hive/lib$ hadoop fs -mkdir share/lib/hive

2. cd /home/hadoop/hive/lib
2. hadoop@bigdata-host:~/hive/lib$ hadoop fs -put *.* share/lib/hive

 

 

-------------------------------------------oozie-site.xml-----------------------------------------------------------------

 <property>
        <name>oozie.service.WorkflowAppService.system.libpath</name>
        <value>/user/${user.name}/share/lib</value>
        <description>
            System library path to use for workflow applications.
            This path is added to workflow application if their job properties sets
            the property 'oozie.use.system.libpath' to true.
        </description>
    </property>
 

번호 제목 글쓴이 날짜 조회 수
61 hadoop설치시 참고사항 구퍼 2013.03.08 2131
60 apk 파일 위치 file 총관리자 2015.05.25 2230
59 메이븐 (maven) 설치 및 이클립스 연동하기 file 구퍼 2013.03.06 2280
58 hadoop설치시 오류 총관리자 2013.12.18 2313
57 jupyter, zeppelin, rstudio를 이용하여 spark cluster에 job를 실행시키기 위한 정보 총관리자 2018.04.13 2335
56 kafka broker기동시 brokerId가 달라서 기동에 실패하는 경우 조치방법 총관리자 2016.05.02 2337
55 Cacti로 Hadoop 모니터링 하기 file 구퍼 2013.03.12 2367
54 AIX 7.1에 MariaDB 10.2 소스 설치 총관리자 2016.09.24 2372
53 banana pi에 hive 0.13.1+mysql(metastore)설치 file 총관리자 2014.09.09 2406
52 hbase shell에서 컬럼값 검색하기(SingleColumnValueFilter이용) 총관리자 2014.04.25 2448
51 HBase, BigTable, Cassandra Schema Design file 구퍼 2013.03.15 2509
50 hadoop 설치(3대) file 구퍼 2013.03.07 2613
49 HBase 설치하기 – Pseudo-distributed file 구퍼 2013.03.12 2647
48 org.apache.hadoop.hbase.PleaseHoldException: Master is initializing 구퍼 2013.03.15 2668
47 mysql-server 기동시 Do you already have another mysqld server running on port 오류 발생할때 확인및 조치방법 총관리자 2017.05.14 2675
46 Hive+mysql 설치 및 환경구축하기 file 구퍼 2013.03.07 2722
45 protege 설명및 사용법 file 총관리자 2017.04.04 2754
44 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 총관리자 2014.07.05 2760
43 spark-sql실행시 Caused by: java.lang.NumberFormatException: For input string: "0s" 오류발생시 조치사항 총관리자 2016.06.09 2803
42 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 총관리자 2014.07.05 2835

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로