Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
1. CDH5설치에서 자동생성되는 사용자 계정및 계정이 사용하는 프로그램 목록
(다음 사용자의 group은 hadoop임)
가. 사용자 hdfs : HDFS(NameNode, DataNodes, Standby NameNode(HA를 구성하는 경우))
나. 사용자 yarn : YARN(ResourceManager, NodeManager)
다. 사용자 mapred : YARN(MapReduce Job History Server)
2. HDFS및 MapReduce가 사용하는 폴더의 권한 (Local파일 시스템)
가. dfs.namenode.name.dir : hdfs:hdfs, drwx------
나. dfs.datanode.data.dir : hdfs:hdfs, drwx------
다. yarn.nodemanager.local-dirs : yarn:yarn, drwxr-xr-x
라. yarn.nodemanager.log-dirs : yarn:yarn, drwxr-xr-x
마. container-executor : root:yarn --Sr-s---
바. conf/container-executor.cfg : root:yarn, r--------
3. HDFS, YARN, MapReduce log디렉토리 권한 (Local파일 시스템)
(예, /var/log/hadoop-hdfs, /var/loghadoop-yarn, /var/log/hadoop-mapreduce)
가. HDFS_LOG_DIR : hdfs:hdfs, drwxrwxr-x
나. $YARN_LOG_DIR : yarn:yarn, drwxrwxr-x
다. MAPRED_LOG_DIR : mapred:mapred, drwxrwxr-x
4. HDFS상의 디렉토리 권한(HDFS)
가. /(root directory) : hdfs:hadoop, drwxr-xr-x
나. yarn.nodemanager.remote-app-log-dir : yarn:hadoop, drwxrwxrwxt
다. mapreduce.jobhistory.intermediate-done-dir : mapred:hadoop, drwxrwxrwxt
라. mapreduce.jobhistory.done-dir : mapred:hadoop, drwxr-x---
5. HDFS디렉토리의 권한 변경방법(HDFS)
$ sudo -u hdfs hdfs dfs -chown hdfs:hadoop /
$ sudo -u hdfs hdfs dfs -chmod 755 /
$ sudo -u hdfs hdfs dfs -chown yarn:hadoop [yarn.nodemanager.remote-app-log-dir]
$ sudo -u hdfs hdfs dfs -chmod 1777 [yarn.nodemanager.remote-app-log-dir]
$ sudo -u hdfs hdfs dfs -chown mapred:hadoop [mapreduce.jobhistory.intermediate-done-dir]
$ sudo -u hdfs hdfs dfs -chmod 1777 [mapreduce.jobhistory.intermediate-done-dir]
$ sudo -u hdfs hdfs dfs -chown mapred:hadoop [mapreduce.jobhistory.done-dir]
$ sudo -u hdfs hdfs dfs -chmod 750 [mapreduce.jobhistory.done-dir]
6. /tmp및 /user/history디렉토리 생성및 권한 부여(Local)
$ sudo -u hdfs hadoop fs -mkdir /tmp
$ sudo -u hdfs hadoop fs -chmod -R 1777 /tmp
$ sudo -u hdfs hadoop fs -mkdir -p /user/history
$ sudo -u hdfs hadoop fs -chmod -R 1777 /user/history
$ sudo -u hdfs hadoop fs -chown mapred:hadoop /user/history
댓글 0
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
681 | dual table만들기 | 총관리자 | 2014.05.16 | 824 |
680 | 특정파일이 생성되어야 action이 실행되는 oozie job만들기(coordinator.xml) | 총관리자 | 2014.05.20 | 984 |
679 | source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 | 총관리자 | 2014.05.20 | 687 |
678 | hive에서 insert overwrite directory.. 로 하면 default column구분자는 'SOH'혹은 't'가 됨 | 총관리자 | 2014.05.20 | 999 |
677 | import 혹은 export할때 hive파일의 default 구분자는 --input-fields-terminated-by " |