메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


예를 들어 gooper계정의 HDFS home directory인 /user/gooper에서의 파일및 디렉토리 생성시 권한이 어떻게 부여되는지를 설명한다.

기본적으로 파일을 생성시 현재 혹은 상위폴더의 권한에 상관없이 666(default)-022(umask)=644가 생성되며, 디렉토리 생성시 777(default)-022(umask)=755가 생성된다.

그리고 group은 그대로 상속받고 user는 생성작업을 수행한 생성자의 user값으로 생성된다. 

또한 default ACL이 설정된 경우, 0의 권한이 있는 경우는 그대로 0의 권한으로 파일 혹은 디렉토리가 생성된다. 

(예를 들어 default ACL이 default:user::rwx, defautl:group::rwx, default:other::---인 경우 파일은 640, 디렉토리는 750으로 생성되고 디렉토리는 default속성을 그대로 상속받아 750+로 생성된다)


* HDFS에 디렉토리 생성시 생성 방법에 따른 권한은 다음과 같이 설정된다. 

  - HUE의 User Admin기능에서 Create home directory를 선택후 사용자 정보를 변경/저장하면 user home폴더가 755+로 권한이 설정된다.

  - HUE의 File Browser를 통해서 디렉토리 생성시 750+로 생성된다. 

  - cli에서 hdfs dfs -mkdir를 사용하여 디렉토리 생성시 770+로 생성된다. 


1. 경우#1( . 폴더에 ACL이 지정되지 않은 경우, 770)

/user                             hdfs:supergroup  775+  (ACL : default ACL이 default:user::rwx, defautl:group::rwx, default:other::---)

/user/gooper                  gooper:gooper    770

/user/gooper/a-file.txt       hdfs:gooper        644

/user/gooper/a-directory    hdfs:gooper        755



2. 경우#2 ( . 폴더에 ACL이 지정된 경우, 755+)

/user                             hdfs:supergroup  775+ (ACL : default ACL이 default:user::rwx, defautl:group::rwx, default:other::---)

/user/gooper                  gooper:gooper    755+ (ACL : default ACL이 default:user::rwx, defautl:group::rwx, default:other::---)

/user/gooper/a-file.txt       hdfs:gooper        640

/user/gooper/a-directory    hdfs:gooper        750+ (ACL : default ACL이 default:user::rwx, defautl:group::rwx, default:other::---)

번호 제목 글쓴이 날짜 조회 수
240 [sentry]role부여후 테이블명이 변경되어 오류가 발생할때 조치방법 총관리자 2018.10.16 215
239 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 총관리자 2022.03.17 215
238 impala테이블 쿼리시 max_row_size 관련 오류가 발생할때 조치사항 총관리자 2020.02.12 216
237 Cloudera설치중에 "Error, CM server guid updated"오류 발생시 조치방법 총관리자 2018.03.29 225
236 Kafka의 API중 Consumer.createJavaConsumerConnector()를 이용하고 다수의 thread를 생성하여 Kafka broker의 topic에 접근하여 데이타를 가져오고 처리하는 예제 소스 총관리자 2017.04.26 226
235 [postgresql 9.x] PostgreSQL Replication 구축하기 총관리자 2018.07.17 226
234 hive 0.13.1 설치 + meta정보는 postgresql 9.3에 저장 총관리자 2015.04.30 227
233 [보안/인증]javax.net.ssl.SSLHandshakeException: sun.security.validator.ValidatorException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: unable to find valid certification path to requested target발생 원인/조치내용 gooper 2023.10.24 227
232 Cloudera Manager에서 "Mismatched CDH versions: host has NONE but role expects 5 Suppress..."와 같이 오류 발생시 확인사항 총관리자 2018.06.06 228
» HDFS 파일및 디렉토리 생성시 생성방법에 따라 권한이 다르게 부여된다. gooper 2022.05.30 228
230 AIX 7.1에서 hive실행시 "hive: line 86: readlink: command not found" 오류가 발생시 임시 조치사항 총관리자 2016.09.25 234
229 Scala에서 countByWindow를 이용하기(예제) 총관리자 2018.03.08 235
228 AIX 7.1에 Hadoop설치(정리중) 총관리자 2016.09.12 236
227 Windows7 64bit 환경에서 Apache Hadoop 2.7.1설치하기 총관리자 2017.07.26 236
226 down된 broker로 메세지를 전송하려는 경우의 오류 내용및 조치사항 총관리자 2016.08.12 238
225 Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 총관리자 2017.04.26 239
224 ResultSet에서 데이타를 List<Map<String,String>>형태로 만들어서 리턴하는 소스(Collections.sort를 이용한 정렬 가능) 총관리자 2016.12.15 244
223 oozie db변경후 재기동시 "Table 'oozie.VALIDATE_CONN' doesn't exist" 오류 발생시 조치방법 총관리자 2018.05.23 244
222 Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리 총관리자 2018.01.25 246
221 kafka의 re-balance를 이용하여 consumer를 multi thread로 돌려서 topic의 partitions을 활용 총관리자 2015.03.31 248

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로