메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


디스크

서비스인스턴스설명경로
 HBaseMasterMaster 로그 디렉토리/var/log/hbase
 HBaseMaster힙 덤프 디렉토리/tmp
 HBaseMaster스택 수집 디렉토리/var/log/hbase/stacks
 HBaseRegionServerRegionServer 로그 디렉토리/var/log/hbase
 HBaseRegionServer힙 덤프 디렉토리/tmp
 HBaseRegionServer스택 수집 디렉토리/var/log/hbase/stacks
 HDFSDataNodeDataNode 데이터 디렉토리 (1/1)/dfs/dn
 HDFSDataNodeDataNode 로그 디렉토리/var/log/hadoop-hdfs
 HDFSDataNode힙 덤프 디렉토리/tmp
 HDFSDataNode스택 수집 디렉토리/var/log/hadoop-hdfs/stacks
 HDFSNameNodeNameNode 데이터 디렉토리 (1/1)/dfs/nn
 HDFSNameNodeNameNode 로그 디렉토리/var/log/hadoop-hdfs
 HDFSNameNode힙 덤프 디렉토리/tmp
 HDFSNameNode스택 수집 디렉토리/var/log/hadoop-hdfs/stacks
 HiveHive Metastore Server힙 덤프 디렉토리/tmp
 HiveHive Metastore Server스택 수집 디렉토리/var/log/hive/stacks
 HiveHive Metastore ServerHive Metastore Server Log Dir/var/log/hive
 HiveHive Metastore Server메트릭 샘플 파일 위치/var/log/hive/metrics-hivemetastore/metrics.log
 HiveHiveServer2힙 덤프 디렉토리/tmp
 HiveHiveServer2스택 수집 디렉토리/var/log/hive/stacks
 HiveHiveServer2Hive Audit Log Directory/var/log/hive/audit
 HiveHiveServer2Hive Lineage Log Directory/var/log/hive/lineage
 HiveHiveServer2HiveServer2 Log Dir/var/log/hive
 HiveHiveServer2메트릭 샘플 파일 위치/var/log/hive/metrics-hiveserver2/metrics.log
 HueLoad BalancerHue Load Balancer 로그 디렉토리/var/log/hue-httpd
 HueHue ServerHue Server Log Directory/var/log/hue
 HueHue Server메트릭 샘플 파일 위치/var/log/hue/metrics-hue_server/metrics.log
 ImpalaImpala Catalog ServerCatalog Server 로그 디렉토리/var/log/catalogd
 ImpalaImpala Catalog ServerCatalog Server Core Dump 디렉토리/var/log/catalogd
 ImpalaImpala Catalog ServerCatalog Server Breakpad 덤프 디렉토리/var/log/impala-minidumps
 ImpalaImpala Catalog Server힙 덤프 디렉토리/tmp
 ImpalaImpala Catalog Server스택 수집 디렉토리/var/log/catalogd/stacks
 ImpalaImpala DaemonImpala Daemon 스크래치 디렉토리 (1/1)/impala/impalad
 ImpalaImpala DaemonImpala Daemon 로그 디렉토리/var/log/impalad
 ImpalaImpala DaemonImpala Daemon 감사 로그 디렉토리/var/log/impalad/audit
 ImpalaImpala DaemonImpala Daemon 계보 로그 디렉토리/var/log/impalad/lineage
 ImpalaImpala Daemon로컬 UDF 라이브러리 Dir/var/lib/impala/udfs
 ImpalaImpala DaemonImpala Daemon Core Dump 디렉토리/var/log/impalad
 ImpalaImpala DaemonImpala Daemon Breakpad 덤프 디렉토리/var/log/impala-minidumps
 ImpalaImpala StateStoreStateStore 로그 디렉토리/var/log/statestore
 ImpalaImpala StateStoreStateStore Core Dump 디렉토리/var/log/statestore
 ImpalaImpala StateStoreStatestore Breakpad 덤프 디렉토리/var/log/impala-minidumps
 Key-Value Store IndexerLily HBase IndexerHBase Indexer 로그 디렉토리/var/log/hbase-solr
 Key-Value Store IndexerLily HBase Indexer힙 덤프 디렉토리/tmp
 Key-Value Store IndexerLily HBase Indexer스택 수집 디렉토리/var/log/hbase-solr/stacks
 Cloudera Management ServiceAlert PublisherAlert Publisher 로그 디렉토리/var/log/cloudera-scm-alertpublisher
 Cloudera Management ServiceAlert Publisher힙 덤프 디렉토리/tmp
 Cloudera Management ServiceAlert Publisher스택 수집 디렉토리/var/log/cloudera-scm-alertpublisher/stacks
 Cloudera Management ServiceEvent ServerEvent Server 인덱스 디렉토리/var/lib/cloudera-scm-eventserver
 Cloudera Management ServiceEvent ServerEvent Server 로그 디렉토리/var/log/cloudera-scm-eventserver
 Cloudera Management ServiceEvent Server힙 덤프 디렉토리/tmp
 Cloudera Management ServiceEvent Server스택 수집 디렉토리/var/log/cloudera-scm-eventserver/stacks
 Cloudera Management ServiceHost MonitorHost Monitor 로그 디렉토리/var/log/cloudera-scm-firehose
 Cloudera Management ServiceHost MonitorHost Monitor 스토리지 디렉토리/var/lib/cloudera-host-monitor
 Cloudera Management ServiceHost Monitor힙 덤프 디렉토리/tmp
 Cloudera Management ServiceHost Monitor스택 수집 디렉토리/var/log/cloudera-scm-firehose/stacks
 Cloudera Management ServiceReports ManagerReports Manager 로그 디렉토리/var/log/cloudera-scm-headlamp
 Cloudera Management ServiceReports ManagerReports Manager 작업 디렉토리/var/lib/cloudera-scm-headlamp
 Cloudera Management ServiceReports Manager힙 덤프 디렉토리/tmp
 Cloudera Management ServiceReports Manager스택 수집 디렉토리/var/log/cloudera-scm-headlamp/stacks
 Cloudera Management ServiceService MonitorService Monitor 로그 디렉토리/var/log/cloudera-scm-firehose
 Cloudera Management ServiceService MonitorService Monitor 스토리지 디렉토리/var/lib/cloudera-service-monitor
 Cloudera Management ServiceService Monitor힙 덤프 디렉토리/tmp
 Cloudera Management ServiceService Monitor스택 수집 디렉토리/var/log/cloudera-scm-firehose/stacks
 OozieOozie ServerOozie Server 로그 디렉토리/var/log/oozie
 OozieOozie Server힙 덤프 디렉토리/tmp
 OozieOozie Server스택 수집 디렉토리/var/log/oozie/stacks
 SolrSolr ServerSolr Server 로그 디렉토리/var/log/solr
 SolrSolr ServerSolr 데이터 디렉토리/var/lib/solr
 SolrSolr Server힙 덤프 디렉토리/tmp
 SolrSolr Server스택 수집 디렉토리/var/log/solr/stacks
 SparkHistory ServerHistory Server 로그 디렉토리/var/log/spark
 SparkHistory Server힙 덤프 디렉토리/tmp
 SparkHistory Server스택 수집 디렉토리/var/log/spark/stacks
 YARN (MR2 Included)JobHistory ServerJobHistory Server 로그 디렉토리/var/log/hadoop-mapreduce
 YARN (MR2 Included)JobHistory Server힙 덤프 디렉토리/tmp
 YARN (MR2 Included)JobHistory Server스택 수집 디렉토리/var/log/hadoop-mapreduce/stacks
 YARN (MR2 Included)NodeManagerNodeManager 로컬 디렉토리 (1/1)/yarn/nm
 YARN (MR2 Included)NodeManagerNodeManager 컨테이너 로그 디렉토리 (1/1)/yarn/container-logs
 YARN (MR2 Included)NodeManagerNodeManager 복구 디렉토리/var/lib/hadoop-yarn/yarn-nm-recovery
 YARN (MR2 Included)NodeManagerNodeManager 로그 디렉토리/var/log/hadoop-yarn
 YARN (MR2 Included)NodeManager힙 덤프 디렉토리/tmp
 YARN (MR2 Included)NodeManager스택 수집 디렉토리/var/log/hadoop-yarn/stacks
 YARN (MR2 Included)ResourceManagerResourceManager 로그 디렉토리/var/log/hadoop-yarn
 YARN (MR2 Included)ResourceManager힙 덤프 디렉토리/tmp
 YARN (MR2 Included)ResourceManager스택 수집 디렉토리/var/log/hadoop-yarn/stacks
 ZooKeeperServer데이터 디렉토리/var/lib/zookeeper
 ZooKeeperServer트랜잭션 로그 디렉토리/var/lib/zookeeper
 ZooKeeperServerZooKeeper 로그 디렉토리/var/log/zookeeper
 ZooKeeperServer힙 덤프 디렉토리/tmp
 ZooKeeperServer스택 수집 디렉토리/var/log/zookeeper/stacks


번호 제목 글쓴이 날짜 조회 수
240 impala테이블 쿼리시 max_row_size 관련 오류가 발생할때 조치사항 총관리자 2020.02.12 217
239 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 총관리자 2022.03.17 217
238 Cloudera설치중에 "Error, CM server guid updated"오류 발생시 조치방법 총관리자 2018.03.29 225
237 Kafka의 API중 Consumer.createJavaConsumerConnector()를 이용하고 다수의 thread를 생성하여 Kafka broker의 topic에 접근하여 데이타를 가져오고 처리하는 예제 소스 총관리자 2017.04.26 226
236 [postgresql 9.x] PostgreSQL Replication 구축하기 총관리자 2018.07.17 226
235 hive 0.13.1 설치 + meta정보는 postgresql 9.3에 저장 총관리자 2015.04.30 227
234 Cloudera Manager에서 "Mismatched CDH versions: host has NONE but role expects 5 Suppress..."와 같이 오류 발생시 확인사항 총관리자 2018.06.06 228
233 HDFS 파일및 디렉토리 생성시 생성방법에 따라 권한이 다르게 부여된다. gooper 2022.05.30 228
232 [CDP7.1.7]BDR작업후 오류로 Diagnostic Data를 수집하는 동안 "No content to map due to end-of-input at [Source: (String)""; line: 1, column: 0]" 오류 발생시 조치 gooper 2024.02.20 233
231 AIX 7.1에서 hive실행시 "hive: line 86: readlink: command not found" 오류가 발생시 임시 조치사항 총관리자 2016.09.25 235
230 Scala에서 countByWindow를 이용하기(예제) 총관리자 2018.03.08 235
229 AIX 7.1에 Hadoop설치(정리중) 총관리자 2016.09.12 236
228 Windows7 64bit 환경에서 Apache Hadoop 2.7.1설치하기 총관리자 2017.07.26 236
227 [보안/인증]javax.net.ssl.SSLHandshakeException: sun.security.validator.ValidatorException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: unable to find valid certification path to requested target발생 원인/조치내용 gooper 2023.10.24 236
226 down된 broker로 메세지를 전송하려는 경우의 오류 내용및 조치사항 총관리자 2016.08.12 238
225 Hbase API를 이용하여 scan시 페이징을 고려하여 목록을 가져올때 사용할 수 있는 로직의 예시를 보여줌 총관리자 2017.04.26 239
224 oozie db변경후 재기동시 "Table 'oozie.VALIDATE_CONN' doesn't exist" 오류 발생시 조치방법 총관리자 2018.05.23 244
223 ResultSet에서 데이타를 List<Map<String,String>>형태로 만들어서 리턴하는 소스(Collections.sort를 이용한 정렬 가능) 총관리자 2016.12.15 246
222 Hadoop의 Datanode를 Decommission하고 나서 HBase의 regionservers파일에 해당 노드명을 지웠는데 여전히 "Dead regionser"로 표시되는 경우 처리 총관리자 2018.01.25 246
221 kafka의 re-balance를 이용하여 consumer를 multi thread로 돌려서 topic의 partitions을 활용 총관리자 2015.03.31 248

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로