메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


0. 모니터링(MR, YARN, HBASE)

  가. http://master:8088/cluster

  나. http://master:50070/dfshealth.html#tab-datanode

  다. http://master:60010/master-status

1. hadoop 1.X

  가. hadoop 관련 데몬 모두 start

     start-all.sh

  나. hadoop 관련 데몬 모두 stop

     stop-all.sh

  다. 안전모드 벗어나기

     hadoop dfsadmin -safemode leave

  라.map/reduce admin모니터링

    http://localhost:50030/jobtracker.jsp

  마. namenode 모니터링

    http://localhost:50070/dfshealth.jsp

  바. 기타

    start-dfs.sh - Hadoop DFS daemon들(namenode and datanodes)을 기동함.(start-mapred.sh을 실행가지 전에 실행할 것)
    stop-dfs.sh - Hadoop DFS daemon 들을 중지함.
    start-mapred.sh - Hadoop Map/Reduce daemonem들(jobtracker 와 tasktracker들)을 기동함.
    stop-mapred.sh - Hadoop Map/Reduce daemon들을 중지함.
    start-all.sh - 모든 Hadoop daemon들(namenode, datanode들, jobtracker, tasktracker들) 기동함
                         (앞으로는 start-dfs.sh 과 start-mapred.sh을 연속 실행할것)
    stop-all.sh - 모든 Hadoop daemon들을 중지시킴

                         (앞으로는 stop-mapred.sh 과 stop-dfs.sh을 연속 실행할것)

  사. namenode만 stop/start

    hadoop-daemon.sh stop/start namenode

1-1. hadoop 2.X

  가. nodemanager

      yarn-daemon.sh start nodemanager

  나. datanode

       hadoop-daemon.sh start datanode

  다. resourcemanager

       yarn-daemon.sh start resourcemanager

  라. namenode

       hadoop-daemon.sh start namenode

  마. zkfc

    hadoop-daemon.sh start zkfc

2. oozie

  가. oozie start

    oozie-start.sh

   나. oozie stop

    oozie-stop.sh

   다.  모니터링

    http://localhost:11000/oozie

  라. xml유효성 체크

    oozie validate workflow.xml

3. hive

  가. 시작/종료

       nohup hive --service metastore>$HIVE_LOG_DIR/hive.out 2>$HIVE_LOG_DIR/hive.log & 를 먼저 실행함

  나. hive  shell 실행(hbase연동 작업할 경우)

    hive --auxpath /home/hadoop/hive/lib/hbase-0.94.6.1.jar,/home/hadoop/hive/lib/zookeeper-3.4.3.jar,/home/hadoop/hive/lib/hive-hbase-handler-0.11.0.jar,/home/hadoop/hive/lib/guava-11.0.2.jar,/home/hadoop/hive/lib/hive-contrib-0.11.0.jar -hiveconf hbase.master=localhost:60000

 다. metastore 서버기동

    hive --service metastore &
 라. hiveserver2 서버기동

     hive --service hiveserver2

4. ubuntu

  가......

5. mysql

  가.  sql파일을 이용하여 일괄 실행

      mysql -uUserId -pPassword DataBaseName  --default-character-set=utf-8 < ExportFileName.sql

  나. mysql dump명령

     mysqldump -u gooper -p gooper > gooper_db_20140321.sql

  다. mysql shell들어가기

    mysql -u root -p

6. hbase

  가. start

    start-hbase.sh

  나. stop

    stop-hbase.sh

  다. hmaster 기동/중지/restart

    hbase-daemon.sh start/stop master

  라. regionmaster 기동/중지/restart

    hbase-daemon.sh start/stop/restart regionserver

  마. 모니터링

    -RegionServer

    http://localhost:60030/

   - HMaster

    http://localhost:60010/


  바. thrift server기동

    hadoop@bigdata-host:~/hadoop/working$ hbase thrift start

7. zookeeper

  가. 시작

    zkServer.sh start

  나. 중지

    zkServer.sh stop

  다. zk shell

    zkCli.sh -server localhost:2181

 

-----------------hadoop 2.X---------------------------
Daemon포트

  • NameNode : 50070
  • ResourceManager : 8088
  • MapReduece JobHitory : 19888 
번호 제목 글쓴이 날짜 조회 수
319 It is indirectly referenced from required .class files 오류 발생시 조치방법 총관리자 2017.03.09 93
318 HA(Namenode, ResourceManager, Kerberos) 및 보안(Zookeeper, Hadoop) 총관리자 2018.03.16 93
317 [TLS/SSL]Cloudera CDH6.3.4기준 Hue TLS설정 항목 총관리자 2022.05.13 93
316 kafkaWordCount.scala의 producer와 consumer 클래스를 이용하여 kafka를 이용한 word count 테스트 하기 총관리자 2016.08.02 97
315 참고할만한 spark예제를 설명하는 사이트 총관리자 2016.11.11 98
314 Hue Load Balancer를 L4로 L/B하는 경우는 L4쪽 도멘인으로 발행된 인증서를 TLS/SSL항목에 설정해주어야 한다. 총관리자 2021.10.08 101
313 [CDP7.1.7]BDR작업후 오류로 Diagnostic Data를 수집하는 동안 "No content to map due to end-of-input at [Source: (String)""; line: 1, column: 0]" 오류 발생시 조치 gooper 2024.02.20 101
312 [AD(LADP)] CDP1.7에서 AD및 Kerberos를 연동해도 각 노드에 os account, os group은 생성되어야 하지만 SSSD서비스를 이용하면 직접 생성될 필요가 없다. gooper 2022.06.10 105
311 centos 6에서 mariadb 5.1 to 10.0 으로 upgrade 총관리자 2016.11.01 106
310 spark 2.0.0를 windows에서 실행시 로컬 파일을 읽을때 발생하는 오류 해결 방법 총관리자 2017.01.12 106
309 [Impala TLS/SSL이슈]RangerAdminRESTClient.java:151] Failed to get response, Error is: TrustManager is not specified gooper 2023.02.02 106
308 impala external 테이블 생성시 컬럼과 라인 구분자를 지정하여 테이블 생성하는 예시 총관리자 2020.02.20 107
307 hue.axes_accessattempt테이블 데이터 샘플 총관리자 2020.02.10 108
306 kudu 테이블 metadata강제 삭제시 발생하는 오류 메세지 총관리자 2022.01.12 109
305 Toree 0.1.0-incubating이 Scala 2.10.4까지만 지원하게 되어서 발생하는 NoSuchMethod오류 문제 해결방법(scala 2.11.x을 지원하지만 오류가 발생할 수 있음) 총관리자 2018.04.20 110
304 Impala daemon기동시 "Could not create temporary timezone file"오류 발생시 조치사항 총관리자 2018.03.29 113
303 하둡 클러스터 전체 노드를 다시 기동하면 invalidate metadata를 수행해야 데이터가 틀어지지 않는다. 총관리자 2019.05.20 114
302 hadoop에서 yarn jar ..를 이용하여 appliction을 실행하여 정상적으로 수행되었으나 yarn UI의 어플리케이션 목록에 나타나지 않는 문제 총관리자 2017.05.02 117
301 tablet별 disk사용량 확인하는 방법 총관리자 2021.08.27 118
300 ./hadoop-daemon.sh start namenode로 namenode기동시 EditLog의 custerId, namespaceId가 달라서 발생하는 오류 해결방법 총관리자 2016.09.24 119

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로