메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


클라우데라 설치
1. binary파일을 다운
wget http://archive.cloudera.com/cm5/installer/latest/cloudera-manager-installer.bin

2. 실행권한 부여
sudo chmod u+x cloudera-manager-installer.bin

3. 설치 진행
sudo ./cloudera-manager-installer.bin

클라우데라 삭제
0. CM에서 Cluster stop및 Cloudera Manager Service를 stop시키고 서비스는 delete하고 Host는 cluster및 cloudera manager에서 제거한다.
1. cloudera-scm-server
 가. sudo /usr/share/cmf/uninstall-cloudera-manager.sh
 나. sudo apt-get remove cloudera-manager-server
 다. sudo apt-get remove cloudera-manager-server-db-2
 라. sudo apt-get purge 'cloudera-manager-*' avro-tools crunch flume-ng hadoop-hdfs-fuse hadoop-hdfs-nfs3 hadoop-httpfs hbase-solr hive-hbase hive-webhcat hue-beeswax hue-hbase hue-impala hue-pig hue-plugins hue-rdbms hue-search hue-spark hue-sqoop hue-zookeeper impala impala-shell kite llama mahout oozie pig pig-udf-datafu search sentry solr-mapreduce spark-python sqoop sqoop2 whirr
 마. sudo rm /tmp/.scm_prepare_node.lock
 바. sudo rm /etc/cloudera-scm-server/db.properties
 사. sudo rm /var/lib/cloudera-scm-agent/cm_guid
 아.  sudo apt-get clean 


 * 참고 : uninstall-cloudera-manager.sh를 사용할 수 없는 경우 아래의 command 2개를 사용한다.
 sudo service cloudera-scm-server stop
 sudo service cloudera-scm-server-db stop

2. cloudera-scm-agent
 가. sudo /usr/sbin/service cloudera-scm-agent next_stop_hard
 나. sudo /usr/sbin/service cloudera-scm-agent stop
 다. sudo apt-get purge 'cloudera-manager-*' avro-tools crunch flume-ng hadoop-hdfs-fuse hadoop-hdfs-nfs3 hadoop-httpfs hbase-solr hive-hbase hive-webhcat hue-beeswax hue-hbase hue-impala hue-pig hue-plugins hue-rdbms hue-search hue-spark hue-sqoop hue-zookeeper impala impala-shell kite llama mahout oozie pig pig-udf-datafu search sentry solr-mapreduce spark-python sqoop sqoop2 whirr
 라. sudo rm /tmp/.scm_prepare_node.lock
 바. sudo rm /var/lib/cloudera-scm-agent/cm_guid


 사. 데이타 디렉토리등 삭제(재설치를 반복하는 경우는 삭제할 필요없음, 완전히 삭제하는 경우만 삭제할것)
   sudo rm -Rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/cloudera* /var/log/cloudera* /var/run/cloudera*
   sudo rm -Rf /var/lib/flume-ng /var/lib/hadoop* /var/lib/hue /var/lib/navigator /var/lib/oozie /var/lib/solr /var/lib/sqoop* /var/lib/zookeeper

번호 제목 날짜 조회 수
287 Flume을 이용한 데이타 수집시 HBase write 성능 튜닝 file 2016.10.31 3112
286 Flume과 Kafka를 사용한 초당 100만개 로그 수집 테스트 file 2016.10.31 4339
285 centos 6에서 mariadb 5.1 to 10.0 으로 upgrade 2016.11.01 2719
284 Kafka Offset Monitor로 kafka 상태 모니터링 하기 file 2016.11.08 4373
283 참고할만한 spark예제를 설명하는 사이트 2016.11.11 3411
282 spark notebook 0.7.0설치및 설정 2016.11.14 3574
281 Mountable HDFS on CentOS 6.x(hadoop 2.7.2의 nfs기능을 이용) 2016.11.24 3803
280 hbase startrow와 endrow를 지정하여 검색하기 샘플 2016.12.07 2876
279 ResultSet에서 데이타를 List<Map<String,String>>형태로 만들어서 리턴하는 소스(Collections.sort를 이용한 정렬 가능) 2016.12.15 4050
278 mongodb aggregation query를 Java code로 변환한 샘플 2016.12.15 4382
277 MongoDB에 있는 특정컬럼의 값을 casting(string->integer)하여 update하기 java 소스 2016.12.19 4016
276 like검색한 결과를 기준으로 집계를 수행하는 java 소스 2016.12.19 4078
275 new Gson().toJson(new ObjectId())을 사용하면 값이 다르게 나오는 경우가 있음 2016.12.23 3785
274 spark 2.0.0를 windows에서 실행시 로컬 파일을 읽을때 발생하는 오류 해결 방법 2017.01.12 3374
273 [JSON 파싱]mongodb의 document를 GSON을 이용하여 parsing할때 ObjectId값에서 오류 발생시 조치방법 2017.01.18 4630
272 HDFS상의 /tmp폴더에 Permission denied오류가 발생시 조치사항 2017.01.25 2763
271 테이블의 row수를 빠르게 카운트 하는 방법 2017.01.26 2512
270 서버중 slave,worker,regionserver만 재기동해야 할때 필요한 기동스크립트및 사용방법 2017.02.03 3900
269 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 3791
268 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 4846
위로