메뉴 건너뛰기

검색창 닫기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


Cloudera CDH/CDP cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임

총관리자 2018.06.20 14:22 조회 수 : 181

cloudera에서 spark-shell를 실행했을때 default master는 spark.master=yarn-client임.
/etc/spark/conf에 있는 환경정보를 확인하면 아래와 같은 부분을 찾아볼 수 있다.
spark.master=yarn-client

그래서 아래와 같은 오류 메세지가 보인다면 standalone모드로 spark-shell를 실행하고 있다는 의미이며 이는 cloudera가 설치한 설정정보들을 읽지 않고 다른 spark프로그램(기존에 설치된 spark2.x같은)이 설정한 정보나 프로그램을 이용하고 있다고 볼수 있다.(기존 프로그램을 돌리기 위한 환경설정 정보를 확인할 필요가 있음)
Caused by: io.netty.channel.AbstractChannel$AnnotatedConnectException: Connection refused: gsda1/XXX.XXX.XXX.XXX:7077


이 게시물을
목록
번호 제목 글쓴이 날짜 조회 수
341 ntp시간 맞추기 총관리자 2018.09.12 249
340 centos에 sbt 0.13.5 설치 총관리자 2016.05.30 251
339 우분투에서 패키지 설치시 E: Sub-process /usr/bin/dpkg returned an error code 발생시 조치 총관리자 2017.05.02 252
338 How-to: Build a Complex Event Processing App on Apache Spark and Drools file 총관리자 2016.10.31 253
337 ?a는 모두 표시하면서 ?b와 비교하여 ?a=?b는 표시하고 ?a!=?b 인경우는 ""로 구성된 결과 집합을 구하는 경우 file 총관리자 2016.01.29 255
336 HiveServer2인증을 PAM을 이용하도록 설정하는 방법 총관리자 2018.07.21 255
335 DB별 JDBC 드라이버 총관리자 2015.10.02 256
334 Not enough replica available for query at consistency QUORUM가 발생하는 경우 총관리자 2017.06.21 256
333 sparql 1.1 BIND(if() as ?bind변수) 버그로 추정되는 문제점및 해결방안 -> select 문에 (if(,,) as ?bind변수) file 총관리자 2016.01.21 257
332 fuseki에 update하는 방법(java api이용)및 주의 사항 총관리자 2015.12.30 258
331 Windows7 64bit 환경에서 Apache Spark 2.2.0 설치하기 총관리자 2017.07.26 260
330 hive metastore db중 TBLS, TABLE_PARAMS테이블 설명 총관리자 2021.10.22 260
329 kafka에서 메세지 중복 consume이 발생할 수 있는 상황 총관리자 2018.10.23 262
328 [MemoryLeak분석]다수의 MongoCleaner 쓰레드가 Sleep상태에 있으면서 Full GC가 계속 발생되는 문제 해결방법 file 총관리자 2017.01.11 265
327 hbase가 기동시키는 zookeeper에서 받아드리는 ip가 IPv6로 사용되는 경우가 있는데 이를 IPv4로 강제적용하는 방법 총관리자 2015.05.08 268
326 solr 데몬이 떠있는 동안 hadoop이 다운되는 경우 Index dir 'hdfs://mycluster/user/../core_node2/data/index/' of core 'gc_shard1_replica2' is already locked라논 오류가 발생하는데 이에 대한 조치사항 총관리자 2018.01.04 268
325 [sap] Error: java.io.IOException: SQLException in nextKeyValue 오류 발생 총관리자 2020.06.08 272
324 SPARQL의 유형, SPARQL 만들기등에 대한 설명 총관리자 2016.02.18 274
323 nc -l 7777 : 7777포트에서 입력을 받는다. 총관리자 2017.03.23 278
322 impala2를 Cloudera Manager가 아닌 수동으로 설치하는 방법 총관리자 2018.05.30 281
쓰기 태그

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로