메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


아래와 같은 오류가 발생하면..
mapred-site.xml에 아래 내용이 있는지 확인하고 port를 반드시 지정해야 하는데 지정하지 않아서 발생하는 오류이다.

<property>
  <name>mapreduce.jobhistory.address</name>
  <value>master</value>
  <description>job history server</description>
</property>
<property>
  <name>mapreduce.jobhistory.webapp.address</name>
  <value>master</value>
  <description>job history server</description>
</property>
-->
<property>
  <name>mapreduce.jobhistory.address</name>
  <value>master:7001</value>
  <description>job history server</description>
</property>
<property>
  <name>mapreduce.jobhistory.webapp.address</name>
  <value>master:8001</value>
  <description>job history server</description>
</property>
와 같이 바꿔준다.

------------------------------------오류내용 --------------------------------------
java.lang.IllegalArgumentException: Does not contain a valid host:port authority: master
    at org.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:211)
    at org.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:163)
    at org.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:152)
    at org.apache.hadoop.mapred.ClientCache$1.run(ClientCache.java:95)
    at org.apache.hadoop.mapred.ClientCache$1.run(ClientCache.java:92)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:356)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1594)
    at org.apache.hadoop.mapred.ClientCache.instantiateHistoryProxy(ClientCache.java:92)
    at org.apache.hadoop.mapred.ClientCache.getInitializedHSProxy(ClientCache.java:77)
    at org.apache.hadoop.mapred.YARNRunner.addHistoryToken(YARNRunner.java:184)
    at org.apache.hadoop.mapred.YARNRunner.submitJob(YARNRunner.java:281)
    at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:432)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1285)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1282)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1614)
    at org.apache.hadoop.mapreduce.Job.submit(Job.java:1282)
    at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1303)
    at org.apache.hadoop.examples.WordCount.main(WordCount.java:87)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:72)
    at org.apache.hadoop.util.ProgramDriver.run(ProgramDriver.java:145)
    at org.apache.hadoop.examples.ExampleDriver.main(ExampleDriver.java:74)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:212)
-------------------------------------------------------------------------------------------------
번호 제목 글쓴이 날짜 조회 수
177 CentOS에서 리눅스(Linux) 포트 열기, 방화벽 설정/해제 등. 총관리자 2016.03.14 228
176 Spark Streaming으로 유실 없는 스트림 처리 인프라 구축하기 총관리자 2016.03.11 137
175 System Properties Comparison Elasticsearch vs. Hive vs. Jena file 총관리자 2016.03.10 285
174 TopBraid Composer에서 SPIN 사용법 file 총관리자 2016.02.25 104
173 SPIN(SPARQL Inference Notation)이란.. file 총관리자 2016.02.25 73
172 SPARQL의 유형, SPARQL 만들기등에 대한 설명 총관리자 2016.02.18 274
171 select와 group by결과 값이 없는경우의 리턴 값이 다름 file 총관리자 2016.02.05 119
170 ?a는 모두 표시하면서 ?b와 비교하여 ?a=?b는 ""로 하고 ?a!=?b 인경우는 해당값을 가지는 결과 집합을 구하는 경우 file 총관리자 2016.01.29 144
169 ?a는 모두 표시하면서 ?b와 비교하여 ?a=?b는 표시하고 ?a!=?b 인경우는 ""로 구성된 결과 집합을 구하는 경우 file 총관리자 2016.01.29 255
168 null 혹은 ""를 체크하는 방법 총관리자 2016.01.27 160
167 sparql 1.1 BIND(if() as ?bind변수) 버그로 추정되는 문제점및 해결방안 -> select 문에 (if(,,) as ?bind변수) file 총관리자 2016.01.21 257
166 CDH 5.4.4 버전에서 hive on tez (0.7.0)설치하기 총관리자 2016.01.14 158
165 한번에 여러값 update하기 총관리자 2016.01.13 134
164 문자열을 숫자(integer)로 casting하기 총관리자 2016.01.13 175
163 update(update와 delete->insert)사용시 주의/참고사항 총관리자 2016.01.06 146
162 fuseki에 update하는 방법(java api이용)및 주의 사항 총관리자 2015.12.30 258
161 mongodb에서 큰데이타 sort시 오류발생에 대한 해결방법 총관리자 2015.12.22 145
160 console명령과 API비교 총관리자 2015.12.21 120
159 java quartz 시간 설정 참고사항 총관리자 2015.12.16 179
158 천문학적, 기후학적, 기상학적, 생물학적, 농사계절 구분 총관리자 2015.12.16 147

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로