Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다.
문의사항은 gooper@gooper.com로 메일을
보내주세요.
Cloudera Manager -> Spark의 선택메뉴에서 Create History Directory 메뉴를 실행시켜주면 관련 폴더를 생성하고 다시 기동시켜주면 정상적으로 기동된다.
------------------------------오류내용---------------------------------
Caused by: java.lang.IllegalArgumentException: Log directory specified does not exist: hdfs://nameservice/user/spark/applicationHistory.
at org.apache.spark.deploy.history.FsHistoryProvider.org$apache$spark$deploy$history$FsHistoryProvider$$startPolling(FsHistoryProvider.scala:199)
at org.apache.spark.deploy.history.FsHistoryProvider.initialize(FsHistoryProvider.scala:151)
at org.apache.spark.deploy.history.FsHistoryProvider.<init>(FsHistoryProvider.scala:147)
at org.apache.spark.deploy.history.FsHistoryProvider.<init>(FsHistoryProvider.scala:74)
... 6 more
댓글 0
번호 | 제목 | 글쓴이 | 날짜 | 조회 수 |
---|---|---|---|---|
680 | dual table만들기 | 총관리자 | 2014.05.16 | 822 |
679 | 특정파일이 생성되어야 action이 실행되는 oozie job만들기(coordinator.xml) | 총관리자 | 2014.05.20 | 984 |
678 | source의 type을 spooldir로 하는 경우 해당 경로에 파일이 들어오면 파일단위로 전송함 | 총관리자 | 2014.05.20 | 687 |
677 | hive에서 insert overwrite directory.. 로 하면 default column구분자는 'SOH'혹은 't'가 됨 | 총관리자 | 2014.05.20 | 999 |
676 | import 혹은 export할때 hive파일의 default 구분자는 --input-fields-terminated-by " |