메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


spark Scala를 이용한 Streaming예제

총관리자 2018.03.08 09:59 조회 수 : 3809


object StreamingRequestCount {
  def main(args: Array[String]) {
    val ssc = new StreamingContext(new SparkContext(),Seconds(2))
    val mystream = ssc.socketTextStream(hostname, port)
    val userreqs = mystream.map(line => (line.split(' ')(2),1))
        .reduceByKey((x,y) => x+y)
    userreqs.print()
    ssc.start()
    ssc.awaitTermination()
  }
}


번호 제목 날짜 조회 수
125 Spark 2.1.1 clustering(5대) 설치(YARN기반) 2016.04.22 4958
124 TLS/SSl설정시 방법및 참고 사항 2021.10.08 4925
123 Kudu tablet이 FAILED일때 원인 확인 방법 2022.01.17 4892
122 VisualVM 1.3.9을 이용한 spark-submit JVM 모니터링을 위한 설정및 spark-submit실행 옵션 2016.10.28 4856
121 banana pi에 hive 0.13.1+mysql(metastore)설치 file 2014.09.09 4856
120 json으로 존재하는 데이터 parsing하기 2019.03.25 4848
119 spark에서 hive table을 읽어 출력하는 예제 소스 2017.03.09 4846
118 [Impala 3.2버젼]compute incremental stats db명.테이블명 수행시 ERROR: AnalysisException: Incremental stats size estimate exceeds 2000.00MB. 오류 발생원인및 조치방안 2022.11.30 4842
117 Impala Admission Control 설정시 쿼리가 사용하는 메모리 사용량 판단 방법 2023.05.19 4840
116 임시 테이블에서 데이터를 읽어서 partitioned table에 입력하는 impala SQL문 예시 2023.11.10 4830
115 [CDP7.1.7]Oozie job에서 ERROR: Kudu error(s) reported, first error: Timed out: Failed to write batch of 774 ops to tablet 8003f9a064bf4be5890a178439b2ba91가 발생하면서 쿼리가 실패하는 경우 2024.01.05 4813
114 impald에서 idle_query_timeout 와 idle_session_timeout 구분 2021.05.20 4802
113 beeline실행시 User: root is not allowed to impersonate오류 발생시 조치사항 2016.06.03 4749
112 Hue impala에서 query결과를 HDFS 파일로 export시 AuthorizationException: User 'gooper1234' does not have privileges to access: db명.query_impala_123456 2022.03.17 4735
111 Hive java connection 설정 file 2013.04.01 4660
110 [TLS/SSL]Cloudera CDH6.3.4기준 Hue TLS설정 항목 2022.05.13 4654
109 hiverserver2기동시 connection refused가 발생하는 경우 조치방법 2014.05.22 4642
108 spark client프로그램 기동시 "Error initializing SparkContext"오류 발생할때 조치사항 2016.05.27 4641
107 hive에서 생성된 external table에서 hbase의 table에 값 insert하기 2014.04.11 4631
106 hive테이블의 물리적인 위치인 HDFS에 여러개의 데이터 파일이 존재할때 한개의 파일로 merge하여 동일한 테이블에 입력하는 방법 2019.05.23 4631
위로