메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


spark Scala를 이용한 Streaming예제

총관리자 2018.03.08 09:59 조회 수 : 69


object StreamingRequestCount {
  def main(args: Array[String]) {
    val ssc = new StreamingContext(new SparkContext(),Seconds(2))
    val mystream = ssc.socketTextStream(hostname, port)
    val userreqs = mystream.map(line => (line.split(' ')(2),1))
        .reduceByKey((x,y) => x+y)
    userreqs.print()
    ssc.start()
    ssc.awaitTermination()
  }
}


번호 제목 글쓴이 날짜 조회 수
30 Query 1234:1234 expired due to client inactivity(timeout is 5m)및 invalid query handle gooper 2022.06.10 81
29 파일끝에 붙는 ^M 일괄 지우기(linux, unix(AIX)) 혹은 파일내에 있는 ^M지우기 총관리자 2016.09.24 78
28 How-to: Tune Your Apache Spark Jobs (Part 2) file 총관리자 2016.10.31 77
27 Query Status: Sender xxx.xxx.xxx.xxx timed out waiting for receiver fragment instance: 1234:cdsf, dest node: 10 의 오류 원인및 대응방안 총관리자 2021.11.03 77
26 small file 한개 파일로 만들기(text file 혹은 parquet file의 테이블) gooper 2022.07.04 75
25 kudu hms check 사용법(예시) 총관리자 2021.10.22 69
» Scala를 이용한 Streaming예제 총관리자 2018.03.08 69
23 Scala버젼 변경 혹은 상황에 맞게 Spark소스 컴파일하기 총관리자 2016.05.31 67
22 [impala]쿼리 수행중 발생하는 오류(due to memory pressure: the memory usage of this transaction, Failed to write to server) gooper 2022.10.05 67
21 [TLS/SSL]Kudu Master 설정하기 총관리자 2022.05.13 61
20 [hive] hive.tbls테이블의 owner컬럼값은 hadoop.security.auth_to_local에 의해서 filtering된다. 총관리자 2022.04.14 55
19 [Impala jdbc]CDP7.1.7환경에서 java프로그램을 이용하여 kerberized impala cluster에 접근하여 SQL을 수행하는 방법 gooper 2023.08.22 54
18 spark 온라인 책자링크 (제목 : mastering-apache-spark) 총관리자 2016.05.25 48
17 [CDP7.1.7]impala-shell을 이용하여 kudu table에 insert/update수행시 발생하는 오류(Transport endpoint is not connected (error 107)) 발생시 확인할 내용 gooper 2023.11.30 40
16 spark에서 hive table을 읽어 출력하는 예제 소스 총관리자 2017.03.09 37
15 [KUDU] kudu tablet server여러가지 원인에 의해서 corrupted상태가 된 경우 복구방법 gooper 2023.03.28 37
14 spark에서 hive table을 읽어 출력하는 예제 소스 총관리자 2017.03.09 35
13 [TLS/SSL]Kudu Tablet Server설정 총관리자 2022.05.13 35
12 AnalysisException: Incomplatible return type 'DECIMAL(38,0)' and 'DECIMAL(38,5)' of exprs가 발생시 조치 총관리자 2021.07.26 33
11 Failed to write to server: (no server available): 총관리자 2022.01.17 32

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로