메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


1.바나나파이 구매하여 클러스터로 엮어볼 생각이다.

바나나파이는 ARM 1GHZ dual core CPU, 1G 메모리, sata 하드지원, 1Gbit 이더넷의 사양이다.

hadoop작업에서는 컴 사양보다.. 원할한 네트웍 트래픽이 더 중요한 문제이기 때문에 바나나파이를 선택했다.

또한 sata 인터페이스를 이용하여 2T까지 일반 sata를 연결할 수 있다는 장점이 있다.(이 점은 다른 원보드 pc에서 거의 지원하지 않는 부분임)

2. aliexpress.com에서  2개, 2개+sata cable 10개, 5V 10A 아답터 한개 신청했다.

나머지 스위치허브, usb케이블, 네트웍케이블은 천천히 국내에서 구매할 생각이다.


3. 기바비트 8포트 스위칭허브

사진


4. 바나나 파이 2개+sata 케이블 10개

사진


5. 전원공급용 5V 10A 어뎁터

사진


6. 전원공급용 micro usb케이블 10개

사진


* banana pi에 hadoop설치하고 mapreduce프로그램을 돌려 보는 테스트는 아래 URL에 작성해두었다.

https://www.gooper.com/ss/bigdata/2975


번호 제목 글쓴이 날짜 조회 수
681 hadoop설치시 참고사항 구퍼 2013.03.08 2131
680 solr설치및 적용관련 file 총관리자 2014.09.27 2124
679 W/F수행후 Logs not available for 1. Aggregation may not to complete. 표시되며 로그내용이 보이지 않은 경우 총관리자 2020.05.08 2110
678 hbase에 필요한 jar들 구퍼 2013.04.01 2100
677 ../depcomp: line 512 exec : g++ : not found 구퍼 2013.03.08 2062
676 Hive java connection 설정 file 구퍼 2013.04.01 2013
675 RHadoop을 통해서 웹사이트의 방문자수를 예측하는 방법 총관리자 2014.09.26 2007
674 통계자료 구할수 있는 곳 총관리자 2014.04.16 1966
673 Hadoop 설치 및 시작하기 file 구퍼 2013.03.06 1951
672 hbase shell 필드 검색 방법 총관리자 2015.05.24 1900
671 VisualVM 1.3.9을 이용한 spark-submit JVM 모니터링을 위한 설정및 spark-submit실행 옵션 총관리자 2016.10.28 1891
670 Hadoop wordcount 소스 작성 file 구퍼 2013.03.06 1888
669 Spark 2.1.1 clustering(5대) 설치(YARN기반) 총관리자 2016.04.22 1882
668 ubuntu에 hadoop 2.0.5설치하기 총관리자 2013.12.16 1882
667 MySQL 다운로드 및 리눅스에서 간단 컴파일 설치 구퍼 2013.03.08 1869
666 hadoop 2.6.0에 sqoop2 (1.99.5) server및 client설치 == fail 총관리자 2015.06.11 1770
665 VirtualBox에 ubuntu 설치 하기 (12.10) file 구퍼 2013.03.04 1768
664 java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: Hive Runtime Error: Unable to deserialize reduce input key from...오류해결방법 총관리자 2015.06.16 1759
663 hive에서 생성된 external table에서 hbase의 table에 값 insert하기 총관리자 2014.04.11 1748
662 [sbt] sbt-assembly를 이용하여 실행에 필요한 모든 j라이브러리를 포함한 fat jar파일 만들기 총관리자 2016.07.11 1738

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로