메뉴 건너뛰기

Bigdata, Semantic IoT, Hadoop, NoSQL

Bigdata, Hadoop ecosystem, Semantic IoT등의 프로젝트를 진행중에 습득한 내용을 정리하는 곳입니다.
필요한 분을 위해서 공개하고 있습니다. 문의사항은 gooper@gooper.com로 메일을 보내주세요.


1. microservice pattern책의 부록 부분을 참고하여 window에서 리눅스를 사용할 수 있도록(WSL2등) 설치/설정한다.


2. kubernetes로 서비스를 기동할때 몇가지 수정해야할 부분이 있다. 

  (kubernetes가 버젼이 올라가면서 예제로 만들어진 kubernetes기동용 yaml과 script자체가 잘못되거나 없어진 옵션을 사용하고 있어 몇가지를 수정해야한다.)

  가. apps/v1beta1를 apps/v1로 수정

  나. extentions/v1beta1를 apps/v1로 수정

  다. selector.matchLabels.app에 app이름 추가

  라. metadata의 label항목에 app: app이름 추가


3. github소스 받아 build및 docker이미 생성

가. git clone github.com/microservice-patterns/ftgo-application

나. cd ftgo-application

다. ./gradlew buildContracts

라. ./gradlew assemble


4. container 배포

가. cd ~/ftgo-application/deployment/kubernetes/scripts

나. ./kubernetes-deploy-all.sh 

gooper@DESKTOP-PJ7F3IU:~/ftgo-application/deployment/kubernetes/scripts$ ./kubernetes-deploy-all.sh

secret/ftgo-db-secret created

service/ftgo-dynamodb-local created

statefulset.apps/ftgo-dynamodb-local created

job.batch/ftgo-dynamodb-local-init created

service/ftgo-kafka created

statefulset.apps/ftgo-kafka created

service/ftgo-mysql created

statefulset.apps/ftgo-mysql created

service/ftgo-zookeeper created

statefulset.apps/ftgo-zookeeper created

....................................................................................................................................connected

service/ftgo-cdc-service created

deployment.apps/ftgo-cdc-service created


5. container삭제

gooper@DESKTOP-PJ7F3IU:~/ftgo-application/deployment/kubernetes/scripts$ ./kubernetes-delete-all.sh

service "ftgo-cdc-service" deleted

deployment.apps "ftgo-cdc-service" deleted

secret "ftgo-db-secret" deleted

service "ftgo-dynamodb-local" deleted

statefulset.apps "ftgo-dynamodb-local" deleted

job.batch "ftgo-dynamodb-local-init" deleted

service "ftgo-kafka" deleted

statefulset.apps "ftgo-kafka" deleted

service "ftgo-mysql" deleted

statefulset.apps "ftgo-mysql" deleted

service "ftgo-zookeeper" deleted

statefulset.apps "ftgo-zookeeper" deleted


6. port forwarding하기 (이거 반드시 실행해줘야 한다)

가. cd ~/ftgo-application/deployment/kubernetes/scripts

나. ./port-forwards.sh


7. swagger ui를 이용한 서비스 테스트

가. consumer controller; http://127.0.0.1:8081/swagger-ui/

나. order controller, restaurant conroller; http://127.0.0.1:8082/swagger-ui/

다. kitchen controller, restaurant conroller; http://127.0.0.1:8083/swagger-ui/

라. basic error controller, operation handler, restaurant conrolle, web-mvc-link-handler ; http://127.0.0.1:8084/swagger-ui/

마. accounts controller; http://127.0.0.1:8085/swagger-ui/


* 수정해야 하는 파일 #1

gooper@DESKTOP-PJ7F3IU:~/ftgo-application/deployment/kubernetes/scripts$ ls -al ~/ftgo-application/*/src/deployment/kubernetes/*.yml

-rw-r--r-- 1 gooper gooper 1820 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-accounting-service/src/deployment/kubernetes/ftgo-accounting-service.yml

-rw-r--r-- 1 gooper gooper 1542 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-api-gateway/src/deployment/kubernetes/ftgo-api-gateway.yml

-rw-r--r-- 1 gooper gooper 1780 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-consumer-service/src/deployment/kubernetes/ftgo-consumer-service.yml

-rw-r--r-- 1 gooper gooper 1802 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-kitchen-service/src/deployment/kubernetes/ftgo-kitchen-service.yml

-rw-r--r-- 1 gooper gooper 2123 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-order-history-service/src/deployment/kubernetes/ftgo-order-history-service.yml

-rw-r--r-- 1 gooper gooper 1931 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-order-service/src/deployment/kubernetes/ftgo-order-service.yml

-rw-r--r-- 1 gooper gooper 1853 Jan 30 10:17 /home/gooper/ftgo-application/ftgo-restaurant-service/src/deployment/kubernetes/ftgo-restaurant-service.yml


* 수정해야 하는 파일 #2
gooper@DESKTOP-PJ7F3IU:~/ftgo-application/deployment/kubernetes/stateful-services$ ls -al
total 28
drwxr-xr-x 2 gooper gooper 4096 Jan 30 13:28 .
drwxr-xr-x 6 gooper gooper 4096 Jan 30 14:30 ..
-rw-r--r-- 1 gooper gooper  138 Jan 30 10:17 ftgo-db-secret.yml
-rw-r--r-- 1 gooper gooper 1651 Jan 30 13:21 ftgo-dynamodb-local.yml
-rw-r--r-- 1 gooper gooper 1215 Jan 30 13:26 ftgo-kafka-deployment.yml
-rw-r--r-- 1 gooper gooper 1250 Jan 30 13:24 ftgo-mysql-deployment.yml
-rw-r--r-- 1 gooper gooper 1081 Jan 30 13:25 ftgo-zookeeper-deployment.yml

* 수정해야 하는 파일 #3
~/ftgo-application/deployment/kubernetes/cdc-service/ftgo-cdc-service.yml

* 수정해야 하는 파일 #4(typo및 경로를 수정해야함)
gooper@DESKTOP-PJ7F3IU:~/ftgo-application/deployment/kubernetes/scripts$ ls -al *.sh
-rwxr-xr-x 1 gooper gooper 219 Jan 30 15:01 kubernetes-delete-all.sh
-rwxr-xr-x 1 gooper gooper 231 Jan 30 10:17 kubernetes-delete-volumes.sh
-rwxr-xr-x 1 gooper gooper 450 Jan 30 14:26 kubernetes-deploy-all.sh
-rwxr-xr-x 1 gooper gooper 156 Jan 30 10:17 kubernetes-deploy-and-test.sh
-rwxr-xr-x 1 gooper gooper  76 Jan 30 10:17 kubernetes-kill-port-forwarding.sh
-rwxr-xr-x 1 gooper gooper 316 Jan 30 10:17 kubernetes-run-end-to-end-tests.sh
-rwxr-xr-x 1 gooper gooper 513 Jan 30 10:17 kubernetes-wait-for-ready-pods.sh
-rwxr-xr-x 1 gooper gooper 621 Jan 30 10:17 port-forwards.sh

번호 제목 글쓴이 날짜 조회 수
721 .git폴더를 삭제하고 다시 git에 추가하고 서버에 반영하는 방법 총관리자 2017.06.19 4078
720 Hadoop Cluster 설치 (Hadoop+Zookeeper+Hbase) file 구퍼 2013.03.07 3995
719 Last transaction was partial에 따른 Unable to load database on disk오류 발생시 조치사항 총관리자 2018.08.03 3974
718 원보드pc인 bananapi를 이용하여 hadoop 클러스터 구성하기(준비물) file 총관리자 2014.05.29 3839
717 Caused by: java.sql.SQLNonTransientConnectionException: Could not read resultset: unexpected end of stream, read 0 bytes from 4 오류시 확인/조치할 내용 총관리자 2016.10.31 3787
716 hadoop 2.6.0 기동(에코시스템 포함)및 wordcount 어플리케이션을 이용한 테스트 총관리자 2015.05.05 3770
715 HBASE Client API : 기본 기능 정리 file 구퍼 2013.04.01 3554
714 HBase 설치하기 – Fully-distributed 구퍼 2013.03.12 3548
713 hadoop및 ecosystem에서 사용되는 명령문 정리 총관리자 2014.05.28 3455
712 빅데이터 분석을 위한 샘플 빅데이터 파일 다운로드 사이트 총관리자 2014.04.28 3285
711 banana pi(lubuntu)에서 한글 설정및 한글깨짐 문제 해결 총관리자 2014.07.06 3205
710 의사분산모드에 hadoop설치및 ecosystem 환경 정리 총관리자 2014.05.29 3170
709 Hbase Shell 명령 정리 구퍼 2013.04.01 3170
708 sqoop 1.4.4 설치및 테스트 총관리자 2014.04.21 3134
707 의사분산모드에서 presto설치하기 총관리자 2014.03.31 3050
706 "java.net.NoRouteToHostException: 호스트로 갈 루트가 없음" 오류시 확인및 조치할 사항 총관리자 2016.04.01 3026
705 Hive 사용법 및 쿼리 샘플코드 구퍼 2013.03.07 2991
704 ping 안될때.. networking restart 날려주면 잘됨.. 총관리자 2014.05.09 2977
703 JobHistory 서버 기동시 HDFS상에 특정 폴더를 생성할 수 없어서 기동하지 못하는 경우 조치 총관리자 2018.05.29 2898
702 hue.axes_accessattempt테이블의 username컬럼에 NULL 혹은 space가 들어갈수도 있음. 총관리자 2021.11.03 2838

A personal place to organize information learned during the development of such Hadoop, Hive, Hbase, Semantic IoT, etc.
We are open to the required minutes. Please send inquiries to gooper@gooper.com.

위로