메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


sqoop작업시 success이면서 hdfs의 개수보다 rdbms에 들어가는 자료의 개수가 더 많아(중복되면서) 지는 경우가 있는데..

이는 버그로 보이며 update key로 지정하는 컬럼의 수를 최소로 만드는 등의 오류를 유도하여 확인하는 방법이 

있다. 

*참고 : https://stackoverflow.com/questions/39137254/sqoop-export-inserting-duplicate-entries

번호 제목 날짜 조회 수
92 원격지에서 zio공유기를 통해서 노트북의 mysql접속을 허용하는 방법 2014.09.07 5272
» sqoop작업시 hdfs의 개수보다 더많은 값이 중복되어 oracle에 입력되는 경우가 있음 2014.09.02 7027
90 java.util.NoSuchElementException발생시 조치 2014.08.27 4481
89 hadoop의 data디렉토리를 변경하는 방법 2014.08.24 4235
88 시스템날짜를 현재 정보로 동기화 하는 방법(rdate, ntpdate이용) 2014.08.24 4366
87 FAILED: IllegalStateException Variable substitution depth too large: 40 오류발생시 조치사항 2014.08.19 4787
86 원보드 컴퓨터 비교표 file 2014.08.04 3594
85 외부 기기(usb, 하드)등 mount(연결)하기 2014.08.03 3572
84 데이타 제공 사이트 링크 2014.08.03 3966
83 lubuntu 호스트 네임변경 2014.08.03 3463
82 oozie 에서 sqoop action실행 에러 - 컬럼개수 차이 2014.07.17 3528
81 uEnv.txt위치및 내용 2014.07.09 2888
80 banana pi(lubuntu)에서 한글 설정및 한글깨짐 문제 해결 2014.07.06 5710
79 access=WRITE, inode="staging":ubuntu:supergroup:rwxr-xr-x 오류 2014.07.05 4944
78 org.apache.hadoop.security.AccessControlException: Permission denied: user=hadoop, access=WRITE, inode="":root:supergroup:rwxr-xr-x 오류 처리방법 2014.07.05 5543
77 banana pi에(lubuntu)에 hadoop설치하고 테스트하기 - 성공 file 2014.07.05 5608
76 2개 data를 join하고 마지막으로 code정보를 join하여 결과를 얻는 mr 프로그램 2014.06.30 3467
75 jsoup 사용 예제 2014.06.06 5909
74 Cannot create /var/run/oozie/oozie.pid: Directory nonexistent오류 2014.06.03 4526
73 oozie job 구동시 JA009: User: hadoop is not allowed to impersonate hadoop 오류나는 경우 2014.06.02 3367
위로