메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


Oracle LOB타입의 데이터는 일반적인 방법으로 import하면 오류가 발생한다.

(오류 내용 : No Java type for SQL type -11 for column 컬럼명)

원인은 Oracle에서는 catalog정보에서 사용자, 테이블명, 컬럼명을 대문자로 관리하기 때문이다. 

sqoop문에 옵션을 추가해줘야 하는데 --query다음에 --map-column-java lob컬럼명=String 이라는 옵션을 추가하여 주는것이다. 

여기서 lob컬럼명은 LOB타입의 컬럼명으로 반드시 대문자로 써야한다.  그렇지 않으면 컬럼명을 찾을 수 없다는 오류가 발생하면서 sqoop이 실패하게 된다. 

또한 LOB타입 컬럼의 가져오는 길이를 제한하려면 --inline-lob-limit 12000와 같이 제한할 길이를 지정하여 옵션을 준다. 

select문장에서 LOB타입의 컬럼을 가공하려 하지 말것. 가공하게 되면 sqoop하는 과정에서 다음과 같은 오류를 만나게 된다. sqoop import할때는 있는 그대로 가져와서 필요시 가공할것.


1. substr(cast(lob컬럼명 as varchar2(4000)), 12000) as rst 와 같이 가공한 경우

ORA-22835: Buffer too small for CLOB to CHAR or BLOB to RAW conversion(actual: 35090, maximum:4000) <- 최대 지원 가능한 크기는 4000인데 35090 크기의 데이터가 있어서 오류가 발생하는것임.


2. dbms_lob.substr(lob컬럼명, 5000, 1) as rst와 같이 가공한 경우

ORA-06502: PL/SQL: numeric or value error: character string buffer too small <- 최대 지원 가능한 크기는 4000인데 35090 크기의 데이터가 있어서 오류가 발생하는것임.



번호 제목 날짜 조회 수
207 kerberos연동된 CDH 6.3.4에서 default realm값이 잘못된 상태에서 서비스 기동시 오류 2022.10.14 4278
206 hortonworks에서 제공하는 메모리 설정값 계산기 사용법 file 2015.06.14 4276
205 cloudera서비스 중지및 기동순서 2020.02.14 4268
204 java.lang.ClassNotFoundException: org.apache.hadoop.util.ShutdownHookManager 오류조치사항 2015.05.20 4268
203 [impala]쿼리 수행중 발생하는 오류(due to memory pressure: the memory usage of this transaction, Failed to write to server) 2022.10.05 4260
202 lagom을 이용한 샘플 경매 프로그램 실행방법 2017.06.20 4260
201 Could not authenticate, GSSException: No valid credentials provided (Mechanism level: Failed to find any kerberos tgt) 2022.04.28 4259
200 small file 한개 파일로 만들기(text file 혹은 parquet file의 테이블) 2022.07.04 4258
199 SCM서비스를 추가하는 동안 Unexpected error. Unable to verify database connection. 오류발생시 확인 사항 2018.06.08 4255
198 컬럼및 라인의 구분자를 지정하여 sqoop으로 데이타를 가져오고 hive테이블을 생성하는 명령문 2018.08.03 4254
197 ResultSet에서 데이타를 List<Map<String,String>>형태로 만들어서 리턴하는 소스(Collections.sort를 이용한 정렬 가능) 2016.12.15 4252
196 spark 온라인 책자링크 (제목 : mastering-apache-spark) 2016.05.25 4250
195 Error: E0501 : E0501: Could not perform authorization operation, User: hadoop is not allowed to impersonate hadoop 해결하는 방법 2015.06.07 4250
194 [sap] Error: java.io.IOException: SQLException in nextKeyValue 오류 발생 2020.06.08 4247
193 운영중인 상태에서 kafka topic삭제하고 재생성하여 처리되지 않은 메세지 모두 삭제하기 2016.10.24 4247
192 DB별 JDBC 드라이버 2015.10.02 4247
191 dual table만들기 2014.05.16 4246
190 java.util.NoSuchElementException발생시 조치 2014.08.27 4233
189 oozie WF에서 참고할만한 내용 2019.07.18 4231
188 sentry설정 방법및 활성화시 설정이 필요한 파일및 설정값, 계정생성 방법 2018.08.16 4231
위로