메뉴 건너뛰기

Cloudera, BigData, Semantic IoT, Hadoop, NoSQL

Cloudera CDH/CDP 및 Hadoop EcoSystem, Semantic IoT등의 개발/운영 기술을 정리합니다. gooper@gooper.com로 문의 주세요.


su로 사용자를 전환하거나 putty등으로 로그인할때 "Resource temporarily unavailable(자원이 일시적으로 사용 불가능함)"이라는 메세지가 나타날 수 있는데 ulimit -a 로 해서 보면 로그인한 사용자의 리소스 정보를 확인 할 수 있다.

이중에서 max user processes가 보통 1024로 지정되어 있는데 이를 초과해서 발생하는 문제이므로 이값을 늘려주어야 한다.

방법은 /etc/security/limits.conf를 열어 아래내용을 추가한다.(hadoop사용자의 max user processes값을 100000로 설정하는 경우)
hadoop - nproc 100000

*참고(프로세스 확인방법) - 아래 명령으로 hadoop사용자의 현재 프로세스를 확인할 수 있다

ps -ef -L -u hadoop | wc -l

번호 제목 날짜 조회 수
757 hue.axes_accessattempt테이블의 username컬럼에 NULL 혹은 space가 들어갈수도 있음. 2021.11.03 92375
756 oozie의 meta정보를 mysql에서 관리하기 2014.05.26 27762
755 bananapi 5대(ubuntu계열 리눅스)에 yarn(hadoop 2.6.0)설치하기-ResourceManager HA/HDFS HA포함, JobHistory포함 2015.04.24 25708
754 mapreduce appliction을 실행시 "is running beyond virtual memory limits" 오류 발생시 조치사항 2017.05.04 22844
753 org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-root/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible. 2013.03.11 18508
752 Cloudera의 API를 이용하여 impala의 실행되었던 쿼리 확인하는 예시 2018.05.03 16982
751 System Properties Comparison Elasticsearch vs. Hive vs. Jena file 2016.03.10 16165
750 Cloudera Hadoop and Spark Developer Certification 준비(참고) 2018.05.16 15602
749 Hive Query Examples from test code (2 of 2) 2014.03.26 14815
» Resource temporarily unavailable(자원이 일시적으로 사용 불가능함) 오류조치 2015.11.19 13244
747 drop table로 삭제했으나 tablet server에는 여전히 존재하는 테이블 삭제방법 2021.07.09 12648
746 [DataNode]org.apache.hadoop.security.KerberosAuthException: failure to login: for principal: hdfs/datanode03@GOOPER.COM from keytab hdfs.keytab오류 2023.04.18 12220
745 insert hbase by hive ... error occured after 5 hours..HMaster가 뜨지 않는 장애에 대한 복구 방법 2014.04.29 11966
744 [Decommission]시 시간이 많이 걸리면서(수일) Decommission이 완료되지 않는 경우 조치 2018.01.03 11813
743 mysql 5.5.34-0ubuntu0.13.04용 설치/진행 화면 2014.09.10 11489
742 hive job실행시 meta정보를 원격의 mysql에 저장하는 경우 설정방법 2014.05.28 11293
741 hive 2.0.1 설치및 mariadb로 metastore 설정 2016.06.03 11129
740 cumulusRDF 1.0.1설치및 "KeyspaceCumulus" keyspace확인하기 file 2016.04.15 11112
739 Windows7 64bit 환경에서 Apache Spark 2.2.0 설치하기 2017.07.26 11060
738 jupyter, zeppelin, rstudio를 이용하여 spark cluster에 job를 실행시키기 위한 정보 2018.04.13 10562
위로