– 논문 링크 : Link (Collaborative hyperparameter tuning <2013>) – 적용 구현 : Link 1.Hyper Parameter Tunning HyperParameter Tunning 은 ML 에서 매우 중요한 Step이다. (Pintoet al. 2009, Coates et al. 2011, Bergstra et al. 2011,Snoek et al. 2012, Thornton et al. 2012) 논문에 따르면 새로운 알고리즘 없이 기존의 존재하는 알고리즘의 hyper parameter를 조정하는 것만으로도 성능향상을 […]
AI 어디까지 왔는가? –도입- “AI는 1950년대부터 존재하던 학문이다, 다만 최근에 들어 Google Deep Mind 의 효과적인 AlphaGo 마케팅으로 기존에 관심이 없던 많은 사람들도 주목하기 시작했다. 그렇다면 인류역사상 가장 복잡한 게임이라는 바둑마저 정복한 AI는 이미 사람을 넘어선 것인가? 많은 언론이 이야기하는 것처럼 AI 가 인간을 대체하는 날을 걱정해야 하는 수준에 온 것인가? AI 의 현주소와 우리의 […]
# Pair Programing – Programming 능력의 상향 평준화, 개발인력 변동시 에도 Project 영향도 적음 – Driver 역할의 개발자가 Test Code를 개발하고 이어서 다른 개발자 Implementation Code 개발 – 시스템 Error 감소 및 테스트 문서 최소화 가능 ## 장점 – Test 문서대신 Script Code 로 대체가능 – Script 코드 품질향상 도모 – 시스템 변경 시 Test […]
Deep Learning Cluster를 구성하기 AWS GPU는 비싸다. 평소에는 CPU로 훈련하다가, GPU 자원을 활용하고 싶을때 어떻게 하면 좋을까? GPU 인스턴스가 올라오면 자동으로 클러스터에 포함되고, 명령을 내리면 GPU에서 훈련하고, 훈련이 끝나면 모델은 공유디스크에 저장되고, GPU를 반납한다. Predict는 싼 CPU 인스턴스에서 하고, 필요할때만 GPU인스턴스를 사용하면 비용도 절감되고, 일석 이조이다. 개요는 디스크를 nfs로 공유하고(NAS나 Storage를 쓰면 좋겠지만 돈 없음), […]
한국 지역 설정하기 sudo locale-gen ko_KR.UTF-8 tzselect sudo apt-get install language-pack-ko docker CE올리기 curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add – sudo apt-key fingerprint 0EBFCD88 sudo add-apt-repository \ “deb [arch=amd64] https://download.docker.com/linux/ubuntu \ $(lsb_release -cs) \ stable” sudo apt-get update sudo apt-get install docker-ce 도커를 ubuntu계정에서 실행하게 변경(리붓해야지 반영됨) sudo groupadd docker sudo gpasswd […]
우리가 Docker 로 실무 환경을 구성하다 보면 보안 등의 문제로 Docker Hub 를 사용할 수 없는 경우가 있다. 이러한 경우 별도의 Repository 를 등록하여 사용할 필요가 있는데 핵심만 정리하면 몇줄만으로 요약될 정도로 간단하다. 더 복잡한 설정이 필요하신 분들은 아래의 링크를 참조하시면 된다. Docker 설치 : 링크 Docker Repository : 링크 Docker Pull/Push : 링크 1. […]
참조 Source GitHub : https://github.com/TensorMSA/tensormsa1. 개요 Story Board 기반의 ChatBot 을 Deep Learning 을 활용하여 만든 경험을 공유하고자 한다. 기본적으로 프로젝트 Scope 은 사람을 찾는 업무로 한정되었다. Deep Learning Base 로 NLP 처리를 하기 위해서는 첫 번째로 문제가 되는 것이 데이터를 만드는 일이다. 사람 찾기의 경우 사람마다 질문하는 패턴이 매우 상이하다는 점은 다른 비지니스와 다를 바가 […]
Deep Learning Project에서 Deep Insight를 얻기 까지는 많은 시간이 소요된다. 주어진 과제에 급급하여 Project를 하다보면, 우리가 얻는 것은 신기루 뿐이다. Data를 바라보고 수집하고 Parameter들을 Estimation하면서 그들의 Tendency를 유추해 나가고 그들의 표면적인 모습들이 아닌 Deep Relation의 Attribute까지 밝혀낼 수 있으려면 우리는 우리의 목표와 기준 잣대로 평가하기 보다는 Hyper Parameter들의 수많은 궤적들을 Business측면의 Reassign된 Vector평면 속에서 의미를 […]
참조 논문 : 링크 참조 구현물 : 링크 Tensorflow 적용 Test : 링크 AutoML 참조 : http://www.automl.org/hpolib.html AutoML GitHub : https://github.com/SheffieldML/GPyOpt 개요 최근 Google 에서 Deep Learning Engineer 부족에 대한 해결방안으로 AutoML 이라는 프로젝트를 Release 하였다. Google 이 이번에 발표한 AutoML 은 단순히 Hyper Prameter 튜닝만을 제공하는 것이 아닌 데이터에 따른 최적의 알고리즘까지 찾아주는 역할을 한다고 한다. 하지만 현실적으로 알고리즘 선정과 […]