Super Learner: a Cross-validation based Stacking (Paper) 1. 개요 Ensemble 은 전통적인 ML 방식과 DL 모두에서 애용되는 방법으로 보통은 ‘평균’, ‘다수결’, ‘Stacked’ 정도는 많이들 알고 사용하고 있는데 Super Learner 라는 개념을 소개하고자 함 2. Unweighted Average 신경망에서 일반적으로 많이 사용하는 방법으로 기본적으로 Deep Neural Network 가 Capacity 가 크기 때문에 간단한 평균 방법의 Ensemble 로도 많은 성능 향상이 […]
Create Card Fraud Detection using AutoEncoder (Keras, Tensorflow) 1. 문제점 본 Topic 은 너무 뻔한거라서 그런가? 딱히 논문이라던지 이런게 잘 보이지 않는다.. 몇개 있는데 인용수가 0 이다. 대신에 실증적인 좋은 Blog 가 하나 보인다. 기본적으로 이러한 종류의 문제는 데이터의 불균형이 가장 큰 문제이다. 그래서 이러한 문제를 해결하기 위한 방법을 Anomaly Detection 이라고 하는데 FDS 도 마찬가지로 접근하면 […]
Convolutional Matrix Factorization for Document Context-Aware Recommendation (Paper) (PPT) 1. 문제점 Collaborative Filtering 에서는 전통적으로 Matrix Factorization 과 같은 모델 기반의 방법론들을 사용하였다 그런데 너무 이러한 Matrix 가 Sparse 해지면서 MF 기반으로는 정확도를 보장할 수 없는 상황이 발생하게 되었다 이러한 문제들을 해결하기 위해서 최근의 연구들은 상품의 비정형적인 데이터를 활용하기 위한 방법들을 고민하였다 이러한 설명 정보를 […]
A Multi-View Deep Learning Approach for Cross Domain User Modeling in Recommendation Systems (Link) 1. 문제점 예전의 CF 방식은 히스토리가 없는 신규 유저에 대해서 추천시 Cold Start 라고 하는 문제가 발생함. CB 방식은 Item 유사도 혹은 User 유사도를 통해 Cold Start 를 해결할 수 있지만, 실제 적용시 사용자의 정보획득의 어려움 등의 이유로 잘 동작할 수 […]
Most Cited Deep Learning Papers (Link) Recent Trends in Deep Learning Based NLP (Link) 파이선 금융 분석 (Link) Deep Learning for recommandation systems (Link) Machine Learning Mind Maps (Link) Deep Architecture Genealogy (Link) Neural Dialog Papers (Link) Winner take all Autoencoder (Link) Deep Learning Stock Prediction (Link) Adaptive stock trading with dynamic asset allocation using […]
1. 강의 안내 : 토크ON세미나 일정 및 목차 ※ 발표 자료는 ‘17.10.25 이후 주최측과 협의하여 홈페이지 공지 여부 판단 예정 2. 강의 자료 : Sk t academy lecture note Sk t academy lecture note NLP and AI Chatbot for developer. Source: www.slideshare.net/healess/sk-t-academy-lecture-note 3. 사이트 참조 : T아카데미 캠퍼스강의 T아카데미 캠퍼스강의 스마트 ICT 분야 최신 트랜드 […]
TensorMSA Easy to Use UI/UX 우리의 프레임웍은 크게 두가지 형태로 서비스를 제공하는데 기본적으로 대부분의 기능을 Rest API 형태로 구축하여 서버간의 연동을 통한 사용방법과 지금 설명하고자 하는 UI/UX 기반의 서비스 제공이다. 서버간의 데이터 수집 및 모델 갱신 과정을 연동을 통해 자동화 하고자 할때는 Rest API 를 통해 서비스를 구성하는 것이 효과적일 것이고, 사용자가 분석을 하려는 목적을 […]
Overroll Service Architecutre 시스템 구성 관점에서의 Architecture 로 “Master”, “AP”, “Train”, “DB”, ”Cluster” 크게 5가지 형태의 Docker Container 를 제공한다. Master 는 전체 서버를 컨트롤하는 기능 수행, Train 은 주로 GPU 서버로 모델의 훈련을 수행, AP 는 훈련된 모델을 서비스로 연결하는 역할을 수행하며, DB와 Cluster 는 각 구성요소들을 연결하기 위한 역할을 수행하게 됩니다. TensorMSA는 이러한 […]
Architecture FrameWork Stack 1.Front End : React(ES6), SVG, D3, Pure CSS, Mobile(for Chatbot FW) 2.Back End : Django(Python 3.5), Restful Service(Micro Service Architecture), Tensorflow(v1.2), PostgreSQL, Memcache, Celery, Spqrk QL, HDF5, Ngix, Gensim, Konlpy 3.Methology : Agile (CI, TDD, Pair programming and Cloud) 4.Infrastructure : Docker
Seq2Seq for Encoder & Decoder concept of this algorithm 위 그림에 각 박스는 가장 일반적으로 GRU 쎌이거나 LSTM 쎌인 RNN 쎌을 나타낸다(RNN Tutorial를 참조하길 바란다). 인코더와 디코더는 가중치를 공유 할수 있거나, 더 일반적으로는 다른 매개변수 집합을 사용한다. 다중층 쎌들은 역시 시퀸스-투-시퀸스에서 성공적으로 사용되어 왔다. 예로 번역 Sutskever et al., 2014 (pdf)에서 알수 있다. 위에서 설명된 […]