Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization (Paper) 1. 문제점 딥러닝은 매우 뛰어난 분류기이지만, 실제 기업에서 사용하기 위해서는 큰 문제점이 있는데, 가장 대표적인 문제가 왜? 그런 결과가 나왔는지 설명하기가 어렵다는 것이다. 이러한 딥러닝의 Black Box 적인 특성 때문에 뛰어난 분류 성능에도 불구하고 현업에서는 사용하기가 어려웠던 것이 사실이다. 때문에 요즘에는 XAI (Explainable Aritificial Intelligence) 에 대한 연구가 […]
Deep Learning Research Group
자습용으로 공부하기 위해 정리한 자료 입니다. 출처는 맨 밑에 있습니다. 1. 복습 Fast R-CNN 과 Faster R-CNN – 처음에는 Selective Search를 사용해서 물체의 위치를 검출 – Faster RCNN은 Region Proposal Network를 사용하여 모든 픽셀에 박스가 있다는 것을 가정하고 RPN을 훈련시켜서 Bounding Box를 뽑아낸다음 RCNN을 태우는 네트워크 Fully Convolutional Networks – 마지막을 Fully […]
– YOLOv2의 성능 – 성능 향상의 요인 1. Batch Normalization – 모든 컨볼루션 레이어에 배치 정규화를 추가 2. High Resolution Classifier – ImageNet 데이터로 classfication net을 먼저 학습시켜서 고해상도 이미지에도 잘 동작하게 함 3. Convolutional – FCL(Fully Conneted Layer)를 Convolution Layer로 대체 4. Anchor Boxes – 경계 박스를 처음부터 직접 예측 -> 앵커 박스를 초기값으로 사용하여 […]
Face recognition Face recognition FaceNet: A Unified Embedding for Face Recognition and Clustering Florian Schroff, Dmitry Kalenichenko, James Philbin (Submitted on 12 Mar 2015 (v1), last revis… Source: www.slideshare.net/soul8085/face-recognition-87761931
현재 가장 많이 쓰이는 어텐션 메커니즘(Attention Mechanism)에 대해 아래 논문을 바탕으로 정리한 내용입니다. 논문에 나오는 Global/Local Attention 내용에 추가로 Soft/Hard Attention에 대한 소개와 아래 논문보다 앞에 나온 Bahdanau vs Luong Attention에 대한 비교 소개 Attention Mechanism(Seq2Seq) Attention Mechanism(Seq2Seq) Introduction to Attention Mechanism (Neural Machine Translation / Python, Tensorflow) Source: www.slideshare.net/healess/attention-mechanismseq2seq Effective Approaches to Attention-based Neural Machine Translation […]
자습용으로 공부하기 정리한 자료 입니다. 출처는 맨 밑에 있습니다. NIPS 2015년 유명한 논문 1. computer vision task semantic segmentation, classification + Localization, Object detection, Segmentation 2. RCNN history rcnn -> fast r-cnn -> faster r-cnn -> master 3. Faster Rcc의 속도 Object Detection 알고리즘의 속도 SSD, Faster Rcnn, R-FCN […]
Recruit Automation with Deep Learning (IBM, Paper, Slide, adroitbot) 1. 서론 Recruit 자동화는 지금까지 자료를 찾은 결과를 종합하였을 때 HR Recruiting 의 자동화는 로보 어드바이져와 마찬가지로 시스템 구성의 성격이 더 강하다. Skill-Set 일치 비교(유사어 처리, 카테고리화), Semantic analysis, 성향 분석, Summary 등을 수행후 종합적인 Scoring 과 Summary View 를 Guidance 로 제공 등 세부 Task […]
Super Learner: a Cross-validation based Stacking (Paper) 1. 개요 Ensemble 은 전통적인 ML 방식과 DL 모두에서 애용되는 방법으로 보통은 ‘평균’, ‘다수결’, ‘Stacked’ 정도는 많이들 알고 사용하고 있는데 Super Learner 라는 개념을 소개하고자 함 2. Unweighted Average 신경망에서 일반적으로 많이 사용하는 방법으로 기본적으로 Deep Neural Network 가 Capacity 가 크기 때문에 간단한 평균 방법의 Ensemble 로도 많은 성능 향상이 […]