Author: Jee Hyun Paik

대용량 혹은 분산 처리 환경에서 BatchSize와 Learning rates를 설정하는데 있어 자주 실수 하는 부분을 정리해주는 논문 관련된 논문 “Don’t Decay the learning Rate, Increase the Batch Size Distributed Training of neural Networks Fast and easy distributed deep learning n TensorFlow Motivate 데이터가 많아 짐에 따라 Training 시간이 점점더 오래 걸리고 있음( 몇시간에서 몇일, 몇주일까지 ) 회사 […]

자습용으로 작성한 자료 입니다. 출처는 맨 밑에 있습니다.       관련된 논문 – mobile net v1, shuffle net 등   개요 – 지금까지 CNN이 발전해 오면서 성능도 좋아졌지만 높은 연산량이 필요하도록 발전함 – 최근에 NAS계열의 Architecture Search도 있지만 역시 너무 복잡함. – 모바일에 맞는 Architecture를 찾는게 목표   Recap – Mobilenet V1 은 Depthwise와 Pointwise(1 […]

        1. 서론 얼굴탐지가 어려운 이유 – 조명, 포즈, 겹침등 문제를 해결하기 위해 – 3개의 Multi Task CNN을 사용하여 얼굴과 랜드마크를 탐지하고, – Online hard Sample mining 전략을 사용하여 훈련하는 방법을 제안   * 얼굴검출(Face Detection) * 얼굴 랜드마크 과거에는 아래의 기술들을 사용함 –  Haar-Like features(유사 하르 특징) and AdaBoost – Deformable part […]

Malware Detection Using Deep Transferred Generative Adversarial Networks by Jin-Young Kim, Seok-Jun Bu, and Sung-Bae Cho 1. 서론 악성 소프트웨어는 컴퓨터에 악영향을 끼치는 모든 소프트웨어의 총칭이다. 여러 단체 및 개인이 어마어마하게 피해를 보고 있으므로 악성 소프트웨어 탐지는 중요한 문제이다. 개발자들은 백신에 탐지되지 않게 숨기고, 백신은 탐지할려고 한다. 현백신은 샘플링을 기반으로 악성소프트웨어를 탐지하는데 악성소프트웨어가 어마어마하게 늘어나고 […]

자습용으로 공부하기 위해 정리한 자료 입니다. 출처는 맨 밑에 있습니다. 1. 개요 – 상품추천, 중복상품검색, 적정 가격 설정 등등에서 ML을 다양하게 사용 – 좋은 feature를 뽑는 방법이 없을까??? – Contents 추천, Sentence Embedding, Document Embedding이랑 비슷함   2. 과거 방법 – TF-IDF를 주로 씀(http://euriion.com/?p=411929) – 해당 데이터셋에 오버피팅이 됨 – 계산이나 저장에 비효율적 – 의미를 […]

자습용으로 공부하기 위해 정리한 자료 입니다. 출처는 맨 밑에 있습니다.   1. Learning Problem in DNN Internal Covariate Shift – 뉴럴네트워크는 히든레이어가 많아서 학습이 힘듬 – Deep Learning은 히든 레이어가 더 많아서 학습이 더 힘듬. 이게 왜 힘드냐면 웨이트의 조금만 변화가 쌓이다 보면은 높은 레이어로 갈수록 변화가 더 커지기 때문이다. 결국 히든 레이어의 값이 변동이 […]

 자습용으로 공부하기 위해 정리한 자료 입니다. 출처는 맨 밑에 있습니다. 1. 복습   Fast  R-CNN 과 Faster R-CNN     – 처음에는 Selective Search를 사용해서 물체의 위치를 검출 – Faster RCNN은 Region Proposal Network를 사용하여 모든 픽셀에 박스가 있다는 것을 가정하고 RPN을 훈련시켜서 Bounding Box를 뽑아낸다음 RCNN을 태우는 네트워크   Fully Convolutional Networks – 마지막을 Fully […]

 자습용으로 공부하기 정리한 자료 입니다. 출처는 맨 밑에 있습니다.   NIPS 2015년 유명한 논문 1. computer vision task    semantic segmentation, classification + Localization, Object detection, Segmentation   2. RCNN history    rcnn -> fast r-cnn -> faster r-cnn -> master     3. Faster Rcc의 속도    Object Detection 알고리즘의 속도 SSD, Faster Rcnn, R-FCN   […]