# Deep Learning
TextCNN을 활용한 기사문 hashtag 다중 분류 모델 학습과 DB 저장
1년 간의 캡스톤 디자인 프로젝트. 드디어 끝이 보입니다.현재 모델 학습과 데이터베이스 연결, 서버에 모델 업로드 등 개발 과정을 모두 마치고 추가 학습을 하면서 정확도를 조금씩 더 높이면서 프로젝트 마무리를 하고 있습니다.이번 글에서는 긴 기사문을 빠르게 학습시키기
[딥러닝] Activation function
Hidden layer(은닉층) activation function Hyperbolic tangent function Hidden layer에서 사용 sigmoid 보단 gradient vanishing이 개선되었지만 relu 가 더 많이 쓰임 Relu func
#1. The Definition of AI, Specialized in Deep Learning
인공지능 기술 중, 딥러닝의 기본 개념, 작동 원리, 적용 분야 등에 관한 발표 영상
[모두를 위한 딥러닝] #12-15. Softmax Regression_2022.05.12
logistic regression에서는 binary classification만 가능했었다.이를 multi class 구분으로 확장하기 위해 사용되는 것이 softmax이다.Cross entropy 에서는 A or B 로 1,0 or 0,1 로써 서로 구분을 하는거지
Image inpainting(5)
"Context Encoders: Feature Learning by Inpainting” 논문을 리뷰해보는 시간을 갖겠습니다. Abstract context-based pixel 예측을 통해 unsupervised visual feature learning algorithm을 제시. Context Encoder라는 이름의 모델이고, 임의의 Image의...
RNN, LSTM, Attention, Transformer
과거의 정보를 현재값에 반영하는 신경망목적 : 순차적인 데이터를 다루는 것방법 : 경사하강법, 오차역전파단점 : 순차적으로 진행하므로 병렬화가 불가능, 층이 많을수록 기울기 폭발, 소실문제 발생오래된 정보까지도 반영할 수 있는 신경망목적 : RNN의 기울기 소실문제를
Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization
발표일 : 2022–05-15
Enhancing The Reliability Of Out-Of-Distribution Image Detection In Neural Networks
발표일 : 2022-05-08
Classification model의 성능평가
분류 모델에는 다양한 것들이 있다.Perceptron, SVM, Decision Tree, Bayesian 등이 그 예시이다. 이런 모델들을 개발했을 때 해당 모델의 성능을 평가하는 척도를 제시한다.기억 안날 때 보고 참고하려고 이곳에 작성한다... 위의 이미지는 Co
논문 리뷰 D2RL: Deep Dense ARCHITECTURE IN REINFORCEMENT LEARNING
기존 RL에 사용하는 신경망은 단순하게 fully-connected layer를 1~2층으로 연결하는 것으로 구성되었다. 하지만 이런 단순한 구조로 학습한 agent는 복잡하고 연속적인 state , action space 에 대한 exploration 의 한계가 명확
[Paper Review] You Only Look Once: Unified, Real-Time Object Detection
YOLOv1 모델 논문 리뷰
[class weight] multi-output model에 적용하는 방법
일반적으로 단일 출력단을 갖는 모델일 때는, 각 class에 대해 label이 one-hot encoding 되어있든, integer-encoding 되어있든 다음과 같이 dict 형태로 class_weight를 작성한 다음 fit함수 안에 넣어주면 된다. 출처: ht
[PyTorch] PyTorch로 Image Classifier 만들기: LeNet-5 모델 개선, FashionMNIST 데이터셋 분류
PyTorch를 사용해 LeNet-5 모델을 구현하고 FashionMNIST 데이터셋을 학습하기
(2021)Generative Adversarial Registration for Improved Conditional Deformable Templates
Generative Adversarial Registration for Improved Conditional Deformable Templates 논문 리뷰
Transfer learning
오늘날 딥러닝 분야에서 주요하게 연구되는 주제가 있습니다. 바로 Transfer Learning(전이 학습)입니다.Transfer Learning(전이 학습) 이란?:학습 데이터가 부족한 분야의 모델 구축을 위해 데이터가 풍부한 분야에서 훈련된 모델을 재사용하는 학습