- 전체보기(40)
- Deep Learning(34)
- 딥러닝(19)
- 논문리뷰(15)
- 생성모델(13)
- Generative Model(13)
- gan(8)
- Representation Learning(8)
- 표현학습(7)
- VAE(7)
- CNN(6)
- transformer(5)
- NLP(4)
- 트랜스포머(4)
- AI Fairness(4)
- Computer Vision(4)
- Attention(3)
- Representation(3)
- adversarial learning(3)
- paper-review(3)
- Fairness(3)
- machine learning(3)
- self-attention(3)
- cmu11785(3)
- Convolution(3)
- 기계학습(3)
- 신경망(3)
- RNN(3)
- cmu(2)
- pooling(2)
- 머신러닝(2)
- disentangle(2)
- 자연어처리(2)
- disentanglement(2)
- convolutional(2)
- Unsupervised Learning(2)
- Neural Network(2)
- Classification(2)
- 데이터분석(1)
- AutoEncoder(1)
- 모델규제(1)
- pix2pix(1)
- DETR(1)
- Augerino(1)
- python(1)
- LSTM(1)
- cs231n(1)
- 비지도학습(1)
- dropout(1)
- Word Vector(1)
- Auto Encoder(1)
- Q learning(1)
- Bias(1)
- 사전학습(1)
- minimax game(1)
- Policy gradient(1)
- HOTR(1)
- 자연어생성(1)
- pre-train(1)
- tensorflow(1)
- cycleGAN(1)
- AI(1)
- 비전 트랜스포머(1)
- latent vector(1)
- progressive gan(1)
- NLG(1)
- 앙상블모델(1)
- Variational Inference(1)
- 인공지능(1)
- scheduling(1)
- CGAN(1)
- learning rate decay(1)
- consistency(1)
- Multi Layer Perceptron(1)
- ensemble(1)
- disentangled representation(1)
- 딥러닝논문리뷰(1)
- EDA(1)
- 엘모(1)
- Data augmentation(1)
- progan(1)
- reinforcement learning(1)
- Detection(1)
- ai 공평성(1)
- 확률모델(1)
- 데이터시각화(1)
- pandas(1)
- 파이썬(1)
- ELMO(1)
- cs224n(1)
- word embedding(1)
- Image Processing(1)
- Natural Language Generation(1)
- 어텐션(1)
- graphical model(1)
- 적대적학습(1)
- 최적화(1)
- Learning Rate(1)
- 언어모델(1)
- MDP(1)
- Invariance(1)
- 강화학습(1)
- stanford(1)
- Backpropagation(1)
- 컴퓨터비전(1)
- generative(1)
- 근사추론(1)
- Adversarial(1)
- 학습률 감쇄(1)
- 이미지분류(1)
- Neural Networks(1)
- Regularization(1)
- disentangled(1)
- ViT(1)
- cs335(1)
- optimization(1)
- generalization(1)
논문리뷰. Controllable Invariance through Adversarial Feature Learning (NIPS 2017)
Controllable Invariance through Adversarial Feature Learning (NIPS 2017)개인적으로 필요한 내용만 요약정리하였기에 생략된 부분이 다소 존재합니다.Invariant Representation LearningAdver
CS335-FAccT DL Stanford 2020s / Lec1. Biases and Fairness / 강의리뷰
AI fairness에 관하여 자료를 찾다 발견한 좋은 공개강좌. CS 335: Fair, Accountable, and Transparent (FAccT) Deep Learning, 2020s. 시간날때마다 틈틈히 필요한 lecture들을 듣고 정리해두면 좋을 것 같
논문리뷰 / Fairness by Learning Orthogonal Disentangled Representations (ECCV 2020)
Fairness by Learning Orthogonal Disentangled Representations (ECCV 2020)fairness와 disentanglement를 주제로 연구하고싶어 찾아읽게 되었다.disentangling을 위해 도입한 참신한 아이디어를
논문리뷰 / HOTR: End-to-End Human-Object Interaction Detection with Transformers (CVPR 2021)
HOTR: End-to-End Human-Object Interaction Detection with Transformers (CVPR 2021)거의 처음? 읽어본 detection 관련 논문. 아이디어와 방법론 위주로 간략하게 리뷰해보겠다.(실험 결과 등은 모두 생략
논문리뷰. MLP-Mixer: An all-MLP Architecture for Vision (2021)
인상깊었던 내용위주로 짧게 정리하였습니다. (논문 자체가 내용이 많지 않기도합니다)MLP만을 main block으로 사용한 매우 심플한 vision modelCNN, Transformer base 모델과 견줄만한 성능핵심아이디어 : image를 작은 patch들로 쪼
CR-VAE 논문리뷰 / Consistency Regularization for Variational Auto-Encoders (2021)
original paperVAE를 통해 학습하는 Latent Space에서의 Representation이 Consistency를 갖도록 제약하는 방법을 제안.매우 단순하게 목적함수에 규제 term 하나를 추가하는 것으로 가능.아이디어 : original input과 그
논문리뷰 - Augerino / Learning Invariances in Neural Networks (NIPS 2020)
original papermanual한 정보/제약의 주입이나, task-specific한 구조에 의존하지 않고 스스로 automatic하게 적절한 정도의 invariance를 학습하는 프레임워크를 제안.parameterized된 augmentation 분포를 학습시키고
Flexibly Fair Representation Learning by Disentanglement (FFVAE) (ICML 2019) 논문리뷰
original paper다방면으로 fair한 예측 알고리즘을 만들기 위해 disentangled representation을 학습하는 새로운 VAE 변형모델(FFVAE)을 제안한 논문section3. related work 생략reconstruction과 predic
On the Fairness of Disentangled Representation (NIPS 2019) 논문리뷰
original paperSec5. related work는 생략하였습니다.처음 읽어보는 fairness 관련논문! 흥미로웠다!! 레퍼런스에 읽어보고 싶은 논문들이 너무많음.최근 disentangled representation을 학습시키는 것이 주목받고 있음. 이것을
Disentangling by Factorising (ICML 2018)
original paper 안그래도 어려워보였는데, 정신적으로 많이 힘들 때 읽어서 더 어렵게 느껴졌던 논문..^_^ Abstract 독립적인 변동인자들로부터 생성된 데이터에 대해 disentangled representation을 비지도학습 방식으로 얻어내고자 하는
Stand-Alone Self-Attention in Vision Models (NIPS 2019) 논문리뷰
original paper현대 computer vision의 기본적인 building block으로 쓰이는 Convolution.그런데 Convolution으로는 입력 데이터상의 long-range dependency 식별에 어려움이 있다.이 문제를 해결하기 위한 다양
Progressive GAN 논문리뷰 / progressive growing of GANs for improved quality, stability, and variation (2017)
original paper : https://arxiv.org/pdf/1710.10196.pdf어려운 GAN훈련을 위해 새로운 train methodology를 제안한 논문으로, 생성 품질이나 훈련 비용측면에서 큰 개선을 가져와 이후의 GAN 연구들에 적지않은
[논문리뷰] CycleGAN / Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks (2017)
original paper : https://arxiv.org/abs/1703.10593 pix2pix 저자들의 후속연구로써, 둘 모두 conditional gan을 이용한 image translation을 다루지만, paired dataset이 요구되었던 pix2pi
논문리뷰 - BERT:pre-training of deep bidirectional transformers for language understanding (2018)
original paper : https://arxiv.org/abs/1810.04805자연어처리 과제가있어 그 유명한 버트를 이제서야 읽게되었다..ㅎ Transformer encoder part를 떼어와서 자연어 토큰들에 대한 representation le
pix2pix (2016) 논문리뷰
모든 내용을 상세하게 커버하지는 않았습니다.제가 기억하고싶은 부분만 집중적으로 정리했습니다.original paper : Image-to-Image Translation with Conditional Adversarial Networks다양한 image-to-image
Averaging Weights Leads to Wider Optima and Better Generalization (2018) / SWA 논문리뷰
한줄요약: 모델 앙상블 시 대상 모델의 prediction값들을 averaging 하지 말고 모델들의 weight를 averaging 하자. \[paper]AbstractIntroductionRelated WorkStochastic Weight AverageExperi
Multi-Head Attention: Collaborate Instead of Concatenate (2020) / 논문리뷰
기존의 Multi Head Attention(MHA)이 파라미터 사용 측면에서 비효율적인 측면이 있으며, 이를 head들간 공유가능한 파라미터를 사용함으로써 해소시키려는 시도의 논문이다. [paper] ICLR 2021에 제출되었으나 아래의 이유로 기각된 논문 ㅠㅠ
Conditional VAE (CVAE), 2015 논문리뷰
[Learning Structured Output Representation using Deep Conditional Generative Models, NIPS 2015] (https://papers.nips.cc/paper/2015/hash/8d55a249e6baa5
cs231n 2017 lecture 2 : image classification pipeline 리뷰
cs231n - Convolutional Neural Networks for Visual Recognition / 2017 spring Lecture2. Image Classification pipeline 내용을 요약/정리한 글입니다. Materials video s
InfoGAN (2016) 논문리뷰
InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets