- 전체보기(32)
- 코딩 테스트(11)
- 파이썬(10)
- 머신러닝(5)
- CNN(4)
- machine learning(4)
- PyTorch(4)
- Computer Vision(3)
- 통계(3)
- 베이즈 정리(2)
- sequential data(1)
- 고유값 분해(1)
- 계수 정렬(1)
- 상관 계수(1)
- LASSO regression(1)
- 모델 구현(1)
- 선형대수(1)
- 추정(1)
- 신뢰구간(1)
- 베르누이 분포(1)
- Convolution(1)
- 선택 정렬(1)
- 음이항 분포(1)
- 배치 경사하강법(1)
- zero_grad()(1)
- Batch Normalization(1)
- LDA(1)
- Tensor(1)
- 가능도(1)
- 이산 균등 분포(1)
- DP(1)
- 다이나믹 프로그래밍(1)
- 다익스트라(1)
- autograd(1)
- 행렬(1)
- Computational Graph(1)
- 베이지안 네트워크(1)
- GoogleNet(1)
- t 분포(1)
- 서로소 집합(1)
- 후기(1)
- 초기하 분포(1)
- bottleneck(1)
- EVD(1)
- 의사결정트리(1)
- Residual block(1)
- 공분산(1)
- 이항분포(1)
- PCA(1)
- 크루스칼(1)
- SVD(1)
- 미니배치 경사하강법(1)
- 동적 계획법(1)
- entropy(1)
- 차원(1)
- 경사하강법(1)
- AI Tech(1)
- pooling(1)
- BFS(1)
- 플로이드 워셜(1)
- 상자 그림(1)
- MLE(1)
- 퀵 정렬(1)
- 함수(1)
- hook(1)
- 그리디(1)
- 행렬 연산(1)
- Ridge Regression(1)
- 위상 정렬(1)
- 순차 탐색(1)
- 중심 극한 정리(1)
- AlexNet(1)
- 정렬(1)
- Fully-Connected(1)
- Logistic Regression(1)
- 이진 탐색 트리(1)
- 확률적 경사하강법(1)
- 스택(1)
- 삽입 정렬(1)
- Linear Regression(1)
- inception(1)
- 이진 탐색(1)
- 기하 분포(1)
- Resnet(1)
- RNN(1)
- 구현(1)
- 정규분포(1)
- DFS(1)
- 그래프(1)
- 기초(1)
- 최단 경로(1)
- 큐(1)
- 부스트캠프(1)
- 1x1 Conv(1)
- 조건부 확률(1)
- backward(1)
- 모수(1)
PyTorch에서 autograd 동작 이해하기
Autograd ; Automatic gradient calculating API forward와 backward가 가능하게 해줌
hook이란 (feat. PyTorch)
패키지화된 코드에서 다른 프로그래머가 custom 코드를 중간에 실행시킬 수 있도록 만들어놓은 인터페이스
PyTorch 모델 구현시 주요 함수들
torch.nn.Module 딥러닝을 구성하는 layer의 base class 하나의 function, 여러 function으로 이루어진 layer, layer로 이루어진 model이 포함될 수 있다. (Module이 다른 Module을 포함할 수 있다.)
MLE (Maximum Likelihood Estimation)
MLE ; Maximum Likelihood Estimation ; 최대 가능도 추정법
경사하강법 (Gradient Descent)
모든 학습 데이터를 사용하여 비용함수의 기울기를 계산한다. 일반적인 경사하강법은 이 배치 경사하강법을 의미한다. 전체 데이터를 사용하기 때문에 안정적이지만, 효율적이지 않다.
행렬의 정의와 기본 연산
행렬(matrix) 행렬 A의 크기 : m x n (행 개수 x 열 개수) 이러한 행렬 A를 m by n 행렬 또는 m by n matrix 라고 한다.
ResNet이란
2015년에 개최된 ILSVRC에서 우승을 한 모델은 ResNet이다. 이 ResNet은 마이크로소프트에서 개발한 알고리즘이다. ResNet의 중요한 점은 2014년의 GoogLeNet이 22개 층으로 구성된 것에 비해, ResNet은 152개 층을 갖는다는 것이다.
Inception이란
2014년에 개최된 ILSVRC에서 우승을 한 모델은 GoogLeNet이다. 이후 Inception이란 이름으로 논문을 발표했다. 이 Inception의 V1부터 V3까지 알아보자.
AlexNet이란
2012년에 개최된 ILSVRC(ImageNet Large Scale Visual Recognition Challenge) 대회의 우승을 차지한 컨볼루션 신경망(CNN) 구조이다. 딥러닝 기술이 컴퓨터 비전에서 최고 성능을 낼 수 있다는 증명을 하게 되었다.
다이나믹 프로그래밍(Dynamic Programming) 알고리즘
해당 포스팅은 "이것이 취업을 위한 코딩 테스트다 with 파이썬" 책을 기반으로 포스팅 하였습니다.
EVD, SVD, PCA, LDA
기저란 백터공간 V에 대하여 임의의 벡터집합 S가 ① 서로 1차 독립이면서 ② 벡터공간 V를 생성하면 S는 V의 기저이다.
