선형회귀 공부

선형회귀란?

쉽게 말해, 독립변수 x와 종속변수 y가 있을 때, x에 따라 y값을 예측할 수 있는 가중치 w와 b를 찾는 모델을 말한다. (wx+b = y와 같은 1차함수를 만드는 것이 목표.)
예시) x = { 1, 2, 3 }, y = { 4, 6, 8 } 이 있다고 할 때, wx+b = y 에서 w = 2, b = 2라는 값을 찾으면, 다른 x가 들어와도 y값을 예측할 수 있음.

선형회귀 프로세스

1. w와 b를 초기화 함(ex. w = 1, b = 0)
2. w와 b를 적용해 y를 예측했을 때, 얼마나 잘못되었는지 cost(w, b)를 구한다.
   cost(w, b) = 최소제곱법 사용
   cost값이 0이거나 epoch(학습 반복횟수)가 기준치보다 높다면 학습을 끝낸다.
3. cost 값에 따라, cost를 w에 대해 그리고 b에 대해 미분했을 때, 양의 값이라면 값 줄이고, 음의 값이라면 가중치 늘리는 경사하강법 사용.
4. 2번으로 돌아감