부스트코스 강의 인공지능을 위한 선형대수 중 '선형변환, 선형변환 with Neural Networks'을 정리한 내용이다.

선형변환(Linear Transformation)

• function이 linear일 때, input, output이 벡터일 때, 그 둘을 선형결합했을 때의 함수값이 나중에 똑같은 계수로 선형결합을 했을때와 일치하면 선형변환이라 함
  

• bias가 포함된 경우
  

• 선형성을 만족하는 변환일 때 2차원 벡터를 3차원 벡터로 변환하기

  • 기저벡터로 표현함

  • 선형성을 만족하는 변환이면 항상 행렬과 입력벡터의 곱(matrix)으로 나타내짐
    

    

선형변환 with Neural Networks

• 기하학적으로 선형변환을 생각해보면 정사각형 형태가 평행사변형으로 변하는 것
  

• Neural Networks에서의 선형변환

  • 4개의 dimension을 가지는 input과 bias, output이 있을 때
    
  • 직선의 방정식에서 y절편이 끼어있는 변형을 linear transformation이 아닌 affine transfomration이라 하고, 1이라는 것을 input으로 추가해주면 linear transformation으로 만들어줌