퍼셉트론 특징 프랑크 로젠블라트가 제안(1957) TLU(threshold logic unit) 나 LTU(linear threshold unit)로 불린다. I) TLU 입력의 가중치 합 계산 계단함수 적용하여 출력 주로 헤비사이드 계단함수나 부호 함
순방향 신경망 순방향 신경망의 구조와 설계 항목 순방향 신경망 정의: 다층 퍼셉트론(인공뉴런)으로 불림 가정: 데이터 구조에 특별한 가정사항이 없기에 서로 독립되어있다. 특징: 데이터가 한 방향으로만 흐름 출력 데이터가 다시 입력되는 피드백
순방향 신경망: 입력데이터(벡터)을 전달. 그러므로 벡터의 크기가 곧 뉴런의 수.이미지가 입력데이터로 들어올 경우 1차원 벡터로 변환 후 입력 계층구성.활성함수입력된 데이터의 가중 합을 출력 신호로 변환(은닉 계층)인공 신경망에서 이전 레이어에 대한 가중 합의 크기에
입출력의 매핑 규칙은 어떤 형태로 존재할까?함수적 매핑 관계: 입력 데이터 -> 신경망 -> 출력데이터신경망의 계층 구조: 가중 합산과 활성 함수 연결되어 뉴런 구성 -> 계층 구성.학습 전: 신경망의 구조와 관련된 것 학습 과정: 모델 파라미터의 값 찾기모델 파라미터
표본집단 구성if 범주성 데이터, 클래스별로 비율 맞추기(by 손실함수에 가중치 조절)if 회귀 데이터, 근사하려는 함수 범위 찾기연속 함수 근사, 보간기법영역 밖 , 외삽(근사능력은 떨어짐)훈련 데이터셋 : 모델을 훈련할 때 사용검증 데이터셋 : 성능 평가를 위해 하
Preview: 내려가다보면 최저점에 도달한다.Main: How to solve any problmes 학습률: 최적화 시, 스텝의 크기이고 학습 속도를 결정한다최적의 학습률을 정하기는 어렵지만 수 많은 시도를 통해서 찾아야 한다.학습률 조정X, 낮으면 속도가 느리고
가중치 초기화 적당한 위치에서 출발하여 제대로 최적해를 찾을 수 있기 위해선 적당한 위치를 찾는 것이 중요한데 우린 이것을 모델 초기화라고합니다. 가중치는 모델 파라미터에서 가장 큰 비중을 차지하기에 초기화 방식에 따라 성능의 차이가 생길 수 밖에 없습니다. 그래
순방향 신경망의 한꼐를 극복하기 위해 1979년에 생체 신경망의 시각 정보 처리 방식을 모방해서 이미지를 처리하는 네오코그니트론이 제안되었고 이것과 역전파 알고리즘을 접목한 신경망이 나오게 되는데 그것이 컨볼루션 신경망입니다.컨볼루션 신경망이 이미지 데이터를 어떻게 처