[NLP] RNN 모델 : RNN Model

KingU·2022년 5월 20일
1

NLP

목록 보기
8/14
post-thumbnail

RNN 모델 : RNN Model



RNN : Recurrent Neural Network


RNN: 순회 신경망
은닉층 노드의 출력값이 다음 은닉층 노드의 입력으로 전환

은닉층의 메모리 셀의 출력 벡터는 출력층과 다음 시점 (t+1)의 메모리 셀에 전달되는데 이를 은닉상태 hidden state라고 한다.


현재 시점의 메모리 셀은 이전 시점의 은닉 상탯값에 영향을 받고
완전 연결 계층 구조를 가진다.


또한 어떤 문제를 해결하냐에 따라 입력과 출력의 길이를 조정할 수 있다.






수식적 확인


RNN 모델은 모든 시점에서 동일한 가중치와 편향값을 가지고 있다.



현재 시점에서 은닉 상태값 ht는 현재 입력값과 이전 시점






당신의 시간이 헛되지 않는 글이 되겠습니다.
I'll write something that won't waste your time.

profile
원하는 것을 창조하고 창조한 것을 의미있게 사용하자

0개의 댓글