CNN을 이용한 시퀀스 처리❓
입력의 부분 패치에서 특성을 뽑아내어 구조적인 표현을 만들고 데이터를 효율적으로 사용하는 합성곱 연산의 능력
영상 처리에서 뛰어난 CNN의 특징이 시퀀스 모델 처리에 관련되어 사용할 수 있음
시간을 2D 이미지의 높이와 너비 같은 공간의 차원으로 다룰 수 있음
1D CNN은 특정 시퀀스 처리 ㅁ누제에서 RNN과 비교하여 사용할 수 있으며 일반적으로 계산 비용이 훨씬 효율적임
1D CNN은 전형적으로 팽창된 커널과 함께 사용됨
오디오 생성과 기계 번역 분야에서도 CNN을 사용하여 좋은 효과를 보고 있음
이런 특정 분야의 성공 이외에도 텍스트 분류나 시게열 예측 같은 간단한 문제에서도 1D CNN이 RNN을 대신하여 빠르게 처리할 수 있다고 알려져 있음
시퀀스 데이터를 위한 1D 합성곱
- 기존 CNN 층은 2D 합성곱층
- 이미지 텐서에서 2D 패치를 추출하고 모든 패치에 동일한 변환을 적용
- 같은 방식으로 시퀀스에서 1D 패치를 추출하여 1D 합성곱을 적용
- 입력 시퀀스에서 시간 축으로 패치를 추출하여 출력 타임스텝을 만들 수 있음
- 1D CNN 층은 시퀀스에 있는 지역 패턴을 인식할 수 있음
- 동일한 변환이 시퀀스에 있는 모든 패치에 적용되기 때문에 특정 위치에서 학습한 패턴을 나중에 다른 위치에서 인식할 수 있음
- 1D CNN에 시간의 이동에 대한 이동 불변성을 제공
- 1D CNN은 이 단어가 입력 시퀀스의 어느 문장에 있더라도 인식할 수 있음
- 문자 수준의 1D CNN은 단어 형태학에 관해 학습 할 수 있음
Whatever I Want 🌼