attention 과 self-attention 차이 예제로 요약

task

• 주어진 영어 문장을 한국어로 번역 하시요.

input

• the cat didn't cross the street.

답

• 그 고양이는 길을 건너지 않았다.

attention(bidirectional, encoder-decoder attention)

• "the cat" = "고양이"와 연관성

self-attention

• "the"와 "cat"의 연관성