AI : Self attention
1.[AI] Self Attention 에 관하여...(작성중)
단어들끼리 얼마나 관련 있는지 계산하고 그 비율만큼 정보를 섞어서문맥을 만드는 기술이다.사용자의 텍스트 "I like cat" 를 임베딩하면 이런 식으로 벡터데이터로 저장되는데... 예를 들자면 이런 식이다.I -> 1, 2, 3like -> 3, 4, 5cat ->
2026년 2월 20일
단어들끼리 얼마나 관련 있는지 계산하고 그 비율만큼 정보를 섞어서문맥을 만드는 기술이다.사용자의 텍스트 "I like cat" 를 임베딩하면 이런 식으로 벡터데이터로 저장되는데... 예를 들자면 이런 식이다.I -> 1, 2, 3like -> 3, 4, 5cat ->