[NLP] Beam Search란?

건너별·2022년 3월 13일
0

NLP 및 추천시스템

목록 보기
12/13

Beam Search :

[https://d2l.ai/chapter_recurrent-modern/beam-search.html]

  • 평가값이 우수한(그림에서는 2개-1개) 일정 개수의 확장 가능한 노드만을 메모리에서 관리
  • 최상우선탐색 적용
  • 쉽게 이야기해서 Greedy Search 가 국소 최적해에 빠지는 것을 막기 위해 사용하는 완화된 알고리즘(조금 더 전역 최적해에 가깝게 해를 낼수 있음)
  • language model에서 다음 단어를 예측할 때, 상위 확률로 판단되는 단어들만 후보군으로 추려서 다시 고려하면서 해를 찾아나감
profile
romantic ai developer

0개의 댓글