# llm inference
총 1개의 포스트
LLM이 text를 생성하는 방식과 생성 전략
LLM의 inference 과정을 설명허깅페이스 모델의 generate 함수를 직접 구현하여 구체적 설명생성 전략의 간략한 소개Transformer 모델은 주로 Encoder와 Decoder 두 계열로 구분됩니다. Encoder 계열 모델, 예를 들어 BERT 같은 모
2023년 9월 19일
·
0개의 댓글·
0LLM의 inference 과정을 설명허깅페이스 모델의 generate 함수를 직접 구현하여 구체적 설명생성 전략의 간략한 소개Transformer 모델은 주로 Encoder와 Decoder 두 계열로 구분됩니다. Encoder 계열 모델, 예를 들어 BERT 같은 모