챗 gpt가 등장하고 이를 기반으로 하는 언어 기반 서비스들이 등장하며 직접 코드를 작성하지 않고도 프롬프트 엔지니어링을 통해 서비스를 만들어내는 것도 가능하다.
이번에 경기도 평생 학습 포털 GSEEK에서 이루어진 '뤼튼을 이용한 나만의 GPT툴 만들기'를 통해 배운 것들을 정리해보고자 한다.
In-context Learning
단순히 주어진 데이터 셋과 정답 값을 제공하여 학습을 시키는 것이 아니라 수행하고자 하는 역할에 대한 설명, 예시, 요청 작업 명시의 세가지 부분을 제공하여 모델을 학습시키는 것을 의미한다.
Hallucination
챗 gpt와 같은 언어 모델을 사용할 때 쉽게 말해 잘못된 대답이 나오는 경우라고 생각할 수 있다. 예를 들어 gpt모델에 기사 링크와 함께 내용을 요약해 달라는 요청을 하게 되면 gpt는 링크에 직접적으로 접속하여 내용을 파악할 수 없지만, 링크 주소의 내용을 통해 기사 내용을 유추해 실제 기사를 요약한 것처럼 내용을 제시하는 경유가 있다. 본인이 gpt기반의 서비스를 작성할 때에도 이러한 문제점이 발생할 수 있다는 것을 염두해야 한다.
Tips for good prompt engineering
Tip 1. 간결한 문장
단순히 문장을 짧게 제시하라는 것을 의미하는 것은 아니다. 예를 들어 it회사 지원서 써줘와 같은 요청을 하게 된다면 문장 자체는 짧지만 추측의 영역이 넓어지며 좋은 답변을 제공 받기 힘들다. 복문이 아닌 단문을 이용하고 한 문장에는 한가지 푄트만 넣으며, 정확한 동사를 사용해 요구사항과 관련 사항들을 명확하게 전달하는 것을 의미한다.
Tip 2. 문맥을 제공하라
가령 보고서를 작성해달라는 요청을 한다면 구체적 주제, 포함하고 싶은 키워드, 원하는 형식 등의 세부 사항을 포함한다
Tip 3. 예시를 제공하라
예상 되는 요구와 그에 맞는 답변을 예시로 제공하는 것은 조금 더 내가 의도한 형식과 내용의 답변들을 제공하는 툴을 만드는 것에 도움이 된다. 예시는 같은 구조로 제공하는 것이 좋으며, 적절한 예시가 떠오르지 않을 때에는 예시 제공을 gpt, 뤼튼에 요청할 수 있다.
Tip 4. 형식을 명확히 하라
input과 output의 형식을 정확하게 제공해야 내가 원하는 형식의 값을 얻어낼 수 있다.
뤼튼에서는 프롬프트 엔지니어링을 통해 코드를 작성하지 않고도 gpt를 베이스로 내가 원하는 업무를 수행하는 툴을 작성할 수 있도록 스튜디오를 제공하고 있다. 코드를 작성하는 것에 대한 부담이 적으니 언제든 아이디어가 있다면 시도해보도록 하자!
