---

⚡ AI Programming

---

📌 AI

🤖 기계가 인간처럼 생각하고, 학습하고, 문제를 해결할 수 있도록 하는 기술

• 마치 인간의 지능적인 행동(학습, 추론, 인식, 문제 해결 등)을 컴퓨터 프로그램으로 구현하려는 광범위한 컴퓨터 과학의 한 분야

• 우리의 뇌가 정보를 받아들이고, 패턴을 인식하고, 경험을 통해 배우며, 결정을 내리는 것처럼, AI 시스템도 데이터를 통해 학습하고, 특정 작업을 수행하도록 설계되어 있음

🤖 AI의 핵심능력

🔹 학습 (Learning)

• 방대한 데이터 속에서 패턴을 찾아내고, 경험을 통해 스스로 성능을 개선하는 능력

  (예: 스팸 메일 필터, 이미지 속 고양이 구분)

🔹 추론 (Reasoning)

• 이미 알고 있는 정보를 바탕으로 새로운 결론을 도출하거나 논리적인 판단을 내리는 능력

🔹 문제 해결 (Problem Solving)

• 주어진 목표를 달성하기 위해 최적의 방법을 찾아내는 능력

  (예: 길 찾기 내비게이션)

🔹 인식 (Perception)

• 시각, 청각 등 외부 환경을 이해하고 해석하는 능력

  (예: 음성 비서, 자율주행차의 장애물 인식)

🔹 자연어 처리 (Natural Language Processing - NLP)

• 인간의 언어를 이해하고 생성하는 능력

  (예: 챗봇, 번역기, 코딩 어시스턴트)

🤖 약인공지능

특정 작업이나 한정된 범위의 문제를 해결하도록 특화된 AI

바둑을 두는 알파고, 이미지를 분류하는 AI, 음악을 추천하는 AI,
코드를 생성하고 개발자를 돕는 AI 코딩 어시스턴트 등이 대표적인 예

흔히 SF 영화에서 등장하는 인간처럼 모든 것을 생각하고 감정까지 느끼는 AI를
'강인공지능(Strong AI)' 또는 '범용 인공지능(AGI)' 이라고 함

🤖 인공지능 어시스턴트

🔹 인공지능 기술을 기반으로 사용자의 다양한 작업을 돕거나 특정 정보를 제공하고, 사용자의 명령을 수행하도록 설계된 소프트웨어 또는 서비스

• 마치 개인 비서처럼 우리의 일상생활이나 업무 환경에서 다양한 도움을 주는 역할

• 자연어 이해 및 처리, 정보 검색 및 제공, 작업 수행 및 자동화, 개인화, 상황 인지 및 예측

🤖 인공지능 어시스턴트 유형

🔹 범용 AI 비서

• 애플 시리(Siri), 구글 어시스턴트(Google Assistant), 아마존 알렉사(Alexa), 삼성 빅스비(Bixby), 네이버 클로바(Clova), 카카오 미니(Hey Kakao) 등

🔹 애플리케이션 내장형 어시스턴트

• 오피스 365 코파일럿, 노션 AI

🔹 특정 분야 전문 AI 어시스턴트

• 코딩 어시스턴트: GitHub Copilot, Cursor AI, Amazon CodeWhisperer

• 고객 서비스 챗봇: 기업 웹사이트나 앱에서 고객 문의 응대 및 문제 해결 지원

• 헬스케어 어시스턴트: 증상 확인, 건강 정보 제공, 약물 복용 알림

• 금융 어시스턴트: 투자 정보 제공, 자산 관리 조언

• 교육용 튜터: 개인 맞춤형 학습 지원, 질의응답

---

📌 AI 코딩 어시스턴트 핵심 기술

🔹 대규모 언어 모델 (LLM - Large Language Model)

🔹 자연어 처리 (NLP - Natural Language Processing)

🔹 머신러닝 (Machine Learning) 및 딥러닝 (Deep Learning)

🔹 트랜스포머 아키텍처 (Transformer Architecture)와 어텐션 메커니즘 (Attention Mechanism)

🔹 방대한 코드 데이터셋

🔹 인간 피드백 기반 강화학습 (RLHF - Reinforcement Learning from Human Feedback)

🤖 LLM (Large Language Model)

🔹 방대한 양의 텍스트 데이터를 학습하여 인간의 언어를 이해하고 생성할 수 있도록 훈련된 거대한 인공신경망 모델

🔹 수십억 개에서 수조 개의 매개변수(parameter)를 가지고 있으며, 인터넷의 방대한 텍스트 데이터를 학습하기 때문에 ‘대규모’라는 이름이 붙음

🔹 규모의 경제

• 매개변수 수: 수십억 개에서 수조 개의 매개변수를 보유

• 학습 데이터: 인터넷 텍스트, 도서, 논문, 코드 등 수테라바이트의 데이터

• 컴퓨팅 파워: 수천 개의 GPU를 사용하여 수개월간 학습

🔹 트랜스포머 아키텍처

• 대부분의 현대 LLM은 2017년 구글에서 발표한 트랜스포머(Transformer) 아키텍처 기반

• 어텐션 메커니즘을 통해 문맥을 효과적으로 이해하고 처리

• 병렬 처리가 가능하여 효율적인 학습과 추론 가능

🔹 창발적 능력 (Emergent Abilities)

• 모델 크기가 커질수록 예상치 못한 새로운 능력들이 나타남

• 코드 작성, 수학 문제 해결, 추론, 번역 등의 능력이 별도 훈련 없이 발현

🔹 사전 훈련과 미세 조정

• 사전 훈련 (Pre-training): 대량의 텍스트로 언어의 기본 패턴을 학습

• 미세 조정 (Fine-tuning): 특정 작업이나 도메인에 맞게 추가 학습

🤖 AI Chatbot

구분	ChatGPT (OpenAI)	Claude (Anthropic)	Gemini (Google)	Grok (xAI)
주요 기능	- 텍스트 생성/요약 - 코드 작성/디버깅 - 번역/언어 학습 - 창의적 글쓰기 - 이미지 생성(DALL·E) - 파일 업로드 분석 - 웹 탐색 - 음성 대화	- 안전하고 신뢰할 수 있는 대화 - 긴 문서 분석 (최대 200K 토큰) - 코드 작성/리뷰 - 창의적 글쓰기 - 이미지 분석 - 파일 업로드 분석 - 윤리적 AI 응답	- 구글 서비스 통합 - 실시간 정보 검색 - 코드 작성 - 이미지 생성/분석 - Gmail, Google 문서 연동 - 다국어 지원 - YouTube, 지도 정보 활용	- 실시간 X(Twitter) 정보 - 유머러스한 대화 스타일 - 코드 작성 - 이미지 분석 - 웹 검색 - 정치적 편향 최소화 표방
차별화 핵심 기능	- GPT-4o 고성능 모델 - ChatGPT Plus의 정교한 이미지 생성 - 플러그인 생태계 - 사용자 정의 GPTs 생성 - Advanced Voice Mode	- Constitutional AI 기반 안전성 - 매우 긴 컨텍스트 처리 - Claude Artifacts (코드 실행/미리보기) - 높은 수준의 추론 능력 - 신중하고 균형잡힌 답변	- Google 생태계 완전 통합 - 실시간 웹 정보 접근 - Gemini Advanced (Ultra 1.0) - Google Workspace 연동 - 무료 버전도 강력한 성능	- X(Twitter) 실시간 데이터 - 반복적이고 유머러스한 성격 - 정치적 올바름 거부 - 일론 머스크 철학 반영 - “재미있는” AI 지향
월간 가격	- 무료: $0 - Plus: $20/월 - Team: $25/월 (사용자당) - Enterprise: 문의 필요	- 무료: $0 - Pro: $20/월 - Team: $25/월 (사용자당) - Enterprise: 문의 필요	- 무료: $0 - One AI: $19.99/월 (구글 포함) - Business/Enterprise: 문의 필요	- 무료: $0 (제한적) - Premium: $16/월 - Enterprise: 미정 ※ X Premium 구독자 혜택 포함

😓 필자는 이미 ChatGPT에 친구 비용을 결제하고 사용하고 있다...

🤖 내 컴퓨터에서 돌리는 AI 언어 모델 (Local LLM)

🔹 Local LLM은 클라우드나 외부 서버가 아닌, 개인의 컴퓨터나 로컬 서버에서 직접 실행되는 대규모 언어 모델을 의미

🔹 OpenAI의 ChatGPT나 Claude처럼 인터넷을 통해 접근하는 것이 아니라, 자신의 하드웨어에서 AI 모델을 구동하는 방식

🔹 완전한 데이터 프라이버시: GDPR, HIPAA 등 개인정보보호 규정 준수가 용이

🔹 무제한 사용량: API 호출 횟수 제한이나 월 사용료 걱정이 없음

🔹 커스터마이징 자유도: 특정 도메인이나 업무에 맞게 모델을 fine-tuning 할 수 있음

🔹 높은 하드웨어 요구사항

• 고성능 GPU (최소 8GB VRAM, 권장 16GB 이상)

• 충분한 시스템 메모리 (32GB RAM 이상 권장)

• 빠른 SSD 저장공간 (모델 크기만 수십 GB)

🔹 성능 제약

• 개인용 하드웨어로는 GPT-4 수준의 대형 모델 실행이 어려움

• 작은 모델들은 클라우드 서비스 대비 성능이 제한적

🔹 비교

• 구분	Cloud LLM	Local LLM
  성능	최고급 (GPT-4 등)	중상급 (하드웨어 의존)
  프라이버시	제한적	완벽
  비용	사용량 기반	하드웨어 초기 투자 필요
  접근성	쉬움	기술적 지식 필요
  오프라인	불가능	가능
  커스터마이징	제한적	자유로움
  최신 정보	가능	불가능

🤔 Local LLM은 사용 경험이 없어 대표적인 모델인 LM Studio를 사용해본다.

---

🤖 LM Studio

• 메인이 깜찍하다.. 상당히 딱딱한 짚쌤의 첫 화면과 다른 느낌

🔹 초당 토큰 처리 속도

• 로컬 LLM을 사용할 때 ChatGPT처럼 부드럽고 자연스러운 대화 경험을 제공하려면 초당 토큰 처리 속도(tokens per second, TPS)가 중요

• 토큰: 고정된 글자 수가 아니라, 단어 또는 글자 단위로 분할된 단위

  • 문장을 단어/음절/문장부호 단위로 잘게 쪼개서 토큰화하기 때문에, 토큰 = 글자 수
  • "ChatGPT" → 1~2 토큰
  • "I like pizza." → 4 토큰 (["I", " like", " pizza", "."])

✅ ChatGPT 수준의 사용자 경험을 위한 권장 토큰 속도

• 최소 권장 속도: 20~30 tokens/sec
• 쾌적한 속도: 50~100 tokens/sec
• 고속 응답 (거의 실시간): 100+ tokens/sec

그런데... 답변이 뭔가 이상하다...? 수중 지뢰..? 제주 해전..?

---

📌 AI가 "상상"으로 만들어내는 거짓 정보, 환각(Hallucination)

🔹 환각(Hallucination) 은 인공지능 언어 모델이 사실과 다르거나 존재하지 않는 정보를 마치 사실인 것처럼 그럴듯하게 생성하는 현상

🔹 의학에서 사람이 실제로 존재하지 않는 것을 보거나 듣는 환각 증상에서 차용한 용어로, AI가 "허위 정보를 사실처럼 말하는" 심각한 문제점을 지칭

🔹 환각은 단순한 “틀린 답변”과는 다름. 매우 그럴듯하고 구체적이며, 자신감 있게 제시되는 거짓 정보가 특징

🔹 주요 특징

• 그럴듯함: 실제처럼 보이는 세부사항과 논리적 구조

• 자신감: 불확실함을 드러내지 않고 단정적으로 제시

• 일관성: 내부적으로는 논리적 일관성을 유지

• 검증 불가능: 실제 데이터나 사실과 대조하면 거짓임이 드러남

🤖 환각의 주요 유형

🔹 사실적 환각 (Factual Hallucination)

• 실제 사실과 다른 정보를 제시하는 경우

  예시: "아인슈타인은 1960년에 노벨물리학상을 받았다" (실제로는 1921년)

  예시: "한국의 수도는 부산이다" (명백히 틀린 기본 사실)

🔹 참조 환각 (Reference Hallucination)

• 존재하지 않는 출처, 논문, 책, 인물 등을 만들어내는 경우

예시: "김철수 박사의 2023년 논문 'AI의 미래'에 따르면..." (실제로 존재하지 않는 논문)

예시: 가짜 ISBN, DOI, 웹사이트 주소 생성

🔹 확률적 텍스트 생성의 한계

• LLM은 다음에 올 가능성이 높은 토큰(단어)을 예측하는 방식으로 작동

• “그럴듯한” 패턴을 따라가다 보면 실제 사실과 다른 내용을 생성할 수 있음

통계적 패턴 ≠ 사실적 정확성

🔹 훈련 데이터의 한계

• 불완전한 데이터: 인터넷의 모든 정보가 정확하지 않음

• 상충하는 정보: 같은 주제에 대해 다른 출처에서 다른 정보 제공

편향된 데이터: 특정 관점이나 지역에 치우친 정보

🔹 지식의 경계 불분명

• 모델이 "모른다"고 말하는 것보다 "그럴듯한 답"을 생성하도록 훈련됨

• 불확실성을 적절히 표현하는 능력 부족

• 지식의 한계를 인식하지 못하고 추측으로 빈 공간을 채우려 함

🔹 압축과 일반화의 부작용

• 방대한 정보를 압축하여 저장하는 과정에서 세부 사실이 왜곡될 수 있음

• 유사한 패턴들이 뒤섞여 하이브리드 정보가 생성됨

🤖 환각을 줄이는 방법과 대응 전략

🔹 모델 개발 단계에서의 개선

• RLHF: 인간 피드백을 통한 모델 개선

• Constitutional AI: 특정 원칙을 따르도록 훈련

• Knowledge Grounding: 신뢰할 수 있는 지식 베이스와 연결

• Uncertainty Estimation: 불확실성을 정량화하여 표현

🔹 프롬프트 엔지니어링 기법

• 명시적인 제약 조건:
  "확실하지 않으면 '모른다'고 답해줘"

• 출처 요구:
  "답변과 함께 정확한 출처를 제시해줘"

• 단계별 추론:
  "단계별로 생각하며 각 단계를 검증해줘"

• Role Playing:
  "당신은 신중한 팩트체커입니다"

🔹 RAG (Retrieval-Augmented Generation)

• 실시간으로 신뢰할 수 있는 외부 데이터베이스에서 정보를 검색하여 답변에 활용

• 모델의 내부 지식에만 의존하지 않고 최신의 검증된 정보 활용

  예시: NotebookLM의 소스 기반 답변 시스템

🔹 사용자 교육과 검증 문화

• 비판적 사고: AI 답변을 맹신하지 않고 항상 검증

• 교차 검증: 여러 출처와 방법으로 정보 확인

• 전문가 자문: 중요한 결정 시 해당 분야 전문가 상담

---

📌 AI 코딩 지원 도구

🤖 인공지능 기술, 특히 머신러닝과 자연어 처리(NLP)를 활용하여 소프트웨어 개발 과정의 다양한 측면을 지원하고 자동화하는 소프트웨어 도구 또는 서비스

• 단순히 미리 정의된 규칙에 따라 작동하는 것이 아니라, 방대한 양의 코드 데이터와 자연어 데이터를 학습한 AI 모델을 기반

• 코드의 패턴, 문맥, 의미를 이해하고, 이를 바탕으로 다양한 코딩 지원 기능을 제공

• 특정 개발 단계에만 국한되지 않고, 소프트웨어 개발 생명주기(SDLC)의 여러 단계에서 활용

• 개발자의 생산성을 향상, 코드 품질을 높이는 데에도 기여

🤖 AI 코딩 지원 도구 등장 배경

1. 개발 난이도 상승, 버그 발생 가능성 증가, 유지보수 어려움 가중

2. 기술 습득 시간 부족, 최신 트렌드 따라가기 어려움, 프로젝트마다 다른 기술 스택에 대한 적용 필요

3. 개발자들의 업무 강도 증가, 야근 빈번, 코드 품질 저하 가능성

4. 개발자 만족도 저하, 핵심 가치 창출 시간 부족, 인적 오류 발생 가능성

5. 더욱 철저한 테스트, 코드 리뷰, 보안 점검 필요

6. 코드 품질 관리에 대한 부담 증가, 리팩토링의 중요성 부각

🤖 AI 코딩 지원 도구가 필요한 이유

🔷 생산성 혁신

• 반복 작업 자동화, 코드 초안 생성, 빠른 정보 검색 등을 통해 개발 시간을 획기적으로 단축시키고, 개발자가 더 창의적이고 복잡한 문제에 집중할 수 있도록 도움

🔷 학습 및 역량 강화 지원

• 새로운 기술이나 언어를 배울 때 예제 코드를 제공하고, 코드 설명을 통해 이해를 도우며, 주니어 개발자에게는 훌륭한 학습 보조 도구가 될 수 있음

🔷 코드 품질 향상 기여

• 잠재적인 버그를 예측하거나, 더 나은 코드 패턴을 제안하고, 테스트 케이스 생성을 지원함으로써 전반적인 코드 품질을 높이는 데 기여할 수 있음

🔷 복잡성 관리 지원

• 방대한 코드베이스나 복잡한 로직을 이해하고 수정하는 데 도움을 주어, 개발자의 인지 부하를 줄여 줌

🤖 AI 코딩 지원 유형

• IDE 플러그인/확장:
  Visual Studio Code, IntelliJ IDEA 등 주요 IDE에 플러그인 형태로 통합

• 클라우드 기반 서비스:
  웹 브라우저를 통해 접근하거나, API 형태로 제공되어 다양한 개발 환경에서 활용

• 독립 실행형 애플리케이션:
  특정 목적(예: 코드 분석, 리팩토링)을 위해 독립적으로 실행되는 형태로 제공

🤖 AI 페어 프로그래밍

🔷 전통적인 페어 프로그래밍

• 두 명의 개발자가 하나의 워크스테이션에서 함께 작업하는 개발 방식

  • 드라이버 (Driver): 실제로 코드를 작성하고 키보드를 제어하는 사람
  • 내비게이터 (Navigator): 드라이버의 작업을 실시간으로 검토하고, 다음 단계를 생각하며, 전략적인 방향을 제시하고, 잠재적인 문제점을 찾아내는 사람

• 목표: 코드 품질 향상, 지식 공유, 버그 감소, 팀워크 강화, 집중력 유지 등

🔷 AI 페어 프로그래밍

• 전통적인 페어 프로그래밍의 개념을 AI 시대로 확장한 것으로, 인간 개발자가 AI 코딩 어시스턴트(예: GitHub Copilot, ChatGPT 등)를 마치 또 다른 개발자 파트너처럼 활용하여 함께 소프트웨어를 개발하는 방식

• 인간 개발자는 여전히 주도적인 역할을 하지만,
  AI는 강력한 지원군이 되어 개발 과정을 혁신적으로 변화

• '내비게이터' 또는 때로는 '보조 드라이버'의 역할을 AI가 수행하거나 보강

🔷 AI 페어 프로그래머 역할

• 초고속 코드 생성기 (The Super-Fast Code Generator)

  • 주석이나 간단한 설명 기반 코드 생성, 반복적인 코드 자동화, 문맥 기반 코드 자동 완성

• 지능적인 코드 제안자 및 검토자

  • 대안적인 구현 방법 제시, 잠재적 버그 및 안티 패턴 경고, 코드 리팩토링 아이디어 제공

• 24시간 대기하는 지식 전문가

  • API 사용법 및 라이브러리 정보 즉시 제공, 알고리즘 및 로직 설계 지원

🔷 인간 개발자 역할

• 목표 설정 및 방향 제시

• AI 제안의 비판적 검토 및 선택: 최종 책임은 인간 개발자에게 있음

• 고도의 문제 해결 및 창의적 설계: 복잡하고 추상적인 문제 해결

• AI와의 효과적인 소통 (프롬프트 엔지니어링): 명확하고 효과적인 질문이나 지시

• 시스템 전체의 이해와 통합

🔷 AI 페어 프로그래밍의 한계와 주의점

• AI 생성 코드의 품질 및 정확성 문제

• 맹신은 금물, 항상 검증 필수, 최신 정보 반영의 한계, 맥락 이해의 부족

• 보안 및 개인정보 유출 위험

• 코드 유출 가능성, 악의적인 코드 삽입 가능성

• 과도한 의존으로 인한 개발자 역량 저하 우려

• 기본기 학습 소홀, 창의성 및 문제 해결 능력 감소

• AI 모델의 편향성(Bias) 문제

• 학습 데이터의 편향 반영, 획일화된 코드 스타일 강요 가능성

• 저작권 및 라이선스 문제

• AI 생성 코드의 저작권 귀속, 라이선스 호환성 점검 필요

🔷 인공지능 어시스턴트의 사회적 우려

• 일자리 대체 및 경제적 불평등 심화

  • 자동화로 인한 실직, 새로운 기술 격차, 필요한 기술 변화에 대한 적응 부담

• 사생활 침해 및 데이터 보안 문제

  • 상시적 데이터 수집, 데이터 유출 및 오용 위험, 투명성 부족

• 편향성 및 차별 문제

  • 학습 데이터의 편향 반영, 알고리즘적 차별, 소수자 배제

• 과도한 의존 및 인간 능력 퇴화

  • 비판적 사고 능력 저하, 기본 기술 습득 소홀, 창의성 및 자율성 감소

• 사회적 고립 및 인간관계 약화

  • 인간 상호작용 감소, 공감 능력 저하, 가상 현실 도피

• 허위 정보 확산 및 여론 조작

  • 정교한 가짜 뉴스 생성, 여론 조작 및 선동, 필터 버블 및 확증 편향 강화

• 디지털 격차 및 불평등 심화

  • 기술 접근성의 차이, 혜택의 불균등 분배

• 소수 기업의 기술 독점 및 통제력 강화

  • 거대 기술 기업의 지배력, 혁신 저해 및 경쟁 제한, 사회적 영향력 과도 집중
  • 엔XX아.... X비디X.... 할인좀 해라...

---

📌 GitHub Copilot

🤖 개발자의 코딩 작업을 실시간으로 돕는 AI 기반 코드 자동 완성 및 생성 도구

• GitHub(마이크로소프트 자회사)와 OpenAI가 협력하여 개발

• OpenAI의 GPT-3의 후속 모델인 Codex 모델 기반으로, 방대한 양의 공개 소스 코드(수십억 줄의 코드)와 자연어 텍스트를 학습하여 코드의 패턴, 문맥, 의미를 깊이 이해하고 생성할 수 있는 능력을 갖추고 있음

🤖 GitHub Copilot 특징

• 실시간 코드 자동 완성:
  개발자가 코드를 입력하기 시작하면, 현재 파일의 내용, 관련된 다른 파일들, 커서 위치, 주석 등을 분석하여 다음에 올 가능성이 높은 코드 라인이나 전체 함수, 심지어 복잡한 코드 블록까지 실시간으로 제안

• 주석 기반 코드 생성: 개발자가 자연어 주석으로 원하는 기능이나 로직을 설명하면, Copilot이 해당 설명을 이해하고 필요한 코드를 생성해 줌

• 다양한 프로그래밍 언어 및 프레임워크 지원, 코드 리팩토링 및 최적화 제안 (부분적 지원), 단위 테스트 코드 생성

🤖 GitHub Copilot Chat

• 코드 설명 요청: /explain 등의 명령어로 선택한 코드 블록의 작동 방식이나 의도에 대한 설명 요청

• 코드 수정 및 개선 제안: /fix 또는 /simplify 등의 명령어로 코드의 버그를 수정하거나 더 간결하게 만들도록 요청

• 특정 기능 구현 질문:
  "Python으로 API 요청 보내는 방법 알려줘" 와 같이 일반적인 코딩 질문에
  대한 답변과 예제 코드를 받을 수 있음

• 단위 테스트 생성 요청:
  /tests 명령어로 선택한 코드에 대한 단위 테스트를 생성하도록 요청

• 터미널 명령어 제안:
  /terminal 명령어로 특정 작업을 위한 쉘 명령어를 물어볼 수 있음

🤖 GitHub Copilot 설치 및 기본 설정

🔹 시작 전 필수 확인 사항

• GitHub 계정: GitHub 계정이 반드시 필요

• GitHub Copilot 구독 활성화

🔹 Visual Studio Code (VS Code) 설치 및 설정

• 확장(Extensions) 뷰 열기

• "GitHub Copilot" 검색 및 설치

• GitHub 계정 연동 (인증)

💡 GitHub Copilot 요금제 및 프리미엄 요청 비교표

항목	Copilot Free	Copilot Pro	Copilot Pro+	Copilot Business	Copilot Enterprise
💰 가격 책정	해당 없음	매월 10 USD 또는 매년 100 USD (일부 사용자 무료)	월별 39 USD 또는 연간 390 USD	19 USD 매월 권한 부여된 사용자당	매월 권한 부여된 사용자당 39 USD
⭐ 프리미엄 요청	월별 50개	월별 300개	월별 1500개	월별 사용자당 300개	월별 사용자당 1000개
🛒 추가 프리미엄 요청 구매	❌	✅ 요청당 $0.04	✅ 요청당 $0.04	✅ 요청당 $0.04	✅ 요청당 $0.04

---

📌 프롬프트 엔지니어링

🤖 인공지능(AI), 특히 대규모 언어 모델(LLM)로부터 원하는 최적의 결과물을 얻어내기 위해 입력 텍스트(프롬프트)를 설계하고 최적화하는 과정이자 기술

• 쉽게 말해, AI가 사용자의 의도를 명확히 이해하고, 가장 정확하고 유용한 답변이나 결과물을 생성하도록 AI에게 질문하거나 지시하는 방법을 연구하고 개선하는 기술

🤖 프롬프트 엔지니어링 중요성

• AI 성능 극대화: AI 모델의 잠재력을 최대한 끌어내어 더 정확하고, 창의적이며, 유용한 결과물을 얻을 수 있음

• 의도 명확화: 사용자의 복잡하거나 미묘한 의도를 AI가 정확히 파악하도록 도움

• 오류 및 편향 감소: 잘못된 정보나 편향된 결과가 생성될 가능성을 줄임

• 다양한 작업 수행: 단순 질의응답부터 코드 생성, 창의적 글쓰기, 번역, 요약 등 다양한 작업을 효과적으로 수행하도록 AI를 유도할 수 있음

• AI 활용 능력 향상: AI 시대를 살아가는 데 필요한 핵심 역량 중 하나로 자리매김하고 있음

🤖 프롬프트 엔지니어링 주요 원칙

⭐ 명확성 (Clarity)과 구체성 (Specificity)

• 모호함 회피: AI가 혼동하지 않도록 명확하고 간결한 언어 사용

• 구체적인 지시: 원하는 결과물의 형식, 길이, 톤, 대상 독자, 포함/제외할 내용 등을 구체적으로 명시

예시:

"이야기 써줘" ❌

"10대 청소년을 위한 500자 내외의 유머러스한 우주 탐험 단편 소설을 써줘. 주인공은 겁이 많지만 호기심 많은 고양이로 설정해줘." ⭕

⭐ 맥락 제공 (Providing Context)

• AI가 작업을 수행하는 데 필요한 배경 정보나 맥락을 충분히 제공

  예시: 롯데칠성음료에서 새로 출시한 클라우드에 대해 알려줘

⭐ 역할 부여 (Role Playing)

• AI에게 특정 역할을 부여하여 그 역할에 맞는 응답을 생성하도록 유도

  예시: “너는 지금부터 숙련된 마케팅 전문가야. 신제품 스마트폰의 주요 타겟 고객에게 어필할 수 있는 광고 문구 3가지를 제안해줘.”

⭐ 예시 제공 (Few-Shot Prompting)

• 원하는 결과물의 형식이나 스타일을 보여주는 예시를 프롬프트에 함께 제공

• AI는 이 예시를 통해 사용자의 요구사항을 더 잘 이해하고 유사한 결과물을 생성함

  • Zero-shot: 예시 없이 바로 지시
  • One-shot: 예시를 하나 제공하고 지시
  • Few-shot: 예시를 2~3개 제공하고 지시

⭐ 단계별 사고 유도 (Chain-of-Thought Prompting, CoT)

• 복잡한 문제나 추론이 필요한 작업에 대해, AI가 단계별로 생각하고 해결 과정을 도출하도록 유도 (문제를 쪼개어 단계적으로 푸는 것)

• "단계별로 설명해줘", "생각의 과정을 보여줘"와 같은 문구를 추가할 수 있음

• 이는 AI가 더 정확한 답을 찾도록 돕고, 그 과정을 사용자가 이해하는 데도 유용

⭐ 지시어 정교화 및 구조화 (Instruction Refinement & Structuring)

• 명령, 질문, 맥락, 예시 등을 명확히 구분하여 구조화된 형태로 프롬프트를 제공
  (예: ### 지시:, ### 예시:, ### 질문:)

• 긍정적이고 명확한 동사 (예: "요약해줘", "분석해줘", "생성해줘")를 사용

• 복잡한 작업은 여러 개의 작은 프롬프트로 나누어 단계적으로 접근할 수 있음

⭐ 부정적 지시 (Negative Prompts)

• 원치 않는 결과나 내용을 피하기 위해 "하지 마라" 형태의 지시를 명확히 할 수 있음

  예시: "이 기사를 요약해줘. 단, 개인적인 의견은 포함하지 마."

⭐ 출력 형식 제어 (Controlling Output Format)

• 결과물을 원하는 형식(예: JSON, Markdown, 글머리 기호 목록, 표)으로 명시적으로 요청합니다.

  예시: "주요 특징들을 글머리 기호 목록 형태로 정리해줘."

⭐ 반복적인 개선 (Iterative Refinement)

• 처음부터 완벽한 프롬프트를 작성하기는 어렵다.

• AI의 응답을 보고 프롬프트를 수정하고 개선하는 반복적인 과정을 통해 최적의 프롬프트를 찾아감

• 마치 코드를 디버깅하는 것과 유사

🤖 프롬프트 엔지니어링 심화: 하이퍼파라미터

• 대규모 언어 모델(LLM)과 상호작용할 때, 모델의 생성 동작 자체를 미세하게 제어할 수 있는 다양한 하이퍼파라미터(Hyperparameters)를 조정하여 결과물의 품질을 더욱 높일 수 있음

• LLM API (예: OpenAI API)를 통해 모델에 요청을 보낼 때 함께 전달하여 텍스트 생성 방식에 영향을 미치는 설정값들을 의미하며,
  종종 생성 파라미터(Generation Parameters)라고도 불림

• 이 하이퍼파라미터들을 잘 이해하고 활용하면, 같은 프롬프트라도 전혀 다른 느낌과 내용의 결과물을 얻을 수 있음

예시는 Gemini입니다.

⭐ temperature

• 생성되는 텍스트의 무작위성(randomness) 또는 창의성을 조절

• 값의 범위: 보통 0에서 2 사이 (API마다 다를 수 있음. OpenAI는 0~2)

• 낮은 값 (예: 0.0 ~ 0.3):

  • AI는 가장 확률이 높은, 즉 가장 예측 가능하고 결정적인(deterministic) 텍스트를 생성.

  • 사실 기반 답변, 코드 생성, 정확한 요약 등 일관성이 중요한 작업에 적합

• 높은 값 (예: 0.7 ~ 1.0 이상):

  • AI는 더 다양하고, 예상치 못한, 창의적인 텍스트 생성

  • 소설 쓰기, 브레인스토밍, 다양한 아이디어 생성 등에 유용하지만, 때로는 문맥에서 벗어나거나 논리가 부족한 결과가 나올 수 있음

❗ 주의: 너무 높으면 의미 없는 단어 나열이 될 수 있다...

⭐ top_p (상위 p 샘플링, Nucleus Sampling)

• AI가 다음 단어를 선택할 때, 확률 분포에서 누적 확률이 p가 될 때까지의 상위 단어들 중에서만 샘플링하도록 제한. temperature와 함께 사용되어 생성 결과의 다양성을 조절

• 값의 범위: 0에서 1 사이 (예: 0.1, 0.9)

  예시:
  top_p = 0.1이면, AI는 다음 단어 후보들의 확률을 모두 더했을 때
  상위 10%에 해당하는 단어들 중에서만 다음 단어를 선택

• 효과:
  temperature를 높여 다양성을 확보하면서도, top_p를 통해 너무 엉뚱하거나 확률 낮은 단어들이 선택되는 것을 방지하여 결과의 질을 유지하는 데 도움을 줄 수 있음

💡 temperature와 top_p 중 하나만 변경하며 실험하는 것이 좋다.
(예: temperature는 0.7로 고정하고 top_p를 조절하거나,
top_p는 1로 고정하고 temperature를 조절)

⭐ max_tokens (최대 토큰)

• AI가 생성하는 텍스트의 최대 길이를 제한

• 토큰은 단어나 문장 부호 등 텍스트의 기본 단위
  (영어 기준 보통 1토큰 ≈ 4글자, 한글은 더 적음)

• 값: 정수 (예: 100, 1024, 2048)

• 비용 관리: 대부분의 LLM API는 사용한 토큰 수(입력+출력)에 따라 요금을 부과하므로, 불필요하게 긴 응답을 방지하여 비용을 절감할 수 있음

• 응답 시간 제어: 긴 텍스트를 생성하는 데는 더 많은 시간이 소요

• 결과물 제어: 특정 길이의 요약문이나 트윗 등을 원할 때 유용

❗ 주의: 너무 짧게 설정하면 AI가 충분한 내용을 전달하기 전에 응답이 끊길 수 있다...

⭐ frequency_penalty (빈도 페널티)

• AI가 텍스트를 생성할 때, 이미 생성된 단어를 반복적으로 사용하는 것을 억제

• 값의 범위: 보통 -2.0에서 2.0 사이 (OpenAI 기준)

• 높은 값 (예: 0.5 ~ 2.0): 동일한 단어나 구문이 반복될 확률을 낮추고 더 다양한 어휘를 사용하도록 유도

• 낮은 값 (또는 음수): 반복을 더 허용하거나 오히려 장려할 수 있음(일반적으로 사용하지 않음).

• 활용: AI가 특정 단어나 표현에 "꽂혀서" 계속 반복하는 현상을 줄이는 데 도움

⭐ presence_penalty (존재 페널티)

• frequency_penalty와 유사하지만, 단순히 단어의 빈도뿐만 아니라 이미 텍스트에 등장한 단어 자체에 대해 페널티를 부여하여, 새로운 주제나 개념을 도입하도록 유도

• 값의 범위: 보통 -2.0에서 2.0 사이 (OpenAI 기준)

• 높은 값 (예: 0.5 ~ 2.0): 이미 언급된 단어보다는 새로운 단어를 사용하도록 장려하여, 더 넓은 범위의 주제를 다루거나 다양한 아이디어를 탐색하는 데 도움이 될 수 있음

• 활용: 창의적인 글쓰기나 브레인스토밍 시, AI가 한 가지 주제에만 머무르지 않고 다양한 관점을 제시하도록 할 때 유용

⭐ stop (중단 시퀀스, Stop Sequences)

• 역할: AI가 텍스트를 생성하다가 미리 지정된 특정 문자열(시퀀스)을 만나면 생성을 즉시 중단

• 값: 문자열 또는 문자열 리스트 (예: ["\n", " User:", " AI:"])

• 활용:

  • AI가 특정 형식(예: Q&A)을 따르도록 할 때, 다음 질문이나 답변 시작 부분을 중단 시퀀스로 지정하여 불필요한 추가 생성을 막을 수 있음

  • max_tokens와 함께 사용하여 응답 길이를 보다 정교하게 제어할 수 있음

  • AI가 특정 패턴 뒤에 불필요한 내용을 덧붙이는 것을 방지

🤖 하이퍼파라미터 튜닝 전략 및 고려사항

• 목표 정의가 우선: 어떤 종류의 AI 응답을 원하는가?

✅ 정확하고 사실적인 정보:

• 낮은 temperature, top_p는 기본값 또는 약간 낮게.

💡 창의적인 아이디어, 다양한 표현:

• 높은 temperature, 적절한 top_p (예: 0.7~0.9)

✍️ 간결한 요약:

• 적절한 max_tokens, 낮은 temperature

🔁 반복을 피하고 다양한 어휘 사용:

• frequency_penalty 및 presence_penalty를 약간 높게

🤖 동일한 프롬프트에 대해 다양한 하이퍼파라미터 조합을 시도하고, 가장 만족스러운 결과를 내는 설정을 찾아볼 것! (A/B 테스트)

🤖 프롬프트 자체를 개선하는 것과 하이퍼파라미터를 조정하는 것을 병행할 것!

❗ 사용 가능한 하이퍼파라미터의 종류, 기본값, 값의 범위, 그리고 각 파라미터가 결과에 미치는 영향은 사용하는 LLM 모델 (예: GPT-4, Claude 3, Llama 3 등) 및 API 제공 업체에 따라 다를 수 있다.

---

💡 꿀팁 1: 가장 중요한 프롬프트의 경우, 구매하거나 무료로 받아서 실행할 수 있는 사이트가 존재한다.
PromptHero Promptbase

💡 꿀팁 2: 하이퍼파라미터 튜닝 시 Max_tokens 등을 짜기 용이하게 token 계산기도 존재한다. Open ai Tokenizer