[LLM] 🧠 프롬프트 엔지니어링 완전 가이드: Zero-shot, Few-shot, CoT부터 ReAct까지

프롬프트 엔지니어링은 LLM이 최적의 답변을 생성하도록 입력 텍스트의 형식, 맥락, 구조를 설계하는 기술입니다. 단어 하나의 차이가 결과를 크게 바꾸며, 예시 제공 방식에 따라 Zero-shot부터 Few-shot CoT까지 다양한 기법이 존재합니다. 이 글에서는 기본 기법의 개념과 차이부터 Chain-of-Thought, Tree-of-Thought, ReAct 같은 고급 기법까지 실제 프롬프트 예시와 함께 정리합니다.

🤔 프롬프트 엔지니어링이란?

프롬프트 엔지니어링은 AI가 최상의 답변을 생성하도록 입력값(프롬프트)을 설계하고 최적화하는 과정입니다. 같은 질문이라도 어떻게 표현하느냐에 따라 LLM의 답변 품질이 극적으로 달라집니다.

1
2
3
4
5
6

# 나쁜 프롬프트
"요약해줘"

# 좋은 프롬프트
"다음 기술 문서를 비개발자도 이해할 수 있는 수준으로
 3문장 이내 한국어 글머리 목록으로 요약해줘."

프롬프트는 일반적으로 4가지 요소로 구성됩니다:

1️⃣ Zero-Shot 프롬프팅

Zero-Shot은 예시(예제) 없이 지시만으로 AI에게 작업을 수행시키는 방식입니다. “영점(0개의 예시)”이라는 이름 그대로입니다.

AI의 사전학습 지식만으로 작업하기 때문에 빠르고 간편하지만, 복잡하거나 특수한 형식의 작업에서는 결과가 불안정할 수 있습니다.

1
2
3
4

# Zero-Shot 예시 — 감정 분류
"다음 문장의 감정을 긍정, 부정, 중립 중 하나로 분류하세요.

문장: 오늘 배송이 너무 늦어서 실망했어요."

1
2
3
4

# Zero-Shot 예시 — 번역
"다음 문장을 영어로 번역해줘.

문장: 인공지능은 미래를 바꿀 기술입니다."

적합한 상황: 일반적인 번역, 간단한 요약, 기본 질의응답처럼 명확하고 단순한 작업

2️⃣ One-Shot 프롬프팅

One-Shot은 하나의 입출력 예시를 제공한 후 같은 패턴으로 답변을 요청하는 방식입니다.

1
2
3
4
5
6
7
8
9

# One-Shot 예시 — 감정 분류
"다음 형식으로 감정을 분류해줘.

예시:
입력: 배송이 빠르고 포장이 깔끔해서 만족합니다.
출력: 긍정

입력: 제품 색상이 사진과 달라서 당황했어요.
출력:"

예시 하나만으로도 AI가 원하는 출력 형식을 파악하여 일관된 응답을 생성합니다.

3️⃣ Few-Shot 프롬프팅

Few-Shot은 2~5개의 예시를 제공하여 AI가 패턴을 학습하고 일관된 결과를 내도록 유도하는 방식입니다. Zero-Shot보다 훨씬 안정적인 결과를 얻을 수 있습니다.

1
2
3
4
5
6
7
8
9
10
11
12
13
14

# Few-Shot 예시 — 신조어 감정 분석
"다음 형식으로 리뷰의 감정을 분류해줘.

입력: 이 카페 분위기 레전드다
출력: 긍정

입력: 음식이 존맛탱이에요
출력: 긍정

입력: 서비스가 별로고 가성비도 구림
출력: 부정

입력: 인테리어는 갓벽한데 가격이 좀 세네요
출력:"

좋은 예시를 고르는 기준

• 다양성: 다양한 케이스를 포함해 AI가 패턴을 일반화하도록 유도
• 명확성: 각 입출력이 1:1로 명확하게 대응
• 일관성: 모든 예시가 동일한 형식을 따름
• 관련성: 실제 요청과 유사한 도메인의 예시 사용

Tip: Few-Shot에서 예시의 순서도 영향을 줍니다. 가장 관련성 높은 예시를 마지막에 배치하면 효과적입니다.

4️⃣ Chain-of-Thought (CoT) — 사고의 연쇄

Chain-of-Thought(CoT)는 AI가 최종 답을 바로 내놓는 대신 단계별 추론 과정을 거치도록 유도하는 기법입니다. 수학 계산, 논리 추론, 복잡한 판단 문제에서 정확도를 비약적으로 향상시킵니다.

Zero-Shot CoT

“Let’s think step by step” 또는 “단계별로 생각해봐”라는 트리거 문장 하나만 추가해도 모델이 단계적 사고를 시작합니다.

1
2
3
4
5

# Zero-Shot CoT 예시
"철수는 사과를 5개 가지고 있었다. 영희에게 2개를 주고,
 마트에서 3개를 더 샀다. 철수에게 사과는 몇 개인가?

단계별로 생각하며 풀어줘."

1
2
3
4
5

# AI 응답 예시
1단계: 처음 사과 수 = 5개
2단계: 영희에게 준 후 = 5 - 2 = 3개
3단계: 마트에서 구매 후 = 3 + 3 = 6개
정답: 6개

Few-Shot CoT

단계별 추론 과정을 포함한 예시를 제공하면 더 복잡한 추론도 정확하게 수행합니다.

1
2
3
4
5
6
7
8
9
10
11

# Few-Shot CoT 예시
"다음 문제를 단계별로 풀어줘.

Q: 버스에 승객이 10명 있었다. 정류장에서 3명이 내리고
   5명이 탔다. 버스에는 몇 명이 있는가?
A: 처음 10명에서 3명이 내리면 7명, 거기서 5명이 타면 12명.
   정답: 12명

Q: 상자에 공이 8개 있다. 4개를 꺼내고 2개를 넣었다.
   상자에는 몇 개가 남아있는가?
A:"

CoT가 효과적인 상황:

• 수학 계산 및 수식 풀기
• 논리 추론과 인과관계 분석
• 복잡한 다단계 의사결정
• 코드 디버깅 과정 추적

5️⃣ 기법 비교 한눈에 보기

🌳 고급 기법 1: Tree-of-Thought (ToT)

Tree-of-Thought(ToT)는 CoT를 확장하여 여러 가능한 추론 경로를 동시에 탐색하는 기법입니다. 나무의 가지처럼 여러 방향으로 사고를 전개하고 최적의 경로를 선택합니다.

1
2
3
4
5

# Tree-of-Thought 프롬프트 예시
"다음 문제를 풀기 위한 3가지 접근법을 각각 제시하고,
 각 접근법의 장단점을 분석한 후 가장 효과적인 방법을 선택해줘.

문제: 스타트업의 초기 마케팅 예산 100만원을 어떻게 배분해야 할까?"

적합한 상황: 창의적 문제 해결, 전략 수립, 최적 방안 선택이 필요한 복잡한 의사결정

🔄 고급 기법 2: Self-Consistency (자기 일관성)

Self-Consistency는 동일한 문제를 여러 번 풀게 한 후 가장 많이 나온 답을 선택하는 기법입니다. 여러 전문가의 의견을 다수결로 취합하는 앙상블 방식입니다.

1
2
3

# Self-Consistency 활용
"다음 코드의 버그를 3가지 다른 관점(성능, 보안, 가독성)에서
 각각 독립적으로 분석한 후, 공통으로 지적된 문제를 최우선으로 수정해줘."

CoT 결과의 신뢰도를 높이는 데 효과적이며, 중요한 판단이 필요할 때 활용합니다.

⚡ 고급 기법 3: ReAct (Reasoning + Acting)

ReAct는 추론(Reasoning)과 행동(Acting)을 반복하는 기법으로, 외부 도구(검색, API, 코드 실행 등)와 연동하는 AI 에이전트에 사용됩니다.

1

Thought → Action → Observation → Thought → Action → ...

1
2
3
4
5
6
7
8
9
10

# ReAct 흐름 예시 (에이전트)
Thought: 현재 날씨를 알아야 추천이 가능하다.
Action: search("서울 오늘 날씨")
Observation: 서울 기온 12도, 비 예보

Thought: 비가 오므로 실내 활동을 추천해야 한다.
Action: search("서울 실내 주말 여행지")
Observation: 국립중앙박물관, CGV IMAX...

Final Answer: 오늘 비가 오니 국립중앙박물관 방문을 추천드립니다.

LangChain Agent, OpenAI Function Calling 같은 도구 연동 시스템이 이 방식을 기반으로 합니다.

🔗 고급 기법 4: Prompt Chaining (프롬프트 체이닝)

복잡한 작업을 여러 단계의 프롬프트로 분해하여 앞 단계의 출력을 다음 단계의 입력으로 연결하는 방식입니다.

1
2
3
4

# Prompt Chaining 예시 — 블로그 포스트 작성
step1 = llm.invoke("다음 주제로 블로그 목차 5개를 작성해줘: {topic}")
step2 = llm.invoke(f"다음 목차로 각 섹션의 핵심 내용 1문장씩 작성해줘:\n{step1}")
step3 = llm.invoke(f"다음 개요를 바탕으로 전체 포스트를 작성해줘:\n{step2}")

한 번에 긴 작업을 시키면 품질이 떨어질 때, 단계별로 나눠서 각 단계의 품질을 보장합니다.

🛠️ 실무 프롬프트 설계 원칙

역할 부여 (Role Prompting)

1
2

"너는 10년 경력의 시니어 백엔드 개발자야.
 다음 Python 코드를 프로덕션 레벨로 리뷰해줘."

출력 형식 명시

1
2
3
4
5
6

"다음 내용을 분석하고 아래 JSON 형식으로 반환해줘:
{
  "sentiment": "긍정|부정|중립",
  "confidence": 0.0~1.0,
  "key_phrases": ["키워드1", "키워드2"]
}"

제약 조건 설정

1
2
3
4
5

"다음 조건을 반드시 지켜서 답변해줘:
- 200자 이내로 작성
- 기술 용어 사용 금지
- 번호 목록 형식
- 한국어로만 답변"

부정형 대신 긍정형 지시

1
2
3
4
5

# ❌ 부정형 (AI가 헷갈릴 수 있음)
"전문 용어를 사용하지 말고, 너무 길게 쓰지 마세요."

# ✅ 긍정형 (명확한 지시)
"초등학생도 이해할 수 있는 쉬운 단어로, 3문장 이내로 설명해줘."

📊 기법 선택 가이드

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

작업이 단순하고 명확한가?
  └─ YES → Zero-Shot
  └─ NO ↓

원하는 출력 형식이 특수한가?
  └─ YES → Few-Shot (예시 2~5개 제공)
  └─ NO ↓

수학/논리/복잡한 추론이 필요한가?
  └─ YES → CoT (Zero-Shot CoT 또는 Few-Shot CoT)
  └─ NO ↓

여러 방안 중 최적을 찾아야 하는가?
  └─ YES → Tree-of-Thought
  └─ NO ↓

외부 도구(검색, API) 연동이 필요한가?
  └─ YES → ReAct
  └─ NO → Prompt Chaining으로 단계 분해

❓ 자주 묻는 질문

Q. Zero-Shot과 Few-Shot 중 무엇을 먼저 시도해야 하나요?

항상 Zero-Shot부터 시작하세요. 원하는 결과가 나오지 않으면 예시를 1개(One-Shot), 그래도 부족하면 2~5개(Few-Shot)로 늘려가는 방식이 토큰 효율적입니다.

Q. CoT는 모든 LLM에서 효과가 있나요?

GPT-4, Claude 3+, Gemini 1.5 같은 대형 모델에서 효과가 뚜렷합니다. 작은 모델(7B 이하)에서는 CoT의 효과가 제한적이거나 오히려 성능을 저하시킬 수 있습니다.

Q. Few-Shot 예시는 몇 개가 적당한가요?

일반적으로 3~5개가 최적입니다. 예시가 너무 많으면 토큰을 낭비하고 프롬프트가 복잡해집니다. 5개를 넘으면 대부분의 경우 큰 성능 향상이 없습니다.

Q. “Let’s think step by step” 외에 CoT를 유도하는 문장이 있나요?

다양한 트리거 문장이 효과적입니다:

• “단계별로 생각해봐”
• “풀이 과정을 보여줘”
• “이유를 먼저 설명하고 결론을 내려줘”
• “틀릴 수 있는 가능성을 먼저 검토하고 답해줘”

Q. 프롬프트 길이가 길수록 좋은가요?

아닙니다. 불필요한 미사여구나 중복 설명은 오히려 LLM을 혼란시킬 수 있습니다. 간결하고 명확하게 핵심 지시만 포함하는 것이 원칙입니다.