딥리서치 에이전트의 Reflective Prompt Optimization: 토픽 분리·멀티 시드로 본 진짜 성능 향상과 프롬프트 과적합
Reflective Prompt Optimization of a Deep-Research Agent: A Topic-Disjoint, Multi-Seed Protocol for Measuring Transferable Gains and Prompt-Level Overfitting
TL;DR Highlight
GEPA로 프롬프트를 최적화했더니 held-out 인용 보상 0.702→0.781
Who Should Read
딥리서치 에이전트의 인용 품질을 프롬프트 자동 최적화로 올리려는데 과적합이 걱정되는 LLM 개발자
Core Mechanics
- held-out에서도 올랐다
- 토픽이 겹치지 않는 500개 과제에서 인용 보상이 0.702에서 0.781로 올랐다.
- 3개 시드 평균 향상은 0.107이었고 매번 유의미했다.
- 프롬프트의 절반 가까이가 정답 암기장
- 최적화기가 학습 질문과 정답을 프롬프트에 그대로 적어 넣었다.
- 최종 프롬프트 단어 수의 오케스트레이터 52%, 리서처 39%가 이 암기 내용이었다.
- 그 암기장은 점수에 도움이 안 됐다
- 학습에 쓴 질문 24개 그대로 풀어도 향상은 0.090뿐이었다.
- validation 향상 0.202와의 차이는 암기가 아니라 작은 검증셋과 노이즈 있는 judge 때문이라고 해석한다.
- 핵심은 항목별 피드백이다
- 보상을 숫자 하나로 합치면 held-out 향상이 -0.021로 뒤집혔다.
- 링크·관련성·사실 지지처럼 항목별 텍스트 피드백을 주면 +0.075였다.
- 손으로 쓴 레시피로도 57% 얻었다
- 암기 내용을 빼고 규칙만 남긴 프롬프트가 전체 향상의 약 57%를 재현했다.
- 규칙은 답을 먼저 쓰기, 주장 하나에 인용 하나, 페이지 내용 검증, 코퍼스 URL만 쓰기다.
Evidence
- Held-out 향상 0.079
- 토픽 254개, 과제 500개에서 seed 프롬프트 0.702 대비 최적화 프롬프트 0.781이었다.
- 부트스트랩 95% 신뢰구간은 [0.051, 0.107]이고 승/무/패는 287/66/147이었다.
- 시드 3개 재현
- held-out 향상은 각각 0.079, 0.130, 0.112로 평균 0.107이었다.
- validation과 held-out의 차이는 0.034~0.160으로 시드마다 크게 흔들렸다.
- 암기 효과 검증
- 학습 질문 24개에서 seed 0.695, 최적화 0.784로 +0.090이었다.
- 암기된 패밀리의 신규 질문 향상은 0.071, 암기되지 않은 패밀리는 0.154였다.
- Verifier 비교
- 정식 held-out 120과제 기준 향상은 항목별 피드백 +0.075, 거친 3단계 +0.079, 3회 반복 +0.059, 단일 스칼라 -0.021이었다.
- 사실 지지가 가장 약하다
- 200과제 held-out에서 fact check는 0.527에서 0.622로 올랐지만 여전히 가장 낮은 항목이었다.
- 비용
How to Apply
- 리서치 에이전트 프롬프트에 인용 규칙 4개 넣기
- 지금 쓰는 시스템 프롬프트에 답 먼저, 주장당 인용 하나, 인용 페이지 본문 확인, 검색된 URL만 인용 규칙을 추가해라.
- 추가 전후를 같은 질문 20~50개로 비교해라.
- 최적화 보상을 항목별 피드백으로 쪼개기
- 프롬프트 최적화나 평가 루프에서 점수 하나로 합치지 마라.
- 링크 유효, 출처 관련성, 주장 지지, 번호 매기기처럼 항목별 점수와 이유를 reflector에 넘겨라.
- 최적화 결과 프롬프트에서 정답 암기 찾기
- 최적화 데이터와 토픽이 겹치지 않는 held-out 세트 만들기
- 같은 문서·주제에서 나온 질문은 한 분할에만 넣어라.
- 시드를 2~3개 바꿔 돌려서 향상이 반복되는지 확인해라.
Try It
# Claude나 ChatGPT에 붙여넣기: 논문 방법의 간이 버전 (손으로 쓴 레시피 프롬프트 만들기)
너는 출처를 인용하며 리서치 보고서를 쓰는 에이전트다. 다음 규칙을 지켜라.
1. 보고서 맨 앞에 질문에 대한 답을 먼저 쓴다.
2. 한 문장에는 주장 하나만 담고, 인용 하나만 붙인다.
3. 인용하기 전에 해당 페이지 본문이 그 주장과 수치를 직접 뒷받침하는지 확인한다. 주제만 비슷한 출처는 인용하지 않는다.
4. 검색 도구가 반환한 URL만 인용한다.
5. 본문 인용은 [1], [2]처럼 번호를 매기고 맨 아래 출처 목록과 일치시킨다.
질문: {{질문}}
검색 결과: {{문서}}
이어서 해 볼 것: 같은 질문 20개를 기존 프롬프트와 이 프롬프트로 각각 돌리고, 인용이 주장을 실제로 뒷받침하는 비율을 비교해 봐라.Terminology
관련 논문
AI는 도구다, 잘 쓰려면 기술이 필요하다
Hickey의 'AI는 도구가 아니다'에 맞서, LLM도 쓰는 사람의 기술이 결과를 가른다고 반박
GPT-6와 Intelligent UI: 채팅 안에서 시각·인터랙티브 응답 만들기
OpenAI가 GPT-6로 채팅 응답에 UI를 넣는다는데 원문이 없어 댓글 반응만 확인된다
Base 모델도 첫 토큰 단서(cue) 하나로 추론한다: 학습 데이터가 만든 연상
응답 첫 두 토큰만 고정했더니 Olmo-3-7B의 MATH-500 정답률이 42%에서 78%로 올랐다
Jev식 Typed Decision Model에서는 정의보다 라벨이 이긴다
옵션 이름을 A, B로 바꿨더니 정확도가 +0.1511 올랐다
프롬프트는 얼마나 필요한가? Few-shot 예시를 블랙박스로 최소화하는 DD-FSM
Delta debugging으로 few-shot 예시를 평균 65.3% 줄여도 출력은 그대로
언어모델은 "불안정한(Insecure)" 보고자다: 결함을 숨기는 LLM 리포트
"Be honest" 한 줄을 붙였더니 GPT-5.5의 부정 결과 공개가 2/200에서 190/200으로 늘었다
Claude Opus 5.5 프롬프팅 가이드: effort·진행 업데이트·무인 에이전트 설정
Opus 5.5는 medium effort로 Opus 5 high급 성능, 프롬프트·하네스 조정법 정리
Original Abstract (Expand)
Prompt optimization is an attractive alternative to reinforcement learning for adapting language-model agents, since it is cheap and produces human-readable artifacts. On factual tasks, however, it carries a failure mode that scalar-reward reinforcement learning does not. An optimizer that reads the training examples can write their answers into the prompt, so an in-distribution gain may be memorization rather than transferable behaviour. We apply reflective prompt evolution (GEPA) to the two system prompts of a multi-agent deep-research agent and evaluate it under a topic-disjoint split in which no topic is shared across train, validation, and test. Held-out citation reward rises by 0.079, from 0.702 to 0.781, with a bootstrap 95\% confidence interval of [0.051, 0.107], and the gain replicates across three seeds (mean 0.107). Nearly half of the winning prompt is a memorized answer key, yet a controlled ablation shows this content earns no reward even on the exact training questions it encodes. The large validation-minus-held-out gap is therefore small-sample selection under a noisy judge, not memorization. Varying the verifier isolates what makes the gain transfer. Decomposed per-dimension feedback is the causal ingredient, and collapsing it to a single scalar reward makes held-out transfer negative. The gain persists under an out-of-family judge and is largely reproduced by a hand-written version of the discovered recipe. Credible evaluation of prompt optimizers therefore requires held-out topics, multiple seeds, and verifier ablations. We release the candidate prompts, lineage diffs, figures, tables, and analysis.