환경 비의존 에이전트 개선하기: 스캐폴딩의 역할
Improving Environment-Agnostic Agents: The Role of Scaffolding
TL;DR Highlight
'막히면 멈추고 보고해'라는 한 줄로 게임 점수는 올랐지만 비용도 올랐다
Who Should Read
코딩 에이전트(Codex 등)를 루프로 돌리는데 중간에 헛돌거나 일찍 포기해서 고민인 에이전트 개발자
Core Mechanics
- 프롬프트 한 줄만 바꿨다
- Baseline은 "끝날 때까지 계속 일해"였다.
- Stop-and-report는 "확신 있게 진행될 때만 계속하고, 막히거나 애매하면 멈추고 나한테 보고해"로 바꿨다.
- 코드·도구·컨트롤러는 그대로이고 이 지시문만 다르다.
- 보고 후 이어서 시키는 구조다
- Codex가 멈추면 스크립트 컨트롤러가 같은 대화를 재개한다.
- 이때 목표 리마인더와 환경 설명을 다시 읽으라는 말만 붙이고 사람 피드백이나 힌트는 주지 않는다.
- 게임 두 곳은 올랐고 터미널은 들쭉날쭉했다
- ARC-AGI-3와 AGI Maze의 평균 점수는 모든 설정에서 올랐다.
- Terminal-Bench는 -1.50~+2.25%p로 방향이 제각각이었다.
- 점수가 오른 만큼 토큰 비용도 올랐다
- 같은 추론 강도에서도 비용이 늘었다.
- 더 잘 활용한 건지 추론을 더 쓴 건지는 이 실험으로 구분되지 않는다.
- 전용 스캐폴딩은 최강 모델에서도 이득이 남았다
- 환경 전용 에이전트(twma_v1.61)가 일반 에이전트보다 계속 높았다.
Evidence
- ARC-AGI-3 RHAE는 Stop-and-report가 Baseline보다 1.37~7.29%p 높았다
- 예를 들어 GPT-5.5 high는 27.57에서 34.86으로 올랐다.
- GPT-5.6-sol max는 89.59에서 90.96으로 올랐다.
- AGI Maze RHAE70은 8개 비교 모두 Stop-and-report가 높았다
- 향상 폭은 0.37~4.95%p이고 토큰 비용은 약 7~39% 늘었다.
- GPT-5.6-sol max 튜토리얼 설정에서는 68.03에서 72.98로 올랐다.
- Controlled_RESET은 격차의 약 34~60%를 메웠다
- 대상은 Stop-and-report와 twma_v1.61 사이 격차이다.
- GPT-5.6-sol xhigh는 77.33에서 84.59로 올랐고 twma_v1.61은 92.24였다.
- 비용도 같은 순서로 늘었다
- ARC-AGI-3에서 Stop-and-report 비용은 Baseline 대비 약 2~52% 높았다.
- GPT-5.5 high는 9.36M에서 14.19M으로 늘었고 twma_v1.61은 64.09M이었다.
How to Apply
- 에이전트 종료 지시문을 Stop-and-report로 교체해 보기
- 오늘 쓰는 에이전트의 "끝날 때까지 계속해" 문구를 논문의 보고 지시문으로 바꿔라.
- 같은 작업 10개 정도를 전후로 돌려 성공률과 토큰을 비교하라.
- 멈춘 에이전트를 자동으로 재개하는 루프 만들기
- 에이전트가 멈추면 같은 대화를 이어서 목표 리마인더만 보내라.
- 사람 힌트는 넣지 말고, 행동 없이 두 번 연속 멈추면 종료하게 하라.
- 이미 프롬프트에 적은 규칙은 컨트롤러가 직접 실행하기
- 재시도나 리셋처럼 조건이 명확한 규칙은 에이전트가 호출하지 못하게 금지하라.
- 조건이 감지되면 스크립트가 해당 동작을 대신 실행하게 하라.
- 점수와 비용을 함께 측정하기
- 프롬프트를 바꿀 때마다 성공률과 토큰 소비를 같이 기록하라.
- 점수 상승분이 늘어난 비용만큼 값어치가 있는지 판단하라.
Try It
# Claude Code 또는 Codex 시스템 프롬프트 끝에 붙여넣기 (논문 방법의 간이 버전)
# When to stop
Continue working on the task as long as you can proceed confidently. If you encounter a problem, ambiguity, unexpected issue, or anything that makes you unsure how to proceed, stop and report it back to me before taking further action.
# 컨트롤러가 멈춘 에이전트를 이어서 시킬 때 보낼 메시지
Keep working toward the goal described in {{목표 설명 파일}}. Re-read the file whenever you need a reminder.
이어서 해 볼 것: 같은 작업을 "Continue working until you have completed your task." 지시문과 비교하고 토큰 사용량을 함께 기록해 보세요.Terminology
관련 논문
같은 시뮬레이션, 다른 근거: 도구 출력을 파일로 넘기면 LLM 에이전트 정확도가 어디서 깎이나
긴 툴 출력을 파일로 넘기자 GPT-5.1은 정확도 11.3%p 하락, 정식 출력 지정하니 회복
가짜 뉴스가 진짜 폭락을: LLM 트레이딩 에이전트 대상 정보 주입 공격
가짜 헤드라인 한 줄로 LLM 트레이딩 에이전트 62%를 조종했다(프롬프트 주입은 14%)
Harness Engineering 101: LLM은 뇌, harness는 몸
에이전트는 JSON 배열을 관리하는 루프이고, 16개 챕터로 직접 만들어 본다
Harness²: 에이전트 harness를 스스로 고쳐 쓰는 재귀 최적화 프레임워크
모델은 고정하고 harness를 재귀로 고쳤더니 벤치마크 점수가 최대 11.8%p 올랐다
해고된 Savannah 경찰관, ICE 요원 남편에게 Flock 계정 공유
경찰관이 Flock 계정을 남편(ICE 요원)에게 공유했고, 감사에서 983건 검색이 드러나 해고됐다
tmux와 Claude Code: 세션, send-keys, 그리고 한계선
tmux로 Claude Code 여러 개를 돌리면 편하지만 에이전트 4개쯤에서 한계가 온다
Hybrid Reasoning Agents: 잠재 공간에서 생각하고 텍스트로 행동하는 LLM 에이전트
잠재 공간 추론과 텍스트 도구 호출을 섞었더니 성능 10.4%↑, 토큰 최대 54.7%↓
Related Resources
Original Abstract (Expand)
Agents built on stronger language models may increasingly construct useful procedures for themselves, reducing the advantage of developer-supplied scaffolding. We investigate why this advantage persists and whether an environment-agnostic agent can be improved without environment-specific engineering. We evaluate a Codex-based agent in two nearly identical prompt variants on ARC-AGI-3, AGI Maze, and Terminal-Bench. Each variant is deployed with unchanged code, prompts, and general-purpose tools across environments, receiving environment-specific information as input. Changing only an instruction to encourage reporting difficulties and returning control for automatic continuation improves mean scores on both ARC-AGI-3 and AGI Maze, while Terminal-Bench shows small, mixed changes. Yet the general agent remains below an ARC-AGI-3-specific reference, including with GPT-5.6-sol. The reference prescribes organization and control rather than supplying new game rules or solutions. To investigate this gap, we transfer reset decisions to a scripted controller that follows a convention already given to the agent. This small change recovers part of the specialized agent's advantage. A complementary AGI Maze experiment shows that additional tutorial experience can reduce performance. Together, these findings highlight the distinction between having information and tools available and using them effectively. Supplied procedures still matter for the models tested here. The performance gains also come with higher token-based cost. The experiments do not separate better use of information and procedures from additional or differently allocated inference. We provide the EnvTraverse framework and an evaluated baseline agent for testing whether further environment-independent changes improve performance in some environments without degrading it in others.