AI가 혼자 끝낼 수 있는 가장 큰 소프트웨어 프로젝트는? (MirrorCode)
What's the largest software project AI can complete on its own?
TL;DR Highlight
MirrorCode 벤치마크를 두고 개발자들이 AI 단독 개발의 한계를 논쟁
Who Should Read
AI 코딩 에이전트로 큰 프로젝트를 맡겨 보려는데 어디까지 믿어도 될지 고민인 개발자
Core Mechanics
- 원문 본문은 제공되지 않았다
- 제목과 URL(epoch.ai/MirrorCode)만 있고 본문은 없다.
- 그래서 벤치마크의 수치나 결과는 여기서 다루지 않는다.
Community Reactions
- 큰 프로젝트도 사람이 붙어야 굴러간다는 경험
- Claude로 Bash를 Rust로 복제하는 프로젝트를 81일, 2,600커밋째 진행 중이라는 경험이 있었다.
- 몇 줄 고치는 데 몇 시간을 쓰거나, 큰 변경은 테스트 3,000개를 이유로 거부하기도 했다고 한다.
- 감독 없이는 절반만 하고 멈춘다는 경험
- 큰 프로젝트를 거의 코드 없이 진행해 봤더니, 방치하면 stub과 TODO를 남긴다는 경험이 나왔다.
- 에이전트 swarm보다 역할별 워크플로 엔진이 토큰 낭비가 적었다고 한다.
- 복제는 새 개발의 대리 지표가 아니라는 의견
- 기존 소프트웨어를 재현하는 과제는 새 소프트웨어 개발로 일반화되기 어렵다는 의견이 있었다.
- 모델이 원본 코드를 학습했을 가능성 때문에 결과 해석이 어렵다는 의견도 있었다.
- 진짜 질문은 장기 유지보수라는 의견
- 혼자 만들 수 있는 크기보다, 일관된 구조를 유지하며 오래 유지보수할 수 있는 크기가 더 중요하다는 의견이 있었다.
- 벤치마크가 텍스트 출력 프로그램만 다루는 한계를 지적하는 댓글도 있었다.
How to Apply
- 에이전트 작업에 완료 기준 테스트부터 붙이기
- 오늘 맡길 작업 하나에 단위·통합 테스트 목록을 먼저 적고 시작하라.
- 에이전트가 stub이나 TODO를 남기면 실패로 처리하라.
- 계획 세션과 구현 세션을 나누기
- 구현 전에 계획을 세우고 적대적 비평 단계를 한 번 넣어라.
- 요구사항은 가능한 한 사전에 구체적으로 적어라.
- 루프에 돌리는 범위를 작은 버그로 제한하기
- 이슈 목록을 만들고 작은 버그부터 루프로 맡겨라.
- 같은 수정을 반복하는 루프가 보이면 사람이 개입하는 기준을 정하라.
Try It
# Claude Code나 ChatGPT에 붙여넣기 (원문이 없어 댓글 경험을 프롬프트로 옮긴 간이 버전)
너는 시니어 개발자다. 아래 작업을 구현하기 전에 먼저 계획을 세워라.
작업: {{작업 설명}}
1. 요구사항을 구체적으로 정리하고 모호한 점은 나에게 질문하라.
2. 단위·통합 테스트 목록을 먼저 작성하라.
3. 계획의 약점을 스스로 비판하라.
4. 승인 후에만 구현하고, stub이나 TODO를 남기지 마라.
이어서 해 볼 것: 구현이 끝나면 '남은 TODO와 미구현 항목'을 나열하게 하라.Terminology
관련 논문
The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법
심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다
미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다
벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖
Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기
LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다
StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결
LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위
그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)
정답은 그대로 두고 설명만 붙였더니 MLLM 심사위원의 오답 거절률이 12.7~13.8%p 떨어졌다
신경망은 이미 깔끔하다: polysemanticity의 원인 재해석
뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장
Linus Torvalds의 첫 LLM 보조 패치 시리즈
Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다