LLM으로 리버스 엔지니어링 속도 올리기: 에이전트+Ghidra MCP+가설 디버깅
LLM assisted reverse engineering
TL;DR Highlight
바이너리를 에이전트에 맡기고 스킬·MD 기록을 붙였더니 수년 걸릴 해킹이 가능해졌다
Who Should Read
에이전트가 디버깅 중 같은 추측만 반복해 시간을 낭비하는 개발자
Core Mechanics
- 바이너리를 에이전트에 던지고 스킬로 보조
- 바이너리 종류·플랫폼·빌드를 먼저 파악하고 맞는 디컴파일러를 고른다.
- 요즘 AI는 디컴파일 없이 x86·ARM 디스어셈블리만으로도 꽤 잘한다고 한다.
- 발견한 내용을 MD 파일에 계속 기록시키기
- 기록은 내가 이해하는 노트가 된다.
- compaction(대화 압축)이나 다른 에이전트로 인수인계할 때 길을 잃지 않게 해 준다.
- 에이전트가 같은 자리를 맴도는 것도 줄어든다.
- 막히면 구체적으로 다른 접근을 지시하기
- 예를 들어 xref 추적에서 막히면 바이너리의 문자열을 따라가라고 시킨다.
- 디버거 브레이크포인트, 로깅·프로브 주입, 에뮬레이터나 computer use 같은 외부 접근도 쓴다.
- 가설 디버깅 스킬로 추측 루프 차단
- 가설을 세워 디스크의 CSV 표에 적는다.
- 가설을 확실히 증명하거나 반증할 실험(프로브, 로깅)을 설계하고 결과를 기록한 뒤 반복한다.
- 저자는 이것이 핵심이라고 보며 공개했다.
- RE 도구 사용법을 스킬로 적어 두기
- 저자는 도구 사용법 스킬이 없으면 에이전트가 길을 잃고 너무 빨리 포기한다고 한다.
- Ghidra MCP 브리지, radare2, kuna 사용법을 스킬에 적어 둔다.
- 구현은 Python(uv)과 Rust로 나눠서
- 프로브와 디컴파일 보조는 uv로 만든 단일 파일 Python 스크립트로 한다.
- 실제 해킹 구현은 Rust로 하는데, 엄격한 컴파일러가 에이전트에 빠른 피드백을 주기 때문이다.
- 에이전트 대화와 사고 과정을 직접 읽기
- 막다른 길로 가는 걸 보면 더 나은 접근을 제안한다.
- 저자는 이 판단에 본인의 경험이 필요하다고 한다.
Community Reactions
- 에이전트의 추측 루프가 가장 짜증난다는 경험
- Opus 4.8로 RE할 때 어려운 대상에서는 "그만 추측해"라고 계속 말해야 한다는 댓글이다.
- 완전한 블랙박스에는 가설 검증이 맞지만, 대부분은 정보가 충분해 꼼꼼히 추적하면 결정적으로 답이 나온다는 의견이다.
- 펌웨어는 unicorn 에뮬레이션 하네스로
- 부트롬·펌웨어용 하네스를 LLM에게 쓰게 하면 큰 도움이 된다는 경험이다.
- 부팅을 진행시키려면 다음에 어떤 MMIO를 스텁할지 찾는 루프를 잘하지만, 목적을 무너뜨리는 지름길을 택하기도 한다고 한다.
- IDA Pro가 Ghidra보다 낫고 컨텍스트는 보고서로 리셋
- LLM에는 IDA Pro가 더 잘 맞았다는 경험이다.
- 코드 주입·함수 가로채기·데이터 가로채기를 시키고, 주기적으로 보고서를 쓰게 한 뒤 컨텍스트를 비우고 보고서로 재시작한다는 팁이다.
- Android 앱은 스킬 없이도 된다는 경험
- Codex로 구독 앱의 프리미엄 기능 잠금을 풀고 오프라인 구현까지 시켰다는 댓글이다.
- 컨텍스트가 길어질수록 정보가 많이 유실된다는 지적도 있었다.
- 법·약관 및 모델 가드레일 우려
- OpenAI·Anthropic 모델은 리버스 엔지니어링 요청을 막는다는 불만이 있었다.
- Apple 개발자 계약처럼 리버스 엔지니어링을 금지하는 경우가 있다는 경고와 특허 책임 질문이 있었다.
- 과정 자체에서 얻는 성취감이 없다는 반론도 있었다.
How to Apply
- 에이전트에 노트 파일 규칙 지시하기
- 지금 쓰는 코딩 에이전트의 시스템 프롬프트나 AGENTS.md에 발견한 내용을 findings.md에 계속 기록하라고 적는다.
- 대화가 길어지면 이 파일만 남기고 컨텍스트를 비운 뒤 이어서 시킨다.
- 막힌 디버깅에 가설 CSV 루프 적용하기
- 에이전트가 같은 시도를 두 번 반복하면 hypotheses.csv에 가설·실험·결과를 적게 지시한다.
- 실험은 로그나 프로브처럼 가설을 확실히 가를 수 있는 것만 허용한다.
- 도구 사용법 스킬 파일 작성하기
- 쓰는 도구(Ghidra MCP, radare2 등)를 언제 무엇에 쓰는지 스킬로 적는다.
- 저자의 ghidra-decompile-skill 저장소를 참고해 내 환경에 맞게 고친다.
- 막힌 에이전트에 구체적인 대체 경로 지시하기
- 막힌 방식 이름과 바꿀 방식을 함께 쓴다(예: xref 추적 중단, 문자열 기준으로 재시도).
- 에이전트의 사고 로그를 읽고 막다른 길이면 개입한다.
Try It
# Claude Code 또는 Codex 같은 코딩 에이전트에 붙여넣기 (원문 방법을 프롬프트로 옮긴 간이 버전)
너는 {{대상: 바이너리/버그/기능}}을 분석한다. 아래 규칙을 지켜라.
1. 발견한 내용은 즉시 findings.md에 기록한다.
2. 막히면 추측하지 말고 hypotheses.csv(열: id, hypothesis, experiment, result)에 가설을 한 줄 적는다.
3. 그 가설을 확실히 증명하거나 반증할 실험(로그, 프로브, 브레이크포인트)만 설계해 실행하고 결과를 기록한다.
4. 같은 접근이 두 번 실패하면 다른 접근을 택한다(예: xref 추적 대신 문자열 추적).
먼저 기본 구조(주요 함수, 분기, 임포트 함수)를 분석해 findings.md에 정리하고 시작하라.
이어서 해 볼 것: 중간에 대화를 비우고 findings.md만 읽혀 이어서 작업이 되는지 확인해 보자.Terminology
관련 논문
Metrics-in-the-Loop: 복잡도 피드백이 에이전트가 짜는 코드 구조를 바꾼다
코딩 에이전트에 복잡도 리포트를 매 턴 넣었더니 코드 erosion이 줄고 정확도는 그대로
Gemini 4 Carbon은 왜 이렇게 느린가: 에이전트 트레이스 분석
버그 수정에 Carbon은 1시간, Astra·Opus는 몇 분 걸렸고 원인은 불필요한 작업이었다
Claude Code 팀이 에이전트 작업을 검증하는 방법
E2E·property·differential 테스트와 검증 규칙으로 Claude를 병렬로 돌린다
코딩 에이전트에 자격 증명을 넘기지 않고 돌리기: lend
자격 증명은 노트북에 두고 명령만 Touch ID 승인으로 실행하게 했다
Windows 11이 어떤 코딩 에이전트·개발 도구를 쓰는지 수집한다
Windows 11 DLL 분석 결과, codex·claude 등 사용 여부가 진단 데이터로 올라간다
LLM 추론에서 대화 히스토리가 몰래 치르는 비용
대화 히스토리를 통째로 넣으면 정확도가 20턴 안에 0.6→0.1로 붕괴하고, 검증된 상태 요약은 이를 막았다
Claude Code Projects 개편: 코디네이터가 병렬 스레드를 지휘한다
Claude Code Projects가 코디네이터가 병렬 스레드에 작업을 나눠 PR까지 올리는 구조로 바뀌었다
AgentRun: 실행할수록 똑똑해지는 오픈소스 매니지드 에이전트 플랫폼
에이전트가 매 실행 후 노트·스킬을 저장해 코드 리뷰 비용을 18센트로 낮췄다