Claude로 암호 알고리즘의 약점 찾기

Who Should Read

긴 시간 자율 실행하는 에이전트 하네스를 설계하며 프롬프트 지시 방식이 궁금한 백엔드 개발자

Core Mechanics

• HAWK 공격으로 키 강도가 절반이 됐다
  • Claude Mythos Preview가 HAWK(양자컴퓨터 시대용 전자서명 후보)의 격자에서 자기동형(automorphism)이라는 대칭을 찾았다.
  • HAWK-256 키 복구 비용이 기존 2^64에서 2^38로 내려갔다.
  • 같은 보안 수준을 얻으려면 키 크기를 두 배로 키워야 한다.
• 7라운드 AES 공격이 200~800배 빨라졌다
  • AES-128은 10라운드인데, 이 공격은 7라운드로 줄인 버전에만 통한다.
  • Möbius Bridge라는 지문(fingerprint) 알고리즘으로 기존 meet-in-the-middle 공격에서 256가지 추측을 하나 없앴다.
  • 측정 방식에 따라 기존 최고 공격보다 200~800배 빠르다.
• 실제 서비스에는 영향이 없다
  • HAWK는 후보일 뿐이라 배포된 곳이 없다.
  • AES 공격은 풀 라운드 AES를 깨지 못한다.
  • 원문은 프로덕션 소프트웨어를 바꿀 필요가 없다고 밝힌다.
• 비용은 각각 약 $100,000였다
  • HAWK 공격은 연구자 1명과 Claude가 약 60시간, 한 주 동안 작업했다.
  • AES 공격은 연구자가 만든 스캐폴드(자율 실행 틀) 위에서 Claude가 거의 혼자 찾았다.
  • AES 쪽은 출력 토큰이 총 10억 개였다.

Community Reactions

• 프롬프트 엔지니어링 열풍에 대한 반론이라는 의견
  • 공개된 프롬프트가 오타투성이인데도 통했다는 점을 들어, RLHF와 파인튜닝은 이런 프롬프트가 별 문제 없이 통하게 만드는 데 쓰인다는 의견이 있었다.
• $100k의 기회비용을 따지는 의견
  • 재현되지 않을 수 있으니 연구자나 대학원생에게 쓰는 편이 장기적으로 더 낫다는 의견이 있었다.
  • 비용이 $1k라면 퍼징처럼 넓은 탐색 공간에 던질 만하다는 의견도 있었다.
• HAWK 문장이 과장됐다는 의견
  • 자기동형의 존재는 이미 이론적 공격으로 알려져 있었고, 접근 가능한지가 미해결이었다는 지적이 있었다.
  • 따라서 완전히 새로운 약점이라기보다 구체적 사례 발견이라는 의견이다.
• 두 에이전트 협업 서술을 의심하는 의견
  • 협업 덕이라기보다 각 스레드의 확률적 성격 때문일 수 있다는 의견이 있었다.
  • 컨텍스트를 바꿔 탐색을 재현해 성공 빈도를 봐야 한다고 했다.

How to Apply

• 에이전트 프롬프트에 목표 재확인 문구 넣기
  • 오늘 장시간 에이전트 작업을 돌린다면 시스템 프롬프트에 '쉬운 해법이 아니라 새로운 결과가 목표'라는 문장을 넣어라.
  • 에이전트가 목표를 바꾸려 하거나 포기하면 '목표를 바꾸지 마라'고 한 줄 보내라.
• '불가능' 답변을 재시도 루프로 처리하기
  • 에이전트가 불가능하다고 답하면 그대로 종료하지 말고 가설 제시와 실험 검증 단계를 요구하는 재프롬프트를 자동 실행하라.
• 검증 가능한 출력 구조 만들기
  • 에이전트 결과에 실행 가능한 검증 스크립트를 함께 내도록 요구하라.
  • 사람이 읽고 확인하는 것보다 키를 복구해 보는 식의 자동 검증이 훨씬 빠르다.

Try It

# Claude 또는 ChatGPT에 붙여넣기 (원문 방법의 간이 버전: 포기하는 에이전트 다루기)

너는 연구 에이전트다. 목표는 {{문제}}에 대해 기존보다 나은 새로운 접근을 찾는 것이다.
쉬운 해법이나 이미 알려진 방법은 목표가 아니다. 출판할 만한 어려운 결과를 찾아라.
'불가능하다'고 결론 내리기 전에 반드시 아래를 수행해라.
1. 가설을 3개 이상 세운다.
2. 각 가설을 실험이나 코드로 검증하거나 반박한다.
3. 반박된 이유를 기록하고 다음 가설에 반영한다.

마지막에는 결과를 검증하는 실행 가능한 스크립트를 함께 제시해라.

이어서 해 볼 것: 에이전트가 목표를 바꾸려 하면 '목표를 바꾸지 말고 이 문제를 계속해라'라고 답해 보라.

Terminology

관련 논문

• 같은 시뮬레이션, 다른 근거: 도구 출력을 파일로 넘기면 LLM 에이전트 정확도가 어디서 깎이나

  긴 툴 출력을 파일로 넘기자 GPT-5.1은 정확도 11.3%p 하락, 정식 출력 지정하니 회복

• 가짜 뉴스가 진짜 폭락을: LLM 트레이딩 에이전트 대상 정보 주입 공격

  가짜 헤드라인 한 줄로 LLM 트레이딩 에이전트 62%를 조종했다(프롬프트 주입은 14%)

• Harness Engineering 101: LLM은 뇌, harness는 몸

  에이전트는 JSON 배열을 관리하는 루프이고, 16개 챕터로 직접 만들어 본다

• Harness²: 에이전트 harness를 스스로 고쳐 쓰는 재귀 최적화 프레임워크

  모델은 고정하고 harness를 재귀로 고쳤더니 벤치마크 점수가 최대 11.8%p 올랐다

• 해고된 Savannah 경찰관, ICE 요원 남편에게 Flock 계정 공유

  경찰관이 Flock 계정을 남편(ICE 요원)에게 공유했고, 감사에서 983건 검색이 드러나 해고됐다

• tmux와 Claude Code: 세션, send-keys, 그리고 한계선

  tmux로 Claude Code 여러 개를 돌리면 편하지만 에이전트 4개쯤에서 한계가 온다

• Hybrid Reasoning Agents: 잠재 공간에서 생각하고 텍스트로 행동하는 LLM 에이전트

  잠재 공간 추론과 텍스트 도구 호출을 섞었더니 성능 10.4%↑, 토큰 최대 54.7%↓

Related Resources

• https://www.anthropic.com/research/discovering-cryptographic-weaknesses
• https://arxiv.org/pdf/1604.00575
• https://news.ycombinator.com/item?id=49075264