Claude Haiku 4.5 출시 — 프론티어급 성능을 1/3 가격에
Claude Haiku 4.5
TL;DR Highlight
Claude Haiku 4.5가 Claude Sonnet 4 수준의 코딩 성능을 1/3 가격과 2배 이상 빠른 속도로 제공한다.
Who Should Read
Claude API로 코딩 에이전트나 챗봇을 운영 중인데 비용과 레이턴시를 줄이고 싶은 백엔드/풀스택 개발자. 멀티 에이전트 아키텍처에서 서브 에이전트용 모델을 찾고 있는 AI 엔지니어.
Core Mechanics
- Claude Haiku 4.5는 5개월 전 프론티어 모델이었던 Sonnet 4와 비슷한 코딩 성능을 내면서, 가격은 1/3(입력 $1/M, 출력 $5/M), 속도는 2배 이상 빠르다.
- Augment의 에이전트 코딩 벤치마크에서 Sonnet 4.5 성능의 90%를 달성했다. 컴퓨터 사용(Computer Use) 작업에서는 오히려 Sonnet 4를 능가하는 결과도 나왔다.
- 멀티 에이전트 구조에서 특히 유용하다. Sonnet 4.5가 복잡한 문제를 분해해서 계획을 세우고, 여러 Haiku 4.5가 하위 작업을 병렬로 처리하는 오케스트레이션 패턴을 Anthropic이 직접 제안했다.
- 안전성 평가에서 Sonnet 4.5, Opus 4.1보다 통계적으로 유의미하게 낮은 비정렬 행동률을 기록해 Anthropic의 가장 안전한 모델이라는 평가를 받았다. ASL-2(안전 레벨 2) 등급으로 출시됐다.
- Anthropic 최초의 소형 추론(reasoning) 모델이다. 시스템 카드에 따르면 이전 Haiku 3.5 대비 크게 개선된 정렬(alignment) 성능을 보여준다.
- Gamma에서는 슬라이드 텍스트 생성 지시 따르기에서 프리미엄 모델 44% 대비 65% 정확도를 기록했고, GitHub Copilot에서도 Sonnet 4급 품질에 더 빠른 속도로 평가됐다.
- Claude Code에서 바로 사용 가능하고, API에서는 모델 ID `claude-haiku-4-5`로 접근한다. 모든 Claude 앱에서 즉시 사용 가능하다.
Evidence
- 코딩 작업에서 GPT-5보다 관련 없는 코드를 건드리지 않아서 실제 사용 시 체감 비용이 토큰 단가 차이보다 적을 수 있다는 초기 테스트 결과가 공유됐다. 다만 Haiku 3.5 대비 4배 가격 인상($0.25→$1/M 입력)이 부담이라는 의견도 있었다.
- 코드 문서 fetch가 필요한 질문에서 Haiku 4.5와 Sonnet을 직접 비교한 사례가 올라왔는데, Haiku가 함수 출력을 지어내서 잘못된 답변을 줬고 Sonnet은 정확했다. 소형 모델의 할루시네이션 한계가 여전하다는 경고.
- NYT Connections 벤치마크에서 Haiku 4.5는 20.0점으로 Haiku 3.5(10.0)의 2배지만, Sonnet 4.0(26.6)이나 Sonnet 4.5(46.1)과는 여전히 격차가 있었다.
- 프리랜서 개발자가 '3배 빠른 응답이 약간의 성능 저하보다 생산성에 훨씬 낫다'며 기존 Sonnet 4.5에서 Haiku 4.5로 데일리 드라이버를 바꾸겠다는 반응이 있었다. 반면 '모델을 골라야 하는 것 자체가 피곤하다, 알아서 좋아지게 해달라'는 불만도 있었다.
- Hyperbrowser에서 초기 테스트한 결과 Computer Use에서도 잘 동작하며, 대형 AI 회사 모델 중 가장 저렴한 Computer Use 모델이라는 평가가 나왔다.
How to Apply
- 멀티 에이전트 시스템에서 메인 에이전트는 Sonnet 4.5로 계획/분해를 맡기고, 서브 에이전트를 Haiku 4.5로 병렬 실행하면 비용을 크게 줄이면서 처리 속도를 높일 수 있다.
- Claude Code에서 빠른 프로토타이핑이나 간단한 코드 수정 작업 시 Haiku 4.5로 전환하면 응답 대기 시간이 절반 이하로 줄어든다. `/fast` 토글이나 모델 설정으로 전환 가능.
- 챗봇이나 고객 서비스 에이전트처럼 레이턴시가 중요한 실시간 애플리케이션에서 Sonnet 대신 Haiku 4.5를 적용하면 비용 1/3 절감과 응답성 개선을 동시에 달성할 수 있다.
- 단, 정확한 사실 조회나 코드 문서 참조가 필요한 작업에서는 할루시네이션 위험이 있으므로 Sonnet을 유지하고, 단순 생성/변환 작업에만 Haiku를 배치하는 식으로 라우팅하는 게 안전하다.
Terminology
관련 논문
Claude Code는 프롬프트 읽기 전에 33k 토큰을 전송한다; OpenCode는 7k
동일한 모델과 작업 환경에서 Claude Code와 OpenCode의 실제 토큰 사용량을 API 레벨에서 측정한 결과, Claude Code가 시스템 프롬프트 오버헤드만으로 OpenCode 대비 4.7배 더 많은 토큰을 소비한다는 것을 확인했다.
Mesh LLM: iroh 기반 분산 AI 컴퓨팅
사무실, 집, 클라우드에 흩어진 GPU들을 하나의 OpenAI 호환 API로 묶어주는 분산 LLM 실행 시스템으로, 비싼 API 비용 없이 큰 모델을 직접 운영할 수 있다.
Frugon – LLM API 호출 로그를 분석해서 더 싼 모델로 대체 가능한 구간을 찾아주는 로컬 도구
내 LLM API 비용이 어디서 새는지 로컬에서 분석해주는 오픈소스 CLI 도구로, 비싼 모델 대신 저렴한 모델로 전환 가능한 호출을 골라낸다.
로컬에서 SOTA LLM 실행하기 완전 가이드 (하드웨어부터 설정까지)
2천 달러짜리 RTX 3090 한 장부터 4만 달러짜리 RTX PRO 6000 4장 셋업까지, 로컬에서 최신 LLM을 직접 돌리는 방법을 하드웨어 선택·구성·실행 설정까지 통째로 정리한 실전 가이드다.
Manticore Search에서 ONNX 경로를 재설계해 임베딩 속도를 14배 높인 방법
Manticore Search가 기존 SentenceTransformers/Candle 백엔드를 ONNX Runtime으로 교체해 텍스트 임베딩 생성 속도를 평균 14배 향상시켰다. 별도 모델 서비스 없이 DB 내부에서 직접 임베딩을 처리하는 구조에서 INSERT 속도가 곧 임베딩 속도이기 때문에 이 개선은 실질적인 ingest 처리량 향상으로 직결된다.
Asymmetric Quantization: 97% 스토리지 절감으로 Late Interaction 검색 품질 유지하기
멀티벡터 검색 모델의 문서 벡터를 1비트 이진값으로 압축하고 쿼리 벡터만 int8로 유지하는 비대칭 양자화 기법으로, 스토리지를 97% 줄이면서 검색 품질 손실을 0.61점(NDCG@10 기준)에 그치게 만든 실제 프로덕션 적용 사례다.