Claude Haiku 5.5: 가격 75% 내리고 effort 설정이 생긴 소형 모델

TL;DR Highlight

Haiku 5.5는 Haiku 4.5 대비 평균 비용 약 75% 낮고 더 빠르다

Who Should Read

요약·분류·서브에이전트용으로 Haiku 4.5나 GPT-6 Luna를 쓰며 비용과 지연시간을 줄이려는 백엔드 개발자

Core Mechanics

평균 비용이 Haiku 4.5보다 약 75% 낮다
- 100k 토큰 이하 요청은 Haiku 4.5 대비 가격이 90% 낮다.
- 100k 초과 요청은 50% 낮다.
- 토크나이저가 바뀌어 같은 작업에 토큰을 조금 더 쓰는 점까지 반영한 평균이 약 75%다.
가격표가 100k 토큰에서 갈린다
- 100k 이하는 입력 $0.10, 출력 $0.50 (100만 토큰당)이다.
- 100k 초과는 입력 $0.50, 출력 $2.50이다.
- Haiku 4.5 요청의 90%가 100k 이하였다.
Haiku에 처음으로 effort 설정이 붙었다
- Low부터 Max까지 다섯 단계로 비용과 성능 중 무엇을 우선할지 고른다.
- OSWorld, GDPval-AA, Humanity's Last Exam에서 단계별 정확도 대비 비용 차트를 공개했다.
벤치마크 점수가 Haiku 4.5보다 크게 올랐다
- OSWorld 2.1(오프라인 서브셋)은 72.4%로 Haiku 4.5의 15.7%보다 높다.
- Terminal-Bench 4.0은 39.2%로 Haiku 4.5의 0.0%보다 높고 Sonnet 5.5의 70.6%보다는 낮다.
복잡한 에이전트 코딩은 Sonnet·Opus에 맡기라고 한다

Community Reactions

Luna와 직접 비교하니 비용이 더 나왔다는 경험
- 분류 작업에서 Haiku 5.5는 입력 11,893,643 토큰, Luna는 7,903,468 토큰이었다는 댓글이 있다.
- 배치 비용은 Haiku 5.5가 $0.21, Luna가 $0.16이었다고 한다.
Plotly 데이터 분석 벤치마크 결과
- Haiku 4.5보다 9x 저렴하고 2 letter grade 더 좋았다는 경험이 있다.
- 단순 분석 문제는 모두 맞혔지만 깊은 통계 분석에서는 끈기가 부족했다고 한다.
- GPT-6 Luna가 조금 더 낫고 비용은 Haiku 5.5의 약 30%였다고 한다.
사내 지연시간 민감 작업에서는 결과가 나빴다는 경험
- Haiku 4.5 대신 5.5를 테스트했더니 결과가 나쁘고 프롬프트 누출까지 있었다는 댓글이 있다.
- 더 느리기도 했다고 한다.
RAG 시스템에서는 가성비가 좋았다는 경험
- Cloudflare 문서 3000여 건 RAG에서 quality*speed/price 비율이 100개 넘게 테스트한 모델 중 최고였다는 댓글이 있다.
100k 기준선이 낮다는 의견
- 에이전트 작업에서는 금방 넘는 기준이라는 의견이 있다.
- 분류나 일반 생성에는 가성비가 좋다는 의견도 있다.

How to Apply

지금 쓰는 요약·분류 호출로 A/B 테스트하기
- 오늘 실제 프롬프트 20~50개를 뽑아 기존 모델과 claude-haiku-5-5에 같은 조건으로 돌려라.
- 정확도, 지연시간, 입출력 토큰 수를 같이 기록하라.
- 새 토크나이저 때문에 토큰 수가 늘 수 있으니 단가가 아니라 작업당 총비용으로 비교하라.
effort를 Low부터 올려가며 최소 단계 찾기
- 작업별로 Low에서 시작해 정확도가 기준을 넘는 가장 낮은 단계를 고정하라.
- 비용과 지연시간이 단계마다 달라지므로 같이 측정하라.
프롬프트 길이를 100k 아래로 유지하기
- 요청 로그에서 100k 토큰을 넘는 비율을 확인하라.
- 넘는 요청은 입력·출력 단가가 5배라서 청킹이나 요약으로 줄여라.
서브에이전트와 compaction 단계만 Haiku로 분리하기
- 메인 에이전트는 Sonnet이나 Opus로 두고 요약·조회·압축 단계만 Haiku 5.5로 바꿔라.
- 바꾼 뒤 전체 작업 성공률이 떨어지지 않는지 확인하라.

Try It

복사해서 바로 해보기

# Claude 또는 ChatGPT에 붙여넣는 프롬프트: Haiku 5.5 도입 전 비용·모델 배치 점검

나는 LLM API를 쓰는 서비스를 운영 중이다. 아래 호출 목록을 보고 각 호출에 어떤 모델 등급(Haiku급 / Sonnet급 / Opus급)이 적합한지 판단해 줘.

[호출 목록]
{{호출 이름, 평균 입력 토큰, 평균 출력 토큰, 하루 호출 수, 작업 종류}}

[가격 정보 (100만 토큰당)]
Haiku 5.5: 입력 $0.10 / 출력 $0.50 (프롬프트 100k 이하), 입력 $0.50 / 출력 $2.50 (100k 초과)
Haiku 4.5: 입력 $1.00 / 출력 $5.00

[규칙]
- 요약, 분류, DB 쿼리, compaction, 서브에이전트처럼 좁은 작업은 Haiku 후보로 본다.
- 복잡한 다단계 에이전트 코딩은 Sonnet·Opus 후보로 본다.
- Haiku 5.5는 토크나이저가 바뀌어 같은 작업에 토큰을 조금 더 쓴다는 점을 감안한다.

[요청]
1. 호출별 추천 등급과 이유 한 줄
2. Haiku 4.5에서 5.5로 옮길 때 월 비용 변화 계산
3. 먼저 A/B 테스트할 호출 3개와 측정 지표

이어서 해 볼 것: 추천받은 호출 3개를 claude-haiku-5-5의 Low, Medium, High effort로 각각 돌려 정확도와 비용을 표로 비교해 줘.

Terminology

effort 설정모델이 얼마나 오래 깊게 생각할지 정하는 다이얼이다. 높이면 정확도가 오르고 비용과 시간도 같이 오른다.

cache read이미 저장해 둔 프롬프트 앞부분을 다시 읽을 때 내는 싼 요금이다. 에이전트처럼 같은 맥락을 반복해서 보내는 작업에서 비중이 크다.

compaction긴 대화나 작업 기록을 짧게 요약해 맥락 길이를 줄이는 작업이다. 책 한 권을 요약본으로 바꿔 들고 다니는 것과 비슷하다.

서브에이전트메인 에이전트가 맡긴 작은 일을 처리하는 보조 에이전트다. 팀장이 업무를 쪼개 막내에게 맡기는 구조와 같다.

토크나이저텍스트를 모델이 읽는 토큰 조각으로 자르는 규칙이다. 규칙이 바뀌면 같은 글도 토큰 수가 달라져 비용이 달라진다.