DeepSeek V4.1 Flash: KV 캐시 1/4로 줄인 552B MoE, 비전 지원

TL;DR Highlight

DeepSeek V4.1 Flash는 KV 캐시를 줄여 에이전트 비용을 낮추고 비전을 지원한다

Who Should Read

코딩 에이전트처럼 긴 컨텍스트 호출이 많아 캐시 히트 비용이 부담인 LLM API 개발자

Core Mechanics

새 아키텍처 중 가장 작은 모델
- 552B 파라미터 MoE(전문가 혼합) 모델이다.
- 네이티브 시각 이해(비전)를 지원한다.
입력 8B, 출력 16B만 활성화
- 새 Causal Encoder–Decoder 구조로 입력 처리에는 8B, 출력에는 16B 활성 파라미터만 쓴다.
- 사전 학습 방식과 더 큰 규모의 RL(강화학습) 후처리로 벤치마크 성능을 끌어올렸다고 한다.
KV 캐시가 이전 세대의 일부 수준
- 이전 세대 대비 HBM 1/4, SSD 저장 공간 1/8만 필요하다.
- 캐시 히트 비용이 에이전트 비용의 큰 비중을 차지하므로 캐시 압축이 비용 절감으로 이어진다고 한다.
API는 deepseek-flash로 바로 사용
- 모델명을 deepseek-flash로 설정하면 된다.
- V4-Flash와 V4-Flash-Vision-Exp는 종료됐고, 기존 이름 deepseek-v4-flash, deepseek-v4-flash-vision-exp는 일시적으로 V4.1-Flash로 연결된다.
비피크 요금은 피크의 50%
- 피크/비피크 가격제는 유지된다.
- 비피크 요금은 피크 요금의 50%라서 지연돼도 되는 작업은 비피크로 돌리라고 안내한다.

Community Reactions

캐시 히트 단가가 눈에 띈다는 의견
- 캐시 히트가 100만 토큰당 $0.003이라는 점에 주목한 댓글이 있었다.
- 447턴 코딩 작업 기준 비용이 GPT-6-astra는 55.057, DeepSeek는 0.615로 계산됐다는 사례가 공유됐다.
가격이 내렸다는 말에 의문이 나왔다
- V4 flash는 $0.10/$0.25였는데 V4.1은 $0.30/$1.20이라며 가격 인하가 맞냐는 질문이 있었다.
- 한 댓글은 V4 대비 약 3배 비싸지만 더 빠르고 토큰 효율도 약간 낫다고 평가했다.
reasoning 단계는 세 가지뿐이라는 경험
- OpenRouter에서 일곱 단계로 돌렸더니 reasoning 토큰 수가 단계와 맞지 않았다는 경험이 올라왔다.
- 공식 문서상 low, high, max 세 단계를 지원하고 나머지는 이 셋으로 매핑된다고 한다.
벤치마크는 전면 승리가 아니라는 의견
- DeepSeek 표에서 GPT-5.6 Sol보다 Terminal-Bench 2.1, DeepSWE 등은 앞서지만 GPQA Diamond 등은 뒤진다는 지적이 있었다.
- 퍼즐 게임 평가에서는 다른 모델보다 reasoning 토큰을 많이 쓰고 Gemini 3.8 Flash가 더 잘 풀었다는 경험도 있었다.
로컬 구동은 어렵다는 의견
- 552B라 4비트 양자화로도 256GB 메모리에 못 올린다는 계산이 나왔다.

How to Apply

기존 호출 모델명을 deepseek-flash로 교체해 비교
- 오늘 쓰는 에이전트의 모델명을 deepseek-flash로 바꿔 같은 작업 몇 건을 돌려라.
- 품질과 토큰 사용량을 기존 모델과 나란히 기록하라.
구 모델명 의존 코드를 점검하기
- deepseek-v4-flash, deepseek-v4-flash-vision-exp를 쓰는 설정을 찾아라.
- 임시 라우팅이 끝나기 전에 deepseek-flash로 바꿔라.
지연 가능한 배치 작업은 비피크로 옮기기
- 야간 요약, 대량 분류처럼 급하지 않은 작업을 골라라.
- 스케줄러를 비피크 시간대로 맞춰 요금 50%로 돌려라.
캐시 비중으로 비용 구조 계산하기
- 지난 에이전트 작업 로그에서 input, output, cache read 토큰을 뽑아라.
- 캐시 단가를 바꿔 넣어 총비용에서 캐시가 차지하는 비율을 계산하라.

Try It

복사해서 바로 해보기

# Claude나 ChatGPT에 그대로 붙여넣는 프롬프트 (비용 구조 계산용)

내 에이전트 작업의 토큰 사용량이다.
- Input 토큰: {{입력 토큰 수}}
- Output 토큰: {{출력 토큰 수}}
- Cache read 토큰: {{캐시 읽기 토큰 수}}

아래 단가(100만 토큰당 달러)로 각각의 비용과 총비용 대비 비율을 표로 계산해줘.
- 모델 A: input {{A input 단가}}, output {{A output 단가}}, cache {{A cache 단가}}
- 모델 B: input 0.30, output 1.20, cache 0.003

이어서, 캐시 비중이 가장 큰 모델이 어느 쪽인지, 그리고 모델을 바꾸면 총비용이 몇 배 달라지는지 알려줘.

Terminology

MoE(Mixture of Experts)여러 전문가 서브네트워크 중 일부만 골라 쓰는 구조다. 큰 병원에서 환자마다 해당 과 의사만 진료하는 것과 비슷하다.

KV 캐시이전 토큰의 계산 결과를 저장해 두는 메모리다. 대화가 길수록 커진다.

HBMGPU 옆에 붙은 매우 빠른 고가의 메모리다. KV 캐시가 여기에 많이 쌓이면 비용이 커진다.

활성 파라미터토큰 하나를 처리할 때 실제로 계산에 쓰이는 파라미터다. 전체 크기보다 작을수록 추론이 가볍다.

캐시 히트이미 처리한 앞부분 프롬프트를 다시 계산하지 않고 저장된 결과를 재사용하는 것이다.