중국의 open-weights AI 전략이 이기고 있다는 주장
China’s open-weights AI strategy is winning
TL;DR Highlight
모델엔 해자가 없어서 개방형 중국 AI가 미국 폐쇄형을 앞선다는 주장
Who Should Read
LLM API 벤더를 하나로 고정할지, 중국산 open-weights 모델로 바꿀지 고민하는 백엔드 개발자
Core Mechanics
- 모델 자체엔 해자가 거의 없다
- 모델은 브랜드 충성도와 얕은 전환 비용 정도의 해자만 갖는다고 본다.
- 해자는 계약, 기업 시스템 연동, 엔터프라이즈 편의 기능 쪽에 있다고 본다.
- API 모델은 갈아끼우기 쉽다
- 엔지니어링 쪽에서는 API만 바꾸고 같은 프롬프트를 쓸 수 있다고 한다.
- 그래서 가장 좋은 모델과 벤더로 옮겨 다니는 게 합리적이라고 쓴다.
- 중국은 약점을 배포 강점으로 바꿨다
- 미국의 GPU 수출 통제와 데이터 규제 때문에 중국 기업은 글로벌 중앙집중 서비스를 하기 어렵다.
- 모델을 공개하면 그 약점이 배포 우위가 되고, 미국 기업이 돈 버는 계층이 상품화된다고 주장한다.
- open-weights는 오픈소스가 아니지만 이식성은 있다
- 원하는 곳에 호스팅하고 수정해 쓸 수 있다고 한다.
- 허가 없이 쓸 수 있어서 혁신의 중심이 되기 쉽다는 논리다.
- 성능 격차가 좁혀지고 있다
- Verge 인용에 따르면 Moonshot과 Alibaba가 OpenAI·Anthropic 최상위 모델과 겨룰 수 있다는 모델을 훨씬 낮은 비용으로 공개했다.
- a16z의 Martin Casado가 Economist에서 스타트업의 80%가 중국 모델을 쓸 확률이 있다고 말했다고 인용한다.
Community Reactions
- 스타트업 80%가 중국 모델이라는 데 의문이라는 의견
- 최근 여러 스타트업 면접을 봤더니 모두 미국 모델을 쓰고 있었다는 경험이 있다.
- 주력은 Claude·Codex 구독이었다고 한다.
- 중국 모델을 직접 호스팅해 비용을 줄였다는 경험
- 일반 클러스터에는 가장 정확하고 견고한 중국 모델을 돌린다고 한다.
- 토큰당 비용이 Anthropic 대비 약 1/20, OpenAI 대비 약 1/15이었다고 한다.
- US/EU 모델은 정확도 지표가 몇 %p 낮아서 요구하는 고객에게만 추가 요금으로 제공한다.
- 기업은 open 여부보다 데이터 보존 정책을 본다는 반론
- 기업은 zero data retention과 기존 벤더 유지를 중시한다는 의견이다.
- 미국이 지고 있다거나 폐쇄형이라서 진다는 증거는 아직 부족하다는 의견도 있다.
- 중국 랩의 공개 지속 여부를 의심하는 의견
- 모델 학습에 수천만 달러가 드는데 무료 공개로 비용 회수가 어렵다는 지적이다.
- VC 투자를 받은 랩들의 수익 모델과 출구 전략이 불분명하다는 의견이다.
How to Apply
- 프롬프트를 다른 모델로 돌려보기
- 지금 쓰는 핵심 프롬프트 5개를 골라 같은 입력으로 중국산 open-weights 모델과 현재 모델에 돌려라.
- 정답률, 지연시간, 토큰당 비용을 표로 비교하라.
- LLM 호출부에 모델 어댑터 계층 두기
- 벤더 SDK 호출을 인터페이스 하나 뒤로 숨겨라.
- 모델명과 엔드포인트를 설정 파일로 빼서 교체 시간을 줄여라.
- 고객 요구사항별 모델 라우팅 설계하기
- 데이터 지역·벤더 제한이 있는 고객을 먼저 분류하라.
- 제한 없는 트래픽은 저렴한 모델로, 제한 있는 트래픽은 US/EU 모델로 보내라.
Try It
# Claude나 ChatGPT에 그대로 붙여넣기 (원문 주장을 점검하는 간이 프롬프트)
우리 서비스는 LLM API를 {{사용 목적}}에 쓴다. 현재 모델은 {{현재 모델}}이다.
아래 기준으로 모델 교체 가능성을 점검하는 체크리스트를 만들어라.
1. 프롬프트를 바꾸지 않고 API만 교체할 수 있는 부분
2. 벤더 종속이 있는 부분(전용 기능, 계약, 연동)
3. 데이터 지역·보존 규정 때문에 모델을 못 바꾸는 트래픽
4. 모델별 정확도·비용을 비교할 평가 항목 5개
이어서 해 볼 것: 평가 항목을 {{샘플 질문 20개}}에 적용해 표로 정리해 달라고 요청하라.Terminology
관련 논문
Mercury 3: 규모를 키운 diffusion LLM, 초당 1,000토큰 이상
Diffusion LLM을 40배 키웠더니 속도 4~8배, 품질은 속도 특화 모델 수준
Timestral: Mistral의 시계열 파운데이션 모델
209M 파라미터 시계열 모델이 3대 벤치마크 1위, CPU에서도 돌아간다
DeepSeek V4.1 Flash 1017 (Max) 성능·속도·가격 분석
DeepSeek V4.1 Flash 1017 Max는 지능 지수 45에 211 tok/s, 입력 $0.30
LLM 프록시를 직접 안 돌리면 무슨 일이 벌어지는지 어떻게 아나
자체 LLM 프록시를 세웠더니 키·모델·캐시 미스를 직접 볼 수 있다
DeepSeek V4.1 Flash 1017: 싼 가격에 1M 컨텍스트를 주는 에이전트용 모델
DeepSeek V4.1 Flash 1017은 입력 $0.05/M, 1M 컨텍스트의 에이전트용 모델
DeepSeek-V4.1-Flash-1017 공개: 더 짧게 생각하고 더 빠르게 일하는 에이전트용 모델
DeepSeek V4.1 Flash 마이너 업데이트로 코딩·에이전트 벤치 점수↑, 실행 시간·출력 길이↓
Llmspeed: 로컬 LLM 속도를 하드웨어 구매 전에 체감해 보는 시뮬레이터
GPU·모델을 고르면 로컬 LLM 속도를 미리 체감하게 해 주는 시뮬레이터