GPT-5: 주요 특성, 가격 정책, System Card 분석
GPT-5: Key characteristics, pricing and system card
TL;DR Highlight
OpenAI가 GPT-5 패밀리(regular, mini, nano)를 출시하며 혁명적 성능 도약 대신 안정성과 정확성 개선에 초점을 맞추고 경쟁사 대비 공격적으로 낮은 가격을 책정했다.
Who Should Read
OpenAI API를 사용 중이거나 도입을 검토하는 백엔드/풀스택 개발자, 또는 LLM 모델 선택과 비용 최적화에 관심 있는 팀 리드.
Core Mechanics
- GPT-5는 ChatGPT에서는 라우터가 자동으로 빠른 모델과 깊은 추론 모델을 전환하는 하이브리드 시스템이고, API에서는 regular/mini/nano 3종 × reasoning level 4단계(minimal, low, medium, high)로 제공된다.
- 입력 272K 토큰, 출력 128K 토큰(추론 토큰 포함) 한도를 가지며, 텍스트+이미지 입력을 지원하지만 출력은 텍스트만 가능하다. 오디오 I/O와 이미지 생성은 아직 별도 모델(GPT-4o Audio, GPT Image 1 등)이 담당한다.
- 가격이 매우 공격적이다. GPT-5 기준 입력 $1.25/M, 출력 $10/M으로, GPT-4o 입력 가격의 절반이다. mini는 $0.25/$2.00, nano는 $0.05/$0.40으로 Gemini 2.5 Flash-Lite와 경쟁하는 수준.
- 토큰 캐싱 할인이 90%로, 채팅 UI처럼 같은 대화를 반복 전송하는 시나리오에서 비용을 크게 줄일 수 있다.
- GPT-5는 GPT-4o, o3, GPT-4.1 등 기존 모델 라인업 대부분을 대체하는 포지션이다. system card에 이전 모델→GPT-5 매핑 테이블이 명시되어 있다(예: o3 → gpt-5-thinking, GPT-4o-mini → gpt-5-main-mini).
- Simon Willison이 2주간 일상적으로 사용한 소감은 '극적 도약은 아니지만 실수가 거의 없고 안정적으로 유능하다'는 것. 다른 모델로 재시도하고 싶은 적이 한 번도 없었다고 평가했다.
- Hallucination이 눈에 띄게 줄었다고 보고했으며, Claude 4와 o3에서도 비슷한 경향을 보여 2025년 모델들은 전반적으로 환각 문제가 크게 개선됐다고 평가했다.
- Knowledge cut-off는 GPT-5가 2024년 9월 30일, mini/nano는 2024년 5월 30일이다. 추론 모델임에도 temperature/top-p 파라미터 제어가 제거되어 일관성이 중요한 작업에서 아쉽다는 점이 있다.
Evidence
- GPT-5가 '혁명적'이 아니라 '점진적 개선'이라는 점에서, 순수 스케일링(데이터/컴퓨트만 더 투입)의 한계가 보이고 있다는 의견이 있었다. 라우터 최적화, 서브모델 조합 같은 엔지니어링적 접근으로 전환한 것 자체가 기존 방식의 수확체감을 방증한다는 분석.
- 환각이 줄었다는 Simon의 평가에 대해, 'Claude 4 Sonnet/Opus는 매일 간단한 질문에서도 환각을 일으킨다'며 자신의 경험과 다르다는 반론이 있었다. 사용 패턴에 따라 체감이 크게 다를 수 있음을 시사한다.
- API에서 3모델 × 4추론레벨 = 최소 8가지 조합이 되는데, 이게 정말 '심플'한 건지 의문을 제기하는 댓글이 있었다. 프롬프트를 조정할지 모델/추론레벨을 바꿀지 선택지가 너무 많아져서 오히려 복잡해졌다는 지적.
- 추론 모델에서 temperature/top-p 파라미터가 제거된 것에 대해, 높은 일관성이 필요한 소규모 반복 작업에서 문제가 된다는 불만이 있었다.
- 공격적인 가격 책정에 대해 '큰 해자(moat)가 있었다면 이럴 필요가 없었을 것'이라며, 경쟁이 그만큼 치열해졌다는 해석이 나왔다. 또한 공식 벤치마크가 부재하다는 점을 지적하며 실제 성능 검증이 어렵다는 비판도 있었다.
How to Apply
- 현재 GPT-4o나 o3를 API로 사용 중이라면, GPT-5로 모델명만 교체하면 입력 비용이 절반으로 줄면서 동등 이상의 품질을 얻을 수 있다. 마이그레이션 전에 reasoning level을 'minimal'로 설정해 추론 토큰 비용을 통제하는 것부터 테스트해볼 것.
- 채팅 기반 서비스를 운영 중이라면, 토큰 캐싱 90% 할인을 활용하기 위해 대화 히스토리를 매번 전체 재전송하는 구조에서 캐싱 윈도우(수 분) 안에 요청이 이어지도록 설계하면 입력 비용을 1/10로 줄일 수 있다.
- 비용에 민감한 대량 처리 파이프라인(로그 분류, 데이터 추출 등)에는 GPT-5 Nano($0.05/$0.40)를 reasoning 'minimal'로 사용하면 GPT-4o mini보다 저렴하면서도 추론 능력을 선택적으로 활용할 수 있다.
- temperature/top-p 제어가 필요한 결정론적 작업(테스트 데이터 생성, 포맷 고정 출력 등)은 GPT-5 대신 GPT-4.1 계열을 유지하는 게 낫다. 추론 모델에서는 해당 파라미터가 지원되지 않는다.
Terminology
관련 논문
Claude Code는 프롬프트 읽기 전에 33k 토큰을 전송한다; OpenCode는 7k
동일한 모델과 작업 환경에서 Claude Code와 OpenCode의 실제 토큰 사용량을 API 레벨에서 측정한 결과, Claude Code가 시스템 프롬프트 오버헤드만으로 OpenCode 대비 4.7배 더 많은 토큰을 소비한다는 것을 확인했다.
Mesh LLM: iroh 기반 분산 AI 컴퓨팅
사무실, 집, 클라우드에 흩어진 GPU들을 하나의 OpenAI 호환 API로 묶어주는 분산 LLM 실행 시스템으로, 비싼 API 비용 없이 큰 모델을 직접 운영할 수 있다.
Frugon – LLM API 호출 로그를 분석해서 더 싼 모델로 대체 가능한 구간을 찾아주는 로컬 도구
내 LLM API 비용이 어디서 새는지 로컬에서 분석해주는 오픈소스 CLI 도구로, 비싼 모델 대신 저렴한 모델로 전환 가능한 호출을 골라낸다.
로컬에서 SOTA LLM 실행하기 완전 가이드 (하드웨어부터 설정까지)
2천 달러짜리 RTX 3090 한 장부터 4만 달러짜리 RTX PRO 6000 4장 셋업까지, 로컬에서 최신 LLM을 직접 돌리는 방법을 하드웨어 선택·구성·실행 설정까지 통째로 정리한 실전 가이드다.
Manticore Search에서 ONNX 경로를 재설계해 임베딩 속도를 14배 높인 방법
Manticore Search가 기존 SentenceTransformers/Candle 백엔드를 ONNX Runtime으로 교체해 텍스트 임베딩 생성 속도를 평균 14배 향상시켰다. 별도 모델 서비스 없이 DB 내부에서 직접 임베딩을 처리하는 구조에서 INSERT 속도가 곧 임베딩 속도이기 때문에 이 개선은 실질적인 ingest 처리량 향상으로 직결된다.
Asymmetric Quantization: 97% 스토리지 절감으로 Late Interaction 검색 품질 유지하기
멀티벡터 검색 모델의 문서 벡터를 1비트 이진값으로 압축하고 쿼리 벡터만 int8로 유지하는 비대칭 양자화 기법으로, 스토리지를 97% 줄이면서 검색 품질 손실을 0.61점(NDCG@10 기준)에 그치게 만든 실제 프로덕션 적용 사례다.