Gemini 4 Hydrogen과 Orchestrator: 한 작업 안에서 모델을 바꿔 쓰는 방식
Gemini 4 Hydrogen and Orchestrator
TL;DR Highlight
Carbon이 계획, Hydrogen이 실행하게 했더니 쿼터 24%↓, 속도 19%↑
Who Should Read
코딩 에이전트에서 비싼 모델 비용과 느린 속도 때문에 모델 분담 방식을 고민하는 백엔드·에이전트 개발자
Core Mechanics
- Orchestrator는 한 작업 안에서 모델을 바꾼다
- Gemini 4 Carbon과 Hydrogen을 한 trajectory(작업 흐름) 안에서 양방향으로 오가게 한다.
- 모델 선택기에 Orchestrator 옵션으로 추가됐다.
- 정적 모델 라우터는 긴 작업에서 깨진다
- 정적 라우터는 첫 프롬프트로 난이도를 짐작해 가장 싼 모델에 전체를 맡긴다.
- 에이전트가 오래 돌수록 단계마다 필요한 난이도가 달라져서 이 방식이 무너진다고 한다.
- Carbon이 계획, Hydrogen이 실행한다
- Carbon이 읽기 전용 단계에서 의존성을 탐색하고 재계획 조건이 담긴 계획을 짠다.
- Hydrogen이 편집·패키지 업데이트·테스트를 맡고, 막히면 Carbon에 넘겨 계획을 고친다.
- Terminal-Bench 4.1에서 쿼터 24% 절감
- Carbon 단독과 비슷한 성공률을 유지했다.
- 평균 쿼터 24% 덜 쓰고 19% 더 빨리 끝났다.
- Hydrogen 단독 성능과 thinking 단계
- Artificial Analysis Intelligence Index 51점으로 Argon의 50점보다 높고 최고 설정에서는 54점이다.
- Terminal-Bench 4.1에서 57%로 3.8 Flash의 18.2%보다 높다.
- 추론 깊이는 low, medium, high(기본), 신규 xhigh 네 단계다.
- SDK로 역할별 모델을 직접 짤 수도 있다
- Antigravity SDK 이슈 트리아지 데모에서 Hydrogen은 분류·검색·질문·PR 코멘트 UI 수정을 맡았다.
- Carbon은 큰 리팩터링, 신규 기능, 보안 점검을 맡았다.
- 제공 범위가 플랜별로 다르다
- Hydrogen은 유료 Google AI Pro와 Ultra 구독자에게 나간다.
- Orchestrator (Carbon)는 Ultra만, Orchestrator (Argon)는 Pro와 Ultra에서 쓸 수 있다.
Community Reactions
- 다른 곳에서도 비슷한 구조를 쓴다는 의견
- Anthropic의 advisor mode와 GitHub의 multi-model pipeline이 본질적으로 같다는 댓글이 있었다.
- 캐싱이 어떻게 맞물리는지 모르겠다는 의문도 함께 나왔다.
- 모델 선택을 맡기기 불안하다는 경험
- 서브에이전트에 모델을 직접 지정해 쓰는데, 모델은 자기 능력을 낙관하는 경향이 있어 위임이 걱정된다는 의견이 있었다.
- 대신 implementor(hard)와 implementor(easy)처럼 도메인별로 모델을 고정하는 편이 쉽다는 의견이다.
- 더 큰 절감을 봤다는 사례
- Mjolnir로 Opus를 DeepSeek Flash에 ACP로 연결해 60% 절감을 봤다는 댓글이 있었다.
- 공식 수치 25%가 의외로 낮다는 반응이다.
- Argon과 Carbon이 느리다는 경험
- 단순한 작업에도 파일을 잔뜩 컨텍스트에 넣는 agy 때문에 3.8 Flash를 대신 썼다는 댓글이 있었다.
- 새 이름 체계가 헷갈린다는 반응이 여러 개였다.
How to Apply
- 지금 쓰는 에이전트 작업을 단계별로 쪼개 보기
- 오늘 30분 안에 최근 코딩 작업 하나를 탐색·계획·편집·테스트로 나눠 단계별 필요 난이도를 적어라.
- 어느 단계에 비싼 모델이 꼭 필요한지 표시해라.
- 계획 모델과 실행 모델을 분리하기
- 서브에이전트 설정에서 계획 단계는 강한 모델, 편집·테스트 단계는 빠른 모델로 지정해라.
- 계획에 재계획 조건을 명시해 두어라.
- 막혔을 때 강한 모델로 되돌리는 규칙 만들기
- 테스트가 같은 이유로 2번 실패하면 계획 모델에 상태를 넘기도록 규칙을 적어라.
- 계획 모델은 상태를 점검하고 계획을 고친 뒤 실행 모델에 돌려줘라.
- 기존 단일 모델과 같은 과제로 비교하기
- 같은 과제 세트를 단일 강한 모델과 분담 구조로 돌려라.
- 성공률, 쿼터(토큰), 소요 시간을 기록해 24%·19% 같은 절감이 재현되는지 확인해라.
Try It
# Claude Code나 ChatGPT에 그대로 붙여넣기 (Orchestrator 방식의 간이 프롬프트 버전)
너는 계획 담당(Planner)과 실행 담당(Executor) 역할을 번갈아 맡는다.
[1단계: Planner, 읽기 전용]
- 코드를 수정하지 말고 의존성을 탐색하고 모호한 점을 정리해라.
- 구체적인 단계별 계획을 쓰고, 각 단계에 '재계획 조건'(예: 같은 테스트가 2번 실패)을 적어라.
[2단계: Executor]
- 계획대로 편집, 패키지 업데이트, 테스트 실행만 해라.
- 재계획 조건이 발생하면 멈추고 현재 상태를 요약해 Planner에게 넘겨라.
[3단계: Planner 복귀]
- 상태를 점검하고 계획을 고친 뒤 Executor에게 돌려줘라.
작업: {{작업 설명}}
이어서 해 볼 것: Planner와 Executor를 서로 다른 모델이나 서브에이전트로 나눠서 같은 작업을 돌려 보자.Terminology
관련 논문
Gemini 4 Neon 출시: 프런티어급 성능, 빠른 속도, 낮은 작업당 비용
Gemini 4 Neon은 Carbon보다 작업당 비용 32%↓, 입력 $3·출력 $15
AI가 All About Berlin을 죽이고 있다
Google AI Overviews 도입 후 베를린 가이드 사이트 트래픽이 70~75% 줄었다
모든 걸 LLM에 맡기지 마라: PostHog의 decision model 활용기
PostHog는 작은 decision model로 LLM 호출 98.7%를 건너뛰었다
GPT-6.2 Astra·Sol 출시, 댓글로 본 비용·속도와 에이전트 동작 후기
GPT-6.2 Astra·Sol은 비용이 크게 줄었지만 과설계·조기 종료 후기가 엇갈린다
TrnRT: AWS Trainium용 오픈소스 LLM 추론 엔진
trn2.48xlarge 한 대로 GLM-5.3-Flash를 OpenAI 호환 API로 서빙한다
언제 줌해야 할까: VLM에게 이미지는 얼마나 작아야 너무 작은가
큰 사진을 타일로 쪼개 보내니 Claude·Gemini 정확도가 11~14.5%p 올랐다
최신 LLM의 Positional Embedding 이해하기
GPT-2부터 RoPE까지, LLM이 토큰 위치를 넣는 방식을 정리했다
DeepSeek V3를 순수 JAX 190줄로 구현해 MacBook Air에서 학습
DeepSeek V3 핵심 구조를 JAX 190줄로 짜서 맥북에어에서 2.6시간 학습