1866년처럼 써라: LLM에게 전보체(cablese)로 요약시키면 출력 토큰 40~49% 절감

Who Should Read

에이전트 메모리·스크래치패드·요약 때문에 출력 토큰 비용이 부담되는 LLM API 백엔드 개발자

Core Mechanics

• 전보체 한 문장 지시로 출력 40~49% 절감
  • 관, 조사, 군더더기를 빼고 줄여 쓰되 사실·숫자·고유명사는 그대로 두라고 지시한다.
  • 각 제공사 자체 미터 기준으로 gemma-4-31b 40.4%, qwen3.8-27b 48.9%, GLM-5.3-Flash 48.4% 절감이었다.
• 다른 모델이 읽어도 정답률이 안 떨어졌다
  • 전보체 기록으로 답한 정답률을 평문 기록 대비 비율로 보니 0.99~1.10이었다(1.00이면 평문과 동일).
  • 예시를 본 적 없는 4개 모델 계열도 그대로 읽었다.
• 소문자로 쓰라고 해야 한다
  • 이 지시가 없으면 모델이 전부 대문자로 쓴다.
  • 그러면 절감률이 14~19%p 떨어져 gemma 25.0%, qwen 29.8%, GLM 33.9%가 된다.
• 압축은 내용이 확정된 뒤에 해야 공짜다
  • 답변을 쓰는 도중에 전보체로 쓰면 정답률이 평문 답변 대비 0.81로 떨어졌다.
  • 내용이 확정된 후 기계가 읽을 기록으로 만들면 1.08~1.09였다.
• 추론을 못 끄는 모델은 오히려 손해다
  • gpt-5-mini는 추론을 끌 수 없어 전보체에서 약 3배 더 생각하고, 쓰기 비용이 평문의 약 2배였다.
  • 토큰 절감은 17.7%였다.

Community Reactions

• 프롬프트로 잘 되는지는 채점 방식에 달렸다는 의견
  • 정답을 문구 매칭으로 채점해서 평문 기준선이 91%밖에 안 된다는 점이 문제라는 의견이 있었다.
  • 압축에 유리한 내용만 골랐으니 이 현상이 모델에 내재한다는 증거는 아니라는 반론이다.
• exact match 채점이 변수라는 경험
  • F1이나 judge 모델로 바꾸면 같은 답에도 passage QA 점수가 10점 흔들렸다는 경험이 있었다.
• 이미 쓰고 있을 거라는 추측
  • GPT5.6 대화에서 추론이 UI로 새어 나온 걸 보니 비슷한 방식이 이미 적용된 것 같다는 의견이 있었다.
  • "Need check output vs prev. Ran script, results fine..." 같은 말투가 예로 나왔다.
• 컨텍스트 압축 꼼수는 곧 사라질 거라는 의견
  • 컨텍스트 압축, AGENTS.md 같은 토큰 절약 요령은 전보 시대 요령처럼 곧 없어질 거라는 의견이 있었다.
• 글이 LLM 글투라는 지적
  • 글이 Claude 말투로 가득해 정보 찾기 어렵다는 지적이 있었다.

How to Apply

• 에이전트 스크래치패드 요약에 전보체 지시 붙이기
  • 오늘 요약·메모리 저장 프롬프트 끝에 소문자 전보체 지시 한 문장을 추가한다.
  • 같은 입력 10건의 출력 토큰을 전후로 비교한다.
• 내용 확정 뒤 기계가 읽는 구간에만 적용하기
  • 에이전트 간 핸드오프, 메모리 저장소, 스크래치패드에 적용한다.
  • 모델이 한창 답을 쓰는 구간에는 넣지 않는다.
• 추론을 끌 수 있는 모델로 압축하기
  • 압축 담당 모델은 추론 비활성화가 가능한 것으로 고른다.
  • 쓰기 비용이 평문보다 오르면 그 모델은 빼라.
• 모델별로 절감률과 정답률 직접 재기
  • 같은 지시에서도 모델마다 40~49%로 갈렸으니 자기 모델로 측정한다.
  • 원문 저장소 github.com/Travis42/telegraph-test의 벤치마크를 돌려 본다.

Try It

# Claude나 ChatGPT에 그대로 붙여넣기 (원문 방법을 프롬프트로 옮긴 것)

아래 문서를 전보체(telegraphese)로 완전한 기록으로 써줘. 관사와 군더더기는 빼고 약어를 써라. 모든 사실, 숫자, 고유명사는 원문 그대로 유지해라. 대문자 말고 소문자로 써라.

문서:
{{문서}}

이어서: 새 대화에 위 전보체 결과만 붙여넣고 이렇게 물어보세요.
{{질문}}
그리고 원문으로 답한 결과와 비교해 보세요.

Terminology

관련 논문

• Mercury 3: 규모를 키운 diffusion LLM, 초당 1,000토큰 이상

  Diffusion LLM을 40배 키웠더니 속도 4~8배, 품질은 속도 특화 모델 수준

• Timestral: Mistral의 시계열 파운데이션 모델

  209M 파라미터 시계열 모델이 3대 벤치마크 1위, CPU에서도 돌아간다

• DeepSeek V4.1 Flash 1017 (Max) 성능·속도·가격 분석

  DeepSeek V4.1 Flash 1017 Max는 지능 지수 45에 211 tok/s, 입력 $0.30

• LLM 프록시를 직접 안 돌리면 무슨 일이 벌어지는지 어떻게 아나

  자체 LLM 프록시를 세웠더니 키·모델·캐시 미스를 직접 볼 수 있다

• DeepSeek V4.1 Flash 1017: 싼 가격에 1M 컨텍스트를 주는 에이전트용 모델

  DeepSeek V4.1 Flash 1017은 입력 $0.05/M, 1M 컨텍스트의 에이전트용 모델

• DeepSeek-V4.1-Flash-1017 공개: 더 짧게 생각하고 더 빠르게 일하는 에이전트용 모델

  DeepSeek V4.1 Flash 마이너 업데이트로 코딩·에이전트 벤치 점수↑, 실행 시간·출력 길이↓

• Llmspeed: 로컬 LLM 속도를 하드웨어 구매 전에 체감해 보는 시뮬레이터

  GPU·모델을 고르면 로컬 LLM 속도를 미리 체감하게 해 주는 시뮬레이터

Related Resources

• https://fiveminutesforward.com/post/2026-10-04-telegraph-test/
• https://github.com/Travis42/telegraph-test
• https://github.com/juliusbrussee/caveman
• https://en.wikipedia.org/wiki/Commercial_code_(communication)
• https://github.com/DGoettlich/history-llms