x86용 AI 연산 확장 ACE 스펙 공개

Who Should Read

LLM 추론을 CPU에서 돌릴 때 하드웨어 가속 지원이 궁금한 백엔드·인프라 개발자

Core Mechanics

• ACE는 x86용 AI 연산 확장이다
  • x86 Ecosystem Advisory Group이 낸 스펙 문서다.
  • 행렬 곱셈 커널과 저정밀도(reduced precision) 데이터 형식에 먼저 초점을 맞춘다.
• 새 레지스터 상태가 추가된다
  • tile 레지스터와 block scale 레지스터가 들어간다.
  • 시스템 관리용 상태와 연산도 함께 정의된다.
• AVX와 붙여 쓰는 구조다
  • AVX 레지스터 입력을 받아 tile 레지스터 상태에서 연산하는 명령이 있다.
  • AVX 레지스터와 ACE 상태 사이에서 데이터를 옮기는 명령도 있다.
• 형식 변환 명령도 들어간다
  • 행렬 가속과 별개로 전용 format convert 연산이 제공된다.
  • 이 연산들은 AVX10 프레임워크 아래에 있다.

Community Reactions

• AVX/SSE와 뭐가 다르냐는 질문
  • 이미 대부분의 x64 머신에 있는 SSE/AVX 명령어와 차이가 뭐냐고 묻는 댓글이 있었다.
• AVX512 보급이 변수라는 의견
  • AVX512가 최신 CPU 대부분에 없으니 ACE도 처음 몇 년은 서버 CPU에서만 쓸 수 있을 것 같다는 의견이 있었다.

How to Apply

• 서버 CPU의 AVX 지원 여부 확인하기
  • 오늘 추론 서버에서 lscpu로 avx512·avx10 플래그를 확인하라.
  • 결과를 배포 대상 인스턴스 표에 기록하라.
• CPU 추론 도입 판단은 보류하고 스펙만 추적하기
  • 원문은 스펙 정의만 담고 있어 성능 수치가 없다.
  • 실제 CPU 지원이 나오면 그때 벤치마크로 비교하라.

Try It

# 셸(리눅스)에 붙여넣기: CPU의 AVX 관련 플래그 확인

grep -o -E 'avx[0-9a-z_]*' /proc/cpuinfo | sort -u

Terminology

관련 논문

• Claude Code가 백그라운드 에이전트 상태줄에 토큰을 쓰는 문제와 Bun preload 우회법

  30초마다 에이전트 전체 대화를 보내던 상태줄 요약을 끄니 요청 19.7%가 사라졌다

• GLM-5.3 Workers AI의 KV cache 교차 노출 사고와 SGLang 수정

  컨텍스트 창보다 작은 KV 풀 때문에 긴 프롬프트 155건에 타인 데이터가 섞였다

• Microsoft Decision-1: Qwen3.5-9B 기반 결정 점수 전용 모델

  글 대신 선택지별 확률만 내놓는 9B 모델, 라우팅·분류용으로 공개

• Cerebras가 조 단위 파라미터 모델을 웨이퍼 여러 장에 올리는 방법

  Kimi K3(3T)를 웨이퍼 59장 파이프라인에 올려 초당 1000~2000+ 토큰을 낸다

• AI 이미지 생성 실전 가이드: diffusion부터 에이전트 연동까지

  이미지 API를 직접 써 보니 캔버스 단위 과금과 카메라 묘사 프롬프트가 핵심이었다

• DeepInfer: DeepSeek 모델용 고성능 대규모 추론 프레임워크 공개

  DeepSeek가 프로덕션 추론 엔진 DeepInfer를 Apache-2.0으로 공개했다

• Mercury 3: 규모를 키운 diffusion LLM, 초당 1,000토큰 이상

  Diffusion LLM을 40배 키웠더니 속도 4~8배, 품질은 속도 특화 모델 수준

• DeepSeek, 미 연방 민간 기관에서 금지된다: DHS 명령과 개발자 반응

  DHS 명령으로 DeepSeek이 미 연방 민간 기관 IT 시스템에서 금지됐다

Related Resources

• https://x86ecosystem.org/resource/ai-compute-extensions-ace-specification/