AI Compute Extensions (ACE) Specification

TL;DR Highlight

x86 Ecosystem Advisory Group이 행렬 곱셈과 저정밀도 데이터 포맷을 하드웨어 수준에서 가속하는 새로운 x86 명령어 확장 스펙 ACE를 공개했다. ML 워크로드를 CPU에서 더 효율적으로 돌리기 위한 ISA(명령어 집합 구조) 수준의 변화라 향후 AI 추론 환경에 영향을 줄 수 있다.

Who Should Read

CPU 기반 AI 추론 파이프라인을 최적화하거나, 온디바이스/엣지 ML 배포를 고민하는 시스템 소프트웨어 개발자 및 ML 인프라 엔지니어.

Core Mechanics

ACE(AI Compute Extensions)는 x86 CPU에서 ML 워크로드, 특히 행렬 곱셈(matrix multiplication) 커널과 저정밀도(reduced precision) 데이터 포맷 처리를 하드웨어 수준에서 가속하기 위한 명령어 확장 스펙이다.
기존 AVX(Advanced Vector eXtensions, x86의 SIMD 벡터 연산 명령어 집합)를 보완하는 방식으로 설계됐고, AVX 레지스터와 새로 추가된 ACE 타일(tile) 레지스터가 긴밀하게 연동된다.
ACE는 타일(tile) 레지스터와 블록 스케일(block scale) 레지스터를 포함하는 새로운 레지스터 상태를 도입한다. 타일 레지스터는 행렬 데이터를 담는 대형 레지스터 블록으로 이해하면 된다.
신규 연산은 세 가지 카테고리로 나뉜다: AVX 레지스터 입력을 받아 타일 레지스터에서 동작하는 '데이터 처리 연산', 타일 레지스터와 AVX 레지스터 간 데이터를 이동시키는 '데이터 이동 연산', 시스템 관리용 연산.
행렬 가속 외에도 AVX10 프레임워크 하에 다양한 포맷 변환(format convert) 전용 연산도 포함된다. 이는 FP8, BF16 등 AI에서 자주 쓰는 저정밀도 포맷 간 변환을 효율적으로 처리하기 위한 것으로 보인다.
이 스펙은 x86 Ecosystem Advisory Group이 2026년 6월 15일에 공개했으며, Intel AMX(Advanced Matrix Extensions)와 유사한 방향이지만 생태계 차원의 표준화 시도라는 점에서 의미가 있다.

Evidence

기존 SSE/AVX 명령어와 뭐가 다르냐는 질문이 나왔다. ACE는 기존 벡터 연산을 대체하는 게 아니라 타일 레지스터 기반의 행렬 곱셈 가속을 추가하는 것으로, 기존 AVX가 벡터 단위 연산에 집중했다면 ACE는 행렬 전체를 한 번에 처리하는 고밀도 연산을 목표로 한다는 차이가 있다.
AVX-512가 이미 대부분의 신규 CPU(특히 소비자용)에서 제외되고 있는 상황을 언급하며, ACE도 최소 수년간은 서버용 CPU에만 탑재될 가능성이 높다는 우려가 제기됐다.
TCG(Trusted Computing Group)가 관여하지 않은 것에 안도하는 반응이 있었다. 이는 과거 TCG의 스펙이 복잡성과 벤더 종속성 문제로 비판받은 맥락에서 나온 농담 섞인 댓글이다.
AI 명령어 확장이라는 주제를 비꼬는 유머 댓글도 있었다. TSB(take a step back), SAT(stop and think), TIT(think it through), KAH(kill all humans, 구현 안 됨) 같은 가상의 명령어와 아시모프 3원칙 관련 인터럽트를 제안하는 식으로, 업계의 AI 과잉 마케팅에 대한 풍자다.

How to Apply

CPU 기반 LLM 추론 서버를 운영 중이라면, ACE 지원 CPU가 출시될 때 llama.cpp나 onnxruntime 같은 추론 런타임이 ACE 백엔드를 지원하는지 모니터링해두면 GPU 없이도 행렬 연산 성능을 높일 수 있다.
온디바이스(엣지/모바일) AI 추론 환경을 설계 중이라면, ACE의 저정밀도 포맷(BF16, FP8 등) 변환 연산 지원 여부를 타겟 CPU 스펙 검토 항목에 추가해두면 향후 모델 양자화(quantization) 파이프라인 설계에 도움이 된다.
x86 어셈블리나 SIMD 인트린직(intrinsic, C에서 어셈블리 명령어를 직접 호출하는 함수)을 사용해 커스텀 커널을 작성하는 경우, ACE 스펙 문서를 다운로드해서 타일 레지스터 API 구조를 미리 파악해두면 스펙 확정 후 빠른 포팅이 가능하다.

Terminology

ACEAI Compute Extensions의 약자로, x86 CPU에 행렬 곱셈 같은 AI 연산을 하드웨어 수준에서 빠르게 처리하기 위해 추가하는 새 명령어 집합이다.

AVXAdvanced Vector eXtensions. x86 CPU에서 여러 데이터를 한 번에 처리하는 SIMD 명령어 확장으로, ACE는 이 위에 행렬 연산 기능을 얹는 형태다.

tile register행렬 데이터를 통째로 담을 수 있는 대형 레지스터 블록. 기존 AVX 레지스터가 벡터(1차원 배열)를 담았다면, 타일 레지스터는 2차원 행렬을 한 번에 저장한다.

reduced precisionFP32(32비트 부동소수점) 대신 BF16, FP8 같은 더 적은 비트를 쓰는 데이터 포맷. 정밀도를 조금 희생하는 대신 메모리와 연산 비용을 크게 줄여 AI 추론에 자주 쓰인다.

ISAInstruction Set Architecture. CPU가 이해할 수 있는 명령어의 집합 규격. x86, ARM 등이 대표적이며, ACE는 x86 ISA를 확장하는 것이다.

AMXIntel Advanced Matrix Extensions. ACE와 유사한 Intel의 기존 행렬 가속 명령어 확장으로, 주로 4세대 이후 Xeon 서버 CPU에 탑재돼 있다.