Hax – C로 만든 미니멀 터미널 코딩 에이전트 | AI Paper Digest

TL;DR Highlight

C 단일 바이너리로 만든 가벼운 터미널 코딩 에이전트, 로컬 모델도 바로 연결

Who Should Read

로컬 모델(llama.cpp)로 코딩 에이전트를 돌리고 싶지만 무거운 도구가 부담스러운 터미널 중심 개발자

Core Mechanics

C 단일 바이너리로 가볍다
- 의존성이 적은 네이티브 C 바이너리 하나다.
- 바로 시작되고 메모리는 몇 MB만 쓴다고 한다.
- 그만큼 로컬 모델에 RAM을 더 줄 수 있다.
로컬 모델을 1급으로 지원한다
- 모델과 런타임 기능을 자동으로 찾는다.
- 기본 설정에는 별도 provider 설정 블록이 필요 없다.
- llama-server 실행 후 hax --provider llama.cpp 로 연결한다.
터미널을 건드리지 않는다
- 마크다운 스트리밍과 도구 출력을 터미널 폭에 맞춰 보여준다.
- 현재 스트리밍 줄이나 입력창만 다시 그려서 기본 스크롤백이 유지된다.
주고받은 내용을 볼 수 있다
- Ctrl+T로 모델에 보낸 것과 받은 응답을 트랜스크립트로 확인한다.
- 선택하면 상세 wire protocol 트레이스도 수집한다.
provider 지원이 넓다
- OpenAI와 호환 API, Anthropic과 호환 API를 지원한다.

Community Reactions

Anthropic 호환 provider로 deepseek-flash를 연결해 봤다는 경험
- 밀어뒀던 Rust 프로젝트를 만들었고 비용은 1센트, 설정 포함 10분 이내였다고 한다.
macOS에서 llama.cpp와 써 봤다는 경험
- 빌드해 설치했더니 로컬 모델에서 깔끔하고 빠르게 동작했다고 한다.
다른 에이전트에서 겪은 모델 편향을 짚은 의견
- 모델이 자사 에이전트에 맞춰 파인튜닝돼 있다는 의견이다.
- Opus는 특정 bash 도구를 쓰려 하고, 막으면 파이썬으로 bash를 호출한다고 한다.
C 선택에 대한 회의적 반응도 있었다
- 새 프로젝트를 C로 시작하는 이유를 모르겠다는 의견이 있었다.
- 인터럽트 처리는 interrupt.c에 있다는 확인 댓글도 있었다.

How to Apply

llama.cpp에 hax 붙여 보기
- brew install oleksandrchekhovskyi/hax/hax 로 설치한다.
- llama-server -m 모델.gguf 를 띄우고 hax --provider llama.cpp 를 실행한다.
- 프로젝트 폴더에서 간단한 수정을 시켜 본다.
스크립트에서 one-shot 모드 쓰기
- hax -p "list TODOs" 로 최종 답만 stdout에 받는다.
- 파이프나 cron에 연결해 결과를 후처리한다.
Ctrl+T로 프롬프트 점검하기
- 에이전트가 엉뚱하게 움직일 때 트랜스크립트를 연다.
- 모델에 실제로 보낸 내용을 확인해 시스템 프롬프트와 도구 출력을 고친다.

Try It

복사해서 바로 해보기

# 터미널에 붙여넣기 (macOS/Linux, llama.cpp 사용 시)

brew install oleksandrchekhovskyi/hax/hax

# 다른 터미널에서 로컬 모델 서버 실행
llama-server -m {{모델}}.gguf

# 프로젝트 폴더에서 실행
cd {{프로젝트}}
hax --provider llama.cpp -p "list TODOs"

# 이어서 해 볼 것: 대화형으로 hax 실행 후 Ctrl+T 로 트랜스크립트 확인

Terminology

harnessLLM에 도구와 루프를 붙여 에이전트로 굴리는 껍데기 프로그램이다. 자동차의 차체와 운전석에 가깝다.

llama.cppGGUF 모델을 내 컴퓨터에서 돌리는 C/C++ 추론 엔진이다. llama-server로 API 서버도 띄운다.

wire protocol trace모델 API와 주고받은 요청과 응답 원본을 그대로 기록한 로그다.

one-shot 모드대화 없이 프롬프트 하나를 실행하고 최종 답만 출력하는 방식이다. 셸 스크립트에 끼우기 좋다.

Hax – C로 만든 미니멀 터미널 코딩 에이전트