무료/저예산으로 AI 코딩하는 실전 워크플로우

Who Should Read

AI 코딩 도구(Cursor, Cline 등)의 API 비용이 부담되는 개인 개발자나 사이드 프로젝트 개발자. 여러 무료 모델을 조합해서 실무에 쓰고 싶은 사람.

Core Mechanics

• 핵심 전략은 '두뇌 역할'과 '손 역할'을 분리하는 것. 어려운 문제 분석과 솔루션 설계는 Claude, Gemini 2.5 Pro 같은 강력한 모델의 무료 웹 채팅으로 하고, 실제 파일 수정은 GPT 4.1 같은 저렴하거나 무료인 모델을 Cline에 붙여서 시킨다.
• Cline, Cursor 같은 에이전트 도구는 도구 사용법, MCP 서버 설정 등 부가 정보를 프롬프트에 잔뜩 넣어서 모델을 '멍청하게' 만든다. 같은 모델이라도 웹 채팅에서 직접 물어보면 훨씬 나은 답을 주는 경우가 많다.
• 브라우저에 GLM-4.5(z.ai), Google AI Studio(Gemini 2.5 Pro), Poe.com(Claude 무료 크레딧), OpenRouter, ChatGPT, Perplexity, Deepseek, Grok 등 무료 AI 탭을 10개 이상 띄워놓고 같은 질문을 여러 모델에 던져 비교한다.
• AI Code Prep라는 도구로 프로젝트 폴더를 재귀 스캔해서 코드 파일을 AI가 읽기 좋은 포맷으로 묶어준다. 이걸 웹 채팅에 붙여넣으면 에이전트 없이도 전체 컨텍스트를 줄 수 있다.
• 웹 채팅에서 문제를 해결한 뒤, '이 솔루션을 Cline이 실행할 수 있는 프롬프트로 변환해줘'라고 요청하면 단계별 태스크 리스트가 나온다. 이걸 GPT 4.1에 넣으면 지시대로 충실히 파일을 수정한다.
• lmarena.ai에서 Claude Opus 4를 무료로 쓸 수 있고, Google AI Studio는 Gemini 2.5 Pro를 사실상 무제한 제공한다. Qwen Coder CLI는 하루 1000건 무료 요청을 준다.
• 프롬프트를 코드 컨텍스트 위아래에 중복 배치하면 AI가 질문에 더 집중하는 효과가 있다고 주장한다.
• GLM-4.5를 저자가 현재 가장 선호하는 무료 모델로 꼽았고, Kimi K2와 Qwen3-Coder 480B도 에이전트 환경에서 잘 작동한다고 평가했다.

Evidence

• 에이전트 도구가 모델을 멍청하게 만든다는 주장에 여러 댓글이 동의했다. 한 사용자는 'GitHub Copilot이나 Cursor보다 웹 채팅에 코드를 복붙하는 게 결과가 더 좋다'고 확인했다.
• 한 사용자는 에이전트 방식 대신 '외과적(surgical)' 접근을 밀고 있다며, 에이전트를 포기하면 100배 작은 모델로도 충분하다고 주장했다. 프로젝트 규모가 작으면 src/ 폴더 전체를 프롬프트에 넣는 것도 가능하다는 경험을 공유했다.
• repomix(https://repomix.com)라는 도구를 추천하는 댓글이 있었는데, 프로젝트 코드를 하나의 파일로 묶어서 LLM 웹 채팅에 바로 넣을 수 있게 해준다. Qwen3 Coder나 AI Studio와 조합하면 좋다고 했다.
• 반대 의견도 있었다. '탭 20개 열어서 AI 채팅하느니 그냥 코드를 직접 쓰겠다'는 반응이나, '너무 복잡하고 시간이 더 걸린다'는 의견도 있었다.
• 완전 로컬 스택(Cursor CLI + Ollama + LEANN 같은 로컬 메모리 레이어)으로 클라우드 없이 무료 AI 개발 환경을 구축하자는 제안도 나왔다. API 키도 필요 없고 프라이버시도 보장된다는 점을 강조했다.

How to Apply

• AI 코딩 비용이 부담되면, 복잡한 버그 분석이나 아키텍처 설계는 AI Studio(Gemini 2.5 Pro 무료)나 lmarena.ai(Claude Opus 4 무료)의 웹 채팅에서 해결하고, 도출된 솔루션을 Cline/GPT 4.1 같은 저렴한 에이전트에 넘겨 파일 수정만 시키면 비용을 크게 줄일 수 있다.
• repomix(npx repomix)를 사용해서 프로젝트 코드를 하나의 파일로 묶은 뒤 웹 채팅에 붙여넣으면, 에이전트 도구 없이도 전체 컨텍스트를 제공할 수 있다. 특히 소규모 프로젝트에서 효과적이다.
• 같은 질문을 2~3개 모델에 동시에 던져서 답변을 비교하는 습관을 들이면 환각(hallucination)이나 잘못된 솔루션을 걸러낼 확률이 높아진다. GLM-4.5, Gemini 2.5 Pro, Qwen3-Coder가 현재 무료 중 성능이 좋다.
• Qwen Coder CLI를 설치하면 하루 1000건 무료로 405B 모델을 쓸 수 있어서, 로컬 터미널에서 빠른 코드 질문이나 자동완성용으로 활용할 수 있다.

Code Example

# repomix로 프로젝트 코드를 하나의 파일로 묶기
npx repomix

# AI Code Prep가 생성하는 컨텍스트 블록 형태 예시
# 질문을 위아래에 배치하여 AI 집중도를 높임
"""
Can you help me figure out why my program does x instead of y?

fileName.js:
<code>
... contents ...
</code>

nextFile.py:
<code>
import example
...
</code>

Can you help me figure out why my program does x instead of y?
"""

Terminology

관련 논문

• Claude Code는 프롬프트 읽기 전에 33k 토큰을 전송한다; OpenCode는 7k

  동일한 모델과 작업 환경에서 Claude Code와 OpenCode의 실제 토큰 사용량을 API 레벨에서 측정한 결과, Claude Code가 시스템 프롬프트 오버헤드만으로 OpenCode 대비 4.7배 더 많은 토큰을 소비한다는 것을 확인했다.

• Mesh LLM: iroh 기반 분산 AI 컴퓨팅

  사무실, 집, 클라우드에 흩어진 GPU들을 하나의 OpenAI 호환 API로 묶어주는 분산 LLM 실행 시스템으로, 비싼 API 비용 없이 큰 모델을 직접 운영할 수 있다.

• Frugon – LLM API 호출 로그를 분석해서 더 싼 모델로 대체 가능한 구간을 찾아주는 로컬 도구

  내 LLM API 비용이 어디서 새는지 로컬에서 분석해주는 오픈소스 CLI 도구로, 비싼 모델 대신 저렴한 모델로 전환 가능한 호출을 골라낸다.

• 로컬에서 SOTA LLM 실행하기 완전 가이드 (하드웨어부터 설정까지)

  2천 달러짜리 RTX 3090 한 장부터 4만 달러짜리 RTX PRO 6000 4장 셋업까지, 로컬에서 최신 LLM을 직접 돌리는 방법을 하드웨어 선택·구성·실행 설정까지 통째로 정리한 실전 가이드다.

• Manticore Search에서 ONNX 경로를 재설계해 임베딩 속도를 14배 높인 방법

  Manticore Search가 기존 SentenceTransformers/Candle 백엔드를 ONNX Runtime으로 교체해 텍스트 임베딩 생성 속도를 평균 14배 향상시켰다. 별도 모델 서비스 없이 DB 내부에서 직접 임베딩을 처리하는 구조에서 INSERT 속도가 곧 임베딩 속도이기 때문에 이 개선은 실질적인 ingest 처리량 향상으로 직결된다.

• Asymmetric Quantization: 97% 스토리지 절감으로 Late Interaction 검색 품질 유지하기

  멀티벡터 검색 모델의 문서 벡터를 1비트 이진값으로 압축하고 쿼리 벡터만 int8로 유지하는 비대칭 양자화 기법으로, 스토리지를 97% 줄이면서 검색 품질 손실을 0.61점(NDCG@10 기준)에 그치게 만든 실제 프로덕션 적용 사례다.

Related Resources

• https://wuu73.org/blog/aiguide1.html
• https://wuu73.org/aicp
• https://repomix.com/
• https://aistudio.google.com/
• https://github.com/yichuan-w/LEANN
• https://lmarena.ai