OpenExecutive: 전문 에이전트 여러 개를 CEO 한 명처럼 묶은 오픈소스

Who Should Read

여러 전문 에이전트를 하나의 오케스트레이터로 묶고 프롬프트 캐싱·에피소드 메모리를 설계하려는 백엔드 개발자

Core Mechanics

• 에이전트 여러 개, 목소리는 하나
  • 오케스트레이터가 툴 호출로 전문가 에이전트(CSO·CFO·GC 등)를 병렬로 부른다.
  • 사용자에게는 하나의 임원 목소리로만 답하고 내부 에이전트 구조는 숨긴다.
• RAG 컨텍스트는 사용자 턴에만 넣는다
  • 전문가마다 ChromaDB에서 내장 MBA 지식과 회사 문서를 따로 검색한다.
  • 검색 결과는 캐시되는 시스템 프롬프트가 아니라 user turn에 주입한다.
• 프롬프트 캐싱은 블록을 나눠서
  • 임원 페르소나, 회사 프로필, 지식 인덱스를 각각 따로 캐시한다.
  • 동적 내용은 캐시 블록에 넣지 않으며, 첫 몇 턴 이후 캐시 적중률은 최대 85%라고 한다.
• 대화 후 작은 모델이 기억을 뽑는다
  • 응답이 끝나면 백그라운드에서 claude-haiku-5-5가 결정·계획·조언을 SQLite에 저장한다.
  • 다음 세션은 <past_decisions> 블록으로 시작해 지난 추천을 기억한다.
• 스케줄러는 단일 인스턴스 전제
  • 도래한 작업을 UPDATE … RETURNING으로 선점해 중복 실행을 막는다.
  • API를 수평 확장하려면 먼저 스케줄러를 게이팅해야 한다.

Community Reactions

• 풍자와 별개로 진지하게 볼 만하다는 의견
  • 에이전트가 사람이 아닌 조직 형태라는 점에 주목하라는 댓글이 있었다.
  • 사람보다 훨씬 많은 입력을 동시에 살필 수 있다는 점이 장점이라는 의견이다.
• LLM의 전략 조언은 유행을 따라간다는 반론
  • HBR 글에서 LLM이 상황에 맞는 답보다 인기 있고 트렌디한 답으로 수렴한다는 'trendslop'이 지적됐다는 댓글이 있었다.
  • 갓 입사한 MBA나 주니어 컨설턴트 같다는 표현이 인용됐다.
• 프롬프트 내용이 상투적이라는 경험
  • 저장소의 영업·재무 프롬프트를 읽어 보니 일반론 같은 문구가 많다는 댓글이 있었다.
  • 데모를 본 다른 댓글은 능동적 임원이 아니라 반응형 매니저에 가깝다고 평가했다.
• 소규모 창업자에게는 실용적이라는 경험
  • 첫 창업자가 비슷한 에이전트를 '보스'로 써서 매일 할 일 3개와 기억을 받았다는 댓글이 있었다.
  • 투자 유치·법인 설립·컴플라이언스에서 놓칠 뻔한 것을 잡아 줬다고 한다.

How to Apply

• 내 에이전트의 캐시 블록 나누기
  • 오늘 시스템 프롬프트를 페르소나, 프로필, 지식 인덱스로 쪼개 각각 캐시 지점을 둬라.
  • RAG 검색 결과는 시스템 프롬프트에서 빼 user turn으로 옮겨라.
• 대화 후 요약을 저장하는 메모리 패스 추가
  • 응답 뒤 작은 모델로 결정·할 일을 뽑아 DB에 저장하라.
  • 다음 세션 시작 때 <past_decisions> 같은 블록으로 주입하라.
• 전문가 에이전트를 병렬 툴 호출로 묶기
  • 도메인별 에이전트를 툴로 정의하고 오케스트레이터가 필요한 것만 동시에 호출하게 하라.
  • 최종 답은 오케스트레이터가 하나의 톤으로 종합하게 하라.
• 스케줄러 중복 실행 방지하기
  • 주기 작업 테이블에서 UPDATE … RETURNING으로 작업을 선점하게 하라.
  • 인스턴스를 늘리기 전에 이 선점 로직부터 확인하라.

Try It

# Claude 또는 ChatGPT 대화창에 붙여넣기 (OpenExecutive 구조의 간이 버전)

너는 하나의 일관된 임원 목소리로 말하는 Executive다. 내부에서는 CFO, GC, CSO 세 전문가 관점을 순서대로 거친 뒤 종합하되, 답변에 내부 구조는 드러내지 마라.

<past_decisions>
{{지난 결정 요약}}
</past_decisions>

<company_context>
{{회사 정보와 관련 문서}}
</company_context>

질문: {{질문}}

절차: 1) 각 전문가 관점에서 핵심 판단을 한 줄씩 내부 메모로 작성한다. 2) 충돌하는 부분을 정리한다. 3) 하나의 목소리로 결론과 다음 행동 3개를 답한다. 내부 메모는 출력하지 마라.

이어서 해 볼 것: 답변 후 "이번 대화의 결정·할 일을 JSON으로 뽑아줘"라고 요청해 메모리 패스를 흉내 내 보라.

Terminology

관련 논문

• 같은 시뮬레이션, 다른 근거: 도구 출력을 파일로 넘기면 LLM 에이전트 정확도가 어디서 깎이나

  긴 툴 출력을 파일로 넘기자 GPT-5.1은 정확도 11.3%p 하락, 정식 출력 지정하니 회복

• 가짜 뉴스가 진짜 폭락을: LLM 트레이딩 에이전트 대상 정보 주입 공격

  가짜 헤드라인 한 줄로 LLM 트레이딩 에이전트 62%를 조종했다(프롬프트 주입은 14%)

• Harness Engineering 101: LLM은 뇌, harness는 몸

  에이전트는 JSON 배열을 관리하는 루프이고, 16개 챕터로 직접 만들어 본다

• Harness²: 에이전트 harness를 스스로 고쳐 쓰는 재귀 최적화 프레임워크

  모델은 고정하고 harness를 재귀로 고쳤더니 벤치마크 점수가 최대 11.8%p 올랐다

• 해고된 Savannah 경찰관, ICE 요원 남편에게 Flock 계정 공유

  경찰관이 Flock 계정을 남편(ICE 요원)에게 공유했고, 감사에서 983건 검색이 드러나 해고됐다

• tmux와 Claude Code: 세션, send-keys, 그리고 한계선

  tmux로 Claude Code 여러 개를 돌리면 편하지만 에이전트 4개쯤에서 한계가 온다

• Hybrid Reasoning Agents: 잠재 공간에서 생각하고 텍스트로 행동하는 LLM 에이전트

  잠재 공간 추론과 텍스트 도구 호출을 섞었더니 성능 10.4%↑, 토큰 최대 54.7%↓

Related Resources

• https://github.com/SenteLabsAI/OpenExecutive
• https://openexecutive.ai
• https://news.ycombinator.com/item?id=49423146