Muse – Meta의 개인용 AI 에이전트
Muse – Meta’s personal AI agent
TL;DR Highlight
Meta가 개인용 AI 에이전트 Muse를 공개했고 HN은 프라이버시를 우려했다
Who Should Read
소비자용 에이전트 제품의 보안·프롬프트 인젝션 방어 설계를 참고하려는 에이전트 개발자
Core Mechanics
- 원문은 제목 한 줄뿐
- 원문은 "Muse: Meta's personal AI agent, features & capabilities"라는 문장이 전부다.
- 기능·성능·가격에 대한 수치나 상세 내용은 원문에 없다.
Community Reactions
- 프롬프트 인젝션을 4겹으로 막는다는 소개
- Meta AI의 David Singleton 스레드에서 가져온 내용이라고 댓글이 전했다.
- 모델이 공격을 알아보고 거부하도록 학습하고, 하네스(에이전트 실행 틀)가 신뢰할 수 없는 출처를 표시한다.
- 결정적 코드가 결과를 검사하고, 에이전트가 닿지 못하는 곳에서 분류기 앙상블이 돈다.
- 결정적 코드가 CaMeL 논문 아이디어인지 궁금하다는 의견
- DeepMind의 CaMeL 논문(arxiv 2503.18813)을 구현했는지 궁금하다는 댓글이 있었다.
- Reuters 기사를 인용한 댓글 요약
- 민감한 개인 데이터 접근 관리에 대한 내부 우려에도 출시했다고 한다.
- 처음엔 미국에서만 제공하고, 기본 버전은 무료이며 월 $20·$100 구독이 있다고 한다.
- 학습 데이터 사용은 옵트아웃이 가능하고, 에이전트가 가드레일을 우회하는 보안 결함 지적도 있었다고 한다.
- 내장 브라우저는 편하지만 지속 가능할지 의문이라는 의견
- 사용자가 보거나 직접 조작할 수 있는 인라인 브라우저는 훌륭하다는 평가였다.
- 소비자가 대량으로 쓰면 사이트 운영자가 트래픽을 막기 어려워진다는 우려가 나왔다.
- 프라이버시 불신이 대부분이라는 반응
- Meta의 개인정보 이력 때문에 민감한 데이터를 맡기기 어렵다는 댓글이 많았다.
How to Apply
- 에이전트 도구 결과에 출처 표시 붙이기
- 오늘 자기 에이전트에서 웹·메일 등 외부 입력이 들어오는 지점을 목록으로 적어라.
- 각 입력에 untrusted 라벨을 붙여 프롬프트에 구분해 넣어라.
- 결정적 코드로 에이전트 행동 검증하기
- 결제·전송 같은 행동 전에 허용 목록과 금액 한도를 코드로 검사하라.
- LLM 판단과 별개로 통과 여부를 결정하게 하라.
Terminology
관련 논문
같은 시뮬레이션, 다른 근거: 도구 출력을 파일로 넘기면 LLM 에이전트 정확도가 어디서 깎이나
긴 툴 출력을 파일로 넘기자 GPT-5.1은 정확도 11.3%p 하락, 정식 출력 지정하니 회복
가짜 뉴스가 진짜 폭락을: LLM 트레이딩 에이전트 대상 정보 주입 공격
가짜 헤드라인 한 줄로 LLM 트레이딩 에이전트 62%를 조종했다(프롬프트 주입은 14%)
Harness Engineering 101: LLM은 뇌, harness는 몸
에이전트는 JSON 배열을 관리하는 루프이고, 16개 챕터로 직접 만들어 본다
Harness²: 에이전트 harness를 스스로 고쳐 쓰는 재귀 최적화 프레임워크
모델은 고정하고 harness를 재귀로 고쳤더니 벤치마크 점수가 최대 11.8%p 올랐다
해고된 Savannah 경찰관, ICE 요원 남편에게 Flock 계정 공유
경찰관이 Flock 계정을 남편(ICE 요원)에게 공유했고, 감사에서 983건 검색이 드러나 해고됐다
tmux와 Claude Code: 세션, send-keys, 그리고 한계선
tmux로 Claude Code 여러 개를 돌리면 편하지만 에이전트 4개쯤에서 한계가 온다
Hybrid Reasoning Agents: 잠재 공간에서 생각하고 텍스트로 행동하는 LLM 에이전트
잠재 공간 추론과 텍스트 도구 호출을 섞었더니 성능 10.4%↑, 토큰 최대 54.7%↓