Fireworks AI 보안 사고로 Notion AI 채팅 기록 유출
Fireworks AI security breach impacts Notion and their customers
TL;DR Highlight
외부 AI 업체 Fireworks 사고로 Notion 워크스페이스 1% 미만의 AI 채팅이 노출됐다
Who Should Read
외부 LLM 추론 업체에 사용자 대화를 보내는 서비스를 운영하는 백엔드·플랫폼 개발자
Core Mechanics
- Notion 워크스페이스 1% 미만이 영향받았다
- 협력사 Fireworks AI가 보안 사고를 Notion에 알렸다.
- Notion은 영향받은 고객에게 직접 연락했고 조사는 계속 중이다.
- 노출된 건 Notion AI 채팅 기록이다
- 채팅에 쓰인 모델 입력과 출력이 모두 기록에 포함된다.
- 에이전트가 기록에 무엇을 쓰는지는 모델마다 다르다.
- Fireworks는 Insights와 오픈 웨이트 모델 서빙에 쓰였다
- Insights는 고객의 AI 사용 현황을 분류하는 기능이다.
- 오픈 웨이트(공개된 가중치) 모델 추론 제공자로도 썼다.
- LEAP 데이터로 모델 학습 실험도 했다
- LEAP는 고객이 자발적으로 데이터를 제공하는 얼리 액세스 프로그램이다.
- 과거에 이 데이터로 특정 작업용 모델 학습을 Fireworks에서 실험했다.
- Notion은 11월 3일 Fireworks 연결을 끊었다
- Fireworks 시스템의 데이터를 삭제하고 트래픽 전송과 학습 작업을 모두 중단했다.
- Insights 기능은 조사 동안 비활성화했다.
- 비밀번호·API 키는 바로 교체하라고 권고한다
- 해당 기간에 Notion AI에 붙여넣은 자격 증명은 노출된 것으로 보라고 했다.
- 영향받은 데이터는 워크스페이스 안에서 CSV로 내려받아 확인한다.
Community Reactions
- 식별 정보 없음이라는 설명에 반발한 의견
- 대화 내용 자체가 핵심 정보라 조직이나 개인을 알아내기 쉽다는 의견이 나왔다.
- 메타데이터가 없다고 안심시키는 건 잘못된 안전감을 준다는 지적이다.
- Fireworks는 ZDR인데 왜 저장됐냐는 의문
- OpenRouter에서 Fireworks가 ZDR(프롬프트 미보관)로 표시된다는 댓글이 있었다.
- Notion이 보관을 요청했는지 묻는 의견이 달렸고, 답은 글에 없다.
- 영향받은 사용자가 직접 확인해 봤더니 민감 정보는 없었다는 경험
- 노출된 대화에 특별히 민감한 내용이 없었다고 했다.
- 그래도 운 나쁜 사용자는 3자의 민감 정보까지 노출될 수 있다는 의견이다.
- 피해 확인 방식에 대한 불만
- 영향받은 멤버를 보려면 엔터프라이즈 플랜이 필요하다는 불만이 있었다.
- GDPR 신고가 필요한데 CISO가 접근 여부에 답하지 않았다는 경험이 올라왔다.
How to Apply
- 우리 서비스의 외부 LLM 전송 데이터 목록 뽑기
- 오늘 LLM 호출 코드에서 업체로 나가는 필드를 전부 적어라.
- 비밀번호·키·개인정보가 섞일 수 있는 입력 경로를 표시하라.
- 프롬프트 전송 전에 시크릿 마스킹 넣기
- 사용자 입력이 모델로 가기 전에 API 키와 토큰 패턴을 정규식으로 가려라.
- 채팅 로그 저장 전에도 같은 필터를 적용하라.
- 추론 업체와 보관 정책을 계약서로 확인하기
- 업체별로 프롬프트 보관 여부와 보관 기간을 문서로 받아라.
- 학습이나 실험용으로 쓰는 데이터는 일반 추론 트래픽과 분리하라.
- 업체 사고 대응 절차 미리 만들기
- 연결 차단, 데이터 삭제 요청, 고객 통지 순서를 문서로 정하라.
- Notion처럼 업체 연결을 끊는 스위치를 설정으로 빼 두어라.
Try It
# Claude 또는 ChatGPT에 그대로 붙여넣기 (원문 사건에서 얻은 점검 항목을 프롬프트로 옮긴 간이 버전)
우리 서비스는 사용자 대화를 외부 LLM 업체로 보낸다.
- 보내는 데이터: {{전송 필드 목록}}
- 사용 업체와 용도: {{업체와 용도}}
- 대화 로그 보관 방식: {{보관 방식}}
위 정보를 바탕으로 업체 보안 사고가 났을 때의 위험을 점검해 줘.
1) 노출될 수 있는 데이터 종류
2) 사용자가 비밀번호나 API 키를 붙여넣을 수 있는 경로
3) 업체 연결 차단과 데이터 삭제 절차 체크리스트
4) 고객 통지문 초안
이어서 해 볼 것: 답변에서 가장 위험한 경로 하나를 골라 입력 마스킹 코드를 작성해 달라고 요청해 봐.Terminology
관련 논문
LLM으로 리버스 엔지니어링 속도 올리기: 에이전트+Ghidra MCP+가설 디버깅
바이너리를 에이전트에 맡기고 스킬·MD 기록을 붙였더니 수년 걸릴 해킹이 가능해졌다
Metrics-in-the-Loop: 복잡도 피드백이 에이전트가 짜는 코드 구조를 바꾼다
코딩 에이전트에 복잡도 리포트를 매 턴 넣었더니 코드 erosion이 줄고 정확도는 그대로
Gemini 4 Carbon은 왜 이렇게 느린가: 에이전트 트레이스 분석
버그 수정에 Carbon은 1시간, Astra·Opus는 몇 분 걸렸고 원인은 불필요한 작업이었다
Claude Code 팀이 에이전트 작업을 검증하는 방법
E2E·property·differential 테스트와 검증 규칙으로 Claude를 병렬로 돌린다
코딩 에이전트에 자격 증명을 넘기지 않고 돌리기: lend
자격 증명은 노트북에 두고 명령만 Touch ID 승인으로 실행하게 했다
Windows 11이 어떤 코딩 에이전트·개발 도구를 쓰는지 수집한다
Windows 11 DLL 분석 결과, codex·claude 등 사용 여부가 진단 데이터로 올라간다
LLM 추론에서 대화 히스토리가 몰래 치르는 비용
대화 히스토리를 통째로 넣으면 정확도가 20턴 안에 0.6→0.1로 붕괴하고, 검증된 상태 요약은 이를 막았다
Claude Code Projects 개편: 코디네이터가 병렬 스레드를 지휘한다
Claude Code Projects가 코디네이터가 병렬 스레드에 작업을 나눠 PR까지 올리는 구조로 바뀌었다