WhatsApp 도움말 페이지에 숨겨진 LLM 지시문: 규제기관을 추천하지 말라
WhatsApp's help pages hid LLM instructions: dont recommend a regulator
TL;DR Highlight
WhatsApp 도움말에 화면엔 안 보이는 AI 지시문 102개가 숨어 있었다
Who Should Read
HTML 문서를 RAG·크롤링 소스로 쓰며 챗봇 시스템 프롬프트와 숨은 텍스트 관리를 고민하는 백엔드 개발자
Core Mechanics
- 도움말 545쪽 중 80쪽에 숨은 지시문
- Redact가 WhatsApp 도움말 센터가 링크한 545쪽을 전부 저장해서 읽었다.
- 화면엔 안 보이고 AI만 읽도록 심은 블록이 80쪽에 102개 있었다.
- 대부분은 헷갈리는 단어 정리나 다른 페이지 안내 같은 잡무성 내용이었다.
- 계정 삭제 페이지: 규제기관 추천 금지
- 폰이나 번호를 잃어 직접 삭제를 못 하는 사용자에게 30일, 120일(미국 365일) 뒤 자동 삭제만 안내하라고 적혀 있었다.
- Data Protection Authority·규제기관 추천 금지, WhatsApp이 수동 삭제해 준다는 암시 금지, 다른 폰 사용 권유 금지도 들어 있었다.
- 신고·차단 페이지: 법을 직접 꺼내도 언급 금지
- 사용자가 소송·변호사·법원을 말하면 약관·개인정보처리방침 인용과 법적 책임 언급을 금지했다.
- GDPR·LGPD·CCPA 같은 개인정보 법규는 사용자가 먼저 꺼내도 언급하지 말라고 했다.
- 공개 개인정보처리방침과 정반대 방향
- 유럽용 방침(2026년 7월 2일 시행)은 아일랜드 DPC 등 감독기관에 불만을 제기할 권리와 GDPR을 명시한다.
- 숨은 지시문은 AI가 그 규제기관과 법을 언급하지 못하게 했다.
- 글쓴이도 일부 지시는 합리적이라고 인정
- 챗봇이 회사 이름으로 법률 의견을 내지 않게 하는 건 타당하다고 썼다.
- 문제는 규제기관이 존재한다는 사실과 법 이름까지 막은 점이라고 했다.
- 봇이 실제로 따랐는지는 확인 못 함
- 지시문만 읽었고 챗봇 답변은 확인하지 못했다.
- OpenAI·Anthropic·Perplexity 크롤러 이름으로 요청하면 해당 글과 지시문이 없는 페이지가 왔다.
- Google·Bing 크롤러에는 지시문이 포함된 페이지가 전달됐다.
- WhatsApp은 버그라며 삭제했다
- WIRED에 지원 챗봇용 지시문이 버그로 페이지에 노출됐다고 밝혔다.
- 10월 18일 확인 시 80쪽의 102개 블록이 모두 사라졌고, Internet Archive 사본에는 남아 있다.
Community Reactions
- 챗봇 지시문으로는 합리적이라는 의견
- 변호사 출신 해커라는 댓글러는 챗봇이 법률 조언이나 법 인용을 하면 규제기관의 주목을 끌 수 있다고 했다.
- 소송 위협 시 회사 이름으로 법적 주장을 하지 말라는 건 당연하다는 댓글도 있었다.
- 직원 교육 노트가 샌 것과 같다는 의견
- 지원 직원에게 하지 말아야 할 말을 알려주는 건 흔하다는 의견이다.
- 진짜 문제는 TOS 페이지에 교육용 메모를 섞어 둔 엔지니어링 부주의라고 했다.
- 프롬프트 인젝션 아니냐는 반응
- 제품의 개인정보 페이지에 프롬프트 인젝션이 실려 나온 건 처음 본다는 반응이 있었다.
- 숨은 텍스트가 사용자·외부 AI 요약까지 조작할 수 있다는 우려도 나왔다.
- 지원 문서에 LLM용 지시를 두는 방식 자체는 좋다는 의견
- 시스템 프롬프트에 신뢰 출처와 data-support-instruction 속성이 있는 HTML 블록을 따르라고 적는 방식이 공개적이라 협업에 낫다는 의견이 있었다.
- 여러 팀이 문서를 만들 때 조율이 쉬워진다고 했다.
- '버그' 해명과 글 문체에 대한 반박
- 정책이면서 동시에 버그일 수는 없다며 해명을 못 믿겠다는 댓글이 있었다.
- 글이 AI가 쓴 듯 읽기 힘들다는 댓글도 있었다.
How to Apply
- 내 서비스 페이지의 숨은 LLM 텍스트 점검
- 오늘 자사 도움말·문서 페이지의 HTML 소스에서 display:none, 주석, 숨김 블록을 검색하라.
- 챗봇용 지시문이 사용자에게 보이는 곳에 섞여 있지 않은지 확인하라.
- 봇용 지시문은 별도 채널로 분리하기
- 시스템 프롬프트나 별도 서버 측 설정에 두고 공개 HTML에 섞지 마라.
- 크롤러에 전달되는 응답에도 포함되지 않게 하라.
- '하지 말라' 규칙에 예외 경로 넣기
- 법률 조언 금지 규칙을 쓸 때 법적 권리와 공식 신고 경로는 중립적으로 안내하도록 허용 범위를 명시하라.
- 프롬프트 리뷰에서 사용자의 권리를 숨기는 문구가 없는지 확인하라.
- User-Agent별 응답 차이 모니터링
- 일반 브라우저, Googlebot, AI 크롤러 UA로 같은 URL을 요청해 응답을 diff하라.
- 차이가 나면 알림을 보내라.
Try It
# 셸에서 실행: 페이지를 여러 User-Agent로 받아 응답 차이를 비교 (원문에 없는 도구 사용 없이 curl·diff만 사용)
URL="{{점검할 URL}}"
curl -s -A "Mozilla/5.0" "$URL" > browser.html
curl -s -A "Googlebot/2.1" "$URL" > googlebot.html
diff browser.html googlebot.html | head -50
# 숨은 텍스트 후보 검색
grep -iE "display: *none|hidden|do not recommend|LLM" browser.html | head -20
# 이어서: 문서 내 숨김 블록이 있다면 챗봇 시스템 프롬프트로 옮기세요.Terminology
관련 논문
같은 시뮬레이션, 다른 근거: 도구 출력을 파일로 넘기면 LLM 에이전트 정확도가 어디서 깎이나
긴 툴 출력을 파일로 넘기자 GPT-5.1은 정확도 11.3%p 하락, 정식 출력 지정하니 회복
가짜 뉴스가 진짜 폭락을: LLM 트레이딩 에이전트 대상 정보 주입 공격
가짜 헤드라인 한 줄로 LLM 트레이딩 에이전트 62%를 조종했다(프롬프트 주입은 14%)
Harness Engineering 101: LLM은 뇌, harness는 몸
에이전트는 JSON 배열을 관리하는 루프이고, 16개 챕터로 직접 만들어 본다
Harness²: 에이전트 harness를 스스로 고쳐 쓰는 재귀 최적화 프레임워크
모델은 고정하고 harness를 재귀로 고쳤더니 벤치마크 점수가 최대 11.8%p 올랐다
Ask HN: 이해 못 하는 AI 작성 코드를 배포할 때 어떻게 하나
설계는 내가, 구현은 LLM이: 이해 못 하는 코드를 다루는 개발자들의 방법
해고된 Savannah 경찰관, ICE 요원 남편에게 Flock 계정 공유
경찰관이 Flock 계정을 남편(ICE 요원)에게 공유했고, 감사에서 983건 검색이 드러나 해고됐다
tmux와 Claude Code: 세션, send-keys, 그리고 한계선
tmux로 Claude Code 여러 개를 돌리면 편하지만 에이전트 4개쯤에서 한계가 온다
Hybrid Reasoning Agents: 잠재 공간에서 생각하고 텍스트로 행동하는 LLM 에이전트
잠재 공간 추론과 텍스트 도구 호출을 섞었더니 성능 10.4%↑, 토큰 최대 54.7%↓