Claude 텍스트 워터마킹은 어떻게 작동하나
How Claude's text watermarking works
TL;DR Highlight
Claude가 단어 선택의 난수 출처만 바꿔 출력에 보이지 않는 워터마크를 심는다
Who Should Read
Claude API 출력을 서비스에 쓰면서 워터마킹이 품질·비용·코드 출력에 영향을 주는지 궁금한 백엔드 개발자
Core Mechanics
- 난수 출처만 바꾼다
- 다음 단어를 고를 때 일반 난수 대신 키와 앞쪽 몇 단어로 선택을 정한다.
- 'overcast'나 'grey'처럼 어느 쪽이든 의미가 같은 선택에서 패턴이 남는다.
- 'nubilous' 같은 원래 안 고를 단어를 억지로 고르게 하지는 않는다.
- 품질·비용·속도엔 영향 없다고 한다
- 추가 토큰이 없어서 서빙·사용 가격이 같다고 한다.
- 속도 영향은 무시할 수준이라고 한다.
- 텍스트에 숨은 문자가 추가되지도 않는다.
- 방식은 Google DeepMind의 SynthID-Text 변형
- 2024년 Nature 논문에서 나온 기법이다.
- 뿌리는 2022년 Scott Aaronson의 제안이다.
- Gemini 트래픽 일부에 적용해 좋아요/싫어요를 비교했을 때 통계적으로 유의한 차이가 없었다.
- 코드와 사실 문장엔 거의 안 붙는다
- 정답이 하나뿐인 자리(예: 'Principia' 다음 'Mathematica', '2 + 2 =' 다음 '4')에는 워터마크가 적용되지 않는다.
- 코드는 대체로 워터마크가 적다.
- 코드 주석처럼 선택이 자유로운 곳에는 들어갈 수 있다.
Community Reactions
- 워터마크는 쉽게 우회된다는 의견
- 다른 LLM으로 다시 쓰기를 반복하면 사라질 것이라는 의견이 있었다.
- 문장을 거꾸로 쓰게 한 뒤 스크립트로 되돌리는 방법이 통할지 묻는 댓글도 있었다.
- 오픈 모델이 있어 기술적으로 무의미하다는 의견도 있었다.
- 검증의 한계를 짚는 의견
- 100% AI가 썼다고 확정하는 것은 불가능하고 '쓸 수 있었던 출력'이라는 수준일 뿐이라는 의견이 있었다.
- 탐지에 필요한 최소 글자 수가 궁금하며 1000단어 이상은 필요할 것 같다는 의견이 있었다.
- 프라이버시 약속에 대한 의심
- 앞으로 키에 사용자 ID를 붙일 수도 있지 않느냐는 우려가 나왔다.
- 비EU 사용자가 끌 수 있는 옵션이 없다는 불만도 있었다.
- 교정용 사용자의 걱정
- 연구비 제안서를 쓰며 Claude로 문장을 다듬는 사람이 AI로 통째로 썼다는 오해를 받고 싶지 않다는 경험을 공유했다.
- 원문에서 법 조항을 인용한 댓글
- 표준 편집을 돕거나 의미를 크게 바꾸지 않는 보조 기능에는 의무가 적용되지 않는다는 조항이 소개됐다.
- 원문 테스트가 좋아요/싫어요 통계 위주라 허술하다는 반응도 있었다.
How to Apply
- 우리 서비스 출력 중 워터마크 적용 대상 구분하기
- 오늘 Claude 출력을 자유 서술형 글, 코드, 정답이 고정된 값으로 나눠 목록을 만들어라.
- 자유 서술형 글만 워터마크가 남을 수 있는 대상으로 표시하라.
- 코드 본문과 고정 사실은 영향이 거의 없다고 보고 제외하라.
- 교정·요약 기능의 탐지 기대치 낮추기
- 사용자 글을 문법만 고치는 기능은 탐지 가능성이 낮다고 문서에 적어라.
- 번역, 긴 초안 작성처럼 Claude가 단어를 많이 고르는 기능은 탐지될 수 있다고 알려라.
- 컴플라이언스 담당자와 탐지 API 접근 대상 확인하기
- 우리 조직이 EU 의무 대상 기업에 해당하는지 확인하라.
- 해당하면 원문의 관심 등록 링크로 탐지 API 접근을 신청하라.
- 이미지·파일 출력의 C2PA 메타데이터 처리 확인하기
- Claude가 만든 .png, .jpg, .svg 파일에 메타데이터가 붙는지 점검하라.
- 파일 변환·압축 파이프라인이 메타데이터를 지우는지 확인하라.
Try It
# Claude 또는 ChatGPT에 붙여넣기 (논문 방법의 간이 버전: 서비스 출력 중 워터마크 영향 범위 점검)
나는 LLM 출력을 서비스에 쓰는 개발자야. 아래 규칙을 기준으로 우리 기능 목록을 분류해줘.
규칙: 텍스트 워터마크는 단어 선택이 자유로운 곳(서술형 문장, 코드 주석)에 남기 쉽고, 정답이 하나뿐인 곳(코드 본문, 수식, 고정 사실)에는 거의 남지 않는다. 짧은 글과 가벼운 교정은 탐지가 어렵다. 번역과 긴 초안 작성은 모든 단어를 모델이 고르므로 남기 쉽다.
우리 기능 목록:
{{기능 목록}}
각 기능마다 '워터마크 남을 가능성 높음/중간/낮음'과 이유를 한 줄로 표로 정리해줘.
이어서 해 볼 것: 가능성이 '높음'인 기능에 대해 사용자 고지 문구가 필요한지 물어봐.Terminology
관련 논문
The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법
심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다
미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다
벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖
Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기
LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다
StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결
LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위
그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)
정답은 그대로 두고 설명만 붙였더니 MLLM 심사위원의 오답 거절률이 12.7~13.8%p 떨어졌다
신경망은 이미 깔끔하다: polysemanticity의 원인 재해석
뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장
Linus Torvalds의 첫 LLM 보조 패치 시리즈
Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다