ChatGPT가 가짜 New Yorker 만화에 실제 만화가 서명을 넣는다

Who Should Read

서비스에 이미지 생성 모델을 붙여 사용자에게 결과물을 그대로 보여 주는 제품 개발자

Core Mechanics

• 원문은 제공되지 않았다
  • 이 글은 원문 본문 없이 댓글만 근거로 쓸 수 있다
  • 기사 본문의 세부 내용은 확인하지 못했다
• 제목이 말하는 현상
  • 제목은 ChatGPT가 가짜 New Yorker 만화에 실제 만화가의 서명을 붙인다고 말한다
  • 이 이상의 원문 수치나 실험 조건은 주어지지 않았다

Community Reactions

• 서명은 학습 데이터에서 따라온 장식이라는 의견
  • 'New Yorker 스타일 만화'에는 구석에 서명이 있는 예가 많아서 서명도 그림의 일부로 학습됐다는 의견이다
  • 서명을 특별하게 다루도록 따로 학습시키지 않으면 막을 수 없다는 주장이다
• 다른 이미지 모델에서도 재현된다는 경험
  • Stable Diffusion 초기부터 쉽게 재현됐고 OpenAI만의 문제가 아니라는 의견이다
  • 우키요에를 요청하면 거의 항상 시대와 무관한 인장(hanko)이 들어간다는 예가 나왔다
• 직접 만든 만화에서도 가짜 서명이 나온다는 경험
  • Nano Banana Pro와 ChatGPT의 모든 세대에서 가짜 서명이 반복적으로 나와 따로 지워야 했다는 경험담이다
  • 회사 스프린트 데모 말미에 'bloper' 서명이 든 ChatGPT 만화를 쓴 매니저가 서명을 못 알아챘다는 사례도 있었다
• 법적 책임과 상표 등록을 두고 갈린 반응
  • 상업적 판매이므로 right of publicity 입증이 쉬울 것이라는 의견이 있었다
  • 만화가가 이름과 서명을 상표로 등록해 두라는 실용적인 조언도 있었다

How to Apply

• 생성 이미지 구석 서명 점검하기
  • 오늘 이미지 생성 결과물 샘플 20장을 뽑아 모서리의 서명이나 인장을 눈으로 확인하라
  • 발견 빈도를 기록해 문제 규모를 파악하라
• 프롬프트에 서명·워터마크 금지 넣기
  • 이미지 생성 프롬프트에 서명, 워터마크, 텍스트를 넣지 말라는 지시를 추가하라
  • 넣기 전후 결과를 같은 샘플로 비교하라
• 공개 전 사람 확인 단계 두기
  • 사용자에게 결과물을 공유하기 전에 서명 삭제 또는 확인 단계를 UI에 넣어라
  • 특정 스타일(작가·매체 이름) 요청은 경고 문구를 띄워라

Try It

# ChatGPT 또는 Claude에 붙여넣는 프롬프트 (이미지 생성 결과물 점검용 간이 체크리스트)

아래는 내가 이미지 생성 모델에 보낸 프롬프트다.
{{이미지 프롬프트}}

# 지시
이 프롬프트 끝에 붙일 문장을 3가지 만들어라. 조건: 서명, 사인, 워터마크, 인장, 읽을 수 있는 텍스트를 이미지에 넣지 못하게 하는 문장일 것.

# 이어서 해 볼 것
세 문장을 각각 붙여 같은 프롬프트로 10장씩 생성하고, 모서리에 서명이 나온 장수를 비교해 보라.

Terminology

관련 논문

• The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법

  심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다

• 미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다

  벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖

• Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기

  LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다

• StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결

  LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위

• 그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)

  정답은 그대로 두고 설명만 붙였더니 MLLM 심사위원의 오답 거절률이 12.7~13.8%p 떨어졌다

• 신경망은 이미 깔끔하다: polysemanticity의 원인 재해석

  뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장

• Linus Torvalds의 첫 LLM 보조 패치 시리즈

  Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다

Related Resources

• https://www.niemanlab.org/2026/10/chatgpt-is-adding-real-cartoonists-signatures-to-fake-new-yorker-cartoons/
• https://theartofzen.org/the-hanko-in-japanese-art-and-ukiyo-