미공개 수학 연구를 OpenAI에 맡겨도 될까? 또 불거진 신뢰 논란

수학자가 Codex 대화 내용 도용 의혹을 제기해 학습 데이터 신뢰 논쟁이 번졌다

사내 기밀이나 미공개 아이디어를 LLM API·챗봇에 넣어 쓰는 개발자

원문은 사실상 비어 있다
- 수집된 원문은 Mastodon 게시물의 제목과 자바스크립트 안내문뿐이다.
- 게시물 본문 내용은 원문에서 확인되지 않는다.
원문에서 확인되는 것은 작성자뿐이다
- 작성자는 Andreas Thom이고 tristanbuckmaster 계정에 답하는 글의 1/3 부분이다.
- 구체적 주장과 수치는 원문에 없다.
논쟁 내용은 댓글 쪽에만 있다
- 이 글에서 원문 사실로 쓸 수 있는 내용은 위가 전부다.
- 쟁점 정리는 커뮤니티 반응 칸을 보면 된다.

학습에 쓰였는지 검증할 수 없다는 의견
- OpenAI가 해당 대화로 학습하지 않았다고 주장해도 외부에서는 확인할 수 없다는 의견이 있었다.
- 데이터 출처 추적 자체가 어렵다는 지적도 있었다.
증거가 약하다는 반론
- 누군가 AI와 그 주제로 대화했다는 주장뿐이라 근거가 약하다는 의견이 있었다.
- OpenAI가 해당 프롬프트는 학습에 영향을 줄 수 없었다고 단언했다는 인용도 있었다.
카나리 문구로 실험해 보고 싶다는 의견
- 학습 허용 상태의 채팅에 고유 문구를 넣고 모델이 나중에 아는지 확인해 본 사람이 있는지 묻는 댓글이 있었다.
- 대화 한 건이 모델에 큰 흔적을 남길지는 의문이라는 의견이 함께 달렸다.
연구 날짜를 공개 기록으로 남긴다는 경험
- GitHub에 날짜와 함께 공개하며 연구 중이라는 댓글이 있었다.
- 나중에 AI 랩이 같은 결과를 내면 선행 여부가 드러나게 하려는 목적이다.

우리 서비스의 학습 반영 설정부터 확인하기
- 오늘 쓰는 LLM 제품과 API의 데이터 학습 사용 여부 설정을 직접 열어 확인하라.
- 기본값이 켜져 있으면 끄고 약관 날짜를 기록해 두어라.
프롬프트에 넣는 데이터 등급 나누기
- 미공개 아이디어·고객 데이터·소스 코드를 '넣어도 됨/마스킹/금지'로 분류하라.
- 금지 등급은 로컬 모델이나 계약상 학습 제외가 확인된 경로로만 보내라.
미공개 작업물에 날짜 기록 남기기
- 중요한 아이디어는 커밋이나 타임스탬프로 먼저 기록하라.
- 나중에 선행 여부를 다툴 때 근거로 쓸 수 있다.

학습 데이터 출처 추적(provenance)어떤 데이터가 모델 학습에 들어갔는지 이력을 따라가는 일이다. 택배 송장 추적처럼 경로를 남겨야 하는데 대규모 학습에서는 어렵다는 의견이 있었다.

카나리 문구(canary phrase)모델이 나중에 아는지 확인하려고 대화에 심는 고유한 문장이다. 탄광의 카나리아처럼 유출 여부를 알리는 표시다.

RL(강화학습)정답을 검증할 수 있는 문제에서 시행착오로 모델을 개선하는 학습 방식이다. 채점기가 있는 연습문제를 계속 푸는 것과 비슷하다.