OpenAI 윤리 총괄, 입사 1년도 안 돼 퇴사
OpenAI’s head of ethics leaves less than a year after joining
TL;DR Highlight
OpenAI 윤리 총괄이 1년 안 돼 퇴사했고, 사유는 기사에 없다
Who Should Read
AI 서비스 안에 윤리·안전 책임을 어떻게 둘지 고민하는 LLM 앱 개발자와 팀 리드
Core Mechanics
- 원문은 확인 불가
- 기사 본문이 제공되지 않았다.
- 제목 외에 확인되는 사실이 없다.
- 이 글의 내용은 모두 댓글에서 가져왔다.
Community Reactions
- 윤리팀은 결국 방해물이 된다는 의견
- 윤리 전담팀은 거절만 하는 구조라 인센티브(이득 구조)가 충돌한다는 의견이다.
- 시간이 지나면 다들 우회하고 팀은 힘을 잃는다는 주장이다.
- 윤리를 모든 구성원의 책임으로 만들어야 한다는 의견이다.
- 퇴사 사유는 기사에 없다는 지적
- 여러 댓글이 기사에 퇴사 이유가 없다고 짚었다.
- 전직 Meta 윤리 책임자였다는 점을 근거로 단순한 윤리팀 무용론은 아니라는 의견이 있었다.
- 해고됐거나 지분 관련 요인이 있다는 추측성 의견도 있었다.
- 모델 학습·평가에 쓰이는 윤리 업무를 기대한다는 의견
- 윤리팀이 모델 학습·평가(eval)에 쓸 프레임워크를 만들어야 한다는 의견이다.
- 재학습 비용이 크므로 개발에 실질 기여를 해야 한다는 주장이다.
- OpenAI 입장 인용 댓글
- 댓글이 인용한 OpenAI 입장은 윤리가 한 팀 소유가 아니라 여러 연구팀의 모델 개발 과정에 녹아 있다는 것이다.
- 안전 시스템 책임자와 Chief Futurist도 최근 떠났다는 내용이 함께 인용됐다.
How to Apply
- 윤리 체크를 CI 평가에 넣기
- 오늘 30분 안에 서비스에서 절대 나오면 안 되는 응답 10개를 골라라.
- 이를 기존 eval 세트에 케이스로 추가하고 배포 전 자동 실행하라.
- 윤리 이슈 담당자를 기능팀에 지정하기
- 각 기능 오너에게 안전·윤리 이슈의 1차 책임을 명시하라.
- PR 템플릿에 위험 항목 체크란을 넣어라.
- 거절 기준을 측정 가능한 규칙으로 쓰기
- 가이드라인을 통과·실패가 판정되는 테스트 문장으로 바꿔라.
- 분기마다 우회된 사례를 모아 규칙을 고쳐라.
Try It
# Claude/ChatGPT에 붙여넣기 (원문 방법의 간이 버전: 댓글 의견을 점검표로 옮김)
아래 서비스 설명을 읽고, 윤리·안전 책임이 한 팀에만 몰려 우회될 위험을 점검해줘.
서비스: {{서비스 설명}}
현재 윤리·안전 담당 구조: {{담당 구조}}
다음을 표로 출력해줘.
1. 우회되기 쉬운 규칙 3개와 이유
2. 각 규칙을 자동 테스트(eval) 케이스로 바꾼 예시
3. 기능팀이 직접 져야 할 책임 항목
이어서 해 볼 것: 1번의 테스트 케이스를 실제 eval 세트에 넣고 돌려보기.Terminology
관련 논문
The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법
심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다
미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다
벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖
Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기
LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다
StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결
LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위
그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)
정답은 그대로 두고 설명만 붙였더니 MLLM 심사위원의 오답 거절률이 12.7~13.8%p 떨어졌다
신경망은 이미 깔끔하다: polysemanticity의 원인 재해석
뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장
Linus Torvalds의 첫 LLM 보조 패치 시리즈
Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다