DraftKings, AI로 잃을 사람을 골라 맞춤 광고를 쏜다
DraftKings is using AI to behaviorally target chronic gamblers
TL;DR Highlight
DraftKings가 베팅 기록으로 ML 모델을 학습시켜 '잃을 도박꾼'에게 광고를 보낸다
Who Should Read
사용자 행동 데이터로 타겟팅·추천 모델을 만들고 있어서 윤리와 규제 리스크가 궁금한 백엔드·데이터 개발자
Core Mechanics
- DraftKings는 손실 고객을 골라낸다
- 뉴욕타임스 보도에 따르면 고객의 베팅 기록으로 머신러닝 모델을 학습시킨다.
- 모델이 찾아낸 '잃을 가능성이 큰 사용자'에게 다시 베팅하도록 유도하는 광고를 보낸다.
- 돈을 버는 쪽은 잃는 사용자다
- EFF는 DraftKings가 잃는 사용자를 계속 사이트로 불러올 사업적 동기가 있다고 쓴다.
- 도박 문제가 있는 사람이 이 모델의 타겟이 될 가능성이 높다고 본다.
- AI가 행동 광고의 해악을 키운다
- 모델을 만들고 다듬으려면 데이터가 더 필요하다.
- AI는 블랙박스라서 어떤 데이터가 유용한지 만든 사람도 예측하기 어렵고, 그래서 계속 더 수집하게 된다고 EFF는 말한다.
- 광고용 데이터는 감시 산업으로 흘러간다
- 타겟 광고용으로 모은 데이터가 보험사, 은행, CBP 같은 법 집행 기관에 팔린다고 한다.
- ICE는 올해 초 광고기술 업체가 수사를 직접 지원할 방법을 묻는 정보요청서(RFI)를 냈다.
- 퍼스트파티 데이터만으로도 가능하다
- DraftKings는 서드파티 데이터를 사지 않고 자사 수집 데이터만 쓰는 것으로 보인다.
- EFF는 그래서 서드파티 공유·판매만 막는 정책으로는 부족하다고 주장한다.
Community Reactions
- 도박 중독 전문가와 함께 DraftKings 대응을 시험했다는 ProPublica 기사가 소개됐다
- 문제 징후를 보이는 사용자에게 회사가 어떻게 반응하는지 본 취재라는 설명이다.
- 댓글 작성자는 윤리가 없는 회사라고 평가했다.
- 카지노의 고객 이탈 예측 모델이 이미 데이터 사이언스 성공 사례였다는 경험
- 대학원 수업에서 시저스 엔터테인먼트가 '가장 가치 있는 고객'과 이탈 시점을 예측해 혜택으로 붙잡은 사례를 다뤘다는 댓글이다.
- 경쟁사들도 곧바로 따라 했다고 한다.
- 소수 문제 도박꾼이 매출 대부분을 만든다는 자료
- 2024년 코네티컷 연구에서 문제 도박자 1.8%가 스포츠 베팅 매출의 51%를 차지했다는 댓글이다.
- 원문과 달리 고래가 아닌 '만성 손실자'가 핵심이라는 점이 의외라는 반응도 있었다.
- 접근성과 규제를 문제 삼는 의견
- 카지노 입장처럼 매번 신분증 확인을 하고, 기기 계정 단위로 자기 차단이 가능해야 한다는 의견이다.
- 어필리에이트, 데이터 브로커, 신용평가사, CRM으로 가입 전부터 프로파일링하는 생태계가 있다는 추가 설명도 있었다.
How to Apply
- 우리 타겟팅 모델의 대상 정의 점검하기
- 오늘 CRM·푸시·추천 로직에서 '이탈 예측'이나 '재방문 유도' 모델의 타겟 조건을 뽑아 보자.
- 손실·과소비·중독 징후가 있는 사용자가 타겟에 들어가는지 확인하자.
- 취약 사용자 제외 규칙 넣기
- 도박·결제·구독 등 민감 도메인이면 타겟 선정 단계에 제외 조건을 추가하자.
- 제외된 사용자 수와 이유를 로그로 남기자.
- 수집 데이터 목적 목록 만들기
- 모델 학습에 쓰는 퍼스트파티 데이터 필드를 나열하자.
- 각 필드가 서비스 제공에 필요한지 광고 최적화용인지 구분하자.
Try It
# Claude나 ChatGPT에 그대로 붙여넣기 (원문 논점을 점검 프롬프트로 옮긴 간이 버전)
우리 서비스의 타겟팅·리텐션 모델을 윤리·프라이버시 관점에서 점검해 줘.
[서비스 설명]
{{서비스 설명}}
[모델 목적]
{{예: 이탈 예측 후 푸시/쿠폰 발송}}
[사용 데이터 필드]
{{필드 목록}}
다음을 표로 정리해 줘.
1. 이 모델이 취약한 사용자(과소비, 중독 징후 등)를 타겟으로 삼을 수 있는 경로
2. 서드파티 없이 퍼스트파티 데이터만으로도 생기는 위험
3. 타겟에서 제외할 조건 제안
4. 수집을 줄여도 되는 필드
이어서 해 볼 것: 위 제외 조건을 실제 쿼리나 필터 코드로 바꿔 달라고 요청해 봐.Terminology
관련 논문
The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법
심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다
미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다
벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖
Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기
LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다
StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결
LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위
그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)
정답은 그대로 두고 설명만 붙였더니 MLLM 심사위원의 오답 거절률이 12.7~13.8%p 떨어졌다
신경망은 이미 깔끔하다: polysemanticity의 원인 재해석
뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장
Linus Torvalds의 첫 LLM 보조 패치 시리즈
Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다