행동하는 순간의 과신: 숨은 정보 게임에서 LLM의 확신도 보정 실패
Confident at the moment of action: belief miscalibration in LLM play under hidden information
TL;DR Highlight
체스 변형 게임에서 LLM이 확신 0.5 이상으로 잡은 기물은 62번 중 1번만 맞았다
Who Should Read
모델이 말한 confidence 값으로 에이전트의 자동 실행·사람 에스컬레이션을 가르는 에이전트 개발자
Core Mechanics
- 확신 높게 행동하면 거의 틀렸다
- 숨은 왕 기물(Regent)을 확신도 0.5 이상으로 잡은 경우가 두 배치 합쳐 62번 중 1번만 맞았다.
- 모델이 자기 확신을 말하는 순간과 실제 행동하는 순간이 어긋난다.
- 오차는 고확신 순간에 몰려 있다
- Brier 점수(예측 확률 오차 지표) 격차의 99.3%가 고확신 이벤트에 집중됐고 재현 배치에서는 98.7%였다.
- 평소엔 멀쩡해 보이다가 행동하는 순간에만 크게 틀린다.
- 같은 모델도 설정만 바꿔도 크게 변한다
- gemini-3-flash-preview에서 max_tokens만 4096에서 16384로 바꾸자 고확신 적중률이 29.2%에서 40.0%로 올랐다.
- 리더보드 점수 635.7점 차이 모델 간 격차(14.9%p)와 맞먹는 변화다.
- 비용·속도·합법수 1등이 믿음은 꼴찌였다
- DeepSeek V4 Flash에서 추론 모드를 끄면 합법수 100%이고 비용은 약 28배, 속도는 약 25배 좋았다.
- 그런데 형식에 맞는 belief 비율은 3.8%였다.
- 이기고도 믿음은 틀릴 수 있다
- 한 판에서 모델은 0 확률을 준 칸의 기물을 잡았는데 거기에 진짜 Regent가 있었고 게임에 이겼다.
- 승패만 보는 평가로는 이 문제를 못 잡는다.
Evidence
- 고확신 캡처 적중률이 1/62
- S1(gemini-3.1-flash-lite) 기준 확신 0.5 이상 캡처가 원본 배치 0/22, 재현 배치 1/40이었다.
- 합치면 1.6%, 95% Wilson CI는 [0.3%, 8.6%]다.
- Brier가 균등 분포의 3.8~15.9배
- 캡처 시점 S1의 Brier는 0.1445로, 같은 상황 균등 사전분포의 0.0203과 비교된다.
- 비율의 95% CI는 3.8×–15.9×이다.
- 5개 설정에서 적중률 순서가 나타남
- S1 1.6%(1/62), S7(gpt-5-mini) 14.3%(2/14), S6-base 29.2%(7/24), S6B 40.0%(4/10), S5 50.0%(4/8)였다.
- 양 끝(S1 vs S5)만 통계적으로 유의했다.
- 캡처의 73.6%가 후보에 없던 칸
- 후보 2개 이상 적은 캡처 91건 중 실제 잡은 칸이 후보에 있던 경우는 24건(26.4%)이었다.
- 무작위 귀무분포 29.2%와 구분되지 않았다(p=0.218).
How to Apply
- 확신도 임계값 게이트를 실제 로그로 검증하기
- 오늘 에이전트의 행동 로그에서 confidence 0.5 이상으로 실행한 건의 실제 정답률을 계산하라.
- 정답 라벨이 나중에 확인되는 작업부터 골라 확신도 구간별 적중률 표를 만들어라.
- 믿음과 행동을 따로 뽑아 기록하기
- 행동 출력과 별개 필드로 모델의 추정(확률)을 매 턴 받아 저장하라.
- 나중에 정답이 드러나면 추정값과 비교해 보정을 점검하라.
- 자기 확신만으로 자동 실행하지 않기
- 행동 직전에 외부 검증(규칙 체크, 테스트, 도구 확인)을 붙여라.
- 확신이 높을수록 오히려 더 검증하도록 임계값 정책을 재설계하라.
- 모델·추론 설정을 바꾸면 보정도 다시 재기
- max_tokens나 추론 모드를 바꿀 때마다 같은 보정 평가를 다시 돌려라.
- 비용·속도·합법성 지표만으로 설정을 고르지 마라.
Try It
# Claude/ChatGPT에 붙여넣기 (논문 방법의 간이 버전: 확신도 보정 점검)
아래는 우리 에이전트가 행동을 실행하기 직전 출력한 로그다.
{{로그: 각 행에 action, stated_confidence(0~1), 나중에 확인된 correct(true/false)}}
다음을 해줘.
1. stated_confidence를 0.5 미만 / 0.5~0.8 / 0.8 초과로 나눠 구간별 건수와 실제 적중률 표를 만들어줘.
2. 각 구간의 Brier 점수와, 전체 평균 정답률을 항상 예측하는 기준선의 Brier 점수를 비교해줘.
3. 고확신 구간(0.5 이상)에서 적중률이 기준선보다 낮으면 자동 실행 임계값을 어떻게 바꿔야 하는지 제안해줘.
이어서 해 볼 것: 같은 로그를 모델 설정(temperature, max_tokens)별로 나눠 다시 돌려 보자.Terminology
관련 논문
The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법
심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다
미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다
벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖
Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기
LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다
StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결
LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위
그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)
정답은 그대로 두고 설명만 붙였더니 MLLM 심사위원의 오답 거절률이 12.7~13.8%p 떨어졌다
신경망은 이미 깔끔하다: polysemanticity의 원인 재해석
뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장
Linus Torvalds의 첫 LLM 보조 패치 시리즈
Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다
Original Abstract (Expand)
Agentic systems increasingly gate actions on a model's own stated confidence, which assumes confidence tracks correctness at the moment of acting. We test this in a hidden-information chess variant where royal status can be secretly, repeatedly relocated between pieces, and where an agent's stated probability distribution over the opponent's hidden royal piece -- elicited every turn, separately from the move it chooses -- is scored against ground truth recoverable after the game. Across two independent batches, captures made at high stated confidence ($\geq 0.5$) about the hidden piece's location were correct in 1 of 62 cases. The calibration deficit is concentrated almost entirely in these events: 99.3% of it in the original batch, 98.7% in the replication. The same pattern, in weaker form, orders consistently (point estimates only; most pairwise gaps are not statistically distinguishable at this sample size) across four further model configurations spanning a second provider -- reported as scope for the finding, not as evidence that capability predicts calibration: a same-model comparison at a fixed external leaderboard score shows a deliberation-budget change alone moves the metric by nearly as much as a large cross-model gap. In a separate seat, conventional evaluation axes -- legality, cost, latency, completion rate -- can dissociate entirely from belief quality, with the configuration winning on every conventional axis producing the worst belief quality tested. A model exhibiting this pattern can still win the game its belief was about, which is why outcome-only evaluation would not detect it.