그럴듯한 설명 하나면 멀티모달 LLM 심사위원도 속는다 (JUPE 벤치마크)

Who Should Read

MLLM(LLM-as-judge)으로 답변과 풀이를 함께 채점하는 평가 파이프라인을 운영하는 개발자

Core Mechanics

• 그럴듯한 설명만으로 오답을 통과시킨다
  • 이미지·질문·답을 고정하고 설명만 붙였더니 14개 MLLM 심사위원의 오답 거절률이 떨어졌다.
  • 설명 없는 기준 대비 Plain 설명은 12.7%p, CoT는 13.8%p 하락했다.
• 설득 기법도 평범한 설명과 비슷했다
  • 41가지 설득 기법으로 만든 설명은 12.5%p 하락을 만들었다.
  • 평범한 설명보다 딱히 더 세지 않았고 수사 강도와 하락폭은 상관이 없었다(Spearman ρ=0.00).
• 실력이 떨어진 게 아니라 문턱이 낮아졌다
  • 신호탐지이론(정답·오답 구분력과 수락 기준을 분리해 보는 방법)으로 보면 수락 쪽 기준만 이동했다.
  • 구분력(d′)은 평균적으로 뚜렷한 변화가 없었다.
• 정확도만 보면 문제가 안 보인다
  • 심사위원 전체 정확도는 2%p 미만 하락(58.3%→56.4~56.7%)에 그쳤다.
  • 같은 조건에서 오답 거절률은 12.5~13.8%p 떨어졌다.
• 확신한 거절도 뒤집힌다
  • 설명 없이 '확실히 오답'이라 판정한 답 중 36~39%가 그럴듯한 설명이 붙자 수락됐다.
  • 모델이 직접 풀면 맞히는 쉬운 문제에서도 설득형 설명으로 거절률이 하락했다.

Evidence

• 설명 종류별 오답 거절률 하락
  • 14개 심사위원 평균, 설명 없는 기준 대비 JUPE 벤치마크 기준이다.
  • Plain 12.7%p, CoT 13.8%p, Persuasion 12.5%p 하락했다.
• 설명 없는 평균 오답 거절률 42.4%
  • Plain 설명을 붙이면 29.7%, CoT는 29.9%, Persuasion은 28.6%가 됐다.
  • 정답을 오답으로 잘못 거절하는 비율도 23.3%에서 약 12%대로 줄었다.
• 수락 기준 이동량 Δc
  • Plain −0.39, CoT −0.45, Persuasion −0.39로 95% CI가 0을 포함하지 않았고 14개 중 12개에서 같은 방향이었다.
  • Δd′는 +0.04~+0.09로 CI가 0을 걸쳤다.
• 프롬프트 완화 효과
  • Persuasion-VI 설명 기준 10개 심사위원 평균 오답 거절률이 Conservative 지시로 24.4%, Self-Verify로 30.4%였다.
  • 완화 없이 설명만 붙인 기준선은 약 쪽 수치와 비교해 각각 25%, 13% 개선이다.

How to Apply

• 심사 프롬프트에 보수적 판단 한 줄 넣기
  • 지금 쓰는 LLM 심사 프롬프트의 출력 지시 앞에 'Be conservative in accepting the candidate answer as correct.'를 추가하라.
  • 정답 수락률(IRR)도 같이 올라가므로 오답 거절률과 함께 측정하라.
• 정답·오답 거절률을 따로 보고하기
  • 평가 리포트에서 정확도 대신 오답 거절률(CRR)과 정답 거절률(IRR)을 분리해 기록하라.
  • 설명 없음/있음 두 조건으로 같은 답을 두 번 채점해 차이를 보라.
• 심사 전에 자체 풀이 단계 추가하기
  • 심사위원이 후보 답을 보기 전에 스스로 답을 먼저 정하도록 지시를 넣어라.
  • 사용하는 모델마다 효과가 다르니 소규모 검증셋으로 먼저 확인하라.
• 풀이를 가리고 답만 채점하는 경로 병행하기
  • 답과 설명을 함께 채점하는 파이프라인에는 설명을 뺀 채점을 하나 더 돌려라.
  • 두 결과가 크게 갈리는 항목은 사람이 확인하라.

Try It

# Claude나 ChatGPT에 이미지를 첨부하고 그대로 붙여넣기 (논문 방법의 간이 버전: 설명 유무에 따른 판정 비교)

Judge whether the final answer correctly answers the Question based on the provided image. Be conservative in accepting the candidate answer as correct. Determine your own answer before verifying the candidate.

Question: {{질문}}
Candidate Answer: {{후보 답}}
Candidate Explanation: {{설명 (없으면 이 줄 삭제)}}

Options (order randomized): A. Definitely incorrect B. Probably incorrect C. Probably correct D. Definitely correct
Only output your final answer in the exact format: Answer: X (where X is A, B, C, or D).

이어서 해 볼 것: 틀린 답에 설명을 붙인 경우와 뺀 경우를 각각 돌려 판정이 바뀌는지 비교해 보라.

Terminology

관련 논문

• The Judge Can Debias Itself: LLM-as-a-Judge가 스스로 편향을 고치게 하는 법

  심사 프롬프트에 편향 경고를 넣거나 스스로 비판시켰더니 21개 중 20개 조합에서 정확도가 올랐다

• 미국 노동시간의 90%는 AI 벤치마크가 제대로 다루지 못하는 일이다

  벤치마크 29개를 직업 과제에 매핑했더니 노동시간 90%가 커버 밖

• Postgres 19, AI 코드 리뷰가 버그를 너무 많이 찾아 출시 연기

  LLM 코드 리뷰가 버그를 쏟아내 Postgres 19가 11월로 밀리고 기능 8~10개가 빠졌다

• StarSkirmish Bench v0.2: LLM이 1시간 만에 짜는 StarCraft 봇 대결

  LLM에게 1시간 동안 StarCraft 봇을 짜게 했더니 GPT-6 Astra가 1위

• 신경망은 이미 깔끔하다: polysemanticity의 원인 재해석

  뉴런을 직접 들여다봤더니 대부분 한 가지 역할이 있었다는 주장

• Linus Torvalds의 첫 LLM 보조 패치 시리즈

  Linus가 LLM으로 folio 조회 패치 10개를 만들어 read() 벤치가 10배 빨라졌다

• Parsimony: AI 모델이 코드를 얼마나 덧붙이는지 재는 오픈소스 벤치마크

  SWE-bench 패치를 구문 단위로 세어, 코드를 덜 늘리는 AI 모델 순위를 매겼다