펜타곤, AI 과의존이 이란 학교 미사일 타격에 기여했다고 밝혀

펜타곤이 AI 과의존이 이란 학교 오폭의 한 요인이라 밝혔고, 댓글은 AI 탓인지 책임 회피인지로 갈렸다

AI 출력을 사람의 검증 없이 업무 의사결정에 연결하려는 백엔드·에이전트 개발자

타겟 DB 갱신 실패가 원인이라는 의견
- 군사 목표가 아니라는 정보가 타겟 데이터베이스에 반영되지 않았다는 댓글이 있었다.
- 목표 목록을 검증하던 팀이 해체됐고 상담도 받지 않았다는 주장이다.
- AI보다 사람의 부실이 문제라는 의견이다.
AI가 사람의 실수를 키운다는 의견
- 군의 무능과 AI의 오판은 동시에 참일 수 있다는 댓글이 있었다.
- AI가 무능한 사람이 더 큰 피해를 내게 하고 책임을 흐린다는 지적이다.
Maven에 대한 기대가 과했다는 의견
- 기사를 인용한 댓글에 따르면 일부 사용자는 Maven이 오래된 기록이나 모순을 잡아낼 것으로 기대했다.
- 한 댓글은 AI의 한계를 모르고 도입한 결과라고 봤다.
비교 기준이 없다는 지적
- 사람만 했을 때의 오류율과 비교한 수치가 없다는 댓글이 있었다.
- 24시간에 1,000개 목표를 쳤다면 사람만 했을 때 오폭이 몇 건일지 묻는 의견이다.

AI 결과에 사람 검증 단계 넣기
- 오늘 AI가 내린 고위험 결정이 사람 확인 없이 실행되는 경로를 하나 찾아라.
- 그 경로에 승인 단계를 추가하라.
데이터 최신성 필드 추가하기
- AI에 넘기는 레코드에 마지막 갱신 시각과 출처를 붙여라.
- 오래된 레코드는 AI 판단에서 제외하거나 경고 표시하라.
AI 기대 범위 문서화하기
- AI가 모순이나 오래된 정보를 잡아준다고 가정하지 말고, 실제로 하는 일과 못 하는 일을 적어 두라.

Maven댓글에서 언급된 군 정보 분석 시스템이다. 사용자 일부가 오래된 기록을 걸러줄 것으로 기대했다고 한다.

double tap첫 공격 후 구조하러 온 사람을 노려 다시 공격하는 방식이다. 댓글에서 2·3차 타격 정당성 논란으로 언급됐다.

decision laundering결정의 책임을 AI 같은 시스템에 돌려 사람의 책임을 지우는 것을 가리키는 댓글 표현이다.