우리는 생각을 AI에 너무 많이 맡기고 있을까?

TL;DR Highlight

AI에 생각을 맡기는 현상을 짚고, 먼저 가설을 세운 뒤 AI로 검증하라고 제안

Who Should Read

AI 도구로 리서치·설계·코드 리뷰를 하며 판단력이 무뎌지는 게 걱정되는 개발자

Core Mechanics

사고 위임이 사소한 결정까지 번졌다
- 저자는 주변과 자신에게서 조사·추론·답변을 AI에 넘기는 경향이 늘고 있다고 관찰했다.
- 켄 리우의 2012년 단편 "The Perfect Match"의 AI 비서 Tilly가 이 현상을 정확히 그렸다고 본다.
마이크 맨은 생각을 통째로 맡겼다
- SF 스타트업 행사에서 만난 남자는 하루 대화를 전부 녹음해 AI로 요약·분석한다.
- 그는 "Claude Fable이 나보다 비판적 사고를 잘해서 생각을 다 맡긴다"고 말했다.
검색과 AI는 건너뛰는 단계가 다르다
- 검색은 질문 분해, 출처 평가, 종합을 사람이 해야 했다.
- AI는 그 중간 단계를 대신해 완성된 답을 몇 분 만에 준다.
가설 먼저, AI는 나중에 쓰니 좋았다
- 포르투갈 여행에서 저자와 여동생은 AI에 묻기 전에 직접 이유를 추측하고 반박하며 가설을 세웠다.
- 그다음 AI에 물으니 일부 가설은 맞았고, 놓친 설명도 얻었고, 저자들이 그럴듯하다 본 가능성이 빠지기도 했다.
허드렛일 위임과 학습 포기는 다르다
- 번역, 코딩 에이전트에 세부 구현 맡기기, ChatGPT 튜터로 MCAT 준비 같은 사례는 긍정적으로 본다.
- 반면 온라인 대학 물리 과제는 학생들 답이 거의 같고 대부분 A를 받는다는 사례를 들며 배우는 과정이 사라질 수 있다고 우려한다.

Community Reactions

주니어가 '모르겠다'고 답했다는 경험
- 디자인 리뷰에서 왜 그렇게 계산했냐고 묻자 주니어가 모른다고 했다는 댓글이 있다.
- AI가 만든 틀린 계산을 본인이 구분하지 못했다는 경험이다.
에이전트 말만 전하는 논쟁이 벌어진다는 경험
- 프로덕션 이슈의 커넥션 풀링·스레딩 전략을 두고 모두가 자기 에이전트의 답을 대신 주장한다는 댓글이 있다.
- 모른다고 인정한 작성자는 무능해 보일까 걱정했다고 한다.
AI 사용 범위를 정해 쓴다는 경험
- 디버깅, 리뷰, 설계가 끝난 뒤의 구현 타이핑, 아이디어 제안에만 AI를 쓰고 학습·사고·결정은 대체하지 않는다는 20년차 개발자 댓글이 있다.
- 계산기를 쓰기 전에 대략 답을 먼저 예상해 보듯 LLM 답도 먼저 내 답을 떠올려 비교한다는 댓글도 있다.
환각 문제를 빼놓았다는 반론
- 글이 AI 답이 맞다고 전제하는데, AI가 근거 없는 답을 지어낼 수 있다는 점을 먼저 따져야 한다는 의견이다.
AI 때문에 생긴 뒷수습 일감이 늘었다는 경험
- 컨설턴트 댓글에서 연구자들이 Claude로 몇 달간 정규식 중복 제거에 매달리고 연구 방법론을 ChatGPT에 맡긴 사례가 나왔다.
- 결과가 혼란스러워 시간과 스트레스만 낭비됐다고 한다.

How to Apply

답 받기 전에 내 가설 3줄 적기
- 오늘 AI에 설계·원인 분석을 물을 때 먼저 내 예상 답을 3줄 적는다.
- 그다음 AI 답과 비교해 일치, 누락, 반박 지점을 표시한다.
AI 사용 영역을 허용·제한으로 나누기
- 디버깅, 리뷰, 이미 설계한 내용의 구현은 AI에 허용한다.
- 설계 결정과 학습 목적 작업은 직접 먼저 하도록 팀 규칙에 적는다.
리뷰에서 AI 산출물 설명하게 하기
- 디자인 리뷰에서 AI가 만든 코드나 계산에 대해 왜 그렇게 했는지 작성자가 직접 설명하게 한다.
- 설명 못 하면 이해한 뒤 다시 올리도록 요청한다.

Try It

복사해서 바로 해보기

# Claude나 ChatGPT에 그대로 붙여넣기 (글의 '가설 먼저, AI는 나중에' 방식을 옮긴 프롬프트)

너는 내 사고를 대신하지 않고 검증해 주는 파트너야.
아래 내 가설을 먼저 읽고, 답을 새로 만들기 전에 다음 순서로 응답해.

질문: {{질문}}
내 가설 (3줄): {{내 가설}}

1. 내 가설 중 맞아 보이는 것
2. 내 가설의 약한 부분이나 틀렸을 가능성
3. 내가 놓친 설명
4. 내가 직접 더 확인해야 할 사실 2개

확실하지 않은 내용은 확실하지 않다고 표시해.

이어서 해 볼 것: AI 답을 읽은 뒤, 내가 동의하지 않는 지점 하나를 골라 반박을 써 보자.

Terminology

Deep ResearchAI가 검색, 읽기, 정리를 알아서 이어 해 긴 보고서를 내놓는 기능이다. 주니어 리서처에게 조사를 맡기는 것과 비슷하다.

METR Time HorizonLLM이 50% 확률로 성공하는 소프트웨어 작업의 길이를 사람 작업 시간으로 환산한 지표다.

tokenmaxx댓글에서 경영진이 토큰 사용량을 최대한 늘리라고 강요하는 상황을 가리키며 쓰인 말이다.