[최홍규의 AI 컨텍스터 선언16] 텍스터는 믿을수록 멈추고, 컨텍스터는 믿어도 의심한다

[프라임경제] 우리는 지금까지 인공지능(AI)을 잘 쓰는 법이 관건이라고 믿어왔다. 프롬프트를 정교하게 다듬고, 도구의 원리를 이해하고, 무엇을 의심해야 하는지 배우면 판단력도 함께 자랄 것이라 여겼다. 그런데 그 배움은 정작 가장 필요한 순간에 사라진다. AI를 충분히 믿게 된 바로 그 순간, 애써 익힌 의심의 습관은 조용히 자취를 감춘다.

20시간짜리 AI 리터러시 교육을 받은 의사들이 있다. 대형언어모형의 작동 원리, 효과적인 프롬프트 작성법, AI 답변을 비판적으로 검토하는 법까지 정식으로 배운 사람들이다. 이들 앞에 AI가 슬쩍 틀린 진단을 내밀었을 때 얼마나 잘 걸러냈을까.

파키스탄 라호르경영대학교(Lahore University of Management Sciences)와 현지 의료기관 연구진이 공동으로 2026년 4월 발표한 논문이 이 질문에 답한다. 20시간의 AI 리터러시 교육을 이수한 의사 44명에게 여섯 개의 실제 임상 사례를 주고, 각 사례마다 챗지피티(ChatGPT-4o)의 진단 소견을 참고할지 말지 스스로 결정하게 했다.

여기서 실험 설계가 갈렸다. 한 집단에게는 정확한 소견만 보여줬고, 다른 집단에게는 여섯 개 중 세 개에 그럴듯하지만 틀린 소견을 몰래 심어 보여줬다. 의사들은 이 사실을 몰랐다. AI 소견이 맞는지 스스로 검증할지, 아니면 그대로 받아들일지는 전적으로 각자의 판단에 달려 있었다.

결과는 분명했다. 오류가 섞인 소견을 받은 의사들의 진단 점수는 정확한 소견만 받은 의사들보다 14.0%포인트(p) 낮았다. 여기서 %p란, 예를 들어 정확한 소견만 받은 의사들의 평균 점수가 100점 만점에 85점이었다면 오류가 섞인 소견을 받은 의사들은 71점 수준이었다는 뜻이다. 최종 진단을 정확히 맞힌 비율도 18.3%p나 낮았다. 

다시 말해 AI가 틀린 답을 내밀자 상당수 의사들이 자신의 임상 판단 대신 그 오답을 따라간 것이다. 20시간 동안 "AI 답변을 비판적으로 검토하라"고 배운 사람들이 정작 검토가 필요한 순간에 검토하지 않았다.

더 뜻밖인 것은 그다음이다. 임상 경력이 많은 의사일수록 이 함정에 더 쉽게 걸렸다. 경력 10년 이상 집단은 오류가 섞인 소견을 받았을 때 점수가 16.6%p나 떨어진 반면, 10년 미만 집단은 9.1%p 떨어지는 데 그쳤다. 경험이 많으면 AI의 허점을 더 잘 알아챌 것이라는 통념과는 정반대의 결과다. 

연구팀은 이를 두고 AI 훈련이 '자동화 편향(automation bias)' — AI의 판단을 별다른 의심 없이 그대로 따르는 경향 — 을 막아줄 핵심 안전장치로 흔히 홍보되지만, 실제로는 그 위험을 상쇄하기에 충분치 않을 수 있다고 결론 내렸다. 교육을 통해 "무엇을 의심해야 하는지" 아는 것과 실제 진료실에서 그 의심을 꺼내 쓰는 것은 전혀 다른 능력이라는 뜻이다.

그렇다면 AI를 더 잘 알고, 원래 깊이 생각하기를 좋아하는 사람이라면 다를까. 미국 노스캐롤라이나 주립대학교(North Carolina State University)와 플로리다 대학교(University of Florida) 연구팀이 2026년 발표한 연구가 이 질문을 파고들었다. 대학생 432명에게 파이썬 코드 문제를 풀게 하면서, AI 챗봇이 정답과 오답 권고를 섞어 제시했다. 학생들이 AI를 얼마나 신뢰하는지, AI에 대해 얼마나 잘 아는지, 그리고 효과적으로 생각하는 것 자체를 즐기는 성향인 '인지 욕구(need for cognition)'는 어느 정도인지도 함께 측정했다. 인지 욕구가 높은 사람은 어려운 문제 앞에서 머리 쓰는 일을 귀찮아하지 않고 오히려 즐기는 사람이다.

결과는 이렇게 요약된다. 먼저 AI를 더 신뢰하는 학생일수록 옳은 조언과 틀린 조언을 구별하는 데 서툴렀다. 신뢰가 높아질수록 오답을 그대로 받아들이는 비율도 함께 늘었다. 그런데 AI를 잘 알거나 평소 깊이 생각하기를 즐기는 학생들에게는 한 가지 조건이 붙었다. 이들이 남들보다 더 나은 판단을 보인 것은 정확히 'AI를 아직 크게 믿지 않을 때'였다. 

신뢰가 낮은 구간에서는 이 학생들의 판단력이 확실히 앞섰지만, 신뢰가 쌓일수록 그 격차는 서서히 좁혀졌고, 가장 신뢰가 높은 구간에서는 격차가 거의 사라지거나 오히려 역전됐다. 다시 말해 AI를 잘 알고 깊이 생각하는 성향은 '의심할 이유가 있을 때'는 힘을 발휘했지만, '충분히 믿게 된 뒤'에는 그 힘을 잃었다.

병원과 강의실, 서로 다른 두 무대에서 같은 결말이 반복된다. AI 리터러시 교육은 도구를 다루는 능력을 키워준다. 프롬프트를 정교하게 쓰는 법, AI의 원리를 이해하는 법, 이론적으로 무엇을 의심해야 하는지 아는 법까지 가르칠 수 있다. 

그러나 그 지식이 실전에서, 특히 신뢰가 쌓인 편안한 순간에 실제로 발동되는지는 전혀 다른 문제다. 아는 것은 기능이고, 의심하는 것은 습관이다. 그리고 습관은 지식만으로 만들어지지 않는다.

이 지점에서 이 연재가 처음부터 짚어온 구분이 다시 선명해진다. 텍스터는 무엇을 의심해야 하는지 머리로는 안다. 그러나 그 앎은 AI가 미더워지는 순간 잠들어버린다. 컨텍스터는 다르다. 알고 있는 것을 매번 다시 꺼내 쓰는 사람, 편안해질수록 오히려 한 번 더 멈춰 서는 사람이다. 결국 둘을 가르는 것은 지식의 양이 아니라, 그 지식을 실제로 써먹는 습관이다.

이 딜레마는 AI 교육 현장 어디서나 낯설지 않다. 프롬프트 작성법, 도구별 활용 팁, 결과물 다듬는 요령까지 커리큘럼은 나날이 정교해진다. 그러나 그 교육이 학습자의 판단 습관까지 바꾸는지는 전혀 다른 질문이다. 기능을 전달하는 시간과 의심하는 습관을 몸에 새기는 시간은, 같은 강의실 안에서도 서로 다른 훈련을 요구한다. 전자는 지식을 전달하는 순간 끝나지만, 후자는 반복된 실전과 스스로 멈추는 연습이 쌓여야 완성된다.

AI 교육이 목표로 삼아야 할 것은 이제 분명해졌다. 무엇을 알아야 하는지 가르치는 데서 멈추지 않고, 언제 멈춰야 하는지를 몸에 새기는 데까지 가야 한다. 지식은 강의실에서 완성되지만, 판단은 신뢰가 쌓인 바로 그 순간, 마음이 가장 편안해진 순간에 시험대에 오른다. 우리에게 필요한 것은 AI를 능숙하게 쓰는 법이 아니라, 가장 편안한 순간에도 다시 한번 의심하는 법이다. 그 습관을 몸에 새긴 사람만이, 결국 AI 앞에서 끝까지 판단의 주인으로 남는다.