[최홍규의 AI 컨텍스터 선언 25] 텍스터는 자신 있게 틀리고, 컨텍스터는 의심하며 맞힌다

[프라임경제] 우리는 확신에 찬 목소리를 좀처럼 의심하지 못한다. 근거가 아니라 태도에 먼저 무릎을 꿇는 것, 그것이 인간이 오랫동안 지녀온 약점이다. 추석 밥상에서도 이 약점은 어김없이 고개를 든다. 차례상을 다 차리고 나니 사촌 동생이 휴대폰을 들이민다. 

인공지능(AI)에게 물어봤다는 설명은 막힘이 없었다. 한자 어원까지 곁들여 조목조목 짚어주니 반박할 틈이 없었다. 할머니가 손사래를 치며 "그렇게 배운 적 없다"고 해도 다들 잠시 흔들렸다. 틀린 말이라도 말투가 매끄러우면, 수십 년 손끝의 기억보다 힘이 세진다.

이 흔들림이 얼마나 뿌리 깊은지는, 국제 학술지 네이처(Nature)의 자매지인 npj 디지털 메디신(npj Digital Medicine)이 올해 3월 게재한 한 논문에서 고스란히 드러난다. 베이징석유화공대학교(Beijing Institute of Petrochemical Technology), 국가암센터(National Cancer Center) 등이 참여한 연구팀은 중국의 주니어 의대생 111명을 조사했다. 이들은 생리학·병리학 같은 기초의학 과목은 마쳤지만, 주요 임상실습에는 아직 들어가지 않은 학생들이었다.

연구팀은 이들을 세 집단으로 나눠 중국어 의학 객관식 진단문항 25개를 풀게 했다. 한 집단은 설명 없이 문제를 풀었다. 다른 집단은 정답을 뒷받침하는 AI 생성 설명을 읽었다. 나머지 집단은 그럴듯하지만 특정 오답으로 이끄는 AI 생성 설명을 읽었다. 이 설명들은 실제 대화형 AI의 즉석 답변이 아니라, 연구진이 의도적으로 구성하고 전문가 검토를 거친 실험용 자료였다.

정답률만 보면 뜻밖이었다. 혼자 푼 집단의 정답률은 21퍼센트, AI가 정확히 짚어준 집단은 22.6퍼센트로 둘 사이엔 차이랄 게 없었다. 의대생이라는 이 우수한 집단조차, 옳은 도움을 받고도 실력이 딱히 나아지지 않은 것이다. 반면 그럴듯한 거짓 설명을 들은 집단의 정답률은 9.2%로 곤두박질쳤다. 맞는 설명은 성적을 뚜렷이 끌어올리지 못했다. 그러나 그럴듯하게 짜인 틀린 설명은, 기초의학을 배운 의대생들의 답을 눈에 띄게 흔들어 놓았다.

정작 눈여겨볼 대목은 따로 있다. AI의 설명을 들은 두 집단 모두 자신감은 똑같이 올라갔다. 문제는 그다음이다. 정확한 설명을 들은 집단은 맞힌 문제에서는 자신감이 높았고, 틀린 문제에서는 자신감이 낮았다. 자신감이 실제 정답 여부와 맞물려 움직인 것이다. 그런데 그럴듯한 거짓 설명을 들은 집단은 맞혔을 때도, 틀렸을 때도 자신감이 똑같았다. 확신은 여전히 넘쳤지만, 그 확신은 더 이상 자신이 맞았는지 틀렸는지와는 무관하게 따로 움직이고 있었다.

자신이 얼마나 알고 있는지를 스스로 가늠하는 이 감각을 지키는 사람과 놓아버리는 사람. 이 연재가 매번 짚어온 텍스터와 컨텍스터의 차이가 바로 여기에 있다. 텍스터는 설명의 말투가 매끄럽고 확신에 차 있으면 그것으로 충분하다고 여긴다. 말투를 근거 삼아 판단을 끝내버리는 것이다. 

반면 컨텍스터는 그 말투 뒤에서 자신의 확신부터 다시 의심한다. 지금 느끼는 이 자신감이 정말 아는 데서 온 것인지, 아니면 그저 말투에 홀린 것인지를 스스로에게 되묻는다. 의대생마저 이 되물음을 건너뛰면 무너졌다는 사실은, 지식의 양이 아니라 이 습관 하나가 텍스터와 컨텍스터를 가른다는 것을 보여준다.

할머니의 손끝과 AI의 언변이 부딪힐 때, 텍스터는 말투 쪽에 서고 컨텍스터는 의심 쪽에 선다. 명절 밥상 앞에서 우리는 매번 이 선택과 마주한다. 그럴듯한 말투 앞에서 고개를 끄덕이는 대신, 내 확신이 지금 근거 위에 서 있는지 한 번 더 되묻는 것. 거창한 지식이 아니라 그 작은 되물음 하나가 우리를 텍스터에서 컨텍스터로 건너가게 한다. 이번 추석엔 그 되물음 한 번을 밥상 위에 함께 올려보면 어떨까.