[최홍규의 AI 컨텍스터 선언 27] 텍스터는 모른다에 마음 놓고, 컨텍스터는 모른다에 정신 차린다

[프라임경제] 누군가 확신에 차서 '이건 가짜야'라고 말하면 우리는 그 말을 믿는다. 반대로 '글쎄, 잘 모르겠는데'라고 얼버무리면, 우리는 본능적으로 한 걸음 물러선다. 그런데 이 말을 건네는 상대가 사람이 아니라 인공지능(AI)일 때는 정반대의 일이 벌어진다. 애매한 대답 앞에서 오히려 경계가 풀리는 것이다.

미국 인디애나 대학교(Indiana University) 소셜미디어관측소를 중심으로 스탠퍼드 대학교(Stanford University), 노스이스턴 대학교(Northeastern University) 등이 참여한 연구팀이 2024년 12월 이 현상을 실험으로 확인한 논문을 발표했다. 방법은 간단했다. 미국 인구 구성에 맞춰 모은 성인 2159명에게 실제 정치 뉴스 헤드라인 40개를 보여주고, 그 내용을 믿는지, 다른 사람에게 공유하고 싶은지를 물었다. 한 집단에는 챗지피티가 미리 만들어둔 팩트체크 설명을 함께 보여줬고, 다른 집단에는 아무 설명도 주지 않았다.

챗지피티의 판정 솜씨는 제법 정교했다. 거짓 헤드라인의 90%를 정확히 짚어냈다. 그런데 정작 그 정확한 판정을 본 사람들은 참과 거짓을 가려내는 힘이 눈에 띄게 나아지지 않았다. 좋은 정보를 받고도, 사람들의 판별력은 제자리걸음이었다.

더 자세히 들여다보니 이유가 드러났다. 참인 헤드라인을 챗지피티가 실수로 '거짓'이라 판정했을 때 사람들의 믿음은 원래보다 눈에 띄게 떨어졌다. 반대로 거짓 헤드라인 앞에서 챗지피티가 확신 없이 '잘 모르겠다'고 답했을 때 사람들이 그 거짓 정보를 오히려 더 쉽게 믿어버렸다. 의심을 거두지 않아야 할 바로 그 순간에 사람들은 오히려 경계를 풀었다.

같은 실험에서 사람이 직접 쓴 팩트체크를 본 집단은 달랐다. 이들은 특히 참인 뉴스를 진짜로 알아보는 능력이 뚜렷이 좋아졌다. 같은 형식의 정보라도, 그것을 누가 건넸는지에 따라 사람들이 정보를 대하는 태도 자체가 달라진 셈이다.

왜 이런 차이가 생겼을까. 오랫동안 커뮤니케이션 연구자들은 사람들이 기계의 판단을 사람의 판단보다 더 객관적으로 여기는 경향이 있다고 지적해왔다. 문제는 이 믿음이 AI의 확신에는 예민하게 반응하면서도, AI의 '모르겠다'는 말에는 제대로 반응하지 않는다는 데 있다. 사람이 '잘 모르겠다'고 말하면 우리는 본능적으로 경계한다. 그런데 AI가 같은 말을 하면, 그 애매함은 정보에 대한 의심으로 이어지는 대신 그저 지나가는 잡음으로 처리돼 버린다.

이 연재를 처음 만나는 독자를 위해 짧게 설명하면, 텍스터는 AI가 내놓는 결과를 그대로 받아들이는 사람이고, 컨텍스터는 그 결과에 자신의 맥락과 판단을 더해 다시 세우는 사람이다. 이전 회차를 봐온 독자라면 낯익은 구분일 것이다. 이번 연구에 이 구분을 옮겨보면, 텍스터는 AI가 '거짓'이라고 하면 의심을 거두고, AI가 '모르겠다'고 하면 그마저도 별일 아니라는 듯 넘어간다. 반면 컨텍스터는 AI가 '모르겠다'고 말하는 순간이야말로 가장 조심해야 할 때라는 것을 안다. 판정이 분명할 때가 아니라, 판정이 흐릿해지는 바로 그 지점에서 자신의 판단을 다시 꺼내 드는 것이다.

이 원리는 뉴스에만 해당하지 않는다. 우리는 AI로부터 '문제없음', '확실치 않음', '더 확인 필요' 같은 짧은 판정을 하루에도 몇 번씩 받는다. 판정이 분명할 때 우리는 쉽게 안심한다. 그런데 정작 위험은 판정이 애매해지는 순간에 숨어 있다. AI가 '잘 모르겠다'고 말하는 것은 책임을 회피하는 말이 아니라, 그 판단의 공을 우리에게 넘기는 말이다. 그 공을 받아 든 순간 아무것도 하지 않는다면, 우리는 가장 위험한 순간에 가장 무방비한 상태로 서 있는 셈이다.

그러므로 AI 앞에서 진짜 시험대에 오르는 것은 AI가 확신에 차 있을 때가 아니라, AI가 머뭇거릴 때다. 확신은 우리를 잠들게 하고, 머뭇거림은 우리를 시험한다. 그 시험에서 매번 깨어 있는 사람만이 텍스터가 아니라 컨텍스터로 남는다.