[최홍규의 AI 컨텍스터 선언 19] 텍스터는 표시를 읽고, 컨텍스터는 근거를 읽는다

[프라임경제] 뉴스 기사 맨 위에 낯선 문구가 하나 붙기 시작했다. "이 기사는 인공지능(AI) 도구의 도움을 받아 작성됐습니다." 이 한 줄을 읽는 순간, 다음 문장을 대하는 마음은 이미 한 번 흔들린다. 문제는 그다음이다. 흔들린 채로 그 자리에 멈추는지, 아니면 근거를 찾아 나서는지.

이 물음에 실험으로 답한 연구가 있다. 네덜란드 CWI(Centrum Wiskunde & Informatica, 국립 수리컴퓨터과학 연구소) 연구팀이 올해 1월 공개한 연구다. 연구팀은 참가자에게 정치 기사와 생활 기사를 각각 세 가지 방식으로 보여줬다. 

△AI 사용 사실을 전혀 알리지 않은 경우 △"AI 도구가 편집을 도왔다"는 한 줄짜리 안내만 붙인 경우 △AI가 어느 단계에 얼마나 관여했는지, 사람 편집자가 최종 검토했는지, 오류 신고 연락처는 무엇인지까지 자세히 적은 경우였다. 이렇게 총 34명의 응답을 분석했다.

신뢰 점수의 경우 정치 기사에서는 세 조건 사이에 별 차이가 없었다. 그런데 생활 기사에서는 자세한 공개문을 본 경우에만 신뢰 점수가 눈에 띄게 떨어졌다. 구독 의향에서도 비슷한 흐름이나타났다. 특히 AI가 많이 관여했다고 밝힌 기사에 자세한 공개문이 붙었을 때 구독하겠다는 응답은 뚜렷하게 줄었다.

그런데 예상과 어긋나는 결과가 하나 있었다. 출처를 직접 확인해 보려는 행동은 오히려 공개 수준이 올라갈수록 늘었다. 한 줄짜리 안내를 본 사람도, 자세한 설명을 본 사람도, 아무 공개도 받지 않은 사람보다 출처를 더 자주 찾아봤다. 그 폭은 자세한 공개문 쪽에서 가장 컸다. 신뢰는 내려갔는데, 확인하려는 움직임은 오히려 커진 것이다. 인터뷰 참가자 다수는 자세한 공개문을 선호한다고 답했다. 그러면서도 그 공개문이 너무 길어 결국 읽지 않고 넘어가게 될 것 같다고 털어놓았다. 투명하게 알고 싶은 마음과 그 공개문을 끝까지 읽어낼 여력 사이에서 독자들은 갈등했다.

이 갈등을 다른 각도에서 들여다본 연구도 있다. 중국 호하이대학교(Hohai University) 연구팀이 올해 6월 학술지에 발표한 연구다. 대학생 617명에게 같은 내용의 AI 생성 영상을 보여주되 절반에게만 "AI 생성 콘텐츠"라는 표시를 붙였다.

그 표시 하나만으로 영상이 진짜처럼 느껴지는 정도는 뚜렷하게 낮아졌다. 그런데 신뢰도나 이 콘텐츠를 계속 보겠다는 의향에는 표시 여부가 직접 영향을 주지 못했다. 실제로 신뢰를 가른 것은 표시 자체가 아니라, 표시를 본 뒤 사람들이 생각을 어떤 방식으로 이어갔는지였다. 내용을 찬찬히 뜯어보고 논리와 근거를 따져본 사람일수록 신뢰는 높아졌다. 표면적인 인상과 직관에 기대어 판단한 사람일수록 신뢰는 오히려 낮아졌다. 표시는 문을 열어줄 뿐이었다. 그 문 안으로 들어가는지는 각자의 몫이었다.

AI를 사용했다는 사실을 밝히는 일 자체는 신뢰를 만들지도, 무너뜨리지도 않는다는 사실을 두 실험은 서로 다른 방식으로 확인해준 셈이다. 뉴스 실험에서 공개문을 본 사람들이 출처를 더 자주 확인했던 것도, 영상 실험에서 내용을 꼼꼼히 따져본 사람의 신뢰가 더 높았던 것도 결국 같은 이야기다. 공개는 확인하라는 신호일 뿐 확인을 대신해 주지 않는다.

이 지점에서 이 연재가 계속 짚어온 구분이 다시 고개를 든다. 텍스터는 표시를 읽고 거기서 멈춘다. "AI가 썼다"는 문구를 보면 거리를 두고, "사람이 검토했다"는 문구를 보면 안심한다. 표시가 신뢰를 대신 계산해 주니 편하다. 

그러나 두 연구 모두에서 표시 자체는 신뢰를 결정하지 못했다. 표시를 보고 멈춘 판단은, 실은 문구 하나에만 기댄 판단일 뿐이다. 컨텍스터는 표시를 읽되 거기서 멈추지 않는다. 표시 다음에 놓인 근거를 마저 읽는다. 이 기사는 어느 부분이 AI의 손을 거쳤는가, 그 부분의 사실관계는 확인됐는가, 이 영상의 논리는 실제로 촘촘한가. 그 질문을 던지는 순간 표시는 비로소 쓸모를 갖는다.

앞으로 우리가 마주할 콘텐츠 대부분에는 이런 표시가 붙어 있을 것이다. 뉴스에도, 광고 영상에도, 제품 후기에도. 그 표시를 볼 때마다 두 가지 길이 놓인다. 표시를 읽고 그 자리에 멈추는 길, 그리고 표시를 지나 근거를 읽는 길. 표시는 점점 늘어날 것이고, 그만큼 두 길의 간격도 벌어질 것이다. 신뢰는 표시가 주는 것이 아니다. 표시 다음에 하는 일이 만든다. 지금 마주한 표시 앞에서, 우리는 어느 쪽을 읽고 있는가.