[최홍규의 AI 컨텍스터 선언 29] 텍스터는 결론만 믿고, 컨텍스터는 조건부터 묻는다

[프라임경제] 말은 짧아졌는데, 결론은 오히려 넓어졌다. 가정해보자. 점심 자리에서 동료가 말한다. "커피는 심장에 해롭지 않대." 어디서 들었느냐고 물으니 기사 제목에서 봤다고 한다. 기사를 열어 보니 실험에 참여한 사람들이 며칠 동안 카페인이 든 커피를 마셨는데 심장 박동이 더 흐트러지지는 않았다는 내용이었다. 기사가 말한 것은 그 사람들의 그 며칠이었는데 동료의 말은 모든 사람의 모든 날로 넓어져 있었다. 이 작은 비약이 인공지능(AI)의 요약에서도 벌어진다면 어떨까.

네덜란드 위트레흐트대학교(Utrecht University) 연구팀이 2025년 4월 발표한 논문이 이 물음을 직접 살폈다. 연구팀은 대화형 AI 열 종에게 논문 초록 200편을 요약하게 하고, 일부 AI에게는 임상 연구 논문 100편의 전문까지 맡겨 요약 4900건을 원문과 견줬다. 결론이 넓어졌는지 가린 기준은 세 가지였다. 특정 집단에서 나온 결과를 '사람은 ~하다'처럼 모든 사람의 이야기로 바꼈는가. '그때 그랬다'는 과거형을 '지금도 그렇다'는 현재형으로 바꼈는가. ‘~로 나타났다'는 서술을 ‘~해야 한다'는 권고로 옮겼는가. 하나라도 해당하면 원문보다 넓어진 '일반화된 결론'으로 봤다.

점심 자리와 닮은 사례도 실렸다. 원문 초록은 카페인이 든 커피를 마신 쪽이 카페인을 피한 쪽보다 하루 심방 조기 수축(심장이 박자보다 일찍 뛰는 현상)이 의미 있게 많지는 않았다고 적었다. AI의 요약은 '카페인이 든 커피는 심방 조기 수축을 의미 있게 늘리지 않는다'고 적었다. 한 실험의 결과가 커피 일반의 이야기로 바뀐 것이다.

AI의 요약은 원문 초록보다 일반화된 결론을 담을 가능성이 두 배였고, 우연이라 보기 어려운 차이였다. 비교적 최근에 나온 AI 세 종은 요청 방식에 따라 사례의 26%에서 73%에 걸쳐 원문보다 결론을 넓혔다. 부정확한 내용은 넣지 말라고 당부했더니, 오히려 일반화된 결론이 담길 가능성이 그냥 요약해 달라고 했을 때의 약 두 배로 늘었다. 연구팀은 이를 '분홍 코끼리를 떠올리지 말라'는 말을 들으면 오히려 코끼리가 떠오르는 심리 현상과 닮은 일일 수 있다고 보았지만, 검증은 앞으로의 과제라고 밝혔다. 

이 버릇이 AI만의 것인지 알아보려고 의학 전문 매체에 실린 전문가들의 요약 100편과도 견줬다. 전문가들의 요약은 원문과 우연이라 보기 어려운 차이가 없었고, AI 세 종의 요약은 전문가들의 요약보다 일반화된 결론이 담길 가능성이 거의 다섯 배였다.

넓어진 결론은 그만큼 쓸모 있어 보인다. 모두에게 맞는다니 나에게도 맞을 듯하고, 지금도 그렇다니 오늘 써도 될 듯하고, 하라고 하니 따르면 될 듯하다. 텍스터는 AI가 줄여 준 결론을 받은 모양 그대로 믿는 사람이다. 어리석어서가 아니라, 넓어진 결론이 그만큼 친절해 보이기 때문이다. 

컨텍스터는 같은 결론을 받고도 그 결론이 누구에게, 언제, 어디까지 해당하는 말인지, 곧 지워진 조건부터 묻는 사람이다. 이 말은 누구를 두고 한 말인가. 그때 그랬다는 말인가, 지금도 그렇다는 말인가. 그래서 하라는 말은 원문이 한 말인가, 요약이 보탠 말인가. 요약이 매끈할수록 컨텍스터는 이 질문부터 던진다.

다만 이 연구가 말해 주는 범위는 넓지 않다. 요약한 글은 과학과 의학 논문이었고, 시험한 AI는 열 종, 요청 방식은 세 가지뿐이었다. 어떤 AI의 요약은 원문과 뚜렷한 차이가 없었고, 연구팀은 근거가 충분할 때의 일반화는 과학 지식에 꼭 필요하다고도 밝혔다. 필자는 이 결과를 ‘AI 요약은 믿을 수 없다'가 아니라, 요약에서 줄어드는 것이 분량만은 아닐 수 있다는 가능성으로 읽는다.

이를테면 온라인 쇼핑몰의 환불 규정을 AI에게 한 줄로 줄여 달라고 맡겼다고 하자. 돌아온 답은 '구매한 물건은 환불된다'였는데, 규정 원문에는 '구매 후 7일 이내, 미개봉 상품에 한해'라는 말이 붙어 있었다. 

텍스터는 그 한 줄을 믿고 보름 쓴 물건을 들고 간다. 컨텍스터는 환불이라는 말을 만나면 며칠 안에 어떤 상태에서인지부터 묻는다. 연구가 살핀 것은 논문 요약이므로 약관 요약에서 같은 일이 얼마나 벌어지는지는 알 수 없다. 다만 요약을 받아 든 자리에서 물어야 할 것은 같다.

조건이 붙은 말은 틀릴 곳이 보인다. '일주일 이내'라는 말이 붙어 있으면 오늘이 며칠째인지 세어 보면 된다. 조건이 지워진 말은 틀릴 곳이 보이지 않는다. 어디에나 맞는다는 말은 어디서 틀렸는지도 알려 주지 않는다. 그런데도 확인할 길이 없는 말이 더 듬직해 보이니, 넓어진 결론은 의심받지 않은 채 퍼진다.

AI의 요약은 앞으로 더 매끄러워질 것이고, 매끄러울수록 조건이 빠진 자리는 티가 나지 않는다. 요약으로 시간을 아끼더라도 아끼지 말아야 할 시간이 있다. 누구의 이야기인지, 언제의 이야기인지, 어디까지 권한 이야기인지 묻는 몇 분이다. 그 몇 분을 건너뛰면 요약으로 번 시간은 틀린 판단을 바로잡는 데 다시 들어간다. 요약은 말을 줄인다. 그러나 줄어든 말에서 조건까지 지워지는 순간, 요약은 과장이 된다. 결론만 믿는 사람은 어디에나 있다. 조건부터 묻는 사람, 그가 컨텍스터다.