[지윤정의 인간지능] ⑫ 'AI 슬롭'의 함정

[프라임경제] 최근 컨택센터 관리자들을 대상으로 생성형 AI 활용법 교육을 진행하다 보면 활용 수준이 천차만별이다. 맛집 정보를 찾는 단순 검색형부터 단톡방 공지글을 요청하는 대필 지시형도 있다. 

생성형 AI를 적극 활용하라는 분위기가 높아지면서 무분별한 'AI 슬롭(Slop)'도 역시 늘고 있다. 'AI 슬롭(Slop)'은 겉보기에는 매끄럽지만 막상 읽어보면 핵심이 없고 알맹이가 빠진 AI 생성 저품질 결과물을 일컫는다. 스마트폰이 없으면 가족의 전화번호조차 외우지 못하는 디지털 의존증처럼, 기술이 주는 답을 무비판적으로 복사해 붙여넣다 보니 '그럴싸한 쓰레기'가 많아지고 있다.

실제로 하버드 경영대학원과 BCG가 공동으로 진행한 대규모 실험(Dell'Acqua 외, 2023)에 따르면, AI를 활용한 컨설턴트가 더 높은 품질의 결과물을 냈다. 그러나 아이러니하게도 AI는 성과의 하향 평준화도 함께 초래했다. 하위권 컨설턴트는 43%나 향상된 반면, 상위권의 개선 폭은 17%에 그쳤다. 관련 후속 연구들에서도 유사하게 AI에 의존할수록 결과물의 다양성과 개성이 줄어드는 경향이 많다. 

생성형 AI는 최악의 끔찍한 오답을 피하는 데는 분명 도움을 주었지만, 전반적으로 어중간하고 평범한 하향 평준화의 함정을 만들었다. 모두가 최악은 면했으되, 그 누구도 탁월해지지 못하고 있다. 이 딜레마는 컨택센터 관리자들이 AI를 사용할 때도 마찬가지다.

"특정 규정을 완고하게 따지는 까다로운 불만 고객이 있는데, 거절 메일 하나 써줘"라는 프롬프트를 보자. 리더 자신의 제한된 시선으로 기정사실화한 이 프롬프트로는 AI 역시 뻔하고 건조한 거절장만 내놓는다. 상황을 입체적으로 파악하려는 '의도'와 창의적인 대안을 도출하려는 “검증과정”이 없이는 뻔하디 뻔한 형식적 답변만 도출될 뿐이다. AI를 정답을 내뱉는 '자판기'가 아니라, 내 생각을 확장하고 정돈하는 '생각 촉진자'로 사용해야 한다. 인공지능에게는 인간지능의 '정서적 벼림'이 결합되어야 한다.

그러려면 우선 상황을 다각도로 파악하는 역질문 요청 프롬프트가 필요하다. "특정 규정을 따지는 까다로운 불만 고객에게 거절 메일을 써야 해. 내가 이 상황을 감정적·법률적·리스크 측면에서 입체적으로 진단하기 위해, 현재 대화 기록에서 놓치고 있는 정보가 무엇인지 확인해야 할 체크리스트 질문을 5가지 던져줘." 이처럼 정답을 바로 요구하는 대신 AI가 먼저 질문하고 리더가 그 질문에 하나씩 답을 채워가는 과정을 통해 리더는 자신이 놓치고 있던 맥락을 스스로 짚어보게 된다. 

두 번째는 고객의 반응을 미리 시뮬레이션해야 한다. "고객 입장에서 어떤 재반박이나 감정적 폭발, 법적 대응이 나올지 예측되는 시나리오를 강도별로 3가지 뽑아줘." 준비 없이 마주하면 돌발이지만 준비된 변수는 시뮬레이션이 된다. 

세 번째는 열린 돌파구를 찾는 창발적 프롬프트다. "규정상 원안 수용은 불가능해. 하지만 당장의 이익보다 고객과의 관계 유지를 위해, 현재 정책 테두리 내에서 우리가 제시할 수 있는 우회적·창발적 대안을 5가지 도출해 줘." 

마지막으로 최종 응답의 완성도를 검증하는 비판적 피드백을 요청해야 한다. "내가 작성한 이 최종 답변을 까다롭고 상처받은 불만 고객의 입장에서 비판적으로 읽어줘. 어떤 문구가 감정을 상하게 할 수 있을지 지적하고 보완할 점을 찾아줘."

질문의 질이 답의 질을 결정한다. 질문의 한계가 곧 리더의 한계다. 한계를 정해놓은 닫힌 질문으로는 탁월한 고지에 갈 수 없다. "현장에 무조건 AI를 도입하라"는 성과의 압박 속에서 구성원들이 임시방편으로 복사 붙여넣기 버튼을 누를 때 AI 슬롭의 비극은 시작된다. 

이제 현상의 한쪽 면만 보는 닫힌 시선에서 벗어나 상황을 객관적이고 사실적으로 파악하려는 '의도'와 '판별력'을 훈련해야 한다. 영리한 참모로서 AI를 활용할 수 있으려면 인간의 관록과 통찰이 결합되어야 한다. 결국 AI가 똑똑한 것이 아니라, AI를 부리는 리더가 똑똑해야 한다.