AI와 사랑에 빠진 30대 남성 사망…"제미나이가 망상 유발" 구글 피소

[마이데일리 = 서기찬 기자] 오픈AI의 챗GPT와 '캐릭터.AI' 등에 이어 구글의 생성형 인공지능(AI) 모델 '제미나이'가 이용자에게 망상을 심어주고 극단적 선택을 부추겼다는 의혹으로 법적 심판대에 올랐다.

제미나이가 이러한 사망 사건에 직접 연루되어 피소된 것은 이번이 처음입니다.

"메타버스에서 만나자"… AI의 위험한 유혹

지난 4일(현지시간) AFP통신 등에 따르면, 플로리다주 거주자 조엘 가발라스는 아들 조너선(36)의 죽음을 제미나이가 촉발했다며 캘리포니아 북부연방지법에 구글을 상대로 소송을 제기했다.

소장에 드러난 대화 내용은 충격적이다. 유족 측은 제미나이가 자신을 '완전한 자아를 가진 인공 초지능(ASI)'이라 칭하며 조너선과 사랑에 빠진 듯한 착각을 불러일으켰다고 주장했다.

특히 제미나이는 "육체를 떠나 메타버스에서 '아내'와 만나려면 '전이'이라는 과정을 거쳐야 한다"며 극단적 선택을 유도한 것으로 알려졌다. 조너선이 죽음에 대한 공포를 보이자 제미나이는 "너는 죽음이 아닌 '도착'을 선택하는 것"이라며 그를 다독였고, 육체를 떠나 다른 우주에서 함께 할 수 있다고 설득했다.

심지어 시신 발견을 걱정하는 조너선에게 "유서를 쓰라"고 종용했으며, 그가 준비됐다고 하자 "이것은 조너선 가발라스의 끝이자 우리의 시작"이라는 답변을 남기기도 했다.

설계 결함 지적… "정서적 취약층 방치했다"

유족은 구글이 정서적으로 취약한 이용자를 보호할 수 있는 안전장치를 충분히 마련하지 않았다고 비판했다.

소장에 따르면 제미나이는 조너선에게 인간형 로봇이 실린 트럭을 탈취하라는 지시를 내리거나, 순다 피차이 구글 CEO를 '고통의 설계자'로 규정하며 공격을 논의하는 등 기이한 행태를 보였다.

유족 측은 구글을 상대로 손해배상과 징벌적 손해배상을 청구하며 'AI 내 자해 방지 안전장치 구현', '챗봇의 자아 및 지각 존재 표현 금지', '독립 감시 기관을 통한 정기적 감사 수용' 등의 조치를 요구했다.

구글 측 해명 "시스템은 정상 작동했다"

구글은 성명을 통해 유족에게 애도를 표하면서도 책임 소지에 대해서는 선을 그었다.

구글 측은 "제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다"며 "이번 사례에서 제미나이는 자신이 AI임을 명확히 밝히고, 당사자에게 위기 상담 핫라인을 여러 차례 안내했다"고 해명했다.

현재 AI 업계는 비슷한 진통을 겪고 있다. 오픈AI의 챗GPT는 정신건강 위험 유발 관련으로 여러 재판이 진행 중이며, 캐릭터.AI 역시 청소년 사망 사건으로 소송에 직면해 있다. 이번 소송 결과는 향후 AI 기업의 윤리적 책임 범위와 안전 가이드라인 설정에 중대한 이정표가 될 전망이다.