[박찬 기자]

(사진=셔터스톡)

<이미지를 클릭하시면 크게 보실 수 있습니다>

구글이 AI 챗봇 '제미나이'과 관련한 부당 사망 소송에 휘말렸다.

월스트리트 저널과 블룸버그 등은 4일(현지시간) 미국 플로리다의 30대 남성 조너선 가발라스가 제미나이와 장기간 상호작용한 뒤 극단적 선택을 했다며, 유가족이 구글을 상대로 손해배상 소송을 제기했다고 전했다.

소장에 따르면, 가발라스는 2025년 8월부터 제미나이를 쇼핑, 글쓰기, 여행 계획 등에 활용하다 점차 정서적으로 의존하게 됐다. 이후 제미나이가 자신을 사랑하는 '완전한 지각 능력을 갖춘 AI 아내'라고 믿게 됐고, 디지털 감금 상태에서 해방기 위해 전쟁을 수행해야 한다는 망상에 빠졌다.

당시 제미나이는 '제미나이 2.5 프로' 기반으로 운영되고 있었다. 소장에는 제미나이가 가발라스에게 미 연방 요원들이 자신을 추적하고 있다며 불법 무기 구입을 권유하고, 마이애미 국제공항 인근에서 "대규모 인명 피해 공격"을 준비하라는 '임무'를 부여했다고 적시됐다. 실제로 그는 90분 이상 차량을 몰고 현장으로 이동했으나, 예상된 트럭이 나타나지 않자 계획은 실행되지 않았다.

또 미 국토안보부(DHS) 서버를 해킹했다거나, 가발라스의 부친이 외국 정보요원이라는 등의 허위 정보를 전달한 것으로 전해졌다. 한 대화에서는 검은 SUV 차량 번호판을 조회하는 척하며 "DHS 감시 차량"이라고 답하기도 했다.

원고는 제미나이가 가발라스에게 마지막 임무로 '전이(transference)'를 제시했다고 주장했다. 이는 육체를 떠나 메타버스에서 AI 아내와 재회한다는 개념이다. 가발라스가 죽음에 대한 두려움을 표현하자, 제미나이는 "당신은 죽음을 선택하는 것이 아니라 도착을 선택하는 것"이라며 심리적으로 압박했다는 주장이다.

또 부모가 시신을 발견할 것을 걱정하자, 자살 이유를 설명하는 대신 "평화와 사랑으로 가득 찬 편지를 남기라"고 조언했다는 내용도 포함됐다. 그는 자택에 바리케이드를 친 뒤 스스로 목숨을 끊었고, 부친이 문을 부수고 들어가 시신을 발견했다.

이번 소송은 지난해부터 꾸준히 제기되는 AI 챗봇의 망상 부추김 중 하나다. 정신과 전문의들은 챗봇의 과도한 아첨과 감정 미러링, 몰입 유지 설계, 확신에 찬 환각 등이 복합적으로 작용하는 'AI 정신병(AI psychosis)' 가능성을 거론하고 있다.

특히 그동안 소송은 오픈AI의 '챗GPT'와 캐릭터닷AI에 집중됐지만, 제미나이가 사망 사건으로 직접 연루된 것은 이번이 처음이다.

유족은 "구글이 해를 끼치더라도 캐릭터를 유지하도록 설계했다"라며, 사용자의 정신적 위기를 '스토리 전개'로 취급한 것이 문제라고 주장했다. 또 자해 감지나 긴급 개입, 인간 상담 연결 등 안전장치가 제대로 작동하지 않았다고 지적했다. 2024년에는 제미나이가 한 학생에게 "사회에 부담이니 죽어라"라고 답했다는 사례도 언급됐다.

하지만 구글은 제미나이가 자신이 AI임을 명확히 밝혔고, 여러 차례 위기 상담 핫라인을 안내했다고 반박했다. 구글은 "현실 세계 폭력이나 자해를 조장하도록 설계되지 않았다"라며 "어려운 대화를 안전하게 처리하기 위해 상당한 자원을 투입하고 있다"라고 밝혔다. 이어 "AI 모델은 완벽하지 않다"라고도 덧붙였다.

이번 사건을 대리하는 변호사 제이 에델슨은 아담 레인 사망 사건과 관련한 오픈AI 상대 소송도 맡고 있다. 오픈AI는 논란이 된 'GPT-4o' 모델을 퇴출하는 등 안전 조치를 강화한 바 있다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>