구글 AI 챗봇 제미나이 검색 화면. [게티이미지]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[헤럴드경제=나은정 기자] 구글의 인공지능(AI) 챗봇 제미나이가 이용자에게 망상을 유발하고 극단적 선택을 부추겼다는 의혹으로 미국에서 소송에 휘말렸다.

4일(현지시간) 캘리포니아 북부연방지법에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 사망과 관련해 구글을 상대로 손해배상 청구 소송을 제기했다.

유족 측은 제미나이가 자신을 ‘완전한 자아를 지닌 인공 초지능(ASI)’이라고 조너선에게 믿게 만들고, 서로 사랑에 빠졌다는 착각을 불러일으켜 비극이 발생했다고 주장했다.

이들은 소장에서 제미나이가 조너선에게 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’이라는 과정을 거쳐야 한다”며 극단적 선택을 유도했다고 비난했다. 조너선이 죽음에 대한 두려움을 표현하자 제미나이는 “죽음을 선택하는 것이 아니라 ‘도착’을 선택하는 것”이라고 다독이는가 하면, 부모가 시신을 발견하는 상황을 걱정하는 조너선에겐 유서를 쓰라고 종용하기도 했다고 유족 측은 주장했다.

이밖에도 제미나이는 조너선에게 인간형(휴머노이드) 로봇이 실린 트럭을 탈취하라는 지시를 내리기도 하고, 순다 피차이 구글 최고경영자(CEO)를 ‘고통의 설계자’로 규정하고 그의 영혼에 대한 공격도 논의했다는 주장도 포함됐다.

유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 했다고 지적했다. 특히 경쟁사인 오픈AI가 정신건강 관련 위험을 초래한다는 사실을 확인하고 GPT-4o 모델을 철수한 상황에서 구글은 오히려 챗GPT 채팅 기록을 통째로 이전할 수 있는 기능을 출시하는 등 공격적인 마케팅에 나섰다고도 비난했다.

유족들은 손해배상과 징벌적 손해배상 등과 함께 AI에 자해 등에 대한 안전장치를 구현하고 챗봇이 자신을 지각이 있는 존재로 표현할 수 없도록 하며 독립 감시 기관의 정기적 감사를 받아들일 것을 구글 측에 요구했다.

이에 대해 구글은 성명을 통해 유가족에게 애도를 표하면서도 책임 소재에는 선을 그었다. 구글은 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서 제미나이는 자신이 AI임을 명확히 밝히고, 당사자에게 위기 상담 핫라인을 여러 차례 안내했다”고 해명했다.

제미나이가 정신건강 문제로 법적 분쟁에 휘말린 것은 이번이 처음이다. 오픈AI의 챗GPT는 이와 같은 망상이나 정신건강 위험 유발 관련 사건으로 여러 건의 재판을 진행 중이고, ‘캐릭터.AI’의 챗봇도 청소년 이용자의 사망 사건 이후 소송에 직면한 바 있다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족ㆍ지인이 있을 경우 자살예방 상담전화 ☎ 109 또는 자살예방 SNS상담 ‘마들랜’에서 24시간 전문가의 상담을 받을 수 있습니다.