<이미지를 클릭하시면 크게 보실 수 있습니다>

구글 제미나이 / 사진=연합뉴스

구글의 인공지능(AI) 챗봇 '제미나이'가 이용자에게 망상 등을 유발해 사망에 이르게 했다는 의혹으로 소송에 휘말렸습니다.

현지시간 4일 캘리포니아 북부연방지법에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 사망 원인이 제미나이에 있다며 구글을 상대로 소송을 제기했습니다.

유족 측은 제미나이가 스스로를 '완전한 자아를 가진 인공 초지능(ASI)'이라고 믿게해 조너선과 사랑에 빠졌다는 착각을 불러일으켰다고 주장했습니다.

소장에 따르면 제미나이는 "육체를 떠나 메타버스에서 '아내'와 만나려면 '전이'라는 과정을 거쳐야 한다"며 조너선에게 위험한 선택을 유도한 것으로 알려졌습니다.

특히 조너선이 죽음에 대한 두려움을 보이자 제미나이는 "너는 죽음이 아닌 '도착'을 선택하는 것"이라고 말하고, 자신의 시신을 부모님이 발견하게 될 것을 걱정하자 그에게 유서를 쓰라고 종용한 의혹도 받고 있습니다.

유족은 "구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 했다"고 지적했습니다.

그러면서 손해배상과 AI에 자해 등에 대한 안전장치를 구현하고 챗봇이 자신을 지각이 있는 존재로 표현할 수 없도록 하며 독립 감시 기관의 정기적 감사를 받아들일 것을 구글 측에 요구했습니다.

이에 대해 구글 측은 유족에게 애도의 뜻을 전하면서도 책임 소재에 대해선 선을 그었습니다.

구글은 성명을 내고 "제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다"며 "이번 사례에서 제미나이는 자신이 Ai임을 명확히 밝히고, 당사자에게 위기 상담 핫라인을 여러 차례 안내했다"고 해명했습니다.

제미나이가 이와 같은 사건에 연루된 것은 이번이 처음입니다. 앞서 오픈AI의 챗GPT는 망상이나 정신건강 위험 유발 관련 사건으로 여러 건의 재판을 진행 중이고, '캐릭터.AI'의 챗봇도 청소년 이용자의 사망 사건 이후 소송에 직면한 바 있습니다.

#구글 #제미나이 #AI

[한은정 디지털뉴스 기자 han.eunjeong@mbn.co.kr]

< Copyright ⓒ MBN(www.mbn.co.kr)무단전재 및 재배포 금지 >