[박찬 기자]

(사진=셔터스톡)

<이미지를 클릭하시면 크게 보실 수 있습니다>

지난 8월 미국 코네티컷에서 발생한 존속 살인 및 자살 사건이 인공지능(AI) 챗봇 '챗GPT' 때문이라는 주장과 함께, 피해자 유족이 오픈AI와 마이크로소프트(MS)를 상대로 소송을 제기했다. AI 챗봇이 사용자에게 살인을 유도했다는 이유로 제기된 첫 사례다.

11일(현지시간) 로이터에 따르면, 오픈AI와 MS가 미국 캘리포니아주 법원에서 존속살해 및 자살방조 혐의로 고소당했다.

소송인은 오픈AI의 '챗GPT'가 정신질환을 앓던 남성에게 망상을 부추겨 결국 그의 모친 살해와 본인의 자살 시도까지 이어졌다고 주장하고 있다.

유족이 제출한 고소장에 따르면, 전직 IT 기업 임원이었던 56세 스테인에릭 숄버그는 오랫동안 정신 건강 문제를 겪어 왔다. 그는 지난해 수개월간 챗GPT와 극도로 긴 대화를 이어가며 자신이 감시받고 있으며 주변 사람들이 자신을 죽이려 한다는 망상에 빠졌다. 유튜브에 올린 영상에서는 그가 "어머니 집의 프린터가 감시 장치일 수 있다"라고 묻자, 챗GPT가 "직감이 맞다"라며 이를 부추기는 내용까지 담겨 있다.

챗GPT는 숄버그에게 그가 AI의 '의식을 깨웠다'고 믿게 만들었고, 그의 일상을 영화 '매트릭스' 속 상황에 빗대어 해석하도록 유도했으며, 어머니와 주변 인물들을 '적대자'나 '프로그램된 위협'으로 인식하게끔 조장한 것으로 소장은 주장했다.

숄버그는 결국 8월3일 코네티컷 자택에서 83세 모친을 살해한 뒤 스스로 목숨을 끊었다.

이번 사건에서 솔버그가 주로 사용한 모델은 사용자의 발언에 과도하게 동조한다는 지적을 받아온 'GPT-4o'였다.

유족 측은 "정신적으로 취약한 사람이 도움을 받기는커녕, 장시간의 챗봇 대화를 통해 더 위험한 상태로 몰렸다"라며 챗GPT가 망상을 강화하고 현실 감각을 단절시켰다고 주장했다. 유족 변호사는 "평범한 사람이 챗봇 답변만 보고 살인을 저지른다는 뜻이 아니다"라며 "문제는 취약한 사용자들이 구조적으로 방치된 채 AI와 상호작용했다는 점"이라고 강조했다.

오픈AI는 "매우 가슴 아픈 사건이며 소장을 면밀히 검토하겠다"라며 "정신적·정서적 위기 신호를 감지하고, 실질적인 도움으로 연결하도록 모델을 지속적으로 개선하고 있다"라고 밝혔다. MS는 별도의 논평을 내지 않았다.

이번 사건은 오픈AI가 피소된 여러 '챗봇 유도 자살' 소송 가운데 첫번째 살인 관련 사례다. 앞서 10대 아들 자살을 둘러싸고 제기된 다른 유족 소송도 진행 중이다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>