[이데일리 한전진 기자]엑스(X)의 인공지능(AI) 챗봇 ‘그록’이 성적 이미지 생성 논란으로 유럽에서 제재에 직면했다. 명령을 따르지 않으면 하루 최대 1억 7000만원의 벌금이 부과된다.

(사진=AFP)

<이미지를 클릭하시면 크게 보실 수 있습니다>

로이터통신 등에 따르면 네덜란드 암스테르담 법원은 26일(현지시간) “당사자의 명시적 동의 없이 신체를 노출시키는 성적 이미지를 생성하거나 유포하는 행위를 금지한다”고 판결했다. 또 아동을 성적으로 학대하는 콘텐츠 생성도 금지하도록 명령했다.

이번 판결에 따라 엑스의 인공지능 기업 xAI는 명령을 이행하지 않을 경우 하루 10만 유로의 벌금을 내야 하며, 총 벌금은 최대 1000만 유로(약 170억원)까지 부과될 수 있다. 법원은 명령 위반 시 그록의 엑스 플랫폼 내 서비스 차단도 함께 요구했다.

이번 소송은 네덜란드 비영리 단체 오프리미츠가 범죄 피해자 지원 단체와 함께 제기했다. xAI는 최근 심리에서 성적 이미지 생성 논란 이후 안전장치를 강화했다고 설명하며, 일부 악의적 사용자 행위까지 완전히 차단하는 것은 어렵다고 주장했다.

그러나 법원은 엑스와 xAI의 대응 조치가 충분하지 않다고 판단했다. 오프리미츠 측은 “동의 없는 성적 이미지나 아동 성착취 콘텐츠 생성에 자사 도구가 활용되지 않도록 할 책임은 기업에 있다”고 밝혔다.

이번 결정은 유럽연합(EU)의 디지털서비스법(DSA)에 따라 플랫폼의 불법 콘텐츠 관리 책임이 강화되는 흐름 속에서 나왔다.

EU 집행위원회는 그록의 성적 이미지 생성 논란과 관련해 지난 1월 조사에 착수했으며, 유럽의회와 회원국들도 AI 누드 생성 앱 규제 방안을 검토 중이다.