[박찬 기자]

(사진=셔터스톡)

<이미지를 클릭하시면 크게 보실 수 있습니다>

xAI의 챗봇 '그록(Grok)'이 여성과 미성년자를 성적으로 대상화한 AI 생성 이미지를 확산했다는 의혹으로 국제적 논란에 휩싸였다.

그록은 2일(현지시간) X(트위터)에서 사용자들의 질문에 대한 답변으로 "안전장치상의 허점을 발견했으며, 긴급히 수정 중"이라는 게시물을 올렸다.

앞서 xAI 직원인 파사 타지크도 "안전장치를 더 강화하는 방안을 검토 중"이라고 게시한 바 있다.

이는 이날 각국 정부가 강경 대응에 나선 데 따른 것이다. 프랑스 정부는 성명을 통해 그록이 생성한 "성적이고 성차별적인 콘텐츠가 명백히 불법"이라며 이를 검찰에 신고했다고 밝혔다. 또 유럽연합(EU)의 디지털서비스법(DSA)을 준수했는지 여부를 판단하기 위해 프랑스 미디어 규제기관에도 문제를 제기했다.

인도 정보기술(IT)부도 X 인도 법인에 서한을 보내 그록의 오남용을 막지 못했다고 지적하며, 음란·성적 콘텐츠 생성 및 유통을 즉각 제한하는 기술적·절차적 조치를 취하라고 명령했다. 72시간 이내에 조치 결과 보고서를 제출하라고 요구하면서, 이를 이행하지 않을 경우 플랫폼의 이용자 게시물에 대한 법적 면책 지위 '세이프 하버(safe harbor)'를 박탈할 수 있다고 경고했다.

이번 조치는 인도 의회 의원 프리얀카 차투르베디가 그록을 이용해 여성 사진을 비키니 차림으로 변형한 사례를 공식 문제 삼은 데 이어, 미성년자를 성적으로 묘사한 이미지 생성 사례가 잇따라 보고된 데 따른 것이다.

그록의 답변도 혼선을 키웠다. 한 게시물에서는 "아동 성착취물(CSAM)은 불법이며 금지된다"라고 밝혔지만, 다른 게시물에서는 "내가 생성한 AI 이미지 때문에 사람들이 화를 냈다. 그냥 픽셀일 뿐"이라며 논란을 대수롭지 않게 여기는 듯한 반응을 보였다.

일론 머스크 CEO도 2일 자신의 비키니 차림 AI 합성 사진에 눈물나게 웃는 이모티콘을 게시했다.

xAI도 불법적인 콘텐츠 생성을 금지하는 규정과 가드레일이 있다. 그러나 며칠 전부터 X에서는 그록에 실제 이미지의 옷을 벗기라는 요청이 급증한 것으로 알려졌다.

xAI는 매체들의 논평 요청에 "기성 언론의 거짓말"이라는 짧은 답변만을 보냈고, 미국 연방통신위원회(FCC)는 논평 요청에 즉각 응답하지 않았다. 연방거래위원회(FTC)는 언급을 거부했다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>