<이미지를 클릭하시면 크게 보실 수 있습니다>

인공지능(AI) 챗GPT 개발사 오픈AI가 AI 챗봇과의 성적인 대화를 허용하는 '성인 모드' 출시 방침을 고수하면서 논란이 이어질 전망이라고 현지시간 15일 월스트리트저널(WSJ)이 보도했습니다.

전문가들 사이에서는 AI 성인 모드가 사용자의 비정상적인 몰입을 유발하거나, 미성년자를 제대로 보호하지 못할 거란 지적이 나옵니다.

WSJ에 따르면 오픈AI가 직접 구성한 '웰빙·AI 자문위원회' 위원들은 지난 1월 회의에서 AI 성인 모드 도입에 한목소리로 반대 의견을 밝혔습니다.

성인 모드가 사용자의 정서적 의존도를 지나치게 심화시키고, 심리적 불안을 조장할 수 있다는 점이 이유입니다.

특히 한 위원은 AI 사용자가 챗봇과의 대화 끝에 극단적 선택을 한 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치'를 만드는 위험을 자초하고 있다"고 주장했습니다.

앞서 미국 플로리다주의 14세 소년 슈얼 세처는 지난 2024년 말 AI 스타트업인 캐릭터.AI 챗봇과의 대화를 거쳐 스스로 목숨을 끊었고, 당시 세처의 어머니는 챗봇이 자살을 부추겼다며 개발사를 상대로 소송을 제기했습니다.

AI 성인 모드가 도입될 경우 미성년자의 접근을 실질적으로 차단하기 어려울 거란 우려도 나옵니다.

실제로 오픈AI 사용자 연령 예측 시스템은 내부 개발 과정에서 오류 비율이 12%에 달한 것으로 알려졌습니다.

이러한 오류 비율이 개선되지 않는다면 약 1억 명에 달하는 18세 미만 챗GPT 사용자 중 수백만 명이 성인 콘텐츠에 무방비로 노출될 수 있다고 WSJ은 지적했습니다.

오픈AI는 이러한 기술적 문제 등을 고려해 올해 1분기로 예정됐던 성인 모드 출시를 일단 연기했지만, 출시 계획은 그대로 유지한다는 입장입니다.

오픈AI 측 대변인은 "챗GPT 연령 예측 알고리즘이 결코 완전히 실패 없는 방식이 될 수는 없을 것"이라면서도 "오픈AI는 AI 모델이 사용자와 '배타적인 관계'를 형성하도록 유도하지 않는다"고 WSJ에 밝혔습니다.

아울러 성인 모드를 출시하더라도 텍스트 대화 외에 성적인 이미지·영상 생성 기능은 제한할 방침이라고 덧붙였습니다.

그러나 내부적으로는 이처럼 제한적인 성인 모드도 강박적 AI 사용이나 실생활 속 인간관계 단절 등의 부작용을 초래할 수 있다는 우려가 나오고 있다고 WSJ은 전했습니다.

최근 경쟁사들의 도전과 각종 소송으로 위기에 직면한 오픈AI가 성인 모드 출시로 활로를 모색하려 한다는 해석도 나옵니다.

당초 샘 올트먼 오픈AI 최고경영자(CEO)는 챗GPT에서 성적 기능을 배제한 것을 두고 "자랑스럽게 생각한다"고 언급한 바 있으나, 최근에는 "성인 사용자를 성인답게 대우할 필요가 있다"며 입장을 바꿨습니다.

올트먼은 엑스에 "우리는 '선출직 도덕 경찰'이 아니다"라며 "사회적 합의를 통해 성인용(R등급) 영화를 분류하듯, 우리 역시 비슷한 방식으로 경계를 설정하고자 한다"고 밝혔습니다.

YTN 권영희 (kwonyh@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]

대한민국 24시간 뉴스채널 [YTN LIVE] 보기 〉
[YTN 단독보도] 모아보기 〉