오픈AI 로고 이미지.

<이미지를 클릭하시면 크게 보실 수 있습니다>

성인 이용자라면 앞으로 챗GPT에서 성인 콘텐츠를 활용할 수 있게 된다. 챗GPT와 성적인 대화도 가능해지는 것이다. 성적 콘텐츠·민감한 정치 문제 등에 대답하지 않도록 그간 가드레일(안전판)을 구축해왔던 AI 개발사들이 최근 수익을 위해 콘텐츠 제한 장벽을 낮추고 있다.

샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지 시각) 소셜미디어에 글을 올려 성인 이용자라면 성적인 대화를 나눌 수 있는 새로운 버전의 챗GPT를 오는 12월 출시할 예정이라고 밝혔다. 그는 “연령 제한 기능을 완전히 도입하면서 ‘성인 이용자는 성인답게 대하자’는 원칙을 적용한다”며 “(연령이) 인증된 성인에게는 성적인 콘텐츠 같은 훨씬 더 많은 것을 허용할 것”이라고 했다. 이어 “그간 우리는 정신 건강 문제를 신중히 다루기 위해 챗GPT를 제한적으로 만들어왔는데, 이런 점이 많은 이용자들로 하여금 챗봇을 덜 유용하고 덜 재미있게 느끼게 한다는 점을 깨달았다”고 했다.

지난달 오픈AI는 ‘18세 미만 전용 챗GPT’를 출시했다. 사용자가 미성년자인 것으로 확인되면 자동으로 연령에 맞는 챗GPT 환경으로 안내된다. 아동에게는 아동에 맞는 콘텐츠를 제공하고, 여러 정신적 문제를 AI가 야기할 수 없도록 다양한 안전장치를 만든 만큼, 성인 이용자에게는 성인용 콘텐츠를 추가로 제공하겠다는 것이다.

성인용 콘텐츠, 성적인 대화를 제공하는 것은 챗GPT뿐만이 아니다. 일론 머스크 테슬라 CEO가 소유한 xAI는 지난 2월 말 새로운 음성 기능을 출시했는데, 일반 챗봇에서는 금지된 욕설과 공격적인 답변이 가능하다. 또 2D 애니메이션 캐릭터와 연애 역할극이나 성적인 대화, 영상 통화를 할 수 있는 성인용 AI 챗봇도 내놨다. 메타의 메타AI 역시 정치·사회 등 민감 주제에도 답변을 해왔고 성적인 대화도 가능하다.

AI 업계는 지난해까지만 해도 논란이 되는 주제에 대해 일정한 수준 이상의 답변을 하지 않도록 ‘가드레일’을 구축해 왔다. 성적인 대화에 답변하지 않거나 정치 관련 주제에 응답을 거부하는 것이다. 하지만 최근 AI 업계에서는 이 같은 기준을 하나둘 없애고 있다.

이 때문에 자극적인 챗봇을 만들어 이용자를 늘리고 결국 수익을 늘리려는 것이라는 비판이 나온다. 미 정치 매체 악시오스는 “AI 콘텐츠의 표현 수위에 대한 제한을 푸는 이런 움직임이 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 결국 사회적인 문제를 야기해 관련 법령 등 규제 압박을 높일 수 있다”고 지적했다.

[실리콘밸리=강다은 특파원]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -