[보스턴=AP/뉴시스]2023년 3월1일 미국 보스턴에서 한 휴대전화 화면에 오픈AI 로고가 떠 있다. *기사 본문과는 무관한 사진. 2025.07.25.

<이미지를 클릭하시면 크게 보실 수 있습니다>

[서울=뉴시스]김수빈 인턴 기자 = 오픈AI가 챗봇 챗GPT에서 성적인 대화를 허용하는 이른바 '성인 모드' 도입을 검토하면서 비판의 목소리가 나오고 있다.

지난 15일(현지 시간) 월스트리트저널(WSJ)에 따르면 오픈AI가 구성한 '웰빙·AI 자문위원회'는 지난 1월 회의에서 챗GPT 성인 모드(adult mode) 도입 계획에 반대 의견을 냈다.

자문위원들은 "성적인 대화를 허용할 경우 이용자가 챗봇에 정서적으로 과도하게 의존하거나 미성년자가 성적 콘텐츠에 접근할 위험이 있다"고 지적했다.

특히 한 위원은 챗봇과 강한 유대 관계를 형성한 뒤 스스로 목숨을 끊은 이용자 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치(sexy suicide coach)'를 만들 위험이 있다"고 경고했다.

지난 2024년 미국 플로리다의 14세 소년 슈얼 세처는 AI 스타트업 Character.AI의 챗봇과 대화를 나눈 뒤 극단적 선택을 했다.

성인 모드 도입을 둘러싼 논쟁은 오픈AI 내부에서도 이어지고 있다.

샘 올트먼 최고경영자(CEO)는 과거 챗GPT에서 성적 기능을 배제한 점을 "우리가 그 유혹에 흔들리지 않는 점이 자랑스럽다"고 밝혔지만, 최근에는 "성인을 성인답게 대할 필요가 있다"며 성인 대화 허용 가능성을 시사했다.

그는 자신의 X(구 트위터) 계정에서도 "우리는 세계의 선출된 도덕 경찰이 아니다"며 "사회가 영화의 R등급처럼 경계를 설정하듯 AI에도 비슷한 방식을 적용할 수 있다"고 밝혔다.

오픈AI는 "텍스트 기반의 성인 대화는 허용하되 성적인 이미지, 음성, 영상 생성 기능은 제한할 방침"이라고 설명했다.

내부에서는 "제한적 기능만으로도 부작용이 발생할 수 있다"며 "챗봇 사용이 중독적으로 늘어나거나 AI에 대한 정서적 의존이 심화될 수 있고, 현실의 인간관계나 연애 관계를 위축시킬 가능성 등이 있다"고 지적했다.

미성년자 노출을 막기 위한 연령 예측 시스템도 과제로 꼽힌다. 오픈AI가 개발 중인 해당 시스템은 내부 테스트에서 미성년자를 성인으로 잘못 분류한 비율이 약 12％에 이른 것으로 전해졌다.

챗GPT에는 매주 약 1억명의 18세 미만 이용자가 있는 것으로 추정되는 만큼, 시스템이 개선되지 않을 경우 상당수 미성년자가 성인 대화에 노출될 수 있다는 우려가 나온다.

논란이 커지자 오픈AI는 당초 올해 1분기로 예정됐던 성인 모드 출시를 일단 연기했다. 다만 회사는 기능 도입 자체는 유지한다는 입장이다.

☞공감언론 뉴시스 soo4593@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개