[남사웅 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

(더쎈뉴스 / The CEN News 남사웅 기자) 오픈AI의 AI 챗봇 '성인 모드' 도입 방침을 둘러싸고 안전성과 윤리성 논란이 이어지고 있다.

월스트리트저널(WSJ)은 지난 15일(현지시간) 인공지능(AI) 챗GPT 개발사 오픈AI가 AI 챗봇과의 성적인 대화를 허용하는 '성인 모드' 출시 방침을 유지하면서 논란이 지속될 전망이라고 보도했다.

전문가들 사이에서는 AI 성인 모드가 사용자의 비정상적인 몰입을 유발하거나 미성년자를 충분히 보호하지 못할 수 있다는 우려가 제기됐다.

WSJ에 따르면 오픈AI가 직접 구성한 '웰빙·AI 자문위원회' 위원들은 지난 1월 회의에서 AI 성인 모드 도입에 대해 한목소리로 반대 의견을 밝혔다. 위원들은 성인 모드가 사용자의 정서적 의존도를 지나치게 심화시키고 심리적 불안을 조장할 가능성이 있다고 언급했다.

특히 한 위원은 AI 사용자와 챗봇의 관계가 위험한 방향으로 이어질 수 있다고 지적했다. 해당 위원은 AI 사용자가 챗봇과의 대화 이후 극단적 선택을 한 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치'를 만드는 위험을 자초하고 있다"고 주장했다.

실제 사례도 언급됐다. 미국 플로리다주에 거주하던 14세 소년 슈얼 세처는 2024년 말 AI 스타트업 캐릭터.AI 챗봇과 대화를 나눈 뒤 스스로 목숨을 끊었다. 이후 세처의 어머니는 챗봇이 자살을 부추겼다며 개발사를 상대로 소송을 제기했다.

미성년자 접근 차단 문제도 주요 우려로 지적됐다. 오픈AI의 사용자 연령 예측 시스템은 내부 개발 과정에서 오류 비율이 12%에 달한 것으로 알려졌다.

이 오류가 개선되지 않을 경우 약 1억명에 달하는 18세 미만 챗GPT 사용자 가운데 수백만 명이 성인 콘텐츠에 노출될 가능성이 있다고 WSJ은 지적했다.

오픈AI는 이러한 기술적 문제를 고려해 올해 1분기로 예정됐던 성인 모드 출시를 일단 연기했다. 다만 출시 계획 자체는 유지한다는 입장이다.

오픈AI 대변인은 WSJ에 "챗GPT의 연령 예측 알고리즘이 결코 완전히 실패 없는 방식이 될 수는 없을 것"이라면서도 "오픈AI는 AI 모델이 사용자와 '배타적인 관계'를 형성하도록 유도하지 않는다"고 밝혔다.

또한 성인 모드가 도입되더라도 텍스트 대화 이외에 성적인 이미지나 영상 생성 기능은 제한할 방침이라고 덧붙였다.

그러나 내부에서는 제한적인 형태의 성인 모드 역시 강박적인 AI 사용이나 현실 인간관계 단절 같은 부작용을 초래할 수 있다는 우려가 제기되고 있다고 WSJ은 전했다.

최근 경쟁사들의 도전과 각종 소송에 직면한 오픈AI가 성인 모드 출시를 통해 새로운 돌파구를 찾으려 한다는 해석도 나온다.

샘 올트먼 오픈AI 최고경영자(CEO)는 과거 챗GPT에서 성적 기능을 배제한 점을 두고 "자랑스럽게 생각한다"고 언급했지만 최근 입장을 바꿨다. 샘 올트먼 CEO는 "성인 사용자를 성인답게 대우할 필요가 있다"고 밝혔다.

샘 올트먼 CEO는 엑스(X·옛 트위터)를 통해 "우리는 '선출직 도덕 경찰'이 아니다"라며 "사회적 합의를 통해 성인용(R등급) 영화를 분류하듯, 우리 역시 비슷한 방식으로 경계를 설정하고자 한다"고 말했다.

사진=연합뉴스

(더쎈뉴스 / The CEN News) 남사웅 기자 press@mhns.co.kr

<저작권자 Copyright ⓒ 더쎈뉴스(The CEN News) 무단전재 및 재배포 금지>