[AI리포터]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 오픈AI가 개발자들이 앱 제작 시 청소년에게 유해한 콘텐츠를 차단하고 안전한 환경을 구축할 수 있도록 돕는 프롬프트 기반의 청소년 보호 정책 세트를 오픈소스로 공개했다.

24일(현지시간) IT매체 테크크런치에 따르면, 오픈AI는 자사의 오픈 웨이트 안전 모델인 gpt-oss-safeguard에서 사용할 수 있는 안전 프롬프트들을 배포했다. 이 정책들은 그래픽 폭력, 성적 콘텐츠, 유해한 신체 이미지, 위험한 활동 및 챌린지, 로맨틱하거나 폭력적인 역할극, 연령 제한 상품 및 서비스 등 청소년에게 민감한 이슈들을 다루고 있다.

이번 안전 정책은 프롬프트 형태로 설계되어 오픈AI 생태계뿐만 아니라 다른 인공지능 모델과도 쉽게 호환되는 것이 특징이다. 오픈AI는 숙련된 개발팀조차 추상적인 안전 목표를 구체적인 운영 규칙으로 변환하는 데 어려움을 겪는다는 점에 착안하여, 보호 공백이나 과도한 필터링 문제를 해결하기 위해 명확하고 범위가 정의된 정책을 마련했다고 설명했다.

해당 프롬프트 작성에는 커먼 센스 미디어(Common Sense Media)와 에브리원.ai(everyone.ai) 등 AI 안전 감시 단체들이 참여했다. 커먼 센스 미디어의 로비 토니 AI 및 디지털 평가 부문 책임자는 이번 정책이 생태계 전반에 의미 있는 안전 기준을 설정하는 데 도움이 될 것이며, 오픈소스로 공개된 만큼 시간이 흐름에 따라 지속적으로 개선될 수 있다고 평가했다.

다만 오픈AI는 이번 정책이 AI 안전이라는 복잡한 과제에 대한 완벽한 해결책은 아니라고 덧붙였다. 최근 챗GPT 사용 후 자살한 이들의 유족으로부터 소송을 당하는 등 완벽하지 않은 안전장치에 대한 비판이 제기되는 상황에서, 이번 조치는 독립 개발자들을 돕고 청소년 보호를 위한 기초적인 안전망을 구축하려는 단계적 노력의 일환으로 풀이된다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>