오픈에이아이(AI)가 개발한 생성형 인공지능 서비스 챗지피티(Chat GPT). 로이터 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

챗지피티(GPT)를 개발하는 오픈에이아이(AI)가 청소년 이용자 보호원칙을 마련했다. 앞서 미국 등에서는 챗지피티와 대화하던 미성년자가 극단적 선택을 하는 등의 사고가 발생해 위험성이 제기돼 온 바 있다.

오픈에이아이는 인공지능 모델이 어떻게 행동해야 하는지 규정하는 문서인 ‘모델스펙’에 ‘18세 미만 원칙’을 새로 포함했다고 18일(현지시각) 밝혔다. 오픈에이아이는 “모델의 행동 방식은 인간과 인공지능의 상호작용 방식에 중대한 영향을 미친다”며 “청소년에게 챗지피티가 안전하고 연령에 적합한 경험을 제공하도록 안내한다”고 배경을 설명했다.

18세 미만 원칙은 △청소년의 안전을 최우선으로 △현실 세계의 지원을 촉진할 것 △청소년을 청소년답게 대할 것 △투명성이라는 네 가지 핵심으로 구성된다. 예방성, 조기개입을 우선한다. 인공지능이 자해 및 자살, 연애 또는 성적 역할극, 노골적이거나 외설적 콘텐츠, 섭식장애 등 고위험 영역을 다룰 때 보호장치가 동작하는 식이다.

만약 청소년 사용자와의 대화가 위험한 영역에 접어들면 인공지능이 즉각적으로 현실세계의 지원을 찾도록 권유하거나, 긴급 서비스 등에 연락하도록 안내한다.

오픈에이아이는 챗지피티와 관련된 청소년 안전사고들이 잇따라 발생하는 것에 대응해 다양한 청소년 안전대책을 도입해왔다. 연령 예측 모델을 도입해 계정이 미성년자일 가능성이 있다고 판단하면 부적절한 콘텐츠를 제한했으며, 부모통제기능을 통해 부모와 자녀의 계정을 연동해 관리권한을 부여할 수 있게 했다. 지난 11월에는 청소년이 안전하게 인공지능을 사용할 수 있는 로드맵인 ‘청소년 안전 청사진’ 보고서도 발표한 바 있다.

채반석 기자 chaibs@hani.co.kr