조치사항 안내 및 모니터링 강화...AI로 필터링

아프리카TV, 치지직 불법 콘텐츠 대응 현황/그래픽=이지혜

최근 딥페이크(이미지 합성) 합성음란물, 불법 촬영물 등이 SNS(소셜미디어) 등을 통해 확산되며 사회적 우려가 커지는 가운데, 국내 개인방송 플랫폼 아프리카TV와 치지직도 관련 대응에 박차를 가하고 있다.

2일 업계에 따르면 숲(SOOP, 옛 아프리카TV)이 운영하는 동영상 플랫폼 아프리카TV는 매월 음란물 및 성적 불법 촬영물 등에 대한 단속 및 형사고발 조치를 이용자들에게 안내한다. 숲은 전날 공지를 통해 "아프리카TV는 음란물 및 불법 촬영물 방송은 허용되지 않는다"며 "이에 대한 모니터링 및 엄격한 단속, 규제를 시행해 서비스 제한 조치와 관련자에 대한 형사고발 조치 등 강력 대응하고 있다"고 했다.

규제 대상은 음란물 송출 및 음란성 방송 제목 기재 행위, 성적 욕망 또는 사람의 신체를 상대의 의사에 반해 촬영하는 행위, 아동·청소년 관련 성적 행위 등이다. 적발 시 서비스 영구정지 및 형사고발 조치한다. 숲은 높은 수준의 모니터링 시스템을 갖췄다. 회사에 따르면 모니터링 전담 인력만 100여명에 달하며, 24시간 근무 체계를 통해 실시간 대응한다.

숲은 지난 4월부터 방송통신위원회와 '디지털 성범죄 불법 촬영물 유통 방지 예방 캠페인'도 시행중이다. BJ(인터넷방송인), 시청자들에게 성적 불법 촬영물에 대한 개념을 알려주고, 적발 시 신속한 신고 및 삭제에 대한 가이드라인을 안내하는 것이 골자다. 디지털 성범죄 예방 영상도 제공한다.

네이버는(NAVER) 음란물 필터링 강화를 위해 AI(인공지능) 기술인 '엑스아이'(X-eye)를 치지직에 적용해 대응하고 있다. 네이버에 따르면 엑스아이가 유해 사진 및 동영상을 걸러낼 수 있는 확률은 98.1%에 달한다. 직원이 놓치거나 늦게 발견해 조치를 취할 때까지 유해물이 노출될 수 있는 허점을 보완할 수 있다. 엑스아이는 현재 치지직의 VOD(주문형비디오), 채팅에 적용했다. 향후 라이브영상까지 적용 범위를 확대할 계획이다.

또 네이버는 음란물 등 불법 콘텐츠 신고 창구 운영을 지난달 28일부터 시작했다. 네이버는 신고 채널에서 △성범죄에 해당하는 내용 △아동·청소년 보호를 저해하거나 청소년 유해 또는 음란성 게시물에 해당하는 내용 △본인의 명예를 훼손하거나 초상권 등 권리를 침해하는 내용 △공직선거법 등 선거 관련 법을 위반하는 내용 등 4가지 종류의 불법 콘텐츠 신고를 받는다.

네이버 역시 24시간 모니터링으로 유해 콘텐츠 필터링을 강화하고 있으며, 위반 사항이 반복되는 스트리머의 계정을 영구 정지하거나 채널 비공개 전환 등의 조치를 취하고 있다.

한편 카카오도 지난달 29일부터 카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견한 경우 △불법 촬영물 등 신고 바로가기 △유해 정보 신고 바로가기 링크에 접수해 신고할 수 있도록 했다.

김승한 기자 winone@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지