/삽화=김현정 디자인기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

최근 생성형 AI(인공지능)를 활용해 음란 영상과 무관한 인물의 얼굴을 합성하는 '딥페이크'가 퍼지면서 피해자가 우후죽순 생기고 있다. 주로 소셜미디어와 모바일 메신저를 통해 이러한 딥페이크가 유포되는데, 각 플랫폼별로 각기 다른 삭제 절차 때문에 피해자들이 어려움을 겪고 있다. 국내외 주요 플랫폼에서 딥페이크 영상을 삭제할 수 있는 구체적인 절차들을 모아봤다.

━
피해자가 일일이 찾아서 신고해도…처리에 2~3일 걸려
━
유튜브, 인스타그램 등 해외 서비스마다 권리침해 신고 절차가 있지만, 비교적 까다롭고 게시물 삭제까지 시간이 걸린다. 때문에 신속하고 정확하게 신고하는 것이 중요하다.

유튜브 딥페이크 신고에 필요한 동영상 URL 추출 버튼. /사진=유튜브 캡처

유튜브는 영상 우측 하단의 '신고' 버튼을 누른 뒤 '내 권리 침해'를 선택하면 된다. 신고에 필요한 영상 주소를 얻기 위해선 영상에서 마우스 우클릭을 해 '동영상 URL 주소'를 확보해야 한다. 모바일 앱에선 영상을 전체보기로 설정한 뒤 하단의 '점 세 개'를 클릭해 신고하고, 쇼츠 영상은 우측 상단의 점 세 개를 클릭해 신고한다. 이후 신고절차에서는 "내 이미지가 나옵니다" 또는 "내 자녀가 나옵니다"에 채크하고, 동영상의 어느 위치에서 문제의 콘텐츠가 나오는지까지 직접 입력해야 한다. 추가정보 입력란에서 '딥페이크'라는 사실도 기재해야 한다.

페이스북 게시물 신고 카테고리. /사진=페이스북

메타에서 운영하는 페이스북과 인스타그램은 우측 상단의 점 세 개를 누르면 신고하기 버튼이 활성화된다. 이후 '나체 이미지' 또는 '스캠, 사기 또는 사칭'을 선택하면 된다. 인스타그램 릴스의 경우 점 세 개가 우측 하단에 있다. X(옛 트위터)는 우측 상단의 점 세 개를 클릭해 '게시 신고하기'를 활성화한 뒤 링크를 따라가서 해당 게시물의 URL과 신고사유 등을 입력해야 한다. 딥페이크는 '성적 허위영상물'을 선택하면 된다.

/사진=텀블러

<이미지를 클릭하시면 크게 보실 수 있습니다>

음란물이 가장 많이 유통되는 것으로 알려진 텀블러는 신고 절차도 가장 복잡하다. 텀블러 앱이 아닌 웹버전은 게시물 신고 버튼이 없고, '콘텐츠 신고'의 별도 페이지에 접속한 뒤 '신고양식' 링크를 클릭하고, '타인 사칭 또는 가식 행위→내 신상→원치 않는 성적 대상화' 또는 '사생활 침해→원치 않는 성적 대상화'를 선택한 이후 미리 복사해 둔 해당 게시물의 링크를 입력해야 한다. 별도의 고객지원 페이지에 상세한 내용을 써 직접 신고하는 방법도 있지만, 한국어로 쓰인 문의사항은 처리하지 않는다.

대부분의 해외 소셜미디어는 신고 즉시 게시물을 삭제하지 않고, 신고 내용을 고객센터에서 검토한 뒤 삭제 여부를 결정한다. 경우에 따라 신고자의 본인 여부 확인을 위해 신분증 사진을 요구할 때도 있다.

━
비교적 쉬운 네이버·카카오톡…신고 전 자체 검열도
━

AI로 음란물을 필터링하는 클로바 그린아이. /사진=네이버

<이미지를 클릭하시면 크게 보실 수 있습니다>

본사가 국내에 있는 NAVER(네이버)와 카카오는 비교적 딥페이크 삭제 절차가 간소하고, 삭제 속도도 빠른 편이다. 카페, 블로그, 밴드 등의 플랫폼을 운영하는 네이버는 이미지나 동영상 뿐만 아니라 텍스트 콘텐츠도 아동·청소년 대상 성범죄를 유도하는 내용으로 판단될 경우 신고 없이 즉시 삭제한다. 카카오가 운영하는 카카오톡과 브런치, 티스토리 등의 플랫폼 역시 마찬가지로 AI가 사전 필터링을 한다.

네이버 카페에서 AI 필터링에 걸리지 않은 딥페이크 등을 신고하려면 게시물 우측 하단의 '신고' 버튼을 누른 뒤 '명예훼손 또는 저작권 침해'나 '불법촬영물 포함' 등의 카테고리를 누르고 신고센터로 접속할 수 있다. 음란물은 '유해게시물 신고' 링크를 누르면 되고, 음란물이 포함되지 않은 딥페이크는 권리보호센터 링크를 통해 '명예훼손 및 초상권 침해 신고'를 진행하면 된다. 블로그와 밴드는 게시물을 클릭한 뒤 우측 상단의 '점 세 개'를 누르면 신고 버튼이 활성화된다.

카카오톡 오픈채팅에서는 우측 상단의 '가로줄 세 개'를 누르면 가장 하단에 나가기 버튼이 활성화된다. 이후 '신고하고 나가기'를 선택하고, 문제가 된 메시지들을 묶어서 신고할 수 있다. PC버전에서는 '가로줄 세 개'를 누르자마자 '신고하고 나가기' 버튼이 활성화된다. 브런치스토리는 우측 상단의 점 세 개를 누르면 나오는 사이렌 아이콘을 클릭하면 된다. 티스토리는 게시물 좌측 하단의 '구독하기' 옆 점 세 개를 누르면 신고하기 버튼이 활성화된다.

━
문제는 텔레그램…정부 "딥페이크 삭제 협의체 만들 것"
━

류희림 방송통신심의위원회(방심위) 위원장이 28일 오전 서울 양천구 방송회관에서 제22차 방심위 전체회의를 주재하고 있다. /사진=뉴스1

<이미지를 클릭하시면 크게 보실 수 있습니다>

딥페이크 음란물 삭제에 가장 미온적인 플랫폼은 모바일 메신저 텔레그램이다. 대화방 우측 상단의 점 세 개를 누르면 신고 버튼이 활성화되지만 이를 통해 신고해도 계정에 대한 제재가 없다시피 하다. 게시물이 삭제되는 경우도 흔치 않다.

이 때문에 방송통신심의위원회(방심위)가 텔레그램 등 해외 플랫폼 사업자들과 협의체 구성을 추진한다. 류희림 방심위원장은 28일 오전 서울 목동 방심위에서 긴급 전체회의를 열고 "종합대책을 논의·확정해 이 심각한 위협(딥페이크)의 퇴출에 나설 것"이라며 "삭제·차단 조치 관련 전자심의를 강화해 24시간 이내 조치할 수 있도록 시정을 요구하고, 이를 위해 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속한 삭제 차단 조치와 함께 자율적인 규제를 강력히 요청하겠다고 밝혔다.

이 같은 협의체가 실효성 있게 운영되려면 딥페이크 삭제에 미온적이거나 정부 방침에 따르지 않는 사업자에 대한 규제 수단이 필요하다는 목소리도 나온다. 한 국내 플랫폼 관계자는 "모니터링 전담 인력을 별도로 두는 국내 업체와 달리 글로벌 기업들은 소극적인 대처로 일관하고 있다"며 "딥페이크를 방치하다 반복적으로 적발될 경우 국내 사업을 영위할 수 없도록 하는 수준의 강력한 조치를 검토해야 한다"고 전했다.

최우영 기자 young@mt.co.kr 변휘 기자 hynews@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지