미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다.

지난 9월 딥페이크 웹사이트 방문자 2400만명…성희롱 조장 광고도

<이미지를 클릭하시면 크게 보실 수 있습니다>

10일(현지시간) 블룸버그통신은 서비스형 소프트웨어기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 활용해 사진 속 인물의 옷을 벗기는 딥페이크 웹사이트를 방문했다고 전했다.

딥페이크는 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상 등을 의미한다.

그래피카에 따르면 올해 초 대비 9월에 엑스(X·옛 트위터)와 레딧 등 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수도 2400% 증가했다.

그래피카는 "이 같은 앱과 웹사이트의 인기는 AI의 발전으로 불과 몇 년 전보다 훨씬 '그럴듯한 이미지'를 만들기 때문"이라고 분석했다.

딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들어준다. 사진 속 인물은 대부분 여성을 활용한다. 또 상당수 앱은 여성의 이미지만을 변환할 수 있도록 만들어졌다고도 전해진다.

딥페이크 앱과 웹사이트가 인기를 끌수록 범죄에 악용될 수 있다는 우려가 커지고 있다. 대부분 당사자 동의나 인지 없이 나체 사진 같은 음란물을 만들어 배포하고 있기 때문이다.

실제로 엑스에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어서 다시 그 사람에게 보낼 수 있다며 성희롱을 조장하고 있었다.

또 다른 관련 앱은 유튜브에 광고 비용을 지불해 '벌거벗기다'(nudify)라는 단어를 검색하면 가장 먼저 표시되도록 했다.

"일반인이 일반인 대상으로 범죄"…구글·레딧·틱톡은 "단속 중"

딥페이크로 만든 버락 오바마 미국 전 대통령. [이미지출처=워싱턴대학]

<이미지를 클릭하시면 크게 보실 수 있습니다>

개인정보 보호 전문가들은 딥페이크 소프트웨어가 AI 기술의 발전으로 이용하기 더 쉽고 효과적으로 만들어지고 있다고 우려했다.

에바 갈페린 디지털 권리 옹호 단체 일렉트로닉 프론티어 재단 사이버보안국장은 "일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다"며 "고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다"라고 강조했다.

구글은 이 같은 문제에 대해 "노골적인 성적 콘텐츠는 허용하지 않고 있다"며 "문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제 중"이라고 전했다.

레딧 대변인도 "가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 다수의 도메인을 막았다"라고 말했다.

틱톡 역시 '옷 벗기'(undress)라는 키워드를 차단하고 있다고 밝혔다.



구나리 인턴기자 forsythia26@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>