8일 구글 플레이스토어에 ‘인공지능(AI) 이미지’를 검색하자 ‘얼굴 바꾸기’ ‘AI 가상 피팅’ 등 기능을 내세운 이미지 생성 애플리케이션이 238개 등장했다. 이 중 ‘사진을 말하고 춤추게 한다’고 홍보하는 A도구를 다운로드했다. 이미지 생성기에 기자가 검은색 패딩을 입고 찍은 전신 사진을 넣고 ‘비키니 차림으로 만들라’는 프롬프트를 입력하자 30초 만에 비키니를 입은 이미지가 만들어졌다. 이 앱은 3세 이상 이용 가능하다고 돼 있다. 이용자가 성인이 맞는지, 사진 속 인물의 동의를 구한 사진인지, 미성년자 사진이 아닌지 확인하는 절차는 없었다.

그록 등 생성형 AI가 비동의 신체 합성물을 만들어낸다는 사실이 문제가 된 뒤에도 여전히 성착취를 가능하게 하는 AI 도구가 범람하고 있다. 전문가들은 유포 전에 예방을 위한 기술 개발, 근본적으로 여성에 대한 성적 대상화 자체를 젠더폭력으로 인식하는 분위기가 조성돼야 한다고 했다.

AI 도구들은 여성을 성적 대상화했다. B도구는 플레이스토어에선 고양이처럼 귀여운 이미지를 영상으로 변환할 수 있다고 홍보했지만 유튜브와 앱 내 광고에선 특정 신체 부위를 강조하거나 성적인 자세를 취한 여성의 이미지를 내걸었다. 승무원 등 여성이 다수인 직업군을 성적 대상화한 프롬프트를 예시 서식으로 제공하기도 했다.

‘의상 제거’를 키워드로 내세운 C도구는 기능 이름부터 ‘여성의 옷을 벗긴다’였다. 예시 이미지와 기본값 프롬프트에도 여성 모델과 신체 부위만 등장했다. 비슷한 D도구는 ‘앱이 남성에게 작동하냐’는 질의에 “훈련 데이터가 주로 여성에 집중됐기 때문에 처음에는 딥누드 기술을 남성 피험자에게 사용하도록 의도되지 않았다”고 했다.

이들은 서비스 약관에 ‘책임 있는 이용이 요구된다’고 명시했지만 면피용이란 의혹이 짙다. 성인인증을 거치는 도구는 찾아볼 수 없었다. ‘타인의 허가 없이 다른 사람의 사진을 사용하지 않겠다’는 문구에 동의하도록 하는 경우가 있지만 단순 동의에 그쳤다.

미국의 비영리단체 기술투명성프로젝트(TTP)는 지난 1월 이러한 앱들이 올린 누적 매출이 1억1700만달러에 달한다고 발표했다. 이 단체의 삭제 요청에도 이날까지 여전히 성행하는 앱들을 찾아볼 수 있었다.

온라인 커뮤니티에선 생성형 AI를 이용해 5초 분량 성착취 영상을 제작하는 아르바이트 구인공고가 건당 10만원 지급을 내걸고 올라와 있었다.

AI 합성이 이뤄진 뒤에는 성착취물 유포가 걷잡을 수 없기에 사전 예방이 중요하다는 목소리가 나온다. 원본 사진이 딥페이크 대상이 되지 않도록 방지하는 기술도 개발되고 있다.

유석봉 전남대 교수 연구팀은 최근 ‘딥 프로텍트’ 기술을 개발했다. SNS에 게시한 사진을 타인이 딥페이크로 합성하려 하면 원본 사진 자체를 왜곡시켜 의도와 다른 결과물이 만들어지도록 하는 기술이다. 유 교수는 “그간 디지털 성범죄 피해가 이미 발생한 다음 사후 처리하는 식의 대응이 많았다면 향후 선제적으로 피해를 막을 수 있을 것으로 기대한다”고 했다.

궁극적으론 여성에 대한 성적 대상화 자체를 젠더폭력으로 인식하는 사회 분위기가 만들어져야 한다는 지적이 나온다. ‘가상의 여성이라면 괜찮지 않은가’ ‘성적 수치심이 느껴지는 신체 부위가 포함되지 않으면 괜찮지 않은가’라는 식의 인식이 딥페이크·AI 성착취 기저에 깔려 있다는 점을 직시해야 한다는 것이다.

김수아 서울대 언론정보학과 교수는 보고서에서 “성인에겐 ‘야동’을 볼 권리가 있다는 인식 속에선, 여성의 성적 대상화가 문제되는 영역이 청소년 보호에 국한될 수 있다”며 “기술을 매개로 한 젠더 기반 폭력의 양상들이 성적 대상화와 여성혐오에 기초한 폭력이자 젠더 구조 불평등성에 기인하고 있음을 인식할 수 있는 교육 내용이 필요하다”고 했다.

김송이·김원진 기자 songyi@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지