<이미지를 클릭하시면 크게 보실 수 있습니다>

딥페이크(인공지능 기반 이미지 합성) 성착취물을 만들어 유통시키는 가해자들이 이를 통해 수익을 창출하고 있는 것으로 나타났다. 실제 우리나라에서 중학생이 딥페이크 성착취물을 팔아 돈을 벌다가 경찰에 붙잡힌 사례도 확인됐다. 당국의 추적이 어려운 가상화폐로 결제가 이뤄지는 탓에 딥페이크 범죄가 음지에서 퍼지고 있다는 지적이 나온다.

동아일보 취재팀이 28일 소셜네트워크서비스(SNS) 텔레그램에서 딥페이크 성착취물을 유통 중인 대화방 10곳에 잠입해 거래 현황을 살펴봤다. 이 대화방에서는 비트코인 등 가상화폐를 이용해 음란물을 사고파는 거래가 이뤄졌다. 취재팀이 성착취물 구매를 희망하는 것처럼 가장해 결제를 시도하자 ‘46종의 가상화폐로 이용 가능하다’는 안내가 나왔다. 대화방에서는 ‘더 적나라한 성착취물을 구입하고 싶으면 좀 더 큰 금액을 지불하라’는 취지의 안내도 이어졌다.

딥페이크 범죄를 실제 돈벌이 수단으로 삼은 중학생이 경찰에 검거된 사례도 확인됐다. 2021년 7월 경북 구미의 중학교 3학년 A 군은 한 성착취물 제작자에게 15세 여학생 2명의 얼굴을 나체 사진에 합성해 달라고 의뢰했다. A 군은 이후 직접 딥페이크물 제작 방법을 터득한 뒤 아동청소년 성착취물을 비롯해 총 177건의 딥페이크물을 만들었다. 그는 자신이 만든 성착취물을 텔레그램 대화방에서 팔았다. 나아가 합성 사진을 당사자인 피해 여성에게 전송한 뒤 “알몸 영상을 찍어 보내라”고 협박했다. 결국 경찰에 붙잡힌 A 군은 재판에 넘겨져 지난해 11일 징역 2년에 집행유예 4년을 선고받았다.

전문가들은 이 같은 사례는 빙산의 일각이라고 지적한다. 일부 범죄 조직들은 몇천 원만 내면 성착취물을 자동으로 만들어주는 프로그램, 일명 ‘딥페이크 봇(bot)’으로 돈을 벌고 있기 때문이다. 성착취물로 수익을 올릴 수 있는 거래 구조가 유지되는 한 범죄는 사라지지 않을 것이라는 우려가 나온다. 황석진 동국대 국제정보보호대학원 교수는 “가상화폐가 불법 음란물 유통의 핵심 도구로 이용 중”이라며 “더 큰 금액을 지불할수록 더 높은 강도의 음란물을 받을 수 있다 보니 범인들이 떼돈을 버는 상황”이라고 지적했다.

코인 받고 ‘딥페이크 성착취물’ 다단계 거래… 추적 어려워


[돈벌이 된 딥페이크 성범죄]
퍼트릴수록 돈 더 버는 구조… ‘봇’ 통해 거래, 판매자 정체 몰라
텔레그램은 광고수익탓 방치… 전문가 “범죄수익 몰수대책 필요”

딥페이크 성착취물 범죄의 정점에는 ‘딥페이크봇’을 만들어 굴리는 이들이 존재한다. 이들은 인공지능(AI) 기술을 이용해 자동으로 가짜 이미지를 제작하는 프로그램을 만든 뒤 텔레그램 대화방을 운영한다. 그 아래는 이들에게 구입한 성착취물을 다단계식으로 되파는 일당들이 있다. 말단에는 잠재적 구매자들을 끌어오기 위해 ‘미끼’처럼 무차별적으로 성착취물을 퍼뜨리는 텔레그램 대화방 참여자들이 존재한다. 이들 사이의 거래가 모두 ‘가상화폐’로 이뤄지고 있다. 딥페이크 성착취물을 퍼뜨릴수록 돈을 버는 구조 탓에 관련 범죄가 확산되고 있는 것이다.

● ‘돈 더 내면 더 수위 높은 사진 구입’ 유도

텔레그램을 통해 딥페이크 성착취물을 거래할 때 가상화폐로 결제하는 단계에서 나타나는 화면. 아래 ‘Crypto’ 등이 가상화폐를 의미한다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

28일 동아일보 취재팀은 텔레그램봇으로 운영되는 한 대화방을 확인했다. 이 대화방은 실제 참가자들은 없고, 딥페이크봇 프로그램이 마치 운영자처럼 상주한다. 취재팀이 이 방에 접속하자 ‘여성의 사진을 합성하기 위해서는 다이아몬드를 구매하라’는 안내가 나왔다. 여기서 다이아몬드란, 일종의 가상 거래 수단인데 보통 ‘1다이아몬드=약 500원’으로 통용되고 있었다. 취재팀이 확인한 10개 이상의 텔레그램봇 방은 개당 이용자가 20만∼30만 명 정도였다. 이들 모두 비슷한 가상화폐 결제 방식을 쓰고 있었다.

취재팀이 접촉한 텔레그램봇들은 더 많은 대가를 지불하면 더 수위가 높은 성착취물을 구입할 수 있다고 홍보했다. 이들은 “당신만의 사진을 가져보세요. VIP의 특권임. 워터마크(일종의 표식) 없음” “더 나은 디테일을 경험하세요” “더 진짜 같은 사진” 등의 홍보성 문구를 계속 쏟아냈다. 구매자로 하여금 더 적나라한 성착취물을 비싼 가격에 구입하도록 유도하는 것이다.

하지만 구매자들은 실제 사람이 아니라 딥페이크봇을 통해 거래하기 때문에 내 돈이 누구한테 건너갔는지는 알 수 없다. 판매자의 진짜 정체도 드러나지 않는다. 취재팀이 관찰한 결과 이렇게 제작된 딥페이크 성착취물은 일명 ‘지인능욕방’ ‘겹지인방’ 등으로 확산, 유통됐다. 일종의 ‘공급자→도매시장→소매시장→소비자’로 연결되는 구조다.

● 범죄 수익 높아지면 텔레그램도 수익 증가

이 같은 구조에 대해 경찰 관계자는 “특히 잘 알려지지 않은 가상화폐로 거래한 경우에는 추적이 쉽지 않다”고 말했다. 일각에서는 텔레그램이 이윤을 창출하기 위해 이러한 범죄 구조를 방치하고 있다는 지적도 나온다.

성착취물을 거래하는 봇, 대화방, 결제창 등에는 상업 광고가 내걸려 있다. 이용자가 많을수록 텔레그램이 광고 수익을 많이 벌 수 있는 구조다. 마치 유튜브 영상 조회수가 높아질수록 영상 제작자와 유튜브 측이 함께 수익을 올리는 것과 같은 셈이다. 올해 4월 텔레그램은 1000명 이상이 이용하는 ‘텔레그램봇’ 제작에서 발생하는 수익의 절반을 가상화폐로 지급하겠다고 밝혔다.

취재팀이 확인한 딥페이크봇들은 20만∼30만 명 규모의 이용자를 보유하고 있었다. 이 봇들을 통한 성착취물 거래가 늘어나고 이용자가 증가할수록 텔레그램과 봇 제작자들의 수익은 커진다. 게다가 텔레그램이 발행하는 가상화폐가 주요 거래 수단으로 쓰이기 때문에 텔레그램이 얻는 이익은 더 클 것으로 예상된다.

● “범죄-수익 연결고리 깨야… 대책 필요”

전문가들은 이들의 범죄 수익을 몰수할 수 있는 대책이 필요하다고 지적했다. 범죄로 수익을 거두는 구조를 깨뜨려야 성착취물의 제작, 배포를 막을 수 있다는 뜻이다. 곽대경 동국대 경찰사법대 학장은 “딥페이크 성착취물 거래는 가상화폐를 이용하기 때문에 기존 은행 등 금융기관 시스템으로는 확인이 어렵다”며 “범죄 수익을 몰수할 수 있는 제도적인 장치를 만들어야 한다”고 말했다.

이윤호 고려사이버대 경찰학과 석좌교수도 “딥페이크는 성폭력처벌특례법 제14조의 2에 따라 반포와 판매만 처벌하도록 돼 있어 구매자를 처벌할 수 없다. 구매자들도 강력하게 처벌하는 쪽으로 법을 개정해야 한다”고 밝혔다. 황석진 동국대 국제정보보호대학원 교수는 “도박에 쓰인 가상자산을 범죄 수익으로 몰수할 수 있다는 2018년도 대법원 판례를 참고할 만하다”며 “딥페이크 범죄에 쓰인 가상자산도 충분히 몰수 대상이 될 수 있다”고 했다. 이어 “다만 추적이 어렵기 때문에 실제 몰수하기 위한 수단이나 장치가 필요할 것”이라고 덧붙였다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

손준영 기자 hand@donga.com
이수연 기자 lotus@donga.com
서지원 기자 wish@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지