생성형AI로 불법 합성물 제작 활개
명령어 입력에 연령 확인절차 없어
미성년들도 수십초 만에 범죄자로
익명성 강한 일부 메신저 영향도

<이미지를 클릭하시면 크게 보실 수 있습니다>

#. 고등학생 A씨는 최근 친구로부터 "이상한 영상이 돌고 있다"는 메시지를 받고 충격에 빠졌다. 학교 친구들과 이용하는 단체 메신저방에서 A씨의 SNS 사진이 성적 딥페이크 영상으로 변조돼 유포된 것이다. A씨는 즉시 경찰에 신고하고 삭제를 요청했지만 고통은 사라지지 않았다. 그는 현재 학교도 그만둔 채 전문기관에서 상담을 받고 있다.

지인 사진을 성적 합성물로 제작·유포하는 딥페이크 범죄가 10·20대를 중심으로 활개 치고 있다. 간단한 절차만 거치면 누구나 생성형 인공지능(AI)으로 불법 합성물을 만들 수 있는데다가, 일부 메신저의 강한 익명성이 관련 범죄를 부추기는 양상이다. 전문가들은 딥페이크 범죄에 대한 처벌을 강화하고 피해자 지원 체계를 확대해야 한다고 강조했다.

10일 파이낸셜뉴스 취재를 종합하면, 딥페이크 관련 텔레그램방에서는 사진을 올린 후 10~20초 만에 AI기반 불법 합성물이 제작되는 것을 확인할 수 있었다. 불법 합성물의 수위는 요청자가 직접 설정할 수 있었고, 결제는 알리페이·페이팔·신용카드 등으로 간편하게 이뤄졌다.

해당 텔레그램방 이외에도 제작 규제가 느슨한 모델이나 소스코드·데이터셋이 공개된 오픈소스 AI를 활용하면 지인의 사진 한 장 만으로도 각종 성적 합성물을 손쉽게 만들 수 있다. 가령 이미지 특화 생성형 AI에 인물 사진을 넣고 탈의나 특정 성적 행위 등 명령어를 입력하면, 이에 맞춰 실제 같은 자연스러운 영상을 얻을 수 있는 상황이다.

그러나 요청자의 연령대나 신분을 확인하는 절차는 없었다. 이 때문에 최신 기술에 익숙하고 호기심이 왕성한 10·20대도 딥페이크 제작·유포에 쉽게 접근할 수 있는 것으로 분석된다. 다만 취재 과정에선 성적·불법 합성물을 직접 제작하지 않고, 가능성만 확인했다.

경찰청 국가수사본부에 따르면 지난해 11월부터 지난 10월까지 발생한 사이버성폭력 3411건 가운데 딥페이크 범죄가 1553건(35.2%)으로 가장 큰 비중을 차지했다. 이 중 10대와 20대 피의자 비율은 각각 61.8%, 30.2%였다. 중앙디지털성범죄피해자지원센터가 낸 통계에서는 지난 1년간 접수된 딥페이크 피해자 중 10대가 46.4%, 20대가 45.9%였다. 피의자와 피해자 모두 10·20대에 쏠린 셈이다.

딥페이크 범죄는 협박·금품 갈취 등 2차 범죄로 확산하는 양상까지 보이고 있다. 김미순 중앙디지털성범죄피해자지원센터장은 "이제는 단순 합성을 넘어 가해자들이 동영상 유포를 빌미로 금전을 요구하거나 '친구들에게 뿌리겠다', '부모에게 알리겠다'며 협박해 피해자를 통제한다"며 "10대는 또래 관계에서의 피해를 어른에게 알리기 어렵고 신고나 법적 대응에도 익숙하지 않아 범죄가 은밀하게 반복되는 경향이 있다"고 덧붙였다.

딥페이크 범죄가 고도화되면서 사후 피해자 지원 등 대응 체계의 중요성이 커지고 있다. 중앙디지털성범죄피해자지원센터는 여성가족부 산하 디지털 성범죄 피해자 통합지원기관으로서 신고 접수, 피해자 상담, 피해 영상물 삭제 지원, 무료 법률·의료 지원을 제공하고 있다. 딥페이크 피해가 확산하던 지난해 8월에는 '딥페이크 성범죄 전담팀'을 구성해 1년간 1807명의 피해자를 지원했으며, 경찰청·교육부·방송통신심의위원회 등 관계부처와의 협력도 강화했다.

경찰은 디지털 성범죄 대응 강화를 위한 투자를 확대하고 있다. 경찰청은 2026년도 예산 편성에서 디지털 성범죄 위장수사 장비에 1억2000만원, 가짜 영상 탐지 고도화에 2억5000만원을 증액했다. 또한 허위조작콘텐츠 판별 기술 등 연구개발 예산도 34억3000만원 증액해, 전체 관련 예산은 59억5000만원에서 97억5000만원으로 늘었다.

전문가들은 디지털 성범죄 처벌 강화와 함께 교육 개선도 필요하다고 지적한다. 홍세은 한국형사법무정책연구원 연구기획실장은 "딥페이크 범죄의 법정형은 강화됐지만, 실제 법원에서 선고되는 형량은 여전히 집행유예나 1~2년 수준에 그치는 경우가 많다"며 "왜곡된 성 인식은 물론 젠더 갈등 속에서 비하와 조롱이 성범죄로 이어지는 문화를 바로잡는 교육을 병행해야 한다"고 했다.

psh@fnnews.com 박성현 장유하 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.