컨텐츠 바로가기

03.28 (목)

포르노에 여성 얼굴 ‘불법 합성 영상’ 유포…1년 새 71% 급증

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다

방심위, 올 들어 ‘성적 허위영상’ 1408건 차단·삭제 조치

[경향신문]

AI로 얼굴 합성 변조 ‘딥페이크’ 기술 활용…하반기 더 늘어날 전망
처벌 강화에도 범죄 되레 증가…가해자·피해자 연령도 낮아지는 추세
현행법에 AI 악용 관련 규정 없어…피해 구제 위한 기술 규제 목소리

방송통신심의위원회(방심위)가 지난해 6월 ‘성폭력범죄의 처벌 등에 관한 특례법’ 개정안 시행 이후 딥페이크를 활용한 불법합성물 약 2000개를 차단·삭제 조치한 것으로 확인됐다. 딥페이크는 인공지능 기반 얼굴 합성 변조 기술을 말한다.

27일 경향신문이 국회 과학기술정보방송통신위원회 소속 김상희 더불어민주당 의원을 통해 확보한 자료를 보면 방심위가 지난해 6월부터 이달까지 차단·삭제를 지시한 ‘딥페이크 성적 허위영상’(불법합성물) 수는 1956건에 이른다. 연도별로는 지난해 6~12월 548건, 올 1~9월 1408건이 차단·삭제 조치됐다. 월평균 조치 건수는 지난해 91건, 올해 156건으로 약 71.4%가 증가했다.

지난 1월 제4기 방심위원 임기 만료 이후 야당이 위원 추천을 거부하며 6개월 넘게 공백이 이어졌다는 점을 감안하면, 불법합성물 적발·조치 건수는 하반기에 더 증가할 것으로 예상된다고 김 의원실 관계자는 설명했다.

딥페이크 범죄 유형은 사회관계망서비스(SNS)와 채팅 메신저를 통해 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 불법합성물을 제작하는 사례가 다수를 차지했다. 김 의원실이 경찰청에서 받은 ‘불법합성물 집중 단속 주요 사례’에 따르면 전북에서는 2019년 10월부터 지난 1월까지 SNS로 의뢰받은 여성 23명의 개인정보와 사진을 딥페이크로 제작·유포한 A씨가 검거됐다. 부산에서는 2020년 6~7월 연예인 150여명의 얼굴을 딥페이크로 타인의 신체 사진과 합성해 판매한 B씨와 C씨가 검거됐다. 대전에서는 지난 1월부터 3월까지 메신저로 구매자들에게 제작 의뢰를 받아 70여명의 연예인과 일반인의 사진을 불법합성해 판매한 혐의로 D씨가 경찰에 넘겨졌다.

딥페이크 범죄에 대한 처벌은 지난해 6월25일 개정 ‘성폭력범죄의 처벌 등에 관한 특례법’이 시행되면서 강화됐다. 개정법은 딥페이크 영상물을 제작·반포·상영한 자를 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’으로, 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 ‘7년 이하의 징역’으로 가중 처벌하도록 했다. 그전까지는 불법합성물에 대한 처벌 규정이 미비해 명예훼손 또는 음란물 유포 등의 요건을 충족해야만 처벌할 수 있었다.

처벌은 강화됐지만, 딥페이크 범죄 적발 건수는 줄지 않고 있다. 가해자와 피해자 연령대도 계속해서 낮아지는 추세다. 이 때문에 피해 구제를 위한 기술 규제가 필요하다는 목소리가 나온다. 현행 ‘지능정보화 기본법’ 제31조와 제60조에 따르면 ‘인공지능(AI) 등 지능정보기술’이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고, 필요하다면 국가가 그 기술을 비상 정지하게 돼 있다. 그러나 이 같은 조치가 시행된 적은 없다. ‘사람의 생명 또는 신체에 대한 긴급한 위해’라는 조건이 현실과 동떨어져 개선책이 필요하다는 지적이 제기된다.

김 의원은 “현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 처벌 규정이 없다”며 “지능정보기술을 심각하게 악용한 경우 기술의 사용을 제한하거나 중지할 수 있게 해야 한다”고 말했다.

이유진 기자 yjleee@kyunghyang.com

▶ [뉴스레터] 식생활 정보, 끼니로그에서 받아보세요!
▶ [뉴스레터]교양 레터 ‘인스피아’로 영감을 구독하세요!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지

기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.