챗 GPT로 생성한 딥페이크 관련 이미지

<이미지를 클릭하시면 크게 보실 수 있습니다>

[헤럴드경제=박준규 기자] 주변 지인의 얼굴을 나체 사진과 합성해 만든 딥페이크(Deep fake) 불법 합성물이 대학생 단체 채팅방을 통해 퍼져나가는 등 디지털 성범죄가 그치질 않는 가운데, 경찰이 ‘딥페이크 탐지 시스템’의 신뢰도를 대폭 높이고 나아가 전국 시도청에도 도입하는 방안을 검토하고 있다.

22일 경찰에 따르면 경찰청이 올해 초 도입해 활용하고 있는 딥페이크 탐지 소프트웨어의 고도화 등의 작업을 위한 내년도 예산 10억원 가량을 기획재정부에 요청한 것으로 파악됐다. 지난해 탐지시스템을 개발하면서 지출한 예산(1억5000만원)보다 6배 이상 늘어난 수준이다.

이 예산은 날로 정교해지는 인공지능(AI) 기술을 적용한 불법 합성물이 등장하면서 시스템의 탐지 역량을 고도화하는 작업에도 투입할 예정이다. 나아가 경찰청은 현재 본청에서만 운용하는 탐지시스템을 전국 시도청까지 확대할 계획이다.

딥페이크 탐지 시스템은 현재 경찰청만 유일하게 운용하고 있다. 각 시도청 사이버범죄수사대는 수사 과정에서 범죄 혐의가 있는 합성물(영상·이미지)이 딥페이크 기술로 조작된 영상인지를 파악하기 위해 본청에 감정을 의뢰한다. 본청은 시스템을 활용해 탐지하고 분석보고서를 작성해 각 수사부서에 제공한다.

올해 3월부터 6월 말까지 경찰청은 딥페이크로 의심되는 합성물 105건을 감정했다. 수사팀은 딥페이크 합성물이라는 판단을 근거로 제작자와 유포자 등에 대한 수사를 벌인다. 현재 경찰은 피해자의 사회관계망서비스(SNS)에 게재된 얼굴 사진을 음란 영상과 합성한 불법 영상물을 텔레그램 대화방에서 유포한 A씨를 조사하고 있다. 이 과정에서 텔레그램에 유포된 합성물을 탐지 시스템을 통해 감정했고, 딥페이크가 맞다는 결과를 토대로 피의자를 특정하는 작업을 벌이고 있다.

딥페이크 영상 탐지 화면. 탐지 결과 ‘페이크(Fake)’가 나오면 해당 영상이 딥페이크 합성물이라는 뜻이다. [딥브레인AI]

<이미지를 클릭하시면 크게 보실 수 있습니다>

영상이나 이미지를 탐지하는 데 걸리는 시간은 짧으면 수십 초, 길어도 수 분에 불과하다. 하지만 현재 시스템의 탐지율은 70~80% 수준이어서 탐지 결과만으로 불법 확신물임을 확신하고 수사를 이어가기엔 제약이 있다. 때문에 탐지 신뢰도를 높이기 위해 경찰은 외부 인공지능(AI) 전문업체에 교차검증을 의뢰하기도 하는데 이 경우 수사에 시간은 더 소요된다.

일선 시도청 수사부서에서는 탐지 시스템을 직접 운영하면서 보다 빠르게 수사에 활용하길 희망해왔다. 경찰청 관계자는 “시스템 자체의 탐지율 등을 고도화하는 작업이 필요하고 본청이 딥페이크 탐지를 일괄해서 진행하기보단 (각 시도청에서) 자유롭게 활용할 필요가 있다고 판단하고 있다” 말했다.

다만 경찰이 제출한 내년도 예산 요구서는 초안이어서, 현재 진행 중인 기재부 심의와 국회 논의를 거치면서 더해지거나 줄어들 수 있다. 경찰은 딥페이크 탐지 시스템을 전국 시도청에 일괄 도입해 활용하게 할 것인지, 2~3년에 걸쳐 단계적으로 확대해 나갈지 등의 세부 방안을 검토하고 있다.

nyang@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.