[앵커]

'딥페이크' 기술이 갈수록 발전하면서 온라인에서는 진짜보다 더 진짜같은 가짜 영상이 넘쳐나고 있습니다.

6월 지방선거를 앞두고 AI를 악용한 영상물이 더 확산할 것이란 우려가 큰데요.

정부가 가짜뉴스를 잡아내는 AI기술을 개발해 이번 선거부터 활용하기로 했습니다.

이재경 기자입니다.

[기자]

흰색 선거 유세용 어깨띠를 두른 후보자가 거리 연설에 나서고.

<AI 영상> "이 거리에서 여러분의 목소리를 듣겠습니다. 감사합니다."

전통시장을 돌며 상인들과 인사를 나눕니다.

실제 후보자의 선거운동 영상 같지만, 99.99%, '가짜' 영상입니다.

행정안전부와 국립과학수사연구원이 함께 개발한 'AI 딥페이크 탐지 모델'로 분석한 결과인데, 민간 전문가들을 대상으로 한 경진대회 수상자들의 기술을 접목해 탐지정확도를 92%까지 끌어 올렸습니다.

행안부는 6월 지방선거를 앞두고 이 기술을 활용해 가짜뉴스에 대응할 계획입니다.

중앙선관위에 따르면, 지난 2024년 총선 당시 388건이던 딥페이크 영상 삭제 요청 건수는 지난해 대선에서는 1만여 건으로 급증했습니다.

6월 지방선거를 앞두고도 딥페이크를 사용한 불법 선거운동이 최근 두 달 동안에만 벌써 3백 건이 적발됐습니다.

<윤호중 / 행정안전부 장관> "딥페이크로 의심되는 이미지나 영상이 포착되면 과학적 분석을 통해 조작 여부를 신속히 확인하고 관계기관이 즉각 대응할 수 있도록 하겠습니다."

행안부와 국과수는 관계 부처와 협력해 딥페이크를 활용한 성 착취물 등 디지털 범죄 대응에도 AI 딥페이크 탐지 모델을 활용할 계획입니다.

연합뉴스TV 이재경입니다.

[영상취재 김동화]

[영상편집 김세나]

[그래픽 김형서]

[화면제공 국립과학수사연구원]

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이재경(jack0@yna.co.kr)