순식간에 딥페이크 '뚝딱'…탐지기술 어디까지

[앵커]

이제 사회문제가 된 딥페이크 성범죄는 디지털 기술의 부작용이라고 할 수 있는데요.

문제의 딥페이크 영상들은 단 몇 초 만에 만들 수 있습니다.

은밀성이 강조되는 플랫폼에서 이뤄지는 만큼 딥페이크 영상의 진위 여부를 가려내는 기술이 절실한데요.

현재 어디까지 와 있는지, 문형민 기자가 취재했습니다.

[기자]

<딥페이크 영상> "4월에 급등한 우량주 3개를 무료로 공유해드립니다."

축구선수 손흥민이 나오는 이 영상.

투자사기에 쓰인 AI 딥페이크 광고입니다.

디지털 기술이 빠르게 발전하면서 이런 영상을 만드는 건 어렵지 않은 일이 됐습니다.

<문형민 기자> "딥페이크 동영상을 만들어준다는 애플리케이션입니다. 이렇게 합성할 영상과 제 사진을 고르면, 단 몇 초 만에 제작된 영상을 확인할 수 있고 SNS에 바로 공유도 가능합니다."

AI가 만들어낸 '진짜 같은 가짜'들은 음란물과 피싱 등 각종 범죄에 악용되고 있습니다.

이로 인한 피해를 막기 위해 딥페이크를 잡아내는 기술은 어느 때보다 중요해졌습니다.

<딥페이크 영상> "좋은 일만 가득한 한 해가 되면 좋겠습니다. 새해 복 많이 받으세요."

새해 인사말을 전하는 한 여성.

딥페이크 탐지 프로그램에 입력해보니 '가짜'라고 나옵니다.

딥페이크 특유의 패턴을 학습한 AI가 진위를 가려낸 겁니다.

<이정수 / 딥브레인AI 사업개발그룹 이사> "리얼 데이터, 페이크 데이터를 50대 50으로 학습을 해서…1분짜리 영상을 넣었을 때 5~7분 정도 (판별 시간이) 걸린다."

이 같은 판별 기술을 보유한 국내기업은 소수인데다 상용화한 기업은 한두 곳 수준.

정부는 내년 20억 원의 예산을 들여 관련 기술 개발에 속도를 붙이기로 했습니다.

<이주식 / 과기부 정보통신방송기술정책과장(지난 28일)> "딥페이크 탐지 고도화 및 생성 억제 기술 개발에 10억 원, 자가 진화형 딥페이크 탐지 기술 개발을 시작해서 그 과제 10억 원…"

다만 이런 기술만으로 딥페이크 악용을 모두 막기 어려운 만큼, 영상 생성 과정에서의 규제 등 제도적 장치도 필요해보입니다.

연합뉴스TV 문형민입니다. moonbro@yna.co.kr

#딥페이크 #탐지기술

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)

[저작권자(c) 연합뉴스TV 무단전재 및 재배포 금지]