"딥페이크 악용 사례는 실제로 존재하고 있고, 그 피해는 실제로 발생하고 있어요. 인공지능으로 인한 악용 사례들이 등장하고 있다는 사실을 산업계는 심각하게 받아들여야 해요."

인포시스 최고경영자(CEO)를 역임했던 비샬 시카는 지난해 미국 샌프란시스코에서 열린 한 이벤트에서 기자와 만나 이렇게 말했다.

인공지능(AI)을 활용한 기술을 개발하는 전문가 사이에서 딥페이크는 '사회적으로 경각심을 가져야 할 무서운 물건'이다. 워낙 쉽게 누구나 활용해 사실을 가짜와 섞어버릴 수 있는 파괴적 기술이기 때문이다. 악용 사례는 무수히 많다. 대표적인 것이 유명 연예인 얼굴과 음란물을 섞은 '딥누드' 또는 '딥포르노'다. 기술 악용 사례에 반대하는 비영리단체 '앤탭'에 따르면 최근 발견되는 딥페이크 사례 중 96%는 음란물과 관련돼 있다.

이는 현재 한국뿐만 아니라 미국 버지니아주와 같은 곳에서 불법으로 규정하면서 규제하고 있다. 우리나라에서는 지난해 3월 '성폭력 범죄의 처벌 등에 관한 특례법'이 통과되면서 이런 음란물을 제작해 유포하는 이들에게 5년 이하 징역 또는 5000만원 이하 벌금형 처벌이 가능해졌다. 미국도 버지니아, 뉴욕주에서 딥페이크 활용 포르노를 불법으로 규정하고 있다. 하지만 여전히 딥페이크를 악용한 음란물을 인터넷에서 뿌리 뽑지 못하고 있다. 이는 관련 법이 아직 만들어지지 않은 장소에서 제작한 것들이 많은 까닭이다.

인터넷상에 딥페이크로 제작한 가짜 인물을 내세워 여론을 조작하는 블로그가 버젓이 운영된 사례도 있었다. '올리버 테일러'라는 영국 대학생이 팔레스타인 인권운동가들에 대해 혹평을 가하고, 테러에 동조하는 사람들이라며 공격하는 글들을 블로그, 신문 등에 활발히 기고했다. 하지만 모든 것이 가짜였다. 사진은 조작된 것으로 판명 났고, 대학에선 '그런 학생이 없다'는 대답이 돌아왔다. 테일러의 배후에 있는 인물을 잡을 수 있는 방법은 없다. 영국에 관련 법이 없기 때문이다.

우리나라도 마찬가지다. 정부는 지난 4월 디지털 성범죄 근절 대책을 발표하면서 디지털 성범죄의 범죄 양상 중 하나로 합성·편집물을 포함시켰다. 현재 방송통신위원회, 과학기술정보통신부, 개인정보보호위원회 등이 관련 연구에 대한 필요성은 감지하고 있지만, 실질적 대책이나 예산이 마련된 상태는 아니다.

전 세계적으로 강력한 규제가 필요하다는 공감대는 커지고 있다. 미국 상원에선 '딥페이크 보고법안' 같은 법률들을 업데이트하고 있고, 유럽연합(EU)에서도 규제 목소리가 커지고 있다. 아쇼 바너지 노턴시큐리티 최고기술책임자는 KOTRA가 주최한 K글로벌 이벤트에서 "딥페이크를 통한 가짜뉴스 생산·유통의 파이프라인이 형성되고 있다"며 "지금 뿌리 뽑지 않으면 다시 주워 담기란 매우 힘들 수 있다"고 말했다.

<시리즈 끝>

[실리콘밸리 = 신현규 특파원 / 서울 = 이동인 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]