정수환 숭실대 전자정보공학부교수, 전 한국정보보호학회회장

<이미지를 클릭하시면 크게 보실 수 있습니다>

텔레그램 딥페이크 포르노 생성 대화방 이슈로 온 나라가 뜨겁게 달궈졌다. 정부는 정부대로 국회는 국회대로 언론은 언론대로 딥페이크 방지 대책 마련을 위한 다양한 논의가 연일 메인 뉴스로 보도되고 있다.

생성형 AI(인공지능) 기술의 급격한 발전으로 지금까지 미래 위협으로 간주됐던 딥페이크가 현실 위협으로 등장하는 데에는 그리 오랜 시간이 걸리지 않았다. 딥페이크 피해자가 유명 정치인이나 연예인 뿐만 아니라 이제 일반 시민들도 공격의 대상이 되고 인터넷에 업로드한 사진 한 장, 목소리 샘플 몇 초만으로도 쉽게 피해자가 되고 있는 실정이다.

더구나 딥페이크 범죄를 저지르는 사람들이 고도의 해킹 기술을 가진 해커나 보이스피싱 같은 범죄 조직만이 아니라 일반 청소년들까지 채팅방에서의 가벼운 놀이 혹은 게임으로 인식하고 범죄 의식 없이 빠져들고 있는 매우 위험한 지경에 이르게 됐다.

딥페이크·가짜뉴스에 의한 폐해는 실로 다양하고 광범위하다. 외국에서는 이미 선거에서 상대 후보를 격하시키기 위해 딥페이크를 사용하는 다양한 사례가 목격됐다. 미국 대통령 선거전에서도 바이든이나 트럼프 명예를 실추시키기 위한 다양한 딥페이크 영상들이 확산되어 오해를 불러일으키는 사례들이 등장했다.

특정 이념이나 목적을 가진 집단들이 자신들의 주장을 합리화하거나 반대 진영을 공격하기 위해 딥페이크를 사용한 가짜뉴스를 퍼뜨리는 경우가 다수 발생하고 있다. 우크라이나와 러시아 간 전쟁에서 젤렌스키 대통령과 푸틴 대통령의 다양한 딥페이크 영상이 인터넷 상에서 확산된 바 있다.

보이스피싱을 유도하는 딥페이크 음성이나 투자사기를 유도하는 유명 연예인의 딥페이크 영상에 속아 거액을 송금하거나 투자하는 사례들이 발생하고 있다. 딥페이크와 가짜뉴스는 개인 사생활을 침해하고 사회적 신뢰를 훼손하며 민주주의 근간을 위협하고 있다. 딥페이크·가짜뉴스의 위협에 대응하기 위한 현실적인 방안은 다음과 같다.

첫째, 정부와 사회는 기술적·법적 대응책을 조속히 마련해야 한다. 딥페이크·가짜뉴스 생성 및 유포를 억제하기 위한 법적 규제를 강화하고 이를 위반했을 때 처벌규정을 명확하게 해야 한다. EU(유럽연합)나 미국에서 이미 제정되었거나 제정 중인 규제와 같이 AI 생성 콘텐츠에 대해 워터마크 삽입을 의무화하고 이를 위반 시 피해자에게 손실을 보상하는 법률 제정을 서둘러야 한다. 또한 딥페이크 대응 센터를 만들어 불법적인 딥페이크를 신고하고 발견된 불법 딥페이크를 빠르게 제거하는 시스템을 구축해야 한다.

둘째, IT(정보기술) 기업들은 딥페이크나 가짜뉴스를 탐지하고 생성이나 전파를 억제하는 기술적 솔루션을 개발하고 개발된 솔루션을 활용해 포털이나 플랫폼에서 실시간으로 딥페이크 콘텐츠를 탐지하고 제거하며 확산을 억제하는 기술 개발을 서둘러야 한다. 또한 인터넷에 업로드되는 음성이나 영상의 프라이버시를 보호할 수 있는 음성·영상 익명화 기술을 개발해야 하며 정부는 이러한 R&D(연구개발)를 우선적으로 지원해야 한다.

셋째, 국민들의 디지털 문해력 향상을 통해 대중의 디지털 정보 이용 능력과 책임을 강화해야 한다. 사람들이 정보 출처를 확인하고 진위를 판별할 수 있는 능력을 갖추도록 교육을 강화해야 한다. 또한 초등학교부터 디지털 정보 이용의 윤리와 책임의식을 강조하여 부지불식 중에 딥페이크를 남용하거나 오용하는 사례가 범죄라는 인식을 갖도록 해야 한다.

딥페이크·가짜뉴스 위협으로부터 우리 사회를 보호하기 위해서는 모든 구성원들이 적극적으로 참여하고 대응해야 할 필요가 있다. 디지털 사회 신뢰를 회복하기 위한 싸움에 적극적으로 나서야 한다.

정수환 숭실대 전자정보공학부 교수

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지