지난 1월 미국 뉴햄프셔주 예비선거를 앞두고 유권자들에게 걸려 온 전화입니다.

[바이든 가짜 음성 전화/(지난 1월)]

"헛소리입니다. 11월 대선을 위해 표를 아끼는 게 중요합니다."

목소리가 조 바이든 대통령과 똑같은데, 정작 자신을 찍지 말라고 말합니다.

바이든 대통령이 자주 쓰는 '헛소리'라는 단어까지 베꼈습니다.

그러나 목소리의 주인공은 진짜 바이든이 아니었습니다.

수사 결과 이 가짜 음성은 한 정치 컨설턴트 스티브 크레이머가 딥페이크 기술을 활용해 만든 것으로 확인됐습니다.

현지 검찰은 크레이머를 투표 방해 등 26개 혐의로 기소했습니다.

미 연방통신위원회는 크레이머에게 600만 달러, 우리 돈 82억 원에 달하는 벌금을 부과했습니다.

이렇게 인공지능, AI를 기반으로 영상과 이미지를 합성한 딥페이크 기술을 악용하는 경우가 늘고 있습니다.

지난 1월 미국 팝스타 테일러 스위프트의 얼굴을 합성한 음란물이 유통되기도 했습니다.

백악관은 현지시간 23일 AI 개발자들과 금융기관, 클라우드 컴퓨팅업체 등에 '딥페이크 사이트'의 결제를 제한해달라는 공문을 보냈습니다.

딥페이크로 음란물 등을 만들어 수익을 얻지 못하게 하겠다는 취지입니다.

또 구글과 애플 등 모바일 앱 스토어를 관리하는 업체들에도 딥페이크 음란물 생성과 확산을 막을 수 있도록 하라고 했습니다.

백민경 기자 baek.minkyung@jtbc.co.kr