국민의힘 중앙선거대책위원회가 지난 6일 공개한 윤석열 대선 후보의 아바타 ‘AI 윤석열’. [국민의힘 유튜브 캡처]

<이미지를 클릭하시면 크게 보실 수 있습니다>

더불어민주당 의원들이 ‘인공지능(AI) 윤석열’이 민주주의를 위협한다고 비판했다.

정필모 의원 등 국회의원 44명은 16일 서울 여의도 국회소통관에서 긴급 기자회견을 열고 “딥페이크 선거전이 우려된다”며 중앙선거관리위원회(선관위)의 철저한 관리를 촉구했다.

이들은 “딥페이크 기술의 무분별한 사용으로 대선이 혼탁해질 우려가 커지고 있다”며 “AI와 딥러닝은 우리의 일상 많은 부분을 개선할 수 있지만 기술의 사회적·윤리적·도덕적 합의가 없는 상황에서 선거에 직접 사용되는 것은 매우 위험하다”고 지적했다.

특히 ‘AI 윤석열’은 민주주의의 위협 그 자체라며 “유권자는 소중한 투표권을 행사하기 위해 다양한 관점에서 후보와 정당을 판단하는데 판단의 근거가 허위이고 조작된 정보라면 이는 공정해야 할 민주주의 선거제도 근간을 흔드는 것”이라고 주장했다.

또 “딥페이크에 의한 AI 후보는 단순한 아바타가 아니라 허위조작에 의해 만들어진 가짜이고, 조작된 후보에 불과하다”며 “국민의 선택을 방해하는 기만행위”라고 목소리를 높였다.

그러면서 “치열한 선거운동 과정에서 악의적 딥페이크 후보 출현은 그 피해를 상상할 수도 없다며, 악의적 딥페이크 영상이 정치적으로 악용된 사례는 이미 해외에서 확인할 수 있다”고 부연했다.

이어 “공정선거를 저해할 이미지 조작에 대한 우려, 가짜와 진짜의 경계가 허물어져서 발생하는 민주주의의 왜곡과 사회적 혼란을 막아야 할 일차적 책임은 선관위에 있다”면서 “선관위가 구체적으로 정당의 질의요청이 들어오면 검토하겠다는 입장을 낸 것은 매우 유감”이라고 밝혔다.

아울러 선관위 차원에서 긴급한 ‘딥페이크 선거 활용에 대한 가이드라인’을 마련해야 한다고 촉구했다. 또, 구글, 페이스북, 네이버, 카카오 등 인터넷 기업들도 딥페이크에 대한 선거기간 사용 금지를 포함한 자율적 조치 방법을 검토해야 한다고 주장했다.

앞서 지난 6일 선거대책위원회(선대위) 출범식에서 국민의힘은 대선 운동 전략의 일환으로 지난 6일 ‘AI 윤석열’을 깜짝 공개했다. AI 윤석열은 윤 후보의 영상·음성 등을 학습하고 그대로 구현했다. 국민의힘은 AI 윤석열에게 행사 축사를 맡기는 등 선거운동에 다양하게 활용할 계획인 상태다.

그러나 이후 지난 14일 소셜네트워크서비스(SNS)에서 ‘가짜 AI 윤석열’이 등장해 논란이 됐다. 국민의힘이 공개한 AI 윤석열과 동일한 모습이지만, 욕설을 하는 모습을 연출하고 있다. 머신러닝 기술의 일종인 ‘딥러닝’(Deep learning)과 ‘페이크’(fake·가짜)의 합친 딥페이크(DeepFake) 기술을 통해 만든 것으로 추정된다. 입 모양과 발음이 어색하지만, 상황을 잘 모르는 사람이 보면 오해를 살 수도 있다.

손쉬운 조작만으로도 딥페이크가 가능한데도, 이렇다 할 규제 장치가 없어 문제가 되고 있다. 여야 대선 캠프 모두 딥페이크를 통한 네거티브 선거운동에 노출된 셈으로, 대책 마련이 필요하다는 지적이 나오고 있다.

장구슬 기자 jang.guseul@joongang.co.kr

▶ 중앙일보 '홈페이지' / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지