#1. 도널드 트럼프 전 미국 대통령 측은 공화당 대선주자 TV 토론회가 열린 11월 8일 각 후보의 목소리를 변조해 조롱식 별명으로 후보를 소개하는 동영상을 소셜미디어에 올렸다. 니키 헤일리 전 사우스캐롤라이나 주지사가 등장할 때 그녀를 흉내 낸 기계음이 “니키 헤일리 새대가리”라고 소개하는 식이다. 이 영상 클립은 트럼프 선거캠프가 인공지능(AI)을 활용한 음성 복제 기술로 만들었다.

#2. 조 바이든 미국 대통령은 지난 10월 30일 AI 규제를 강화하는 내용의 행정명령에 서명하면서 자신을 본뜬 딥페이크 영상에 “내가 언제 저런 말을 했지?”라고 했다는 경험담을 전했다. 지난 1월 성소수자를 폄훼하는 내용의 가짜 연설 장면을 감쪽같이 구현한 영상을 접하고 대통령도 순간 착각했다는 얘기였다.

텍스트·이미지·오디오를 생성하고 딥페이크(딥러닝과 페이크의 합성어로 인공지능을 기반으로 한 특정 인물 이미지·영상 합성) 동영상을 제작하는 AI 기술이 내년 11월 미국 대선을 앞두고 유권자에게 잘못된 정보를 퍼뜨리고 선거 시스템의 불신을 키울 수 있다는 우려가 미국 내에서 커지고 있다. 진화하는 AI 기술이 선거전 판도를 바꿀 뿐만 아니라 민주주의를 위협할 수 있다는 경고가 이어진다.

미 정치 전문매체 ‘더힐’은 25일(현지시간) “내년 미 대선에 AI가 특정 후보나 이슈에 대한 오해의 소지가 있는 정보나 허위 정보를 유포하는 데 악의적으로 사용될 수 있다”고 경고했다. 매체는 시카고대 해리스공공정책대학원의 이던 부에노 디 메스퀴타 학장을 인용해 “2016년·2020년이 ‘소셜미디어 선거’였던 것처럼 2024년은 ‘AI 선거’가 될 것”이라고 예상했다.

“3년 전엔 SNS 선거, 내년엔 AI 선거”

도널드 트럼프 전 미국 대통령이 경찰에 체포되는 것처럼 조작한 인공지능(AI) 합성 사진. [X 캡처]

<이미지를 클릭하시면 크게 보실 수 있습니다>

미국 유권자 사이에도 AI가 선거에 미칠 부정적 영향에 대한 우려가 퍼져 있다. 지난달 초 공개된 시카고대 해리스공공정책대학원과 AP통신·여론조사센터(NORC)의 공동 조사 결과, 미국 성인의 58%는 2024년 대선에서 AI 기술로 허위 정보가 더욱 퍼질 것으로 예상했다.

플랫폼 업체들도 AI를 활용한 정치 캠페인에 대한 대비를 서두르고 있다. 구글은 올 초 디지털 방식으로 제작·가공된 선거 광고의 경우 ‘눈에 띄게 공개’하도록 요구하겠다고 발표했다. 페이스북 모회사인 메타는 정치 광고에서 실재 인물이 하지 않은 말이나 행동을 새롭게 생성하거나 변조할 경우 이를 공개할 계획이라고 했다.

반면에 선거 관리와 선거운동의 효율성 면에서 AI 기술의 순기능에 주목하는 시각도 있다. 특정 이슈에 대한 각 후보의 입장을 유권자들에게 친절하게 알려주거나 선거 관리 당국이 유권자 명부를 정리하는 과정에서 중복 등록을 막는 데 큰 도움을 줄 수 있다는 것이다.

문제는 소셜미디어가 선거에 도입돼 빚어냈던 부작용을 AI가 한층 악화시킬 수 있다는 점이다. 트럼프와 힐러리 클린턴이 맞붙은 2016년 대선에선 가짜뉴스가 소셜미디어를 통해 확산하면서 기승을 부렸다. 특정 정치 성향의 블로그나 웹사이트에서 ‘프란치스코 교황이 트럼프 후보 지지를 발표했다’거나 ‘클린턴 후보가 테러단체 IS에 무기를 판매한 것으로 드러났다’는 등의 가짜뉴스를 만들면 SNS를 타고 걷잡을 수 없게 퍼졌다.

조 바이든 대통령이 안면 경련을 일으켜 혀가 축 처져 있는 것처럼 보이게 한 딥페이크 영상 장면. [X 캡처]

<이미지를 클릭하시면 크게 보실 수 있습니다>

이젠 딥페이크 기술의 고도화로 가짜 콘텐트를 더욱 쉽고, 빠르고, 정교하게 생산해 퍼뜨릴 수 있게 됐다는 점에서 심각성이 더욱 커졌다는 것이다. 리사 브라이언트 캘리포니아주립대 정치학과 석좌는 인스타그램과 같은 플랫폼에서의 광고가 사람들의 행동에 이미 상당한 영향을 미친다는 점을 들어 “누구도 이런 구조에서 완벽히 자유로울 수는 없다”고 말했다.

선거 관리 당국이 ‘디지털 서명’ 등을 활성화해 정보 신뢰도를 높여야 한다는 지적이 나온다. 비영리단체 ‘민주주의 보호’의 기술정책담당 니콜 슈나이드먼은 “사전 폭로(Pre-bunking, 허위 정보에 노출되기 전에 미리 공개해 리스크를 줄임) 방식이 효과적일 수 있다”며 “선거 관리자들이 디지털 서명을 더 많이 도입해 언론인이나 대중에게 어떤 정보가 신뢰할 수 있는 출처에서 나온 것인지, 어떤 정보가 가짜인지 알려주길 바란다”고 말했다.

AI, 유권자 중복등록 방지 등 순기능도

지난 10월 30일 AI 오용 위험을 차단하기 위한 행정명령에 서명하는 조 바이든 미국 대통령. 오른쪽은 카멀라 해리스 부통령. [AP=연합뉴스]

<이미지를 클릭하시면 크게 보실 수 있습니다>

후보들이 쓰는 사진·영상 게시물에 디지털 서명을 포함하는 방법도 검토할 만하다고 했다. 디지털 서명은 디지털 창작물의 원작자나 출처를 밝혀둠으로써 콘텐트 위·변조를 막는 방식으로 AI 기술 발전의 보완책으로 꾸준히 거론됐다.

내년 4월 총선을 앞둔 한국에서도 생성형 AI를 활용한 허위 정보 유포 우려가 커지면서 대비책 논의가 활발해지고 있다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 지난 17일 발표한 ‘2024년 사이버 보안 위협 전망 보고서’를 통해 내년 4월 총선을 앞두고 ▶정치인 e메일·소셜미디어 해킹 ▶딥페이크 기술을 활용한 가짜뉴스 생산 및 유포 ▶선거전을 악용한 사이버 위협 등이 있을 수 있다고 경고했다. 중앙선관위는 내년 총선 전까지는 AI 허위 정보에 대한 구체적인 규제 지침을 마련한다는 방침이다.

워싱턴=김형구 특파원 kim.hyounggu@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지