제22대 국회의원 선거가 10여일 앞으로 다가오면서 정부는 인공지능(AI) 기술을 악용한 가짜뉴스와 딥페이크 확산을 막기 위해 대응 방안을 모색하고 있다.

올해는 우리나라뿐만 아니라 대만, 인도네시아, 러시아, 인도, 미국 등 세계적으로 대형 선거가 잇달아 치러지는 '선거의 해'인 만큼, 각국 정부와 산업계에서도 허위정보와 가짜뉴스 방지가 주요 이슈로 떠올랐다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

국내에서는 먼저 주요 정보기술(IT) 기업이 AI 선거 악용을 막기 위한 자율방지 대책을 내놓았다.

네이버, 카카오, SK커뮤니케이션즈는 총선의 공정성, 신뢰성을 제고하기 위해 악의적 선거 딥페이크 사용 방지를 위한 공동선언을 채택했다. 중앙선거관리위원회와 협력, 포털 등에서 딥페이크 영상을 이용한 허위 조작정보가 명확히 확인된 경우 빠르게 조치한다는 방침이다.

국내 생성형 AI 기업 중 비가시성 워터마크 기술을 보유한 스냅태그 등은 카카오 AI 이미지 생성 서비스 '칼로' 등에 관련 기술을 제공하고, 딥페이크 이미지 등을 구별할 수 있도록 했다.

공공 분야에서는 이미 선거일 90일 전부터 선거일까지 선거운동에 활용될 수 있는 딥페이크 콘텐츠의 제작·편집·유포·상영 등을 원천 금지하는 내용의 공직선거법 개정안이 시행되고 있다. 위반하면 7년 이하 징역이나 1000만∼5000만원의 벌금에 처한다.

생성형 AI 홈페이지에 띄워진 딥페이크 오용 방지 관련 팝업창

오는 28일부터 공식 선거 기간에 돌입하는 만큼 중앙선관위는 생성형 AI기업을 대상으로 이러한 내용을 담은 공문을 전달하고, 일부 기업들은 안내 메시지를 홈페이지 팝업창 등을 통해 알리고 있다.

총선 레이스가 막바지에 접어들수록 가짜뉴스나 딥페이크 등 AI 기술을 악용하는 행위가 기승을 부릴 것이란 우려가 제기되고 있기 때문이다.

특히 딥페이크 음성은 원본과 구별하기 더욱 힘들어 악용될 시 문제가 커질 수 있다는 게 전문가 의견이다. 이미 바이든 대통령을 복제·사칭한 목소리로 미국 11월 선거에 투표를 하지 말라는 가짜 전화 메시지가 나오면서 논란이 된 바 있다.

생성형 AI 기업 관계자는 “딥페이크 영상으로 만들어진 사람 모습은 아직 어색하다는 느낌을 주지만, 음성은 다르다”면서 “AI로 학습한 음성은 본인조차 합성, 변조 여부를 쉽게 구별하기 어려울 만큼 교묘하다”라고 주의를 당부했다.

다른 나라에서도 딥페이크와 가짜뉴스에 대한 대응에 돌입했다. 인도 정부는 총선을 앞두고 생성형 AI 서비스에 대해 칼을 빼들었다.

인도는 이달 초 주요 플랫폼을 대상으로 신뢰할 수 없거나 테스트가 부족한 생성형 AI 모델, 도구를 출시하기 전에 정부 승인을 받도록 권고하는 내용을 발표했다.

구글의 생성형 AI 서비스 '제미나이'가 “나렌드리 모디 인도 총리가 파시스트인가”라고 묻는 질문에 긍정하는 답변을 내놓으면서 첨단 기술에 대한 규제 논란이 불거졌다.

이에 구글은 공식 블로그를 통해 공식적으로 오는 4월 시작하는 인도 총선 기간 동안 주요 정치인과 선거 관련 답변을 일부 제한하기로 했다.

구글은 인도와 마찬가지로 미국에서도 제미나이의 답변 제한 등을 통해 선거에 미치는 영향을 최소화할 방침이다. 챗GPT 개발사 오픈AI도 자사 AI 제품을 정치적으로 악용해선 안 된다고 못 받았다.

미국은 오는 11월 미국 대통령 선거를 앞두고 AI 오용을 막기 위한 대응을 시작했다.

오픈AI, 구글, 마이크로소프트(MS), 메타, 아마존 등 빅테크 기업들은 지난 달 독일 뮌헨안보회의(MSC)에서 유권자를 속이는 생성형 AI 콘텐츠를 방지하는 내용을 골자로 한 합의문을 발표했다. 유권자가 속을 위험이 있는 콘텐츠를 감지해 라벨(꼬리표)를 붙이는 등의 조치를 자발적으로 취하기로 했다.

이미 미국은 지난해 2월 조 바이든 대통령이 트렌스젠더 혐오 발언을 하는 가짜 영상이 유포되고, 3월 도널드 트럼프 전 대통령이 체포돼 경찰에 연행되는 가짜영상이 확산되는 등 홍역을 치른 바 있다.

김진형 KAIST 명예교수는 “딥페이크와 가짜뉴스를 만드는 것이 너무 쉬워진 게 현실”이라며 “딥페이크 등은 현행법으로도 충분히 강력한 처벌을 할 수 있으며, 규제만 앞세우는 것은 기술 발전에 바람직하지 않다”고 말했다.

그는 “AI를 안전하게 사용할 수 있는 교육이나 캠페인이 병행돼야 한다”고 덧붙였다.

김명희 기자 noprint@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]