생성형 인공지능(AI)으로 만든 가짜뉴스가 내년에 예정된 미국 대선판을 혼란스럽게 만들 것이라는 우려가 커지고 있는 가운데 구글은 AI 또는 합성으로 만든 선거 광고를 사용할 경우, 해당 기술의 사용 여부를 표시하도록 했다.

6일(현지 시각) 워싱턴포스트(WP) 등 주요 외신에 따르면 구글은 이날 성명을 통해 “합성 콘텐츠를 생성하는 도구가 늘고 있다”며 “선거 광고에 디지털 방식으로 변경되거나 생성된 자료가 포함된 경우 광고주가 이를 공개해야 한다”고 말했다.

구글 로고. / AP 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

구글은 이미 유권자를 속이는 것을 목표로 하는 ‘딥페이크’를 금지하고 있다. 이에 더해 이미지 색상이나 대비 조정과 같은 사소한 편집을 제외하고 AI 또는 합성 기술로 만든 사진, 동영상, 음성 등이 선거 광고에 사용된 경우 AI 기술을 사용했다는 사실을 광고에 표시해야 한다.

현재 구글과 오픈AI가 내놓은 ‘바드’나 ‘달리’와 같은 생성형 AI는 카메라로 촬영한 사진과 구별하기 어려울 정도의 사실적인 사실을 만들어 낸다. 이에 생성형 AI로 만든 가짜뉴스가 유권자를 속이거나, 정치인이 하지 않은 말이나 행동이 실제로 한 것처럼 보이게 만들 수 있다는 우려가 제기됐다.

실제로 가짜 이미지와 오디오는 이미 전 세계 선거 광고에 문제를 일으키고 있다. 지난 6월, 공화당 대선 주자인 론 디샌티스 플로리다주지사 측은 도널드 트럼프 전 대통령이 앤서니 S. 파우치 전 국립알레르기·전염병연구소 소장을 껴안고 있는 가짜 이미지가 포함된 동영상을 공개했다. 지난달에는 폴란드 야당이 생성형 AI를 이용해 폴란드 총리의 목소리를 가짜로 만든 광고를 내보냈다고 시인하기도 했다.

해당 정책은 미국 대선을 1년 앞둔 오는 11월부터 시행될 예정이다. 다만, 새로운 규칙은 광고에만 적용되며 유튜브에 올라오는 일반 동영상에는 적용되지 않는다. 구글은 “유권자가 정확한 정보에 기반한 결정을 내리는 데 도움을 줄 것”이라고 말했다.

정미하 기자(viva@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>