[이데일리 방성훈 기자] 지난 3월 도널드 트럼프 전 미국 대통령이 뉴욕 경찰들에게 체포당해 끌려가는 모습이 담긴 사진이 “속보: 도널드 트럼프가 오늘 아침 맨해튼에서 체포됐다”는 문구와 함께 온라인에서 빠르게 퍼졌다. 당시 트럼프 전 대통령이 포르노 배우와의 성관계를 입막음하기 위해 거액을 건넨 혐의 등으로 형사고발에 직면했다는 소식이 전해진 직후여서 신빙성이 더해졌다. 해당 사진은 추후 텍스트·이미지 생성 인공지능(AI)인 미드저니를 통해 만들어진 가짜임이 판명됐다.

도널드 트럼프 전 미국 대통령이 뉴욕경찰에 체포되는 장면이 담긴 가짜사진. (사진=PBS)

<이미지를 클릭하시면 크게 보실 수 있습니다>

챗GPT 등장후 AI 제작 허위정보 폭증…가짜 사이트 2배 이상↑

생성형 AI 등장 이후 허위정보와 가짜뉴스, 음모론, 가짜사진 등이 급증하고 있다. 오픈AI의 챗GPT 출시 이후 생성형 AI 개발이 가속화하고 관심도 늘어나면서, 누구든 손쉽게 AI를 활용해 이미지 또는 텍스트를 만들 수 있는 애플리케이션(앱)과 소프트웨어가 급증했기 때문으로 풀이된다.

백악관은 23일(현지시간) 성명을 내고 “AI는 우리 시대의 가장 강력한 기술 중 하나이며 광범위한 응용의 여지가 있다”면서도 “조 바이든 대통령은 AI가 제공하는 기회를 포착하기 위해 우선적으로 위험을 관리해야 한다는 점을 분명히 했다”고 밝혔다. 그러면서 신뢰할 수 있는 AI 시스템 개발 및 사용을 위해 백악관 과학기술정책실(OSTP)이 AI 연구개발에 대한 연방정부 차원의 국가 연구개발 전략 로드맵(National AI R&D Strategic Plan)을 발표할 예정이라고 덧붙였다.

이는 전날 미 국방부(펜타곤) 근처에서 대형 폭발이 발생했다는 가짜 사진이 소셜미디어(SNS)를 통해 급속 확산하는 등 최근 AI가 만든 허위정보가 온라인상 범람한 데 따른 대응이다. 지난달엔 언론매체를 가장한 한 사이트에 바이든 대통령이 사망하고 카멀라 해리스 부통령이 권한을 대행한다는 속보성 뉴스가 게재됐고, 이외에도 최근 수개월 동안 블라디미르 푸틴 러시아 대통령이 감옥에 갇힌 모습, 프란치스코 교황이 하얀색 명품 패딩을 입고 있는 모습 등 수많은 가짜뉴스와 사진들이 온라인에 유포되며 전 세계를 여러 차례 혼란에 빠뜨렸다.

뉴스 신뢰도를 평가하고 허위정보를 모니터링하는 미국 비영리단체 뉴스가드는 지난 19일 중국어, 체코어, 영어, 프랑스어, 포르투갈어, 타갈로그어, 태국어 등 7개 언어로 된 뉴스 웹사이트를 조사한 결과, AI로 생성된 뉴스 및 정보 웹사이트의 수가 최근 2주 동안 49개에서 125개로 전례없는 급증세를 보였다고 발표했다.

뉴스가드는 또 대부분의 웹사이트가 겉으로는 진짜처럼 보였으며 AI가 실제 뉴스를 요약·재생산하는 ‘뉴스봇’을 사용해 하루에도 수백건에 달하는 기사를 쏟아냈다고 전했다. 실제로 가짜뉴스 웹사이트로 확인된 ‘뉴스 라이브79’, ‘데일리 비즈니스 포스트’, ‘비즈 브레이킹 뉴스’, ‘마켓 뉴스 리포트’ 등은 이름만 보면 진짜 뉴스 웹사이트로 착각하기 쉽다.

트위터나 페이스북, 인스타그램, 래딧 등 온라인 플랫폼에서 개인이 만든 가짜 사진이나 허위 정보를 유포하는 사례도 폭발적으로 늘고 있다. 유명인, 언론매체, 정부기관 등의 계정 사칭이 지속되는 가운데 AI를 활용한 이미지·텍스트 제작 소프트웨어 증가세가 맞물린 결과다. 전문가들은 “정보조작이 새로운 현상은 아니지만 AI 발전과 SNS의 결합이 허위정보, 음모론 및 가짜뉴스의 확산을 가속화하고 있다”고 입을 모았다.

프란치스코 교황이 발렌시아가 패딩을 입고 있는 가짜사진. (사진=가디언)

<이미지를 클릭하시면 크게 보실 수 있습니다>

‘사실’로 믿는 사람 늘고 있어…규제 목소리↑

문제는 이러한 허위 정보를 ‘사실’이라고 믿는 사람들이 적지 않다는 점이다. 실례로 미 국방부 인근 폭발 소식은 가짜라고 판명되기까지 짧은 시간 동안 미 스탠더드앤드푸어스(S&P)500 지수를 0.3% 가까이 끌어내렸다. 트럼프 전 대통령의 사진이나 프란치스코 교황의 사진은 패러디 또는 풍자 목적으로 만들어졌지만 확산 과정에서 사실처럼 믿는 사람들이 생겨났다. 영국 가디언의 전속 작가인 조엘 골비도 “프란치스코 교황에 대해 잘 모르기 때문에 사진이 진짜라고 믿었다”며 “명품 패딩을 입은 교황이 멋지다고 생각했다”고 말했다.

AI가 만든 가짜뉴스가 급증하면서 내년 미국 대통령 선거 등 각종 선거를 앞둔 세계 각국이 정치적·사회적 혼란에 휩싸일 것이란 우려도 커지고 있다. 광고주의 불안도 커지고 있다. 합법적인 뉴스사이트가 아닌 불법 사이트에 광고가 게재될 수 있어서다. 이 경우 광고비 낭비는 물론, 자칫 코로나19와 관련한 음모론이나 러시아의 우크라이나 침공을 지지하는 등의 모습으로 비춰져 이미지에 타격을 입을 수 있다.

AI가 생성한 가짜뉴스가 온라인에 대규모로 유통되고 있는 이유에 대해 전(前) 월스트리트저널(WSJ) 발행인이자 뉴스가드 공동창립자인 고든 크로비츠는 “안타깝게도 (수익 측면에서) 매우 대단한 사업이기 때문”이라고 답했다.

AI가 만든 허위정보를 일상적으로 접할 수 있는 환경에 이르자 규제 목소리도 커지고 있다. 유럽연합(EU)은 콘텐츠에 AI가 만들었다는 표기를 의무화하는 규제안을 추진하고 있으며, 미국에서는 AI로 만든 정치 광고 영상이나 사진 등에 출처를 의무적으로 표기토록 하는 이른바 ‘메이드 바이 AI’(made by AI) 법안이 발의됐다.