이란 전쟁을 둘러싸고 인공지능(AI)이 만든 가짜 영상과 이미지가 온라인에서 빠르게 확산되고 있다. 뉴욕타임스는 최근 2주 동안 전쟁이 실제로 벌어지고 있는 것처럼 허위로 묘사한 AI 생성 이미지와 영상 37개를 포함해 110개 이상의 가짜 콘텐츠를 확인했다고 전했다. 사진은 미사일 공격과 대규모 폭발 등 전쟁 장면을 묘사한 AI 생성 이미지 예시.[NYT]

[헤럴드경제=서지연 기자] 미국과 이스라엘의 대이란 군사 작전이 이어지는 가운데 인공지능(AI)이 만든 가짜 영상과 이미지가 온라인을 뒤덮으며 정보 혼란이 커지고 있다. 실제 전쟁 장면처럼 보이는 영상이 소셜미디어에서 빠르게 확산되면서 전쟁 상황을 왜곡하는 새로운 ‘디지털 선전전’이 벌어지고 있다는 분석이 나온다.

뉴욕타임스(NYT)는 13일(현지시간) 보도에서 전쟁 발발 이후 약 2주 동안 중동 분쟁과 관련된 AI 생성 이미지와 영상 110개 이상을 확인했다고 밝혔다. 이들 콘텐츠는 실제로 존재하지 않는 폭발, 파괴된 도시, 허위 시위 장면 등을 묘사하며 온라인에서 수백만 회 이상 확산됐다.

이란 전쟁을 둘러싸고 인공지능(AI)이 만든 가짜 영상과 이미지가 온라인에서 빠르게 확산되고 있다. 뉴욕타임스는 최근 2주 동안 전쟁이 실제로 벌어지고 있는 것처럼 허위로 묘사한 AI 생성 이미지와 영상 37개를 포함해 110개 이상의 가짜 콘텐츠를 확인했다고 전했다. 사진은 미사일 공격과 대규모 폭발 등 전쟁 장면을 묘사한 AI 생성 이미지 예시.[NYT]

<이미지를 클릭하시면 크게 보실 수 있습니다>

특히 이 영상들은 엑스(X·옛 트위터), 틱톡, 페이스북 등 주요 소셜미디어뿐 아니라 텔레그램, 왓츠앱 등 개인 메시지 앱을 통해 더 빠르게 퍼진 것으로 나타났다.

NYT는 존재하지 않는 건물 묘사, 왜곡된 텍스트, 비정상적인 움직임 같은 단서와 함께 파일 내부에 삽입된 워터마크를 분석해 AI 콘텐츠를 식별했다고 설명했다. 또한 여러 AI 탐지 도구를 활용해 실제 뉴스 보도와 비교하는 방식으로 진위를 확인했다.

이번 전쟁에서 확인된 AI 콘텐츠는 크게 다섯 유형으로 나뉜다.

전쟁 상황을 허위로 묘사한 이미지·영상이 가장 많았고, 전쟁 준비 장면을 꾸며낸 콘텐츠, 파괴 장면을 조작한 영상, 눈물을 흘리는 군인을 묘사한 감성형 영상이다. 여기에 밈(meme) 형식으로 제작된 콘텐츠가 확인됐다.

전문가들은 이 같은 콘텐츠가 단순한 인터넷 장난 수준을 넘어 실제 정보전 도구로 활용되고 있다고 분석한다.

이란 전쟁을 둘러싸고 인공지능(AI)이 만든 가짜 영상과 이미지가 온라인에서 빠르게 확산되고 있다. 뉴욕타임스는 최근 2주 동안 전쟁이 실제로 벌어지고 있는 것처럼 허위로 묘사한 AI 생성 이미지와 영상 37개를 포함해 110개 이상의 가짜 콘텐츠를 확인했다고 전했다. 사진은 미사일 공격과 대규모 폭발 등 전쟁 장면을 묘사한 AI 생성 이미지 예시.[NYT]

<이미지를 클릭하시면 크게 보실 수 있습니다>

마크 오웬 존스 카타르 노스웨스턴대 미디어 분석 부교수는 NYT에 “우크라이나 전쟁 초기와 비교해도 지금은 상황이 완전히 다르다”며 “우리는 이전보다 훨씬 더 많은 AI 생성 콘텐츠에 노출되고 있다”고 말했다.

특히 일부 콘텐츠는 특정 정치 메시지를 강화하기 위해 제작된 것으로 분석된다. 소셜미디어 인텔리전스 기업 시아브라(Cyabra)의 분석에 따르면 전쟁 관련 AI 영상 상당수가 친이란적 메시지를 담고 있으며 이란의 군사력과 기술력을 과장하는 방식으로 제작된 사례가 많았다.

존스 교수는 “이란이 걸프 지역의 화재나 피해를 묘사한 AI 이미지를 활용하는 전략이 중요해지고 있다”며 “전쟁이 실제보다 훨씬 더 파괴적이라는 인상을 만들어 미국 동맹국들에게 비용이 많이 든다는 메시지를 전달하려는 목적”이라고 설명했다.

실제 전쟁 영상과 AI 영상 사이의 차이도 뚜렷하다. 실제 미사일 공격 장면은 대부분 멀리 떨어진 곳에서 촬영되며 밤하늘에 밝은 불빛이 지나가는 정도로 보이는 경우가 많다. 폭발 역시 거대한 화염보다는 연기 기둥 형태로 나타나는 경우가 일반적이다.

반면 AI 영상은 거대한 버섯구름, 초음속 폭발음, 극초음속 미사일 궤적 등 영화 같은 장면을 연출하는 경우가 많다. 일부 영상은 실제 영상에 AI 효과를 덧입혀 폭발 규모를 과장하기도 한다.

전문가들은 이러한 영상이 소셜미디어 알고리즘 환경에서 더 쉽게 확산된다고 설명한다. 과장된 영상이 실제 영상보다 더 많은 조회수와 반응을 끌어낼 가능성이 높기 때문이다.

실제로 AI 영상은 군사 충돌 관련 근거없는 소문을 증폭시키는 역할도 했다.

이란 혁명수비대 해군은 지난 1일 미 해군 항공모함 ‘USS 에이브러햄 링컨’을 공격했을 가능성이 있다고 주장했다. 이후 항공모함이 불타는 모습을 담은 AI 생성 영상이 온라인에서 대거 확산됐다.

이란 이용자들은 이를 자국의 반격 성공 사례로 공유하며 환호했다. 하지만 미국 정부는 해당 공격이 실패했으며 항공모함은 손상되지 않았다고 밝혔다.

전문가들은 이러한 콘텐츠가 정부 선전과 결합될 경우 파급력이 커질 수 있다고 경고한다.

발레리 위르츠샤프터 브루킹스연구소 연구원은 NYT에 “이것은 이란이 활용하려는 자연스러운 전선”이라며 “엄청난 양의 정보가 온라인에 유출되는 이유 중 하나는 AI 콘텐츠가 실제로 전쟁 도구로 사용되고 있기 때문”이라고 말했다.

소셜미디어 기업들도 대응에 나서고 있다. 일론 머스크가 운영하는 X는 최근 AI로 생성된 ‘무력 충돌’ 관련 콘텐츠를 게시하면서 이를 명시하지 않을 경우 90일 동안 플랫폼 수익 지급을 중단하겠다고 발표했다. 허위 콘텐츠로 수익을 얻는 행위를 차단하겠다는 조치다.