<이미지를 클릭하시면 크게 보실 수 있습니다>

전쟁의 최전선에서 인공지능(AI)이 두 얼굴을 드러내고 있다. 한편에서는 가짜 이미지와 영상이 사회관계망서비스(SNS)를 뒤덮으며 공포와 혼란을 키우고, 다른 한편에서는 AI가 실제 군사 작전의 핵심 도구로 활용되며 전쟁의 양상 자체를 바꾸고 있다.

◇ ‘하메네이 시신’ 사진…알고 보니 AI

<이미지를 클릭하시면 크게 보실 수 있습니다>

중동 전역으로 전선이 확대되는 상황에서 ‘AI 가짜뉴스’가 빠르게 퍼지고 있다. 미국과 이스라엘의 공습으로 사망한 것으로 알려진 이란 최고지도자 아야톨라 세예드 알리 하메네이의 시신 사진이 최근 SNS에서 확산됐다. 그러나 해당 이미지는 실제 사진이 아니라 인공지능이 만든 가짜 이미지로 확인됐다.

4일(현지시간) AFP 팩트체크 팀에 따르면 최근 페이스북과 엑스(X) 등에서는 무너진 콘크리트 잔해 아래에 깔린 하메네이의 시신을 구조대원들이 수습하는 장면이라는 사진이 공유됐다. 일부 게시물에는 알자지라 방송이 이를 보도했다는 설명까지 붙어 사실처럼 퍼졌다.

하지만 AFP는 “하메네이의 시신 사진은 공식적으로 공개된 적이 없다”며 해당 이미지가 AI로 생성된 허위 콘텐츠라고 밝혔다. 일부 사진에는 메타가 AI 생성 이미지를 표시할 때 사용하는 워터마크도 포함돼 있었다.

이미지 자체에서도 AI 특유의 흔적이 발견됐다. 하메네이의 손가락 모양이 부자연스럽고 구조대원의 복장도 실제 공습 현장 사진과 차이가 있었다. 각종 AI 판별 도구 분석에서도 “AI 생성 가능성이 매우 높다”는 결과가 나왔다.

로이터와 AFP 통신에 따르면 SNS에서는 지난달 28일부터 “하메네이 시신이 콘크리트 잔해에 묻혀 있다”는 또 다른 사진도 퍼졌다. 사진에는 하메네이가 평소 착용하던 반지와 시아파 성직자의 터번까지 등장해 사실처럼 보였다.

그러나 구글의 AI 식별 도구 ‘신스ID(SynthID)’ 분석 결과 이 이미지 역시 ‘매우 높은 확률’로 AI가 생성한 것으로 확인됐다. AFP가 다른 AI 탐지 프로그램으로 분석했을 때도 같은 결론이 나왔다.

현재까지 하메네이 시신 사진은 공식적으로 공개된 적이 없다. 장례식에서 시신을 공개할 예정이었지만 대규모 인파가 몰릴 것을 우려해 일정이 연기된 상태다.

이처럼 가짜뉴스가 난무하자 SNS 플랫폼들도 대응에 나섰다. 엑스(X·옛 트위터)는 전날 AI로 생성한 전쟁 관련 영상을 공유하면서 이를 표시하지 않을 경우 해당 영상의 수익 창출을 90일간 제한하기로 했다.

◇ 전쟁 전략의 핵심 기술 된 AI

<이미지를 클릭하시면 크게 보실 수 있습니다>

하지만 AI는 전장에서 정밀 추적과 타격을 가능하게 하는 핵심 기술로도 자리잡고 있다. 뉴욕타임스(NYT)는 2일(현지시간) 미군이 인공지능과 첨단 센서 기술을 결합해 특정 인물을 실시간으로 추적하는 능력을 크게 발전시켰다고 보도했다. 이 기술은 적대국 지도자를 제거하는 ‘참수 작전’ 방식까지 바꾸고 있다는 평가가 나온다.

미군 특수부대 델타포스는 올해 1월 베네수엘라 카라카스의 군 기지 내 아파트에서 니콜라스 마두로 대통령을 체포했다. 미군은 은신실이 포함된 아파트 구조를 미국 켄터키주에 그대로 복제해 수십 차례 침투 훈련을 진행할 정도로 작전을 준비했다.

이 기술의 핵심은 ‘실시간 위치 추적’이다. 거리의 CCTV와 가정용 초인종 카메라, 고속도로 요금소 등 수많은 센서에서 쏟아지는 데이터를 AI가 분석해 지도자의 위치를 특정한다. 경호 차량 이동 경로나 경호원들의 휴대전화 신호까지 분석해 동선을 좁혀가는 방식이다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

상대적으로 군사력이 열세로 평가됐던 우크라이나가 전쟁을 이어가는 데에도 AI 기반 기술이 활용됐다.

대표적인 사례가 지난해 6월 진행된 ‘스파이더웹’ 작전이다. 우크라이나군은 러시아 본토 공군기지 인근에 주차된 트럭에서 117대의 자폭 드론을 동시에 발사해 전략폭격기를 타격했다. 드론에는 자동조종 소프트웨어와 스마트폰용 SIM 카드가 탑재돼 러시아 민간 통신망을 이용해 최대 4300㎞ 떨어진 목표를 공격할 수 있었다.

이스라엘 역시 2023년 가자 전쟁에서 AI 기반 표적 식별 시스템을 활용했다. ‘라벤더’라는 AI는 하마스 조직원의 행동 패턴을 분석해 공격 대상을 추천했고 ‘가스펠’이라는 AI는 공격해야 할 건물과 시설을 자동으로 선별했다. AI 도입 이후 하루에 생성되는 공격 표적 수가 크게 늘었다는 분석도 있다.

지난달 진행된 하메네이 제거 작전에서도 AI 기술이 활용된 것으로 알려졌다. 이스라엘은 AI로 경호원들의 이동 습관과 경호 일정을 분석하고 테헤란 교통 카메라 데이터를 결합해 그의 위치를 추적했다.

트럼프는 지난해 6월 “우리는 이른바 ‘최고지도자’가 어디 숨은 줄 정확히 안다”며 하메네이를 공개 조롱했다. 이후 하메네이 역시 미 정보당국의 추적 끝에 지난달 28일 공습으로 사망했다.

우리가 알던 질서가 무너진다? 거대 권력과 AI가 만든 새로운 세계

김여진 AX콘텐츠랩 기자 aftershock@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]