AI로 생성된 제시카 포스터. SNS 캡처

<이미지를 클릭하시면 크게 보실 수 있습니다>

도널드 트럼프 미국 대통령과의 사진 등을 올리며 100만명이 넘는 팔로워를 끌어모았던 미모의 금발 여군이 사실은 인공지능(AI)으로 생성된 이미지로 밝혀져 논란이 일고 있다.

20일 워싱턴포스트에 따르면 ‘제시카 포스터’라는 이름의 금발 백인 여성은 최근 소셜미디어(SNS)에 일상 사진 여러 장을 게시했다.

사진은 F-22 랩터 전투기 앞에서 찍은 모습, 사막에서 위장복을 입고 작전에 참여하는 장면, 이란 공습이 시작된 날 트럼프 대통령과 함께 활주로를 걷는 모습 등이었다.

볼로디미르 젤렌스키 우크라이나 대통령, 블라디미르 푸틴 러시아 대통령, 축구 스타 리오넬 메시 등 세계 주요 인물들과 함께 있는 게시물도 올라왔다.

제시카의 계정은 4개월 만에 100만명이 넘는 팔로워를 확보하며 화제를 모았다. 아름다운 제시카의 외모도 인기에 한몫했다.

그러나 전문가들은 제시카가 실존 인물이 아닌 AI 이미지 생성 기술로 만들어진 가상인물일 가능성이 높다고 지적했다. 제시카가 올린 게시글에서도 오류가 발견됐다. 군복에 표시된 계급과 훈장이 서로 맞지 않아 부사관이었다가 레인저 수료자였다가 장군이 되는 등 표기가 뒤섞였다.

실제로 미 육군 관계자는 워싱턴포스트에 “해당 인물에 대한 복무 기록이 없다”고 밝혔다.

현재 제시카의 계정은 가이드라인 위반(사칭 및 허위 정보)을 이유로 삭제된 상태다.

이는 최근 온라인에서 확산하고 있는 ‘기만적 수익화 전략(grift strategy)’의 한 사례라는 분석이 나온다.

매체는 “이러한 계정은 이용자의 관심을 끈 뒤 온리팬스 등 유료 성인 콘텐츠 구독 플랫폼으로 유도해 수익을 창출하려는 목적”이라고 전했다.

제시카의 계정 역시 한때 성인 콘텐츠 플랫폼과 연결됐다가 실제 사람만 이용할 수 있다는 규정을 위반해 삭제된 뒤, AI 모델을 허용하는 다른 플랫폼으로 이용자를 유도한 것으로 전해졌다.

제시카의 계정은 삭제됐지만 SNS에는 AI 여성을 군인, 트럭 운전사, 경찰관으로 위장한 계정들이 우후죽순 생겨나고 있다.

전문가들은 이러한 흐름이 단순한 온라인상 기만을 넘어 정치적 메시지 확산과 허위 정보 유포에 활용될 수 있다고 경고했다.

미디어 조작을 연구하는 조안 도너번 보스턴대 조교수는 “이러한 계정은 제작이 쉽고 변형이 무한하게 가능하며, 수익 창출 경로도 명확하다”며 “익명 계정들이 일종의 ‘봇 군대’처럼 활용되면 선전이나 허위 정보 유포에 악용될 위험이 있다”고 지적했다.

이어 “우리는 점점 현실과 비현실의 경계가 흐려지는 사회로 나아가고 있다”며 “이 같은 방식은 정치적 메시지를 전달하는 데에도 매우 효과적일 수 있는 만큼 악용될 위험이 크다”고 덧붙였다.

김민지 기자



▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -