[디지털데일리 이건한기자] 최근 호주에서 발생한 '시드니 본다이 비치 총격 사건'과 관련해 온라인에서 확산된 '유출된 페이스북 프로필' 캡처 이미지가 AI 합성물로 밝혀졌다.

해당 게시물들은 이미지에 종교·출신지 등 민감한 정보를 덧붙여 사실인 것처럼 단정하는 방식으로 유포됐다. 그러나 24일(현지시간) 미국 로이터는 해당 이미지가 실제 계정을 캡처한 것이 아니라 AI로 생성된 이미지라는 결론을 제시했다. 검증 근거로 구글의 AI 이미지 워터마크 기술인 'SynthID' 탐지 도구 분석 결과를 언급했다.

SynthID는 구글 계열 생성 모델이 만들거나 수정한 이미지에 삽입될 수 있는 '보이지 않는 워터마크'를 감지하는 도구다. 또한 호주 수사당국 발표와 법원 문서 등 공개된 자료를 토대로 사건 정보를 대조한 경우에도 해당 프로필 캡처가 사실로 보기 어렵다고 판단했다.

이번 사례는 다양한 사건·사고 국면에서 AI 생성 이미지가 허위정보 확산을 가속할 수 있음을 다시 한번 보여준다. 특히 최근 구글, 오픈AI 등의 최신 이미지 생성 AI 기술은 현실성이 극대화됐으며 정밀한 편집 기능까지 강화되는 추세다. 이런 기술이 특정 집단을 악의적으로 겨냥한 주장과 결합될 경우 수사 혼선과 혐오 조장 등 2차 피해로 이어질 가능성이 제기된다.

한편 이번 총격 사건은 지난 14일 시드니의 본다이 비치에서 열린 유대교 명절 하누카(Hanukkah) 행사 현장에서 발생해 최소 16명이 사망하고 40여명이 다친 참극이다. 피의자 2명은 부자관계였으며 아버지는 현장에서 경찰 총격으로 사망하고 아들은 생포됐다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -