[이데일리 최연두 기자] 다른 사람 영상에 기자 얼굴을 합성하는 데 필요한 건 사진 한장뿐이었다. 인공지능(AI) 딥페이크(이미지 합성) 기술이 고도화하면서 이제는 동영상의 진위 여부까지 의심해야 하는 시대가 된 것이다.

한 무료 딥페이크 앱에서 만든 가짜 영상 스틸샷(오른쪽). 원본 영상 속 인물의 얼굴을 기자의 얼굴로 합성했다. 기자는 정면에서 촬영한 사진 한 장만 업로드, 해당 결과물을 얻었다. (사진=딥페이크 앱 화면)

<이미지를 클릭하시면 크게 보실 수 있습니다>

29일 구글 애플리케이션(앱) 장터에서 ‘AI 얼굴 영상 바꾸기’ 등 검색어를 입력하면 20여개 앱이 뜬다. 그중 기자는 평점 상위권을 기록한 페이스펜시, 드림페이스, 리페이스 등 앱을 스마트폰에 설치해 영상 합성을 이용해봤다.

급하게 촬영한 정면 사진 하나를 업로드 하니, 남자 운동선수 얼굴에 기자의 얼굴이 입혀졌다. 살짝 부자연스럽긴 했지만 사진 한장만으로 만들어진 결과물이라는 점을 고려하면 놀라우면서도, 불법적인 영상을 만드는 것도 어렵지 않아 보여 우려스러웠다.

불과 몇 개월 전 만해도 딥페이크는 인물 합성 사진을 실제처럼 자연스럽게 만들어주는 수준이었다. 몇 초만에 사진 속 영화배우의 얼굴을 이용자 본인의 얼굴로 바꿀 수 있는 식이다. 당시만 해도 딥페이크는 지인들 간 재미나 흥미 유발을 목적으로 이용돼왔다.

그런데 최근 이를 악용해 불법영상을 제작하는 등의 범죄 행위가 다수 발견되면서 사회적으로 논란이 되고 있다. 고도화된 딥페이크 기술이 더 대중화된 탓에 이미지에서 영상 영역까지 영향력을 넓히고 있는 것. 이로 인해 영상은 조작이 불가능하다는 기존의 인식이 뒤바뀌고 있다.


AI 개발자들은 영상 딥페이크 기술은 이미지 딥페이크 기술에 비해 개발 난도가 더 높지만, 기술 발전 속도를 감안하면 영상 딥페이크도 곧 진위 여부를 가리기 힘들어질 정도가 될 것이라고 전망한다. 한 AI 개발자는 “딥페이크 영상 기술이 아직은 어색한 수준이지만, 앞으로 더 발전하면 영상의 진위 구별 자체가 어렵게 될 것”이라면서 “마치 인스타그램 등의 소셜미디어에 게재된 사진을 보고 ‘얼굴이나 피부색, 몸매 등을 (더 아름답고 예뻐보이게) 수정했구나’하는 인식이 대중화되는 과정과 비슷한 흐름이다”라고 짚었다.

무료 딥페이크 앱 화면 예시. 이용자가 원하는 영상을 골라 본인의 얼굴을 입힐 수 있다.(사진=딥페이크 앱 화면)

<이미지를 클릭하시면 크게 보실 수 있습니다>

기술이 보편화하는 과도기적 시기라는 진단이다. 이 개발자는 딥페이크 기술을 과거 사진 인화술에 비교해 설명했다. 그는 “사진을 인화해 보던 시기에 사진은 진짜를 담는다는 믿음이 있었지만, 포토샵이 나오고 AI 기술이 발전하면서 어느 순간 사진을 보면 합성 사진이 아닌가라는 의심이 먼저 들게 됐다. 가짜 사진이 많다는 인식이 정착됐다”고 말했다.

결국 영상도 사진처럼 가짜라는 인식이 더 짙어지게 될 가능성이 높다. 이 개발자는 “10년 정도만 지나면 온라인 상 사진이 점유하는 비율이 영상으로 대체될 것으로 본다”면서 “기술의 발전에 따라 그 기술을 활용하는 사람들의 인식도 바뀌게 되는 것이 당연한 이치”라고 강조했다.

때문에 AI 윤리 교육의 중요성이 더 커질 수 밖에 없다. 임종인 대통령실 사이버 특별보좌관은 전날 이데일리와의 전화 인터뷰에서 미성년자 학생들의 딥페이크 불법영상 제작과 관련해 교육부와 과학기술정보통신부, 문화체육관광부 등 부처가 협력해야 한다고 강조했다. AI 윤리 분야 교육 콘텐츠를 만들고, 이를 지속적으로 업데이트해야 한다는 제언이다. 임 특별보좌관은 “어린 학생들에게도 민주시민으로서의 사회적 책임이 있다는 점을 인식시켜줘야 한다”고 잘라 말했다.