정부가 딥페이크를 악용한 가짜뉴스에 대응하기 위해 인공지능(AI) 생성물에 워터마크(watermark) 표시를 의무화하는 방안을 추진한다. 과학기술정보통신부가 21일 국무회의에서 보고한 '새로운 디지털 질서 정립 추진계획'에 따르면, 앞으로 이와 관련한 법령을 제·개정하고 가짜뉴스 생성·유통·확산 전주기에 대응하는 체계를 구축한다는 방침이다.

'AI 워터마크'란 AI 기술을 적용해 제작한 디지털 이미지나 문서에 삽입되는 로고나 텍스트를 말한다. 해당 자료의 소유자나 원본을 표시하는 역할을 하는데, 이를 통해 불법 복제나 무단 사용을 방지하고 소유자의 권리를 강화하기 위해서다. 저작권 보호나 출처 인증을 목적으로도 사용된다. 생성형 AI에서는 해당 콘텐츠를 생성형 AI가 만들었다는 점을 쉽게 식별할 수 있도록 해 허위 정보일 가능성이 있음을 드러내거나 이용자들의 혼선을 막는 기능도 할 수 있다.

오픈AI는 지난 7일 특정 이미지가 자사 이미지 생성 AI인 '달리 3(DALLl-E 3)'를 활용해 만들어졌는지 판별할 수 있는 도구를 선보였다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

이미 각국 정부는 생성형 AI를 악용한 가짜 정보가 무분별하게 유통되는 것을 우려해 AI 출력물에 대한 워터마크 규제를 도입했거나 준비 중이다. 유럽연합(EU)은 지난해 8월 디지털서비스법(DSA)을 통해 AI 생성 콘텐츠에 별도 표시를 넣도록 했고, 미국에선 작년 10월 조 바이든 대통령이 서명한 행정명령에 생성형 AI 출력물의 식별 장치를 강화해야 한다는 내용이 포함됐다.

특히 미국의 빅테크 기업들은 '눈에 보이지 않는' 워터마크를 생성형 AI 서비스에 적용하기 시작했다. 일반 사용자들에게는 이 워터마크가 보이지 않지만, 워터마크를 확인할 수 있는 특정한 웹사이트나 프로그램을 통해서는 확인이 가능하다. 이런 비가시적 워터마크는 콘텐츠의 출처를 확인하는 기능뿐 아니라 각 기업이 자사의 서비스를 통해 만들어낸 이미지가 어떻게 유통되는지 추적하기 위한 용도로도 사용된다.
오픈AI는 지난 14일 음성 대화가 가능한 AI 'GPT-4o'를 선보이면서 문자를 음성으로 바꿔주는 서비스(TTS)인 '보이스엔진'에 워터마크 기능을 적용하기로 했다. 음성 생성 기술은 보이스피싱 등 범죄에 악용될 소지가 높기 때문이다.

우리 정부는 생성형 AI로 만들어진 출력물에 대해 우선 '눈에 보이는' 워터마크를 도입하고자 한다. 이용자들이 사전에 AI 출력물이라는 점을 인지하도록 하고, 오남용으로 인한 피해를 예방하기 위해서다.

조인경 기자 ikjo@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>