<이미지를 클릭하시면 크게 보실 수 있습니다>

인공지능(AI) 기술을 악용한 딥페이크 성범죄 피해가 늘어나면서 AI로 생성한 콘텐츠에 'AI 사용 사실'을 의무적으로 명시하도록 하는 'AI 생성물 표기 의무화' 도입이 시급하다는 목소리가 커지고 있다. 유럽연합(EU)과 미국 등 주요 국가에서 관련 규제를 앞다퉈 도입하는 가운데, 한국도 법제화를 통해 피해를 선제적으로 방지해야 한다는 요구가 커지고 있다.

◆해외 주요국, AI 생성물 표기 의무화로 규제 강화

21일 <메트로경제> 취재에 따르면, 유럽연합(EU)은 '인공지능법' 제50조를 통해 AI로 생성된 콘텐츠임을 명확히 표기하도록 규정했다. 이 법은 AI 기술 제공자와 배포자가 AI 사용 사실을 소비자에게 반드시 알리도록 강제하며, 이를 위반할 경우 강력한 제재를 가할 수 있다.

미국 역시 비슷한 움직임을 보이고 있다. AI 생성물 표기에 대한 일반법은 아직 없지만, 바이든 행정부는 정부·공공기관에 딥페이크를 포함한 합성 콘텐츠의 진위 확인을 의무화하는 행정명령을 시행 중이다. 또 연방정부가 추진하는 '인공지능 표시법안'을 비롯해 AI 생성물 표기 의무화를 골자로 하는 여러 법률안이 의회에 발의돼 있다.

◆한국, 법안 논의는 시작했지만 법제화는 지연

한국에서도 AI 생성물 표기 의무화를 위한 논의를 이어가고 있지만 법제화는 아직 미완성 단계다. 국회입법조사처는 최근 '딥페이크 식별을 위한 AI 생성물 표시 의무 입법 방안' 보고서에서 AI 생성 콘텐츠가 오정보 확산의 도구로 악용될 수 있음을 경고하며, 이를 막기 위해 'AI 생성물 표기 의무화'를 도입해야 한다고 제언했다.

21대 국회에서 관련 법안이 발의되었으나 국회의 문턱을 넘지는 못했다.그러나 최근 22대 국회가 개원하면서 다수의 인공지능 관련 법안이 재발의되며 논의에 다시 불을 붙이고 있다. 지난 9월 30일 기준 '정보통신망법 개정안'을 비롯해 총 11건의 인공지능 법안이 발의됐으며, 이 중 5건은 AI 생성물 표기 의무화를 포함하고 있다. 특히 정보통신망법 개정안은 딥페이크와 같은 허위 콘텐츠를 유포한 자와 플랫폼 운영자에게 최대 1000만원의 과태료를 부과하는 강력한 규제안을 담고 있다.

◆AI 기술 발전과 규제 사이 균형 필요

한국은 디지털 기술이 빠르게 발전하는 국가인 만큼, AI 기술이 초래할 부작용을 사전에 차단하는 법적 기틀을 마련해야 한다는 지적이 나온다. 특히 딥페이크를 포함한 AI 기술 악용 범죄는 피해자에게 심각한 정신적·신체적 고통을 초래하므로 이를 방지하기 위한 선제적 대응이 필요하다는 것이 전문가들의 공통된 의견이다.

그러나 법안 통과를 위해 산업계의 반발과 기술적 문제 해결이라는 과제가 남아 있다. AI를 활용한 콘텐츠 제작과 마케팅 분야에서는 표기 의무화가 기업 경쟁력을 저하할 수 있다는 우려가 제기되고 있다. 이에 기업들은 표기 의무화가 기술 혁신과 상용화에 제약을 줄 수 있다는 우려를 표하며 반대 입장을 보이고 있다.

이에 산업계와 정부의 협력이 필수적이라는 지적도 나온다. 한 업계 전문가는 "AI 생성물을 자동으로 식별하고 표기할 수 있는 기술적 인프라가 충분히 마련되지 않으면 법 시행이 현실적으로 어렵다"면서 "정부는 단순히 법을 제정하는 데 그치지 않고, AI 콘텐츠 자동 식별 시스템과 같은 기술적 기반을 함께 구축해야 한다"고 지적했다.