딥페이크 관련 이미지 [게티이미지뱅크]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[헤럴드경제=서지연 기자] 얼굴과 목소리를 정교하게 흉내 낸 딥페이크 영상으로 지인을 속여 돈을 가로채거나, 유명 인물의 모습을 합성한 허위 영상이 온라인에 퍼지는 사례가 잇따르자 중국 당국이 춘절을 앞두고 대대적인 단속에 나섰다. 인공지능(AI) 기술이 콘텐츠 생산을 폭발적으로 늘리면서 사회적 혼란을 키우고 있다는 판단에서다.

12일 중국 관영매체에 따르면 중국 사이버공간관리국(CAC)은 2026년 춘절을 앞두고 한 달간 ‘칭랑(淨朗)’ 특별 캠페인을 즉시 시작한다고 밝혔다. 당국은 “쾌활하고 조화롭고 긍정적인 온라인 환경 조성”을 목표로, AI 생성 유해 콘텐츠를 집중 정비하겠다고 했다.

실제 아이유(왼쪽)와 ‘차이유’로 알려진 중국 딥페이크 기술로 만들어진 아이유 이미지 [틱톡 SNS]

<이미지를 클릭하시면 크게 보실 수 있습니다>

이번 캠페인의 핵심 타깃은 AI 기술 오용이다. 최근 중국에서는 AI로 합성한 얼굴과 음성을 이용해 영상통화를 가장하고 송금을 유도하는 사기, 유명 기업인·전문가를 사칭한 허위 발언 영상, 고전 영화·애니메이션에 선정적·폭력적 장면을 덧붙인 패러디가 사회적 논란이 됐다. 당국은 논리적으로 앞뒤가 맞지 않거나 의미 없는 문구를 반복 생산하는 저품질 AI 콘텐츠 역시 여론을 왜곡할 수 있다며 단속 대상에 포함했다.

이른바 ‘동기부여 글’, ‘유명 CEO 성공 신화’, ‘전문가를 가장한 대중 과학 콘텐츠’처럼 사실 확인이 어려운 형식의 콘텐츠도 정비 대상이다. 텍스트뿐 아니라 이미지와 숏폼 영상까지 광범위하게 점검한다는 방침이다.

춘절 특수를 노린 온라인 갈등도 겨냥했다. CAC는 연휴 특집 방송, 영화 개봉, 주요 스포츠 이벤트를 둘러싸고 팬덤 간 경쟁과 집단 공격이 확산되는 점을 문제 삼아, 조직적 비난과 괴롭힘을 집중 단속하겠다고 밝혔다.

통신업계 단체 중관춘 현대정보소비자응용산업기술연맹의 샹리강 사무총장은 글로벌타임스 인터뷰에서 “AI 도입으로 콘텐츠 제작과 확산 비용이 급격히 낮아지면서 정보의 양이 통제 불능 수준으로 늘었다”며 “정부의 규제 없이는 정보의 질과 사회적 기준을 지키기 어렵다”고 말했다.

딥페이크 관련 이미지 [챗GPT 제작]

<이미지를 클릭하시면 크게 보실 수 있습니다>

당국은 ‘반결혼·반출산’ 담론을 조장하거나 성별 갈등을 부추기는 콘텐츠, ‘결혼 공포’와 ‘출산 불안’을 과장하는 표현도 강하게 제재할 계획이다. ‘설날 쇼핑’이나 ‘춘절 풍습 경연’을 빌미로 부를 과시하며 불건전한 비교를 유도하는 게시물 역시 면밀히 들여다본다.

특히 AI 생성 콘텐츠에 대한 명확한 표시(라벨링) 없이 허위·오해 소지 정보를 유포하는 행태를 중대한 문제로 보고 있다. 중국중앙텔레비전(CCTV)에 따르면 현재까지 13,421개 계정이 제재를 받았고, 54만3000건 이상의 불법·규정 위반 콘텐츠가 삭제됐다.

중국 당국은 이번 춘절 캠페인을 계기로 AI 생성 콘텐츠 관리 기준을 한층 강화하고, 연휴 이후에도 감독을 상시화하겠다는 입장이다.