글로벌 소셜미디어(SNS)가 딥페이크 범죄의 온상이 되고 있다는 지적이 나오면서 청소년들의 SNS 의존도에 대한 우려가 커지고 있다. 이에 세계 각국이 청소년 SNS 금지법을 선포하고 나섰다. SNS의 중독성으로부터 미성년자를 보호한다는 목표다. 특히 딥페이크 범죄 피해자 가운데 가장 높은 비중이 학생으로 나타나면서 학부모들은 SNS에 올려둔 어린 자녀나 가족사진을 삭제하는 등 범죄에 대응하고 있다.

◆청소년 딥페이크 범죄 급증 "가해자도 교내 학생"

10일 교육부가 지난달 기준 '학교 딥페이크 허위 영상물 피해 현황 4차 조사'에 따르면, 올 1월1일부터 지난달 27일까지 교내 딥페이크 허위 영상물로 피해를 입은 이는 총 833명이다. 가장 비중이 높은 피해자는 학생(799명)이었고, 교원(31명)과 직원(3명)이 뒤를 이었다.

문제는 피해자 뿐만 아니라 가해자도 대부분이 10대라는 점이다. 경찰청은 올해 1월 1일부터 지난 25일까지 텔레그램 딥페이크 허위 영상물 사건 관련피의자 387명을 특정해 검거했다. 이 중 10대는 324명(83.72%)이었다. 5명 중 4명꼴이다.

실제 대전경찰청 사이버수사대는 친구의 사진을 이용해 딥페이크 성착취물을 제작한 고교생 등 3명을 붙잡았다. A군 등 10대 2명은 고등학교 재학 중인 상태로, 지난해 9월부터 최근까지 동급생 친구 등의 사진을 이용해 딥페이크 성착취물을 제작, 보관, 유포했던 것으로 알려졌다.

인천 남동경찰서도 최근 딥페이크 기술로 고등학교 여교사 2명의 얼굴을 나체사진에 합성한 뒤 SNS에 유포한 혐의를 받는 10대 고교생 B군을 검거했다.

이에 따라 학부모들 사이에서 딸 자녀가 딥페이크 성범죄 피해를 입은 것은 아닌지 우려하는 목소리가 커지고 있다. 특히 일부는 SNS에 올려둔 어린 자녀나 가족사진을 삭제하는 등 방어책에 나서고 있다.

◆세계 각국 SNS 금지령 확산

이처럼 청소년들의 중심으로 딥페이크 범죄가 확대되고 있는 원인으로 SNS가 꼽인다. SNS는 청소년 여부를 확인하지 않다보니 각종 유해 콘텐트와 성범죄물이 난무한다. 이에 청소년들이 손쉽게 딥페이크 서비스에 접근할 수 있어 청소년들이 딥페이크 범죄의 사각지대에 내몰린 것.

특히 최근 청소년들의 SNS 의존도가 확대되면서 딥페이크 범죄 심각성은 더욱 확대되고 있다.

정보통신정책연구원에 따르면 지난해 10대 청소년들의 스마트폰 이용 시간은 하루 평균 2시간 41분에 달한다. 하루 3시간 가까이 스마트폰에 노출된 데다 쇼츠, 릴스 등 숏폼 콘텐츠가 급증하면서 몰입도가 커져 중독성도 더욱 높아졌다.

이에 따라 세계 각국은 SNS 사용 연령을 제한하고 각종 규제를 강화하고 있다.

호주는 연내에 14~16세 미만의 SNS 이용을 법으로 금지하겠다고 밝혔다. 앤서니 앨버니지 호주 총리는 지난 10일(현지시각) 호주 ABC 방송과의 인터뷰에서 올해 안에 "연내 SNS 연령 제한법 도입을 위해 앞으로 몇 달 안에 시범을 실시할 계획"이라며 SNS 사용이 가능한 최소 연령에 대해 14~16세가 될 것이라고 밝혔다.

미국의 경우 SNS 사용 제한까지는 아니지만 '청소년 건강에 유해하다'는 내용의 경고문을 SNS에 부착해야 한다는 목소리가 나오고 있다. 뉴욕과 캘리포니아 등 42개주 법무장관은 지난 10일 경고문 부착 의무화를 담은 법을 통과시켜야 한다는 서한을 의회에 보냈다.

청소년의 SNS 사용을 제한하는 입법 시도는 유럽까지 확산됐다. 프랑스의 경우 15세 미만 청소년은 부모 동의 없이 SNS를 이용할 수 없다. 정부는 의무를 준수하지 않은 소셜 플랫폼 운영 기업에 전 세계 매출의 최대 1%까지 벌금을 부과할 수 있다. 스웨덴도 지난 3일 아동·청소년의 스크린 사용 시간을 제한하는 권고안을 발표했다. 2세 미만은 TV와 스마트폰 등 디지털 미디어에노출되지 않아야 하며, 10대도 최대 3시간으로 줄여야 한다.

이탈리아도 최근 16세 미만 청소년의 SNS 계정 개설을 금지하는 온라인 청원이 화제다. 안사통신에 따르면 이탈리아 각계 저명인사들이 SNS 연령 제한 온라인 청원에 동참하고 있다.

◆딥페이크 방지법 통과, 실효성은 '글쎄'

우리 정부도 최근 딥페이크 범죄 심각성을 인지하고 관련 규제안을 마련하고 있다.

국회는 지난달 성 착취 허위영상물을 보거나, 갖고만 있어도 처벌하는 '딥페이크 방지법'을 통과시켰다.딥페이크 성착취물에 대한 처벌을 강화하자는 취지다. 허위 영상물을 소지, 구입, 저장 또는 시청할 경우 3년 이하 징역 또는 3000만원 이하 벌금을 부과하는 것이 핵심이다.

또 조정훈 국민의힘 의원은 청소년의 SNS 일별 이용 한도 등을 담은 정보보호법 개정안을 발의했다. 윤건영 더불어민주당 의원도 14세 이상인 청소년부터 SNS에 가입할 수 있는 정보통신망법 개정안을 발의했다.

윤석열 대통령도 딥페이크 문제를 지적하고 나섰다. 윤 대통령은 지난달 26일 열린 '국가인공지능위원회 출범식 및 제1차 회의'에서 "딥페이크 관련 적극적 규제를 도입하겠다"며 "자유민주주의를 위협하는 가짜 뉴스와 딥페이크 기술을 악용한 인권침해 사례 등 디지털 격차에 따른 여러 부작용이 등장하고 있다"고 했다.

다만 딥페이크 방지법의 실효성에 대한 의문도 제기된다. 그간 디지털 범죄자에 대한 감형 기조가 이어지면서, 가해가 처벌에 대한 일관성을 확보해야 한다는 지적이다.

또 과도한 규제만이 해답은 아니라는 시각도 있다. 가장 근본적인 원인인 청소년들의 딥페이크 범죄에 대한 경각심이 크지 않다면 관련 범죄는 이어질 것이라는 분석이다. 과도한 규제보다는 다각도의 대책 마련이 필요하다는 의견이다.

이와 관련 AI 관련 연구원은 " 청소년 온라인 안전 문제에 대한 지속적인 논의가 필요하다며. 플랫폼 기업의 자율규제 강화와 연령별 이용 제한 도입 등 다각도의 대책 마련이 시급하다"고 말했다.