신영숙 여성가족부 차관과 강도현 과학기술정보통신부 제2차관이 28일 오후 서울 중구 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터를 찾아 딥페이크 성범죄 피해 예방과 피해자 지원방안에 대해 긴급 점검했다. 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

아이티(IT) 보안 전문가들은 최근 텔레그램을 중심으로 확산하는 불법합성(딥페이크) 성범죄물 피해 대응과 관련해 “제작 자체를 막긴 어려운 만큼 유통을 차단해야 한다”고 말한다. 이들은 구글·메타·엑스(X) 등 글로벌 플랫폼 기업의 신속한 불법합성물 삭제 조처를 위해 이를 요구하는 우리나라 법에 관련 규정을 만들 필요가 있다고 입을 모은다.

28일 보안업계와 전문가들의 설명을 들어보면, 최근 불법합성 성범죄물 급증 배경에는 오픈소스(개방형) 기반 인공지능(AI) 도구가 있다. 실제 구글 플레이스토어 등 스마트폰 앱장터에서 사진이나 영상에 얼굴을 합성해주는 앱을 손쉽게 만날 수 있다.

문제는 기업이 아닌 개인이 오픈소스를 기반으로 만든 불법합성 소프트웨어를 일일이 규제하는 게 쉽지 않다는 점이다. 오픈에이아이의 챗지피티(GPT)나 구글의 제미나이처럼 소스코드를 공개하지 않는 폐쇄형 인공지능 모델은 개발사가 성범죄에 활용될 수 있는 이미지나 영상을 생성할 수 없도록 특정 단어의 입력을 차단하거나 인공지능의 생성물임을 나타내는 워터마크(식별표시)를 넣는 시도 등을 할 수 있다. 하지만 일반 개개인이 오픈소스를 활용해 만든 프로그램을 건건이 단속하는 건 현실적으로 한계가 뚜렷하다. 인공지능 스타트업 업스테이지의 박찬준 거대언어모델(LLM) 수석연구원은 “기술적으로 오픈소스 인공지능을 활용한 불법합성물을 완전히 막는 건 불가능하다”고 했다.

이런 맥락에서 전문가들은 유럽연합(EU)이 지난해 8월부터 불법합성물 영상 등을 디지털 플랫폼 사업자가 삭제하도록 규정한 디지털서비스법(DSA)을 참고해 국내법에 법적 근거부터 마련해야 한다고 권고한다. 김명주 서울여대 교수(정보보호학)는 “유럽연합이 미국 빅테크 기업에 ‘유럽 내에서 서비스를 하려면 유럽연합의 법을 지켜라’라고 주장하는 것처럼 우리나라도 불법합성 성범죄물 삭제와 관련한 법적 근거를 만들어야 보다 쉽게 국외 플랫폼 기업에 불법합성물 삭제를 요구할 수 있을 것”이라고 말했다. 현재 방송통신심의위원회는 텔레그램 등 글로벌 플랫폼에서 유통되는 불법합성 성범죄물을 모니터링해 국내 접속 차단 등을 하고 있으나 국외 사업자에게 삭제를 요청할 법적 근거가 없다. 강제력이 있지는 않다는 뜻이다. 임종인 고려대 정보보호대학원 석좌교수도 “미국은 ‘표현의 자유’가 굉장히 중요하기 때문에 (기업 자체 가이드라인에 없는) 애매한 게시물에 대해선 삭제까지 2~3주씩 걸린다”며 “삭제 요청의 실효를 높이기 위해선 국내법부터 손질을 해야 한다”고 말했다.

선담은 기자 sun@hani.co.kr, 박지영 기자 jyp@hani.co.kr