이미지 생성 인공지능(AI)을 활용해 아동 성착취물을 제작한 40대 남성이 국내에서는 처음으로 구속돼 재판에 넘겨졌다.

이미지 생성 인공지능(AI)을 활용해 아동 성착취물을 제작한 40대 남성 A씨로부터 경찰이 압수한 그의 하드디스크 등의 모습. [사진 부산경찰청 제공]

<이미지를 클릭하시면 크게 보실 수 있습니다>

━

실사 이미지 360여개 제작·소지

부산지방검찰청은 여자 아동이 신체를 노출하고 성적 행위를 하는 모습의 실사 이미지 파일 360여개를 제작·소지한 A씨에 대해 아동·청소년의 성 보호에 관한 법률(아청법) 위반 등 혐의를 적용해 구속기소 했다고 1일 밝혔다. A씨는 실제 사람이 등장하는 불법 성인 영상물 수백개를 제작·배포한 혐의(성폭력처벌법 위반)도 받고 있다.

검찰 조사 결과 A씨는 지난 4월 자신의 노트북에 설치한 영국의 이미지 생성 인공지능 프로그램에 ‘10살, 나체’ 등 명령어를 입력해 아동 성착취물을 제작한 것으로 드러났다. 앞서 경찰은 지난 2월 ‘불법 촬영물이 해외 음란 사이트에 퍼졌다’는 취지의 고소장을 단서로 수사에 착수해 A씨를 검거했다.

부산지방검찰청 청사 모습. 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

━

“가상 이미지여도 아청법상 성 착취물”

검찰은 A씨가 AI를 활용해 제작한 이 영상물이 실제 아동을 출연시킨 것과 동일한 것으로 판단해 아청법 위반 혐의를 적용했다. 아청법은 아동‧청소년 성 착취물에 대해서 ‘아동·청소년으로 명백하게 인식할 수 있는 사람이나 표현물이 등장해 성적 행위 등을 하는 내용이 표현된 것’이라고 명시한다.

검찰 관계자는 “A씨가 제작한 성착취물이 AI를 활용한 가상의 이미지라고 해도 실제 ‘10살’ 등 아동으로 판단할 수 있는 나이를 명령어로 입력해 영상물을 제작했고, 교복을 입은 아동이 등장하기도 했다”며 “명백하게 아청법상 성착취물을 만든 것으로 판단했고, A씨가 검찰에서 관련 혐의를 인정했다”고 전했다.

A씨가 범행에 사용한 것으로 알려진 ‘스테이블 디퓨전’ 프로그램의 경우 전문적인 기술을 필요로 하지 않고, 단순 명령어 입력을 통해 AI 이미지를 생성할 수 있다고 한다. 기술 발전에 따라 새롭게 나온 제작 도구를 이용했다고 해도 아청법상 처벌 대상이 될 수 있다는 게 수사기관 관계자들의 공통된 의견이다.

지방의 한 부장검사는 “영상물이든 AI를 이용한 가상 이미지든 아청법에서 규정한 ‘표현물’에 해당하면 처벌 대상”이라며 “제작 도구가 어떤 것인지에 대한 차이만 있을 뿐 범죄혐의를 구성‧입증하는 데엔 기존과 차이가 없다”고 말했다.

이미지 생성 AI로 만든 음란성 사진들이 올라오는 인터넷 사이트. 소아성애를 연상시키는 이미지도 다수 있다. 사진 사이트 캡처

<이미지를 클릭하시면 크게 보실 수 있습니다>

━

해외선 AI 성착취물 규제 논의 활발

해외에서도 AI로 만든 아동 성 착취물 콘텐트에 대한 규제 필요성이 강조되고 있다. 야론 리트윈 캐노피(Canopy)사 최고마케팅책임자(CMO) 겸 디지털 안전 전문가는 지난달 미국 ‘폭스 뉴스’와의 인터뷰에서 “AI 프로그램의 급속한 발전이 범죄자들의 아동 성 착취물 제작‧악용으로 이어지고 있다”고 경고했다.

영국 BBC는 영 정보통신본부(GCHQ) 보고서를 인용해 “아동 성 학대 범죄자들은 모든 기술을 활용하고, 그중 일부는 AI 생성 콘텐트가 아동 성 학대 자료의 미래라고 생각한다”고 보도했다. BBC에 따르면 영국은 AI가 만든 아동 성착취물을 소지‧게시‧전송하면 실제 아동의 경우와 동일하게 취급해 처벌한다.

영국 정부는 올가을 AI로 인한 위험성 평가 및 안전조치 도입 등을 논의하기 위해 세계 주요 국가 정상회의를 열 계획이다. 이에 영국 비영리재단인 인터넷감시재단(IWF)은 공식 홈페이지를 통해 “AI가 만든 아동 성 착취물 이미지 중 일부는 실제와 구별할 수 없을 정도로 현실적이다”라며 AI 생성 아동 성착취물 문제 해결을 정상회의서 논의해줄 것을 촉구했다.

부산=위성욱·나운채 기자 we.sungwook@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지