인공지능(AI) 기술로 사람과 흡사하게 생긴 캐릭터를 손쉽게 만들 수 있게 되자 AI를 이용한 아동·청소년 성착취물이 늘고 있다. 최근에는 ‘이미지 생성 AI’를 이용해 아동 성착취물을 제작·소지했다 기소된 첫 사례가 나왔다.

2일 유튜브에 ‘AI 룩북’ ‘스쿨룩’ 등 단어를 입력해 검색한 결과, 교복을 입은 채로 과도한 신체 노출을 하고 있는 캐릭터가 나오는 영상이 10건 이상 검색됐다. 이 영상은 모두 성인인증 등 절차 없이 누구나 시청할 수 있게 돼 있다. 교복을 입은 AI 캐릭터가 하의를 들어올리는 이미지 30여장을 한 데 모은 동영상은 조회수 131만건을 넘겼다.

유튜브에서 ‘AI 룩북’을 검색한 결과. 유튜브 갈무리

<이미지를 클릭하시면 크게 보실 수 있습니다>

여자 아동 캐릭터 두명이 하체 부위 윤곽이 선명하게 드러나는 레깅스를 입고 있는 이미지를 모아 올린 영상에는 “내 여자친구 해 달라” “영양가 있다” 등 성희롱성 댓글이 달려 있었다. 이 같은 영상을 올린 채널 3곳은 지난 3~5월 개설됐다.

선정적인 ‘AI 룩북’ 영상을 올린 한 채널은 “회원 전용 영상을 보려면 이곳 클릭”이라며 유료 멤버십 가입을 유도했다. 영상 설명란에는 신체부위를 노출한 AI 청소년 캐릭터가 그려진 머그컵을 파는 쇼핑몰 사이트 링크가 걸려 있었다.

법원은 가상 아동·청소년 캐릭터가 나오는 성착취물을 제작, 배포, 소지한 행위도 아동·청소년성보호에 관한 법률(아청법) 위반 혐의로 처벌하는 추세다.

수원지법 성남지원은 지난 2월 일러스트 프로그램으로 성행위를 하는 아동 웹툰 캐릭터 210건을 그리고, 이 중 47건을 블로그 등에 올린 피고인에게 징역 2년6개월을 선고했다. 재판부는 “아동·청소년성착취물 범죄는 이들을 대상으로 한 성착취물 제작 범죄의 유인을 제공하고, 시청하는 사람들의 성의식을 크게 왜곡시킨다”며 “아동·청소년을 상대로 한 다른 성범죄를 유발할 수 있는 등 사회 전반에 미치는 해악이 심각하므로 엄히 처벌할 필요가 있다”고 했다.

서울남부지법은 지난해 6월 아동·청소년 캐릭터가 성적 행위를 하는 애니메이션 파일 444건을 스마트폰과 외장하드에 저장한 피고인에게 “아동·청소년성착취물 소지는 성착취물 제작 등에 대한 유인을 제공하고, 아동·청소년 등에 대한 다른 성범죄를 유발할 수 있다”며 징역 6개월을 선고했다.

[플랫]아동 성착취물 제작·유포 가담자 절반 이상이 10대 청소년

[플랫]아동성착취로 논란이 된 게임, 이용 가능 연령만 올리면 끝인가

부산에서는 AI로 그려진 아동 성착취물을 제작한 피의자가 기소된 첫 사례가 나왔다. 부산지검은 노트북에 있는 이미지 생성 AI프로그램을 이용해 여아가 신체를 노출하고 성적 행위를 하는 모습의 이미지 파일 360건을 만들어 소지한 40대 남성 A씨를 지난달 25일 구속기소했다.

이현숙 탁틴내일 대표는 “AI 아동·청소년 성착취물은 아동이 영상에서 묘사된 대로 행동하는 것이 마치 ‘정상적’이라는 신호를 주며 아동에 대한 성적 역할을 부추긴다는 점에서 위험하다”면서 “짧은 시간에 대량제작이 가능하다는 점에서 앞으로 더 많이 유포될 가능성이 크다”고 했다. 이어 “위법한 AI 아동·청소년 성착취물 기준이 무엇인지 구체적으로 정하기 위한 사회적 논의, 플랫폼 회사들의 적극적 대응, 시민들의 신고 조치가 필요하다”고 했다.

▼윤기은 기자 energyeun@khan.kr

플랫팀 기자 areumlee2@kyunghyang.com

▶ 무슨 옷 입고 일할까? 숨어 있는 ‘작업복을 찾아라
▶ 뉴스 남들보다 깊게 보려면? 점선면을 구독하세요

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지