A씨(18)는 어느 날 친구로부터 자신을 불법 촬영한 사진이 사회관계망서비스(SNS)에 퍼지고 있다는 연락을 받았다. 서울시가 운영하는 ‘서울 디지털성범죄 안심지원센터’에 도움을 요청하자 인공지능(AI)이 불과 몇 분 만에 사진 속 얼굴과 가방 등 특징을 분석해 신규 불법 사이트까지 추적했고 삭제를 지원했다. A씨는 “처음에는 불법 촬영물 한 건만 있는 줄 알았는데 AI가 관련 사진을 다 찾아줬다”며 “혼자였다면 절대 못 찾았을 것”이라고 말했다.

A씨 사례는 서울시가 도입한 ‘디지털 성범죄 AI 삭제지원 기술’의 작동 방식을 보여준다. 시가 2023년 전국 최초로 독자 개발한 해당 기술은 24시간 실시간 모니터링으로 각종 불법사이트, SNS 상의 피해 영상물을 자동 검출해 신속히 삭제하고 재유포를 차단한다.

시는 3일 정부 부처 한 소속 기관과 첫 무상 기술 이전 계약을 체결한다고 2일 밝혔다.오균 서울연구원장은 “이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례”라고 말했다. 시는 기술 전수를 원하는 전국 지자체와 공공기관, 기업 등에 무상 보급한다는 방침이다. 시는 기술을 무상 보급할 경우 기관당 약 1억8000만원의 예산 절감 효과를 거둘 수 있을 것으로 보고 있다.

AI 기술 도입으로 ‘서울 디지털 성범죄 안심지원센터’의 삭제 지원 건수는 2022년 2509건에서 2025년 1만5777건으로 6.3배 증가했다. 처리 속도와 정확도도 높아졌다. 기존에는 사람이 육안으로 피해 영상물을 일일이 탐지해 신고하는 방식이었지만 AI 도입 이후 처리 시간은 평균 3시간에서 6분으로 단축됐다. 시는 처리 속도가 30배가량 빨라졌고 정확도는 200~300% 개선됐다고 설명했다. 피해 영상물을 매일 봐야 하는 직원들의 심리적 고통을 최소화하는 효과도 있다.

마채숙 시 여성가족실장은 “시가 개발한 피해자 보호 기술을 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다”고 말했다.

윤선영 기자

ⓒ 세상을 보는 눈, 세계일보