<무너진 교실 : 딥페이크 그후>
④어떻게 싸워야 하나
미국 여학생 프란체스카 마니의 ‘싸움’
동급생이 가짜 누드 사진 만들어 조롱
솜방망이 처분에 분노 “직접 바꾸자”
10대의 'SOS' 요청에 응답한 정치인들
함께 법 만들고, SNS 업체 만남 주선

미국의 여고생인 프란체스카 마니는 피해자로 남고 싶지 않았다. 자신의 딥페이크를 만든 같은 학교 남학생들이 아무 일 없던 것처럼 등교하는 모습을 보고 직접 제도를 바꾸기로 결심했다. 사진은 마니가 지난 6월 워싱턴DC의 국회의사당에서 열린 '딥페이크 삭제법' 공청회에서 법을 지지한다는 의사를 밝히는 모습. 마니의 왼쪽에 있는 여성은 또다른 10대 피해자인 엘리스턴 베리. 도로타 마니 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

프란체스카 마니(15)의 오른손에는 여섯 살 때부터 칼이 쥐어져 있었다. 일찌감치 펜싱을 시작했고, 미국 주니어 올림픽에 출전할 만큼 기량도 출중했다. 주 종목은 사브르. 105㎝의 긴 칼로 상대의 상체를 찌르거나 베면 점수를 따는 가장 공격적인 종목이다. 프란체스카는 경기에서 진 날이면 무엇이 잘못됐는지 복기해 기어코 이겨내는 승부사였다. 그런 아이가 지난해 10월 20일, 하교 후 집에서 엄마 도로타 마니(45) 앞에 섰다. 참담한 표정과 달리 목소리는 결연했다.

“엄마, 나 아무 일도 없었던 것처럼 연기하며 남들에게 동정이나 받고 싶지 않아요. 이제 싸울래요.”

피해자로 남지 않겠다는 선언이었다. 미국 뉴저지 웨스트필드고교 신입생이었던 그는 동급생들이 만든 가짜 누드 사진 탓에 피해를 봤다. 가해 남학생들은 ‘옷 벗기기’ 애플리케이션에 프란체스카 등 학교 여학생들의 사진을 넣어 불법 딥페이크(인공지능으로 만든 합성 이미지)를 만들었다. 가해자들은 합성 사진을 온라인 메신저로 돌려보며 조롱했다.

프란체스카는 교감 선생님의 설명을 들은 뒤 행동을 결심했다. 교감은 “딥페이크를 만든 학생 중 한 명이 하루 이틀 정도 근신 처분을 받았다”고 말했다. 기가 찰 만큼 약한 징계였다. ‘직접 나서지 않으면 아무것도 달라지지 않겠다’고 느꼈다. 프란체스카 모녀는 미국 국회의사당이 있는 워싱턴DC로 향했다.

딥페이크 성범죄 공격에 노출된 아이들은 한국 10대뿐만이 아니다. 프란체스카처럼 대부분 국가의 10대들이 위협에 시달린다. 낯선 기술이라는 이유로 각국 정부와 기업이 제동 장치를 만들지 않은 탓이다. 하지만 젊은 여성들의 투쟁 덕에 세상은 천천히 달라지고 있다. 한국일보·코리아타임스 특별취재팀은 프란체스카와 그의 엄마 도로타를 지난달 9일부터 26일까지 줌(화상회의 앱)과 이메일로 여러 차례 인터뷰했다. 이를 통해 딥페이크 사건 이후 피해자들이 이어온 싸움이 어떻게 제도를 바꿔 놓았는지 추적했다.

프란치스카 마니(왼쪽)과 그의 어머니인 도로타. 도로타 마니 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

범죄 적발됐는데…가해자에겐 아무 일도 없었다

“내 딸이 겪은 일은 결코 특별한 사건이 아녜요. 몇 해 전부터 일어나던 일이었죠. 하지만 아무도 관심이 없었습니다. 뉴스에서도 크게 다루지 않았고요.”

도로타는 지난달 15일 줌으로 만난 기자에게 씁쓸한 투로 말했다. 권력 있는 여성을 공격해 영향력을 떨어뜨리기 위한 수단으로 딥페이크가 악용돼 왔다는 설명이다. 실제 보통 사람들이 알 만한 피해자가 수두룩하다. 글로벌 팝스타 테일러 스위프트(35)는 자신의 얼굴에 나체 이미지가 합성된 가짜 영상이 엑스(X·옛 트위터) 등을 통해 공유된 탓에 큰 상처를 입었다. 할리우드 스타인 배우 에마 왓슨(34), 스칼릿 조핸슨(40)은 물론 정·재계, 언론계의 유명 여성들이 딥페이크 포르노의 피해를 봤다. 해결의 열쇠를 쥔 정치권과 기업들이 “신기술이라 대응하기 어렵다”며 외면하는 사이, 프란체스카 같은 평범한 10대까지 범행 표적이 됐다. 미국 비영리단체인 민주주의와기술센터(CDT)가 올해 학생과 교사, 학부모 등 3,350명을 대상으로 조사한 결과 학생의 15%가 ‘학교 안 인물을 대상으로 한 딥페이크 범죄에 대해 들어봤다”고 답했다.

그래픽=이지원 기자그래픽=이지원 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

국제학교와 어린이집 설립자이기도 한 도로타는 학교를 믿었다. 하지만 기대는 순식간에 무너졌다. 딸에게 성범죄를 저지른 가해 남학생들은 아무 일 없었던 것처럼 학교를 다녔다. 프란체스카는 학교가 학생과 학부모, 지역사회에 잘못된 신호를 줬다며 분노했다.

“’여성의 가치를 훼손하는 행동은 용납하지 않는다’는 선례를 남겼어야 했어요. 하지만 학교는 ‘인공지능(AI) 범죄 피해에 대응할 규정이 없다’며 손을 놓아버렸죠. 가해자들은 피해 여학생들과 같은 교실에서 공부했고, 스포츠팀의 대표도 계속 맡았죠. 책임지지 않는 모습에 너무 화가 났어요.”

프란체스카는 학교가 권고한 피해자 상담을 거절했다. 그에겐 같이 울어줄 사람보다 싸워줄 사람이 필요했다. 프란체스카가 시종일관 품은 질문은 단 하나였다. '왜 가해자들은 '면허'라도 있는 것처럼 제멋대로 남의 사진을 조작했을까.' 엄마와 함께 제도를 알아보니 학교뿐 아니라 뉴저지주 법에도, 미국 연방법에도 AI 기술 탓에 피해를 본 이들을 보호하고, 가해자를 제대로 처벌하는 조항이 없었다. 모녀는 상심하는 대신 결심했다.

"우리가 법과 제도를 만들어보자."

프란체스카 마니가 재학중인 미국 뉴저지 웨스트필드 고등학교의 깃발. 웨스트필드고 홈페이지

<이미지를 클릭하시면 크게 보실 수 있습니다>

10대 아이를 돕는데 당파는 없다

프란체스카와 도로타는 딥페이크 성범죄를 막으려면 미국 사회의 세 축을 움직여야 한다고 판단했다. ①의회 ②사회관계망서비스(SNS)와 빅테크(거대 기술) 기업 ③학교. 우선 연방의회를 공략해 법을 만들어야 했다. 10대 딥페이크 피해자가 'SOS' 신호를 보내자 어른들은 기꺼이 응답했다. 가장 먼저 손을 내민 정치인은 어린 손녀를 둔 조 모렐리(67∙민주당) 하원의원이었다. 그는 이미 7년째 딥페이크 문제를 다룰 법을 고민해왔고, 2023년 '친밀한 이미지를 악용한 딥페이크 방지법'을 발의한 인물이다. 법안에는 타인의 사적 사진 등으로 딥페이크 이미지를 만들어 동의 없이 공개하는 것을 금지하고, 피해자가 구제받을 수 있도록 개인 소송권을 보장하는 내용 등이 담겼다. 정치 경험이 풍부한 모렐리 의원은 몇 번 만의 클릭으로 조작 이미지를 대량생산하는 시대가 열렸음을 직감했다.

“다시는 이런 큰 사건이 뉴스가 될 때까지 기다리지 맙시다. 이런 일은 전 세계 여성들에게 매일 일어나고 있어요. 여성들에게 권력을 돌려줄 때가 됐습니다."

뉴저지가 지역구인 톰 킨 주니어(56∙공화당) 하원의원도 적극적이었다. 그는 웨스트필드 고교 사건에 대해 듣고는 ‘AI 표식법’을 내놨다. 시청자가 딥페이크 등 AI로 만든 콘텐츠를 쉽게 알아챌 수 있게 눈에 잘 띄는 곳에 표식을 붙이도록 의무화하는 내용이었다. 테드 크루즈(54∙공화당) 상원의원이 발의한 ‘게시물 삭제법’은 SNS 등 온라인 플랫폼에 불법 이미지가 올라오면 운영사가 강제 삭제하도록 했다. 이 법이 의회를 통과하면 인스타그램, 엑스 등 미국에 본사를 둔 SNS에서 딥페이크를 지우지 못한 피해자들의 고통이 크게 줄어들 전망이다.

프란체스카는 의회 청문회에 나가 'AI 표식법'을 지지한다고 발언했다. 도로타는 "법을 만드는 일이 가장 어려울 줄 알았는데 예상과 달리 가장 쉬웠다. 민주당과 공화당 의원들이 소속 정당을 떠나 합심해 도와줬기 때문"이라고 말했다.

그래픽=이지원 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

프란체스카 모녀의 시선은 이제 스냅챗으로 향했다. 미국 10대의 60%가 쓰는 대표 메신저다. 딸의 조작 사진도 스냅챗을 통해 공유됐다. 프란체스카와 도로타는 크루즈 의원의 소개로 만난 스냅챗 주요 관계자에게 거대 SNS 기업으로서 책임을 다하라고 요구했다. 10대 고객들을 상대하는 이 기업도 강력한 메시지를 전달받고는 움직이기 시작했다. 스냅챗은 올해 초부터 AI가 만든 이미지에 워터마크(식별 표시)를 붙이고 있다. 도로타는 변화를 긍정적으로 평가했다.

“스냅챗 관계자들은 회사의 앱이 젊은 세대에 미치는 영향을 3년간 연구했죠. 딥페이크 공유 통로로 악용되는 등 반복되는 사건에 대응하기 위해 내년 여름쯤 개발한 온라인 도구를 대중에 공유할 의향이 있다고 했어요."

도로타는 "마이크로소프트와 애플, 아마존 등 빅테크 기업의 주요 관계자를 대화 테이블로 초대해 딥페이크 문제 등에 적극적으로 대응하도록 해야 한다"고 말했다.

"인생은 공평하지 않아…싸워야 바뀌죠"

가장 변화가 느린 조직은 학교였다. 웨스트필드 고교의 메리 아스펜디스 교장은 딥페이크 사건이 발생하자 학부모들에게 이메일을 보내 “매우 심각한 사건”이라고 했다. 하지만 행동은 영 딴판이었다. 피해자들은 학교 측에 "AI 범죄에 대응할 수 있도록 학내 정책을 개선해달라"고 요청했지만 움직이지 않았다. 지역의 공립학교들을 담당하는 교육구(교육청)도 학생들이 챗GPT 등 생성형 AI를 활용해 보고서를 쓰는 등 부정행위를 막으려고 관련 프로그램 사용을 통제했지만 딥페이크는 규제하지 않았다.

다행인 건 다수의 학생과 교사가 프란체스카 등 피해자를 응원해줬다는 점이다. 덕분에 아이는 사건 이후에도 세상을 전면적으로 불신하지는 않게 됐다.

“흥미롭게도 제 친구는 대부분 남자애들인데 저를 지지하며 가해자에게 같이 화내줬어요. 남자아이들도 넘어서는 안 될 ‘선’을 알고 있었죠. 모든 남자가 똑같지 않음을 느꼈어요."

프란체스카 마니는 미국 시사 주간지 '타임'이 선정한 'AI 분야에서 가장 영향력 있는 100인'으로 올해 뽑혔다. 타임 홈페이지 캡처

<이미지를 클릭하시면 크게 보실 수 있습니다>

포기하지 않고 압박하다 보니 결과를 얻었다. 학교 측은 10개월 만에 AI 규정을 고치기로 했다. 불법 딥페이크를 제작하면 어떤 민·형사적 제재에 처할 수 있는지 학생들에게 가르치고, 피해자에게 미치는 여러 영향에 대해서도 교육할 예정이다.

프란체스카는 스스로 "운이 좋은 사람"이라고 표현했다. 범죄 피해를 봤지만 힘 있는 이들이 자신의 말에 귀 기울여줬고 세상을 나아지게 만들기 위해 한 팀이 돼줬기 때문이다. 1년 새 더 단단해진 열다섯 살 소녀가 기자에게 말했다.

"인생은 공평하지 않아요. 말도 안 되는 시스템이라도 저절로 고쳐지진 않죠. 싸워야 바뀝니다. 여성들이 힘을 뭉쳐야 할 때죠."

불법 딥페이크 규제 입법 등에 불을 붙인 프란체스카는 올해 미국 시사 주간지 '타임'이 선정한 'AI 분야에서 가장 영향력 있는 100인'에 꼽혔다. AI 반도체 시장에서 독주하는 젠슨 황(엔비디아), 챗GPT를 만든 샘 올트먼(오픈AI) 등 굵직한 AI 및 IT 기업 최고경영자(CEO)들이 10대 투쟁가와 이름을 같이 올렸다.

■한국일보·코리아타임스 특별취재팀
팀장 : 유대근 기자(엑설런스랩)
취재 : 진달래·원다라 기자(엑설런스랩), 김태연 기자(사회부), 정다현 기자(코리아타임스), 이지수 인턴기자
사진 : 하상윤 기자, 류기찬 인턴기자
영상 : 박고은·이수연·김용식·박채원 PD, 김태린 작가, 김가현 인턴PD, 전세희 모션그래퍼

※<제보받습니다> 한국일보는 딥페이크 범죄 피해를 당한 아동∙청소년과 그 가족, 주변 분들의 제보를 받습니다. 딥페이크 피해와 그 이후 수사, 재판 과정에서 겪은 어려움, 학교 안팎에서 겪은 부조리, 2차 가해 등이 있으시다면 제보(dynamic@hankookilbo.com) 부탁드립니다. 제보한 내용은 철저히 익명과 비밀에 부쳐집니다. 끝까지 취재해 보도하겠습니다.

유대근 기자 dynamic@hankookilbo.com 정다현 코리아타임스 기자 dahyun08@koreatimes.co.kr