<이미지를 클릭하시면 크게 보실 수 있습니다>

담배 피는 학생이 경찰에 조롱하거나 경찰이 시민을 강압적으로 제압하는 장면 등이 담긴 영상이 온라인에 확산되고 있다. 그러나 해당 영상들은 모두 실제 상황이 아닌 인공지능(AI)으로 제작된 ‘가짜 경찰 출동 영상’으로 확인되면서 사회적 혼란을 키우고 있다.

23일 IT 업계에 따르면 이 같은 AI 합성 영상은 지난 10월 2일부터 한 유튜브 채널과 인스타그램, 틱톡 등 사회관계망서비스(SNS)에 잇따라 게시되기 시작해 현재 50개를 넘어섰다. 폭행이나 말다툼, 음주운전 단속 현장에 출동한 경찰의 보디캠 영상처럼 연출된 것이 공통점이다.

한 영상에서는 교복을 입고 길거리에서 담배를 피우는 학생에게 경찰이 "○○여고 학생이지? 학생이 담배를 피우면 안 되지. 얼른 꺼"라고 제지하자 학생은 "무슨 상관이냐"고 반발한다. 이어 경찰의 보디캠을 본 학생은 "지금 몰카(불법촬영)를 찍었느냐"며 "경찰이 '몰카' 찍고 다님? 변태네 진짜"라며 조롱한다. 경찰은 "요즘 학생들 진짜 미쳐버리겠네···"라며 난처해하는 목소리가 나온다.

또 다른 영상에는 경인국철(서울지하철 1호선) 부천역 인근에서 인터넷 방송을 하던 BJ가 등장한다. BJ는 시민 불편을 이유로 방송 종료를 요청한 경찰에게 욕설하며 달려들었다. 이후 경찰이 BJ를 바닥에 넘어뜨려 제압한 뒤 "당신을 모욕죄 및 공공도로 점유로 체포한다"고 말하는 장면이 연출됐다.

해당 영상들은 모두 AI로 제작된 허위 콘텐츠다. 그럼에도 10월 한 달 동안 인스타그램에서만 누적 조회수 1200만 회를 기록했고, 관련 틱톡 채널 팔로워 수는한 달 만에 9900명까지 늘어나는 등 온라인상에서 빠르게 확산됐다.

문제는 상당수 이용자들이 이를 실제 경찰 보디캠 영상으로 오인하고 있다는 점이다. 지난달 27일 수도권을 시작으로 이달 초 대전까지 경찰 보디캠이 전국적으로 도입된 시점과 맞물리며 혼란이 커졌다는 분석이 나온다. 실제 BJ 제압 영상에는 “경찰이 시민 자유를 억압한다” 등의 비판 댓글도 달렸다.

최근 한 유튜버가 불법주차 신고에 대한 경찰 대응을 문제 삼는 영상을 올려 관할 경찰서장이 "마녀사냥을 멈춰달라"며 대응에 나서며 경찰 과잉진압 등으로 오해가 커지는 상황에서 AI 가짜 영상이 이러한 불신을 증폭시킨다는 우려도 제기된다.

이에 경찰청은 AI로 제작된 허위 영상 유포로 인한 피해 확산을 막기 위해 해당 SNS 채널들에 대해 입건 전 조사(내사)에 착수하겠다고 밝혔다. 경찰은 채널 운영자가 자신이나 타인에게 이익이나 손해를 가할 목적으로 허위 통신을 했다고 보고 전기통신기본법 위반 혐의 적용을 우선 검토 중이며, 영상 삭제나 차단 조치도 병행할 방침이다.

다만 실제 처벌로 이어질지는 불투명하다는 지적이 나온다. 공익을 해할 목적으로 허위 통신을 한 행위를 처벌하도록 규정한 전기통신기본법 제47조 제1항은 2010년 이른바 '미네르바 사건'으로 헌법불합치 결정을 받아 폐지됐다. 이를 대체할 명확한 처벌 규정은 아직 마련되지 않았다.

내년 1월 시행을 앞둔 AI 기본법 역시 규제보다는 산업 진흥에 무게를 두고 있어 사회적 혼란을 유발하는 AI 허위 콘텐츠를 직접 규율하는 내용은 담지 못했다. 이 때문에 AI 합성 영상 확산에 대응할 보완 입법이 필요하다는 지적이 나온다.

김도연 기자 doremi@sedaily.com
[ⓒ 서울경제, 무단 전재 및 재배포 금지]