<이미지를 클릭하시면 크게 보실 수 있습니다>

잔인한 영상이 온라인에서 오랫동안 확산하게 된 것에 대해 틱톡 측이 사과했다고 미국 뉴스위크가 9일(현지시간) 보도했다.

틱톡은 뉴스위크에 "틱톡에서 재생되는 비양심적인 동영상에 대해 경고의 메시지를 준 커뮤니티의 노력에 감사 드린다"면서 "동영상은 빠르게 삭제됐다"고 말했다. 그러면서 "조회수를 얻기 위한 악의적 행위를 하기 전 차단 시스템을 먼저 가동했다"고 설명했다.

뉴스위크에 따르면 문제의 영상은 처음 보기에는 너무나 평범하다. 단지 소녀가 춤을 추고 있는 모습이다. 하지만 얼마 후 엄청난 반전이 일어난다. 갑자기 화면이 바뀌면서 남성이 등장하고 뒤 따라 나온 한 무리의 남성들에게 둘러싸인다. 이후 그는 참수당한다.

이 같은 영상은 무려 2년간 틱톡에서 돌아다녔다. 뉴스위크는 해당 영상은 잔인한 콘텐츠를 모아 올리는 사이트에서도 등장한다고 했다.

틱톡 사용자 저스틴(16)은 이 영상을 보고 "손이 떨렸고 심장이 터질 것처럼 뛰었다"고 말했다. 또 다른 틱톡 사용자는 "이 영상을 접한 후 이제 다른 영상을 볼 수가 없다. 두렵다"며 "틱톡이 이런 동영상을 막기 위한 더 많은 조치를 취해야 한다"고 강조했다.

프로프라이버시의 아틸라 토마섹 연구원은 "이같은 동영상을 경험한 10대들은 의도적으로 동영상을 클릭하도록 속이기 때문에 평범한 동영상을 클릭하는 것에 대해서도 불안감을 가질 것"이라고 말했다.

캘리포니아 대학의 니콜라스 존스 박사는 "참수 같은 영상을 보면 순간적으로는 심리적 고통을 받고 이후 영상을 보는 것에 대한 두려움이 커질 수 있다"며 "이런 방식으로 그들은 더욱 예민해질 수 있다"고 우려했다.

그는 이어 "의도적이든 우연이든 이같은 영상은 사람들에게 악영향을 주는 것은 분명하다"며 "강아지 비디오를 보다 갑자기 폭행 화면이 나온다면 이를 본 사람들은 화가 나고 소름이 돋을 것"이라고 말했다.

그렇다면 어떻게 이런 영상에 보안을 뚫고 온라인상에 등장할 수 있을까?

한 틱톡 사용자는 뉴스위크와의 인터뷰에서 AI 시스템을 '트릭'했을 가능성이 높다고 말했다. 앱에서 동영상을 공유하면 AI 서버가 자동으로 동영상을 진행하며 나체, 사망 등 잔인한 콘텐츠를 검색, 필터링 한다. 하지만 이들은 AI의 감시를 벗어나기 위해 여러번 재가공한다고 이 사용자는 설명했다.

[이상규 매경닷컴 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]