‘AI 슬롭’의 예시로 알려진 ‘새우 예수’ 이미지 [엑스(X·옛 트위터) 갈무리]

<이미지를 클릭하시면 크게 보실 수 있습니다>

한국이 전 세계에서 인공지능(AI)이 생성한 저품질 콘텐츠, 이른바 ‘AI 슬롭’(AI Slop)을 가장 많이 소비하는 국가인 것으로 나타났다. AI 슬롭의 무분별한 확산으로 이용자들의 판단력 저하 현상까지 우려되는 상황이다.

30일 글로벌 영상 편집 플랫폼 ‘카프윙’이 발표한 조사 결과에 따르면, 한국은 전 세계 AI 슬롭 소비 1위 국가다.

한국발 AI 슬롭 유튜브 채널의 누적 조회수만 약 84억5000만회에 달한다. 이는 2위 파키스탄(53억회), 3위 미국(34억회)를 크게 앞지른 수치다.

AI 슬롭은 AI와 영단어 ‘쓰레기(slop)’를 결합한 단어다. 인공지능이 대량 생산한 저품질 콘텐츠를 뜻한다. 문제는 이러한 콘텐츠가 이용자의 판단력을 떨어뜨리는 ‘브레인롯’ 현상을 유발한다는 점이다. 브레인롯은 기괴한 효과나 자극적인 설정의 콘텐츠를 과도하게 소비해 지적 능력이 퇴화하는 상태를 의미한다.

AI 슬롭으로 인한 피해는 온라인을 넘어 현실로 번지고 있다. 국내에서 최근 논란이 적지 않은 ‘AI 가짜 의사’가 대표적이다. AI로 만든 가짜 의사가 실제 전문가인 척 등장해 특정 식·의료품을 추천하는 허위 광고로 소비자를 기만하며, 소비자들의 피해가 끊이지 않고 있다.

업계 관계자는 “AI 슬롭이 온라인 공간을 저품질 AI 생성물로 채우면서, 이용자는 영상의 진위 여부를 판단하는 기준 자체를 잃고 있다”며 “이는 AI 기반 범죄와 사기의 토양”이라고 지적했다.

이에 정부는 AI 생성물을 만들 때 AI로 제작했다는 사실을 표시해야 하는 ‘AI 생성물 표시제’ 등 ‘AI 기본법’ 시행을 추진 중이지만 유럽연합(EU)의 디지털서비스법(DSA)처럼 플랫폼 유통 이전부터 AI 유해 콘텐츠 확산 방지에 초점을 맞춘 규제가 필요하다는 지적이 나온다.

업계 관계자는 “정부가 AI 기본법에 고영향 AI에 대한 가이드라인을 마련하겠다고 나서긴 했으나, 고영향 AI에 대한 기본 정의가 모호할 뿐만 아니라 플랫폼 알고리즘 등 유해 콘텐츠 유통 구조 자체에 대한 논의가 깊이 있게 이뤄지지 않아 아쉽다”며 “AI 생성물 표시 의무를 해봤자, 콘텐츠 유통 구조를 통제하지 못하면 근본적인 해결이 어려울 것”이라고 했다. 차민주 기자