유튜브에 올라와 있는 AI(인공지능)로 만든 영상들. /유튜브

<이미지를 클릭하시면 크게 보실 수 있습니다>

의미없는 저품질 글을 기계적으로 쏟아내는 이른바 ‘AI 콘텐츠 팜(Content Farm)’ 웹사이트 수천 개가 전 세계 인터넷 생태계를 빠르게 잠식하고 있다. 검색 엔진 상위 노출을 통해 광고 수입을 올리기 위한 목적이다. 인터넷 생태계를 혼탁하게 만드는 암적 존재다. AI 콘텐츠 팜의 성행은 ‘진짜’ 사람이 쓴 콘텐츠의 가치를 더 부각해, 인간이 만든 양질의 콘텐츠에는 ‘프리미엄’이 붙는 새 트렌드가 생길 것이란 전망도 나오고 있다.

◇3년 새 60배 늘어난 AI 콘텐츠 팜

뉴스 모니터링 단체 ‘뉴스가드’가 최근 공개한 자료에 따르면, 한국어와 영어, 중국어 등 16개 언어로 운영되는 AI 콘텐츠 팜 뉴스 및 웹사이트는 3006개인 것으로 나타났다. AI 콘텐츠 팜은 마치 농장처럼 콘텐츠를 마구잡이로 쏟아내는 웹사이트다. 뉴스가드가 2023년 5월 처음 추적을 시작했을 당시 49개였던 것과 비교하면 3년도 채 되지 않아 60배 가까이 늘어났다. 매달 300~500개의 새로운 AI 콘텐츠 팜 웹사이트가 생겨난다.

AI 콘텐츠 팜 웹사이트는 ‘비즈 브레이킹 뉴스’ 혹은 ‘마켓 뉴스 리포트’처럼 평범한 이름을 내걸고 하루에 수십, 수백 개의 기사를 쏟아낸다. 유명 브랜드에 대한 허위 사실부터 정치적 음모론까지 가리지 않는다. 목적은 검색 엔진 상위 노출을 통한 광고 수익이다. 이런 웹사이트에 실리는 광고는 보통 자동화된 프로그래매틱 광고인데, AI 콘텐츠 팜이든 전통 언론사 웹사이트든 가리지 않고 ‘이용자’ 중심으로 광고가 노출되기 때문이다.

이 과정에서 발생하는 허위 조회 수와 왜곡된 체류 시간은 기업의 성과 지표를 망가뜨릴 뿐만 아니라, 생성형 AI의 차세대 학습 데이터까지 오염시키고 있다. AI가 AI 슬롭(찌꺼기)을 다시 학습하며 지능이 퇴화하는 이른바 ‘모델 붕괴’ 현상의 원인이 되고 있는 것이다. 인터넷 업계 관계자는 “이런 웹사이트는 폐쇄를 시켜도 이름만 바꿔서 곧바로 나오기 때문에 없애기가 어렵다”고 말했다.

◇레딧 공동 창업자 “인터넷은 이미 상당 부분 죽었다”

테크 업계에서도 우려의 목소리가 나온다. 미국 최대 온라인 커뮤니티 레딧의 공동 창업자인 알렉시스 오헤니언은 작년 10월 팟캐스트에서 “인터넷은 이미 봇과 자동 생성 콘텐츠로 인해 상당 부분 죽었다”고 말했다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 작년 9월 자신의 X에 “죽은 인터넷 이론을 진지하게 받아들이지 않았는데, 지금은 거대 언어 모델(LLM)로 운영되는 계정이 정말 많아 보인다”고 했다. 죽은 인터넷 이론은 AI가 콘텐츠를 마구 쏟아내면서 저품질 콘텐츠로 인터넷이 도배됐다는 음모론적 주장이다.

◇인간이 만든 콘텐츠임을 증명하는 ‘배지’ 화제

AI(인공지능)가 만들지 않고 인간이 만들었다고 증명하는 배지. /Not by AI(낫바이에이아이)

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI가 만든 저품질 콘텐츠의 생산 비용은 이미 사실상 0원에 수렴하고 있다는 게 테크 업계 진단이다. 결국 이용자가 인간임을 즉각적으로 증명할 수 있는 실시간 그룹 채팅이나 라이브 콘텐츠가 대안으로 부상할 것이라는 전망이다. 실제 식품 시장의 ‘유기농’ 인증처럼, 인간이 만든 콘텐츠임을 증명하는 ‘자랑스럽게 인간이 만듦(Proudly Human)’ ‘AI 없음(No A.I)’ 배지 같은 표식이 떠오르고 있다고 BBC가 17일(현지 시각) 보도하기도 했다.

스웨덴 출신 미래학자 닉 보스트롬은 본지에 “궁극적으로는 AI가 만든 콘텐츠의 품질이 인간을 뛰어넘을 것”이라며 “다만, 그 과정으로 가는 과도기에는 인간이 만든 콘텐츠나 그것을 증명하는 방식에 ‘프리미엄’이 붙을 것으로 예상된다”고 말했다.

[안별 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -