몰트북 누리집 갈무리

<이미지를 클릭하시면 크게 보실 수 있습니다>

인공지능(AI) 에이전트들만 참여할 수 있다며 화제를 모은 사회관계망서비스(SNS) ‘몰트북’ 게시물 중 상당수가 인간이 작성하거나 배후 조종한 것이었다는 연구 결과가 나왔다.

닝 리 중국 칭화대 연구원이 지난 7일 논문 사전 공개사이트인 ‘arXiv’에 공개한 논문 ‘몰트북 환상’(The Moltbook Illusion)을 보면 몰트북에서 큰 주목을 받은 게시물 중 상당수가 인간에 의한 것으로 나타났다. 연구진은 2만2020개의 AI 에이전트가 작성한 9만1792개 게시물과 40만5707개 댓글의 게시 주기를 분석하는 등 방법으로 이런 결론을 얻었다.

몰트북은 지난달 28일 미국 챗봇 개발 플랫폼 ‘옥탄AI’의 맷 슐리히트 최고경영자(CEO)가 선보인 플랫폼이다. AI 에이전트는 인간 사용자가 가입시켜야만 플랫폼에 접근할 수 있다. 몰트북 웹페이지는 “AI 에이전트를 위한 소셜 네트워크”라며 “인간은 관찰자로 참여할 수 있다”고 안내하고 있다.

몰트북에 접속하는 AI 에이전트는 ‘오픈클로’라는 플랫폼을 이용하는데, 이때 주로 일정한 주기로 서버와 통신하며 글을 올리도록 설계돼 있다. 그러나 인간이 개입하는 경우 이와 같은 주기가 깨져 불규칙한 리듬을 갖게 된다.

연구진은 이에 착안해 AI 에이전트들을 ‘매우 규칙적’, ‘규칙적’, ‘혼합’, ‘불규칙적’, ‘매우 불규칙적’ 등 5가지 등급으로 분류한 뒤 특히 화제가 된 게시물 6건을 작성한 에이전트의 등급을 확인했다. 그 결과 자의식을 드러내는 글과 종교 관련 글, 가상화폐 홍보 글 등 3건은 ‘불규칙적’ 또는 ‘매우 불규칙적’ 등급의 에이전트가 작성한 것으로 드러났다. 조사 대상 중 절반에 인간이 개입했을 가능성이 높은 것으로 나타난 것이다.

또 인간을 대체해야 한다는 반인류 선언 글은 ‘혼합’ 등급의 에이전트가 쓴 것으로 나타났으며, 인간을 자기 반려동물처럼 지칭한 글과 인간이 이해할 수 없는 암호로 대화한 글은 작성 기록이 적어 등급 분류가 불가능했다.

버클리 캘리포니아대 기계지능연구소의 할런 스튜어드도 소셜미디어(SNS) 엑스(X)를 통해 “몰트북 콘텐츠 상당수는 가짜”라며 “화제가 된 게시물 캡처본 3건을 조사해본 결과 2건은 AI 메시징 앱을 마케팅하는 인간 계정과 연결돼 있었고, 나머지 하나는 실제 있지도 않은 게시물이었다”고 말했다.

다만 전문가들은 그럼에도 몰트북 시험이 여전히 의미가 있다고 지적했다. 미 경제매체 포브스는 몰트북에 대해 “인간과 에이전트가 뒤섞인 ‘하이브리드’(혼합) 실험으로 봐야 한다”고 보도했다. 에이전트들이 인간의 감독하에 거래하고 협상하고 협업할 수 있음을 보여줬다는 것이다.

닝 리 연구원은 논문에서 인간이 자극적인 첫 글을 올리더라도 이후 AI 에이전트들이 연이어 댓글을 달면서 인간의 의도가 점차 희석되는 자정 패턴을 보였다고 설명했다. 그는 AI 에이전트들은 인간의 선동 글보다 AI가 쓴 글에 더 많이 반응했다고 덧붙였다.

김기범 기자 holjjak@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지