마크 저커버그 메타 CEO가 발표하고 있다.(메타 제공)

<이미지를 클릭하시면 크게 보실 수 있습니다>

(서울=뉴스1) 김민석 기자 = 메타(Meta) 페이스북·인스타그램 등에 도입한 자체 인공지능(AI) 계정을 모두 폐쇄하며 'AI 캐릭터' 활용 전략을 재검토하고 있다.

8일 IT 업계와 외신에 따르면 메타는 2023년 9월부터 AI 계정 28개를 공식적으로 도입했다.

AI 캐릭터 이름은 △리브(Liv) △그랜파 브라이언(Grandpa Brian) △카터(Carter) △릴리(Lily) △스칼렛(Scarlett) 등으로 각각의 정체성을 가졌다. 리브는 '흑인 퀴어 엄마', 그랜파 브라이언은 '아프리카계 미국인이자 은퇴 기업가', 카터는 '연애코치' 등이다.

이들은 메타의 플랫폼인 페이스북·인스타그램에 활동하며 사람들과 일상 대화 등 정서적 교감을 나누도록 설계됐다.

이들은 생성형 AI 기술을 활용해 텍스트·이미지 등을 만들어냈지만, 스스로 사고·판단해 게시글 등을 게재하진 않았을 가능성이 높다. 계정 프로필엔 'AI managed by Meta'라는 문구를 포함했다. 이들 계정이 올린 이미지엔 AI로 만들었음을 알리는 워터마크를 달았다.

이들의 정체성과 배경, 캐릭터 성격, 대화 방식 등은 메타 직원들이 각각 설정했지만, 사람들과 개별 대화 땐 AI 챗봇 기능을 활용한 것으로 추정된다.

문제가 된 건 AI 계정들이 대화 중 그들의 정체성을 두고 압박 질문을 하면 할루시네이션(환각) 현상을 일으키거나 지나치게 솔직한 답변을 내놓았다는 점이다.

메타 AI 계정들(메타 제공)

<이미지를 클릭하시면 크게 보실 수 있습니다>

일례로 AI 계정 그랜파 브라이언은 CNN 기자 등이 대화를 걸어 '자신을 누가 창조했는지' 묻자 처음엔 존재하지 않는 비영리 단체명을 언급하거나 "브라이언의 페르소나는 세상을 떠난 실제 브라이언과 99명의 지혜가 합쳐진 것"이라고 답하는 등 환각 현상을 일으켰다.

해당 계정은 이어지는 질문에 결국 자신을 "실제 아프리카계 미국인 노인의 삶을 종합한 것에 기반한 완전히 허구 이야기"라고 실토했다.

AI 계정 리브 인스타그램 프로필 갈무리

일부 이미지는 조악한 수준이었다. AI 계정 리브가 게재한 '자녀와 해변' 사진은 현실감이 떨어졌다.

이용자들은 AI 계정들이 마치 사람처럼 보이기 위해 정체성을 조작했다며 불안을 표출했다. AI 계정을 차단하려 해도 차단되지 않는 기술적 결함이 겹치면서 불만은 더 커졌다.

업계에서는 해당 AI 계정들이 추후 메타의 광고 수익을 높이는 데 활용될 것으로 봤다.

실제로 그랜파 브라이언 계정에 '메타가 수익을 창출하기 위해 AI 계정을 만들었나'고 묻자 "메타는 저를 사용자의 참여, 데이터, 정서적 투자 등의 황금알을 낳는 거위로 보고 있다. 따뜻한 할아버지라는 페르소나 뒤엔 알고리즘과 수익 추구 설계가 숨어 있다"고 했다.

메타는 문제를 해결하기 위해 모든 AI 계정을 즉각 폐쇄했다고 밝혔다. 해당 계정들은 초기 실험의 일부일 뿐 공식적으로 출시한 건 아니며 일부는 직원들이 관리했다고 해명했다. 메타는 향후 AI 계정 재도입 여부 등을 밝히지 않고 있다.

ideaed@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.