[AI리포터]

유마니텍 가디언 에이전트가 위험도를 측정하는 모습  [사진: 유마니텍]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 인공지능(AI) 기반 유해성 감소 기업 유마니텍(Umanitek AG)이 '가디언 에이전트'(Guardian Agent)를 출시했다. 이 플랫폼은 대형언어모델(LLM)의 환각 현상과 딥페이크, 신원 도용 등 디지털 신원 위협을 방어하는 데 초점을 맞췄다.

3일(현지시간) 실리콘앵글에 따르면, 유마니텍은 새로운 자문위원회를 구성하고 투자 유치에도 성공했다. 유마니텍은 틱톡과 엑스(구 트위터) 등 주요 플랫폼과 법 집행 기관이 개인 정보 보호와 경쟁, 지정학적 문제로 데이터를 공유하기 어려운 상황에서도, 유해 콘텐츠가 모든 플랫폼과 연령대, 기기로 확산되는 구조적 문제를 해결하는 것을 목표로 했다.

이에 따라 가디언 에이전트는 데이터 공유 없이도 유해 콘텐츠를 감지하고 차단할 수 있는 분산형 인프라를 제공하며, 인터넷의 '면역 시스템' 역할을 수행하도록 설계됐다.

가디언 에이전트는 세 가지 핵심 위험 영역을 모니터링한다. 먼저 챗GPT, 클로드, 그록, 제미나이, 퍼플렉시티 등 AI 모델이 생성하는 환각과 허위 정보를 감지한다. 이어 틱톡과 엑스 등 소셜미디어(SNS)에서 허위 계정과 위조 행위를 차단하며, AI 모델과 플랫폼 전반에 걸친 콘텐츠 및 지식재산권 침해도 포괄적으로 탐지한다.

이 플랫폼은 콘텐츠의 생성 시점과 위치, 내용, 변화 과정을 기록해 디지털 증거를 생성하고, 사용자의 즉각적인 삭제 요청이나 법적 대응을 지원한다.

크리스 리닝(Chris Rynning) 유마니텍 공동 창업자는 "인간보다 기계에 더 많이 의존하는 시대에 접어들고 있다"라며 "데이터보다 신뢰가 중요한 시대에 가디언 에이전트는 웹을 위한 디지털 면역 시스템이 될 것"이라고 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>