[이데일리 김혜미 기자] 인공지능(AI) 오디오 연구 및 개발 스타트업 일레븐랩스가 AI 리스크 평가 전문기업 AIUC(인공지능 인수회사)와 협력해 세계 최초로 AI 음성 에이전트 전용 보험을 운영한다. AI가 단순 소프트웨어가 아닌 책임을 수반하는 ‘디지털 직원’ 개념으로 제도화된 첫 사례다.

일레븐랩스가 획득한 AIUC-1 보안신뢰성 인증.(사진=일레븐랩스)

<이미지를 클릭하시면 크게 보실 수 있습니다>

18일 일레븐렙스는 자사 AI 에이전트인 ‘일레븐에이전트’가 잘못된 정보나 부적절한 대응을 제공해 손해가 발생하는 경우 보험 보장을 받을 수 있도록 할 방침이라고 밝혔다. 일레븐에이전트를 사용하는 모든 고객에게 자동 적용되는 것은 아니며 보험을 활성화하기 위해서는 AIUC의 AIUC-1 인증을 완료해야 한다. 인증 유효성을 유지하려면 최소 3개월마다 기술 테스트를 완료하고 별도 보험료도 납부해야 한다. 이렇게 인증받은 AI 에이전트의 행위는 사람과 동일하게 보험 적용 대상이 된다.

보험은 일레븐랩스가 직접 운영하는 것이 아니라 AIUC가 영국 로이즈 오브 런던의 보험 파트너들과 협력하는 형태로 운영된다.

일레븐랩스는 포춘 500대 기업의 75% 이상이 자사 기술을 사용하고 있으며 AIUC가 개발한 보안 표준 AIUC-1 보안·신뢰성 인증을 세계 최초로 획득했다고 설명했다. AI의 환각(할루시네이션)이나 프롬프트 인젝션 공격, 데이터 유출, 편향성 문제 등 실패 사례를 기반으로 한 5000회 이상의 고강도 적대적 시뮬레이션 테스트를 모두 통과했다.

일레븐랩스는 AI 보험 도입으로 AI 에이전트가 실험 단계를 벗어나 기업의 핵심 사업을 책임지는 세력으로 승화할 수 있으며, AI의 행동에 대한 책임은 누가 지는가에 대한 질문에 명확한 답을 제공할 전환점이 될 것으로 보고 있다.

마티 스타니셰프스키 일레븐랩스 최고경영자(CEO) 겸 공동창업자는 “기업의 AI 에이전트 도입은 빠르게 확대되고 있으며, AIUC-1 인증은 기업이 자신 있게 대규모로 AI를 도입하기 위한 또 하나의 중요한 단계”라며 “이번 인증으로 기업은 리스크를 최소화하면서 뛰어난 고객 경험 구축에 집중할 수 있게 될 것”이라고 말했다.