<이미지를 클릭하시면 크게 보실 수 있습니다>

에임인텔리전스는 BMW그룹과 협력해 거대언어모델(LLM)의 기업별 맞춤형 정책 준수 여부를 평가하는 프레임워크 'COMPASS'를 공동 개발했다고 10일 밝혔다.

기존 표준 안전성 테스트를 통과한 AI 모델이라도, 실제 기업 현장 상황에 따라 달라지는 복잡한 규칙을 제대로 따르지 않는 문제를 해결하기 위해 4가지 검증단계를 통해 오작동 비율을 줄인다.

회사는 최근 LLM 도입이 가속화되는 자동차·금융·의료·교육 등 8개 핵심 산업에서 발생하는 시나리오를 기반으로, 6000여개 질의 데이터를 생성해 검증 신뢰도를 높였다고 설명했다. COMPASS 프레임워크와 데이터셋은 깃허브 및 허깅페이스에 무료로 공개됐다.

이번 프로젝트는 에임인텔리전스와 BMW그룹을 비롯해 서울대학교·연세대학교· 포항공과대학교(POSTECH) 연구진이 참여했다. 상세 논문은 논문 사전공개 사이트인 '아카이브(arXiv)'에 공개됐다.

유상윤 에임인텔리전스 대표는 “COMPASS는 실무적 관점에서 모든 규칙이 제대로 지켜지도록 신뢰성을 높인 것이 특징”이라며 “기업과 공공기관이 AI를 보다 안심하고 활용할 수 있는 현실적인 AI 보안 적용 방안을 선보일 것”이라고 말했다.

정현정 기자 iam@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]