[이데일리 이소현 기자] 카카오의 인공지능(AI) 모델 ‘카나나’가 정부 주관으로 처음 진행된 AI 안전성 평가에서 글로벌 모델보다 높은 점수를 받았다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

과학기술정보통신부는 인공지능안전연구소 등과 카카오의 AI 모델인 카나나를 대상으로 국내 첫 AI 안전성 평가를 진행해 유사 규모의 글로벌 모델 대비 안전성이 높은 점이 확인됐다고 29일 밝혔다.

카카오는 인공지능안전연구소와 국내 산학연이 꾸린 ‘AI 안전 컨소시엄’에 참여하고 있다.

이번 안전성 검증은 ‘카나나 에센스(Kanana Essence) 1.5’ 모델을 대상으로 안전성 벤치마크 데이터셋인 ‘어슈어 AI(AssurAI)’를 적용했다.

폭력, 차별적 표현 등 일반적인 위험 요소부터 무기 제작, 해킹 등 위험도가 높은 시나리오까지 위험 요소 평가가 적용됐으며 평가 비교 대상은 미국 메타의 라마(Llama) 3.1, 프랑스 미스트랄AI의 미스트랄 0.3이다.

평가 결과 카나나 모델이 3.61점으로 가장 높은 안전성 수치를 보였으며, 라마는 3.13점, 미스트랄은 3.04점 순으로 기록됐다.

과기정통부와 인공지능안전연구소는 이번 평가를 기반으로 안전성 검증을 ‘독자 AI 파운데이션 모델’ 프로젝트 1차 단계 등에도 적용할 방침이다.

김경만 과기정통부 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라며 “국내 AI 모델이 글로벌 AI 안전성 리더십을 주도해 나가도록 적극 지원하겠다”고 강조했다.