[디지털데일리 이안나기자] 국내 인공지능(AI) 시험·평가 전문기관 와이즈스톤은 한국표준협회와 함께 ‘AI+ 신뢰성 인증’을 공식 발족하고 AI 시스템 신뢰성을 시험과 평가를 통해 검증하는 인증 제도 운영에 돌입했다고 16일 밝혔다.

이번 인증은 내년 1월 22일 시행 예정인 ‘AI기본법’이 요구하는 신뢰성 요건에 선제적으로 대응하기 위해 마련됐다. 고영향 AI와 생성형 AI를 포함해 다양한 AI 시스템을 대상으로 하며 단순 성능 평가를 넘어 실제 운영 환경에서의 안전성과 책임성을 검증하는 데 초점을 맞췄다.

AI기본법은 안전성, 투명성, 공정성, 책임성, 설명가능성, 제어가능성, 개인정보 보호 등 AI 신뢰성 요소를 국가 핵심 요구사항으로 규정하고 있다. 이에 따라 AI를 개발·운영·제공하는 기업과 기관은 규제 준수를 넘어, AI 시스템이 사회적 책임과 위험 관리 측면에서 적절하게 작동하고 있음을 객관적으로 입증해야 하는 과제를 안게 됐다.

와이즈스톤은 이러한 요구에 대응해 AI 시스템이 실제 환경에서 어떻게 운영·관리되고 있는지를 시험과 평가를 통해 종합적으로 검증하는 ‘AI+ 신뢰성 시험 체계’를 구축했다. 성능 중심의 기존 평가 방식에서 벗어나, 현장 운영 단계에서의 통제 구조와 관리 체계까지 검증하는 것이 이번 인증의 핵심이다.

AI+ 신뢰성 인증은 AI기본법 분류 기준에 따라 고영향 AI, 생성형 AI, 기타 AI 등 모든 유형의 AI 시스템에 적용할 수 있도록 설계됐다. 에너지 공급, 보건의료, 원자력, 범죄 수사, 채용 및 금융 심사, 교통체계, 공공서비스, 교육 등 사람의 생명과 기본권 보호에 직접적인 영향을 미치는 영역에서 활용되는 AI 시스템이 주요 대상이다.

인증 과정에서는 AI 시스템 작동 방식이 투명하게 관리되고 있는지, 주요 판단 결과와 근거가 사람이 이해할 수 있는 수준으로 설명 가능한지를 시험한다. 또한 오작동이나 위험 상황 발생 시 인간이 개입할 수 있는 통제 구조, 공정성 확보 체계, 개인정보 보호 수준, 비정상 상황에서의 안정성, 기능적 오류에 대비한 안전 요구사항 충족 여부도 함께 검증한다.

인증 체계는 국제표준인 ISO/IEC TR 24028(인공지능 신뢰성), ISO/IEC 42001(인공지능 경영시스템), ISO/IEC 23894(AI 리스크 관리), ISO/IEC 42005(AI 시스템 영향평가) 등을 기반으로 설계됐으며, 국내 법·제도와 국제 AI 규제 환경을 함께 고려했다.

이번 인증 도입으로 와이즈스톤의 AI+ 인증 체계는 성능 중심의 ‘AI+ 스탠다드’, 품질 중심의 ‘AI+ 프리미엄’, 운영 신뢰성 중심의 ‘AI+ 신뢰성 인증’으로 구성되는 단계적 구조를 갖추게 됐다.

이영석 와이즈스톤 대표는 “AI기본법은 AI를 잘 만드는 것뿐 아니라 책임 있게 운영하고 그 결과를 증명하는 것까지 요구한다”며 “AI+ 신뢰성 인증은 기업과 기관이 실제 운영 환경에서 AI 신뢰성을 어떻게 확보하고 있는지를 객관적으로 확인할 수 있는 기준이 될 것”이라고 말했다. 이어 “시험·평가 전문기관으로서 AI 신뢰성에 대한 검증 역량을 고도화하고, 책임 있는 AI 생태계 조성에 기여하겠다”고 덧붙였다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -