박윤규 과학기술정보통신부 2차관이 지난달 28일 서울 종로구 국가과학기술자문회의 대회의실에서 열린 미디어데이 행사에서 발언하고 있다. [사진 = 연합뉴스]

<이미지를 클릭하시면 크게 보실 수 있습니다>

국내 최초로 인공지능(AI)의 신뢰성을 판단할 수 있는 기준인 단체표준이 마련됐다.

과학기술정보통신부와 한국정보통신기술협회(TTA)는 지난 6일 TTA 제104차 정보통신표준총회를 통해 ‘AI 시스템 신뢰성 제고를 위한 요구 사항’ 정보통신단체표준(단체표준)을 제정했다고 12일 밝혔다.

이번에 제정된 단체표준은 과기정통부의 ‘국가 AI 윤리기준’과 분야별 ‘신뢰할 수 있는 AI 개발안내서’를 기반으로 했다. 신뢰성의 적용 범위 및 특성, 시스템 생명주기와 이해관계자 등의 신뢰성 구성 요소와 함께 요구사항을 제시했다.

AI 신뢰성의 세부 특성으로는 견고성, 보안성, 설명가능성, 예측 가능성, 제어가능성 등이 담겼다.

요구사항에는 AI 모델의 편향 제거, 학습데이터의 편향 제거, AI 시스템의 안전모드 구현 등 15가지 항목이 포함됐다.

과기정통부는 이번 단체표준에서 AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항과의 내용 일관성을 유지해 국제 호환성을 확보했다고 설명했다.

과기정통부와 TTA는 향후 단체표준의 요구 사항에 대한 검증 프로세스를 표준화한다는 계획이다.

박윤규 과기정통부 2차관은 “국내 AI 산업의 신뢰성 을 확보 하기 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다”고 말했다.

‘인공지능 시스템 신뢰성 제고를 위한 요구사항’ 표준 표지 [출처 = 한국정보통신기술협회]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]