이미지투데이

<이미지를 클릭하시면 크게 보실 수 있습니다>

국내 최초로 AI(인공지능)의 투명성, 공정성 등 특성과 시스템 생명주기, 이해관계자 등을 아우르는 신뢰성 평가 기준이 나왔다.

과학기술정보통신부는 지난 6일 TTA(정보통신기술협회)와 TTA 제104차 정보통신 표준총회를 통해 AI 시스템 신뢰성 제고를 위한 요구사항 정보통신 단체 표준을 제정했다며 12일 이같이 밝혔다.

과기정통부와 TTA는 2021년부터 AI 윤리·신뢰성에 대한 인식을 확산하고 기업들이 AI 신뢰성을 확보할 수 있도록 분야별 '신뢰할 수 있는 AI 개발 안내서'를 개발·보급하고 'AI 신뢰성 컨설팅' 서비스를 제공하는 등 노력을 기울여 왔다.

이번 제정된 단체표준은 과기정통부의 '국가 AI 윤리기준'(2020년 12월), 분야별 '신뢰할 수 있는 AI 개발 안내서'(2022년 3종, 2023년 3종)를 기반으로 신뢰성 적용 범위, 특성, 시스템 생명 주기, 이해관계자 등 AI 시스템 신뢰성 구성 요소와 요구사항을 제시했다.

AI의 세부 특성 요소로는 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 제어가능성, 책임성, 투명성, 공정성, 프라이버시(개인정보), 회복탄력성 등이 제시됐다. AI의 생명주기는 초기→설계·개발→검증·확인→배치→운영·모니터링→지속 확인→재평가→폐기 순으로 이어지는 것으로 구체화됐다. AI 이해관계자로는 AI 제공자, AI 생산자, AI 고객, AI 파트너, AI 영향대상, 관계기관 등이 꼽혔다. 또 AI 시스템에 요구되는 사항으로는 AI 시스템 위험관리 계획 및 수행, 수집·가공된 학습 데이터의 편향 제거, AI 모델의 편향 제거, AI시스템의 안전모드 구현, 문제 발생 알림절차 수립 등 15가지가 꼽혔다.

과기정통부는 "이번 단체표준 제정으로 그동안 모호한 개념으로 인식되었던 AI 신뢰성 확보를 위한 기준을 정립하고, 국내 AI 산업의 신뢰성 저변 확대를 위한 발판이 마련될 것"이라며 "AI 신뢰성 관련 국제 표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항과의 내용 일관성을 유지해 국제 호환성을 확보했다"고 설명했다.

과기정통부와 TTA는 이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준의 내용을 분야별로 확대해 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진할 예정이다.

박윤규 과기정통부 2차관은 "전세계적으로 심화되는 AI 경쟁 속에서도 AI 기술 혁신과 활용 확산을 위한 전제조건이 AI 윤리·신뢰성 확보라는 공감대가 형성되고 있다"며 "그간 정부가 추진해 왔던 AI 윤리·신뢰성 제고를 위한 정책적 노력으로써 AI 시스템의 신뢰성 확보를 위한 기준이 마련됐다는 점에서 의미가 크다"고 했다.

또 "국내 AI 산업의 신뢰성을 확보하기 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진할 것"이라고 했다.

황국상 기자 gshwang@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지