앞으로 정부나 공공기관, 기업에서 인공지능(AI)을 개발하거나 활용할 때는 인간의 존엄성과 사회의 공공선, 기술의 합목적성을 염두에 둬야 한다. 대통령 직속 4차산업혁명위원회는 23일 서울 중구 한국프레스센터에서 이런 내용의 '사람이 중심이 되는 AI 윤리기준' 을 확정했다고 밝혔다.

AI 윤리기준은 지난해 12월 마련한 AI 국가전략 주요 과제와 지능 정보화 기본법 제정의 후속 조치로 추진됐다. 학계와 기업, 시민단체, 전문가 의견을 추가해 이날 4차위에서 최종 심의·의결했다. 정부나 공공기관, 민간 기업, 이용자 등 모든 사회 구성원은 AI 개발부터 활용까지 전 단계에서 이 기준을 참고할 수 있다.

AI 윤리기준은 최고 가치를 '인간성'으로 설정하고, '인간성을 위한 AI'를 실천하기 위해 3대 원칙과 10대 요건을 제시했다. 이에 따르면 △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙을 지켜야 한다. 3대 기본 원칙을 실천·이행하기 위한 10대 요건은 △인권보장△프라이버시 보호 △다양성 존중 △침해금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성 등이다.

AI가 일상생활 속으로 들어오면서 글로벌 빅테크 기업들은 AI 윤리기준을 마련해 실천에 옮기고 있다.

AI 학습 데이터 자체가 편향될 경우 부당한 차별로 이어질 수 있고, AI의 대표격인 딥러닝은 개발자 등의 부주의로 문제를 일으킬 가능성을 배제할 수 없기 때문이다. 만에 하나 AI가 잘못된 판단을 하거나 이용자에게 해를 끼칠 경우, 기업은 비즈니스 지속가능성이 위협을 받게 된다.

구글은 지난 2018년 △사회적 유익성△불공평한 바이어스 방지△안전성 확보를 염두에 둔 개발과 실험△설명 책임△프라이버시 원칙 적용△과학적 탁월성의 탐구△기본이념에 따른 기술 제공 등 7가지 AI 윤리 원칙을 세웠다. 마이크로소프트도 AI 기본원칙을 세우고 AI윤리위원회를 발족했다. IBM은 AI 접근법과 원칙을 자사 홈페이지에 상세하게 공개하고 있다. 글로벌 시장조사업체 캡제미니에 따르면, AI 윤리기준을 마련한 기업·기관은 작년 5%에 그쳤지만, 올해 45%로 급증했다. 인간성, 거버넌스, 설명책임, 무차별 등이 공통 키워드다.

AI나 빅데이터 플랫폼 등에 엄격한 잣대를 적용하는 편인 유럽연합(EU)도 AI윤리 기준을 발표하며 '인간 중심'을 강조한 바 있다.

최기영 과기정통부 장관은 "AI윤리기준이 사람 중심의 AI로 나아가는 플랫폼이 되도록 노력하겠다"고 말했다.

[임영신 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]