[디지털데일리 김보민기자] 금융당국이 연내 '금융분야 표준 인공지능(AI) 위험관리 프레임워크' 초안을 공개한다.

금융권 전반에서 AI 활용이 급증하는 반면 기관마다 기준이 제각각이라는 지적이 이어지자 당국이 공통 안전장치를 마련하는 데 속도를 내는 분위기다. 다만 해당 프레임워크를 적용해야 할 의무는 설정하지 않아, 기존 가이드라인처럼 자율 시행에 그칠 가능성도 점쳐진다.

박우영 금융감독원 선임은 20일 서울 여의도 콘래드호텔에서 열린 금융 정보보호 콘퍼런스 '피스콘(FISCON) 2025'에서 "금융위원회 방침을 따르고 논의를 거쳐 연내 금융분야 표준 AI 위험관리 프레임워크를 공개할 계획"이라며 "초안을 공개한 이후 의견 수렴 절차도 진행할 것"이라고 밝혔다.

현재 금융업계에서는 AI 기술을 도입해 업무 효율을 높이고, 경쟁사 대비 차별화된 서비스를 개발하려는 움직임이 두드러지고 있다. 그러나 실제 AI 기술을 도입했을 때 발생할 수 있는 위험을 관리할 수 체계를 갖춘 곳은 많지 않다.

박 선임도 이 점을 주목했다. 박 선임은 "금융감독원이 올 상반기 금융권을 대상으로 위험관리체계 구축 현황을 조사한 결과, 90% 이상이 별도 AI 위험관리 기준을 마련하고 있지 않았다"며 "기준이 있는 회사는 극소수였다"고 말했다.

그간 금융당국은 AI 위험관리에 필요한 가이드라인을 마련해왔다. 가장 먼저 2021년 7월 '금융분야 AI 운영 가이드라인'을 통해 AI에 대한 신뢰성 및 공정성 확보, 소비자 권리 보장, 거버넌스 구축 방안을 제시했다. 이후 2022년 8월 '금융분야 AI 개발·활용 안내서'를 통해 구축 단계별 준수사항을 제시했다. 다음으로 2023년 4월 '금융분야 AI 보안 가이드라인'으로 AI 기술을 개발할 때 고려해야 할 보안사항을 소개했다.

박 선임은 "그러나 가이드라인이 나온 이후 개정 작업이 이뤄지지 않았고, 신규 기술이 부상하는 데 관련 내용을 반영하지 못하고 있다는 건의사항이 있었다"며 "이러한 의견을 반영해 감독 방안을 구상하는 중"이라고 말했다.

금융분야 표준 AI 위험관리 프레임워크는 금융회사가 참고할 수 있는 종합 AI 위험관리체계(RMF) 역할을 할 전망이다. AI 관련 거버넌스, 위험평가, 위험통제 등 3개 축에 대한 표준을 담는 것이 핵심이다.

박 선임은 "거버넌스 부문에는 AI 관련 회사 내부 정책과 기준을 정할 수 있는 최고 의사결정 기구를 두도록 하는 내용이 반영될 예정"이라며 "AI 거버넌스는 물론 AI 특정 유형을 전담할 수 있는 조직을 두도록 하는 방안을 고민 중"이라고 설명했다.

AI 서비스 출시 과정에 필요한 지침도 담긴다. 박 선임은 "AI 서비스를 출시하는 과정에서 필요한 매뉴얼 등 지침을 마련할 수 있도록 하는 방안을 거버넌스 부문에 담으려 하고 있다"고 부연했다.

위험평가의 경우 주요국 사례를 벤치마킹한다. 박 선임은 "해외에서는 위험을 인식하고, 경감하고, 평가하고, 등급을 확장하는 일련의 과정을 기준으로 삼고 있다"며 "이번 프레임워크에도 이러한 구성을 담을 예정"이라고 소개했다.

위험통제 방안도 구체화한다. 박 선임은 "위험평가 단계에서 확정된 위험 수준과 등급에 대해 차등화된 관리를 수행하도록 하고, 특히 고위험 AI로 분류된 상품이나 서비스에 대해서는 강화된 통제 방안을 주도록 할 것"이라고 말했다. 그러면서 "AI 서비스를 기획하고 관리하는 과정에서 운영 모니터링과 사후 관리를 철저히 하도록 하고, 문서는 기록관 및 감독당국과 정보 교류체계에 대한 내용을 반영하려고 구상 중"이라고 덧붙였다.

내년 1월 시행되는 AI기본법에 맞춰 세부 내용도 조율할 예정이다. 박 선임은 "통합 가이드라인이나 위험 관리 프레임워크를 고려할 때 AI기본법 내용과 정합성에 맞는 부분을 고민하고 있다"며 "초안을 공개하기 전 관련 내용을 검토하도록 하겠다"고 전했다.

다만 현장에서는 해당 프레임워크가 공개된 이후 의무 적용이 시행될 가능성도 있냐는 질문이 나왔다. 이와 관련해 박 선임은 "무조건적으로 따라야 하는 것은 아니지만, 프레임워크가 제시한 3가지 축을 중심으로 금융회사가 규모와 전담인력에 맞춰 적용을 하기를 바란다"고 말했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -