[디지털데일리 김보민기자] 국가정보원은 호주 신호정보부(ASD), 미국 국가안보국(NSA) 등 7개국 사이버안보기관과 '인공지능(AI) 공급망 위험·완화방안'을 마련했다고 5일 밝혔다.

호주 ASD는 AI 공급망 복잡성으로 인한 '백도어 은닉' 등 위험요인 이 증가하고 있다는 점을 고려해 관련 권고문을 마련했다. 이후 글로벌 차원에서 대응을 고도화하기 위해 국정원에 동참을 요청했다.

이번 권고문은 AI를 배포 후 관리대상이 아닌 설계 단계부터 보안을 내재화해야 할 시스템으로 바라본 것이 특징이다. 특히 데이터, 머신러닝 모델, 소프트웨어, 인프라·하드웨어, 제3자 서비스 등 5개 항목에서 AI 공급망 관련 위험요소와 완화 방안을 담고 있다.

권고문에는 품질이 낮고 편향된 AI 데이터는 판단 오류를 초래할 수 있고, 신뢰할 수 있는 출처에서 데이터를 사용해 위험요소를 완화할 수 있다는 내용이 담겨 있다. 머신러닝 모델의 경우 악성코드가 은닉해 있거나 백도어가 삽입될 가능성이 있기 때문에 안전한 파일 형식과 투명한 모델을 사용해야 한다는 부분도 포함됐다.

AI 인프라에 대해서는 악성 펌웨어(하드웨어를 제어하는 기본 소프트웨어) 주입 등 신규 보안 위험을 수반한다는 점을 주목했다. 기존 정보보안시스템 보안 원칙을 적용해 네트워크 분리와 자체 인증 등을 관리해야 한다고 제언했다.

국정원은 2023년 11월 '안전한 AI 개발 가이드라인'을 미국, 영국과 공동 발표한 데 이어 지난해 12월 'AI 보안 가이드북'을 배포했다.

국정원 관계자는 "이번 권고문은 AI에 특화된 위험을 공급망 측면에서 정리하고 사후대응이 아닌 사전예방 중심 보안 관리 방향을 제시했다는 점에 의미가 크다"고 말했다. 이어 "향후 주요국들과 파트너십을 바탕으로 국내에서 AI를 안전하게 활용하도록 지원하겠다"고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -