국가정보원 원훈석. [사진=뉴스1]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[서울경제TV=박유현 인턴기자] 국가정보원은 호주 신호정보부(ASD)·미국 국가안보국(NSA) 등 주요 7개국 사이버안보기관들과 'AI 공급망 위험ㆍ완화방안'을 5일 공동 발표했다.

호주 ASD는 AI 공급망의 특성상 모델·데이터·인프라 등 다양한 공급자가 관여해 백도어 은닉 등 보안 위험이 커질 수 있다는 점을 우려해 관련 권고문을 마련하고, 글로벌 대응 차원에서 국정원의 참여를 요청했다.

이번 권고문의 핵심은 AI를 단순히 배포 이후 관리 대상이 아닌, 설계 단계부터 보안을 내재화해야 하는 시스템으로 바라봤다는 점이다.

권고문은 △데이터 △머신러닝 모델 △소프트웨어 △인프라·하드웨어 △제3자 서비스 등 5개 분야의 AI 공급망 위험요소와 대응 방안을 제시했다.

구체적으로 신뢰할 수 없는 데이터는 판단 오류를 초래할 수 있는 만큼 검증된 데이터 사용을 권고하고, 머신러닝 모델은 악성코드 은닉이나 백도어 삽입 가능성을 고려해 안전한 파일 형식과 투명한 모델 사용이 필요하다고 밝혔다.

또 AI 인프라의 경우 악성 펌웨어 주입 등 새로운 보안 위험이 발생할 수 있어 네트워크 분리, 자체 인증 등 기존 정보보안 원칙을 적용한 철저한 관리가 필요하다고 강조했다.

국정원은 2023년 11월 미국·영국 등과 함께 ‘안전한 AI 개발 가이드라인’을 발표한 데 이어, 지난해 12월에는 ‘AI 보안 가이드북’을 배포하는 등 AI 공급망 공격 위협에 대응하기 위한 보안 대책을 지속적으로 제시해 왔다.

국정원 관계자는 “이번 권고문은 AI에 특화된 위험 요소를 공급망 관점에서 체계적으로 정리하고, 사후 대응이 아닌 사전 예방 중심의 보안 관리 방향을 제시했다는 점에서 의미가 크다”며 “앞으로도 주요국과의 협력을 바탕으로 국내에서 AI를 안전하게 활용할 수 있도록 지원하겠다”고 밝혔다.

관련 세부 내용은 국정원 홈페이지에서 확인할 수 있다. /flexibleu@sedaily.com

박유현 기자 flexibleu@sedaily.com

[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]