[디지털데일리 김보민기자] 인공지능(AI) 에이전트가 조직 내 보안 취약점으로 작용할 수 있다는 경고가 나왔다.

마이크로소프트(MS)는 AI 보안 보고서 '사이버 펄스'를 통해 AI 에이전트 보안을 강화해야 한다고 11일 밝혔다. MS는 "2026년은 AI 에이전트의 해"라면서도 "에이전트 도입이 확산되면서 보안 및 컴플라이언스 통제 수준을 앞지르는 사례가 늘고 있다"고 평가했다.

AI 에이전트에 대한 국내외 관심은 뜨거워지고 있다. 보고서에 따르면 포춘500대 기업 80% 이상이 로우코드 및 노코드 도구로 활성 에이전트를 구축하거나 운용 중이다.

누구나 에이전트를 개발할 수 있는 환경이 마련되면서 AI 기반 자동화 또한 산업 전반으로 빠르게 확산되는 추세다. 산업별로 보면 소프트웨어(SW)·기술 16%, 제조업 13%, 금융 서비스 11%, 유통(리테일) 9% 순으로 활성 에이전트 비중이 높았다.

보고서는 이러한 환경 속 '이중 에이전트 위험(리스크)'를 주의해야 한다고 경고했다. 악의적인 행위자가 에이전트 접근 권한과 범위를 악용할 경우, 에이전트가 의도치 않은 '이중 에이전트'로 전락할 수 있다는 취지다. 인간 직원과 마찬가지로 과도한 접근 권한을 부여받았거나 부적절한 지침을 받은 에이전트는 조직 내 보안 취약점으로 작용할 수 있다.

보고서는 이중 에이전트 위험이 이론적 우려가 아니라고 단언했다. 최근 MS 디펜더 팀은 '메모리 포이즈닝' 기법을 악용한 사기성 공격 캠페인을 포착했다. 여러 공격자는 AI 조수(어시스턴트) 메모리를 조작해 응답을 유도하고 시스템 정확성에 대한 신뢰를 약화시키는 방식으로 위협을 가했다.

그러나 대응은 미흡한 실정이다. 하이포테시스그룹이 MS 의뢰로 실시한 조사에 따르면, 직원 29%는 미승인 AI 에이전트를 업무에 사용한 경험이 있는 것으로 나타났다. MS 데이터 보안 지수에 따르면 생성형 AI 보안 통제를 도입한 조직은 47%에 불과했다.

보고서는 AI 에이전트 보안을 강화하기 위해 가시성을 확보해야 한다고 강조했따. 에이전트를 식별 및 관리하는 '레지스트리', 최소 권한 원칙을 적용하는 '접근(액세스) 제어', 리스크와 행위를 실시간 모니터링하는 '시각화', 플랫폼 간 일관된 운영을 지원하는 '상호 운용성', 내외부 위협으로부터 에이전트를 보호하는 '보안' 등 주요 영역을 강화해야 한다는 취지다. 통합 관측 체계도 필요하다고 덧붙였다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -