마이크로소프트(MS)가 '인공지능(AI) 에이전트 시대'를 겨냥해 보안 체계를 근본적으로 손보고 있다. 직원 대신 이메일을 읽고, 파일을 정리하고, 보고서를 만드는 AI 에이전트가 빠르게 확산하면서 기존 보안 방식만으로는 대응할 수 없다고 판단해서다. MS는 지난 18~20일 미국 샌프란시스코에서 개최된 연례 IT 콘퍼런스인 '이그나이트 2025'에서 보안과 데이터, 아이덴티티, 컴플라이언스 전 영역을 아우르는 대규모 보안 전략을 공개했다. MS는 "AI가 일하는 시대엔 보안도 완전히 새로 설계되어야 한다"고 강조했다.

AI 에이전트는 기존 챗봇과 달리 단순 답변을 넘어 실제 업무를 '대신' 수행한다. 엑셀을 열어 매출 데이터를 분석하고 파워포인트로 제안서를 만들며, 사내 시스템과 외부 도구를 넘나들며 자동으로 작업을 이어간다. 문제는 이 에이전트가 사람보다 더 많은 데이터와 시스템에 훨씬 빠른 속도로 접근한다는 점이다. 잘못된 명령이나 공격에 노출될 경우, 피해 범위는 직원 실수와 비교할 수 없을 정도로 커진다.

MS가 이그나이트에서 발표한 보안 전략의 핵심은 "AI도 직원처럼 관리한다"는 원칙이다. 이를 위해 MS는 '에이전트(Agent 365)'를 새롭게 공개했다. 기업 내에서 사용되는 모든 AI 에이전트를 한곳에 등록하고 누가 만들었고 어떤 데이터를 쓰는지, 어떤 권한을 갖는지 한눈에 파악할 수 있는 일종의 'AI 에이전트 인사관리 시스템'이다. 승인되지 않은 에이전트(Shadow AI)를 자동으로 찾아내고 위험한 명령을 차단하는 기능도 포함됐다. 기업 내부에서 AI가 어떻게 활동하고 있는지조차 알기 어려운 현실을 고려하면, 사실상 보안의 출발점이 되는 셈이다.

AI가 스스로 데이터를 다루는 만큼 데이터 보호 체계도 강화됐다. MS의 데이터 보안 플랫폼 '퍼뷰(Purview)'는 AI 에이전트 시대를 맞아 대대적인 업그레이드가 이루어졌다. AI 에이전트가 열람하는 문서와 이메일, 고객정보 등에 사람과 같은 보안 규칙이 적용되며, 필요한 데이터만 접근하도록 제한할 수 있다. AI가 과도하게 많은 문서를 읽어버리는 '과공유' 문제를 막기 위한 것이다. 또한 직원이 챗GPT나 제미나이 같은 외부 AI 서비스에 회사 파일을 올리려 할 경우 정책에 따라 자동 차단된다.

AI 공격에 대비한 새로운 방어 체계도 강화됐다. MS는 AI에 잘못된 지시를 주어 내부 정보를 유출하게 만드는 '프롬프트 인젝션' 같은 신종 공격이 빠르게 늘고 있다고 지적했다. 이를 막기 위해 '시큐리티 코파일럿'이 보안 운영센터(SOC) 업무를 자동화하고 의심스러운 명령이나 비정상적 활동을 실시간으로 분석해 위험을 차단하는 기능도 발표했다. 기존 디펜더 제품군에도 AI 기반 분석 에이전트가 추가돼 공격을 예측하고 사전에 방어하는 기능이 강화됐다.

신원 관리 측면에서는 '엔트라 에이전트 ID'가 눈에 띈다. 이는 AI 에이전트에 고유한 신분을 부여하고 어떤 리소스에 접근할 수 있는지 결정하는 제도다. 지금까지는 사용자 계정만 관리하면 됐지만 앞으로는 AI 에이전트도 '사람 직원'과 같은 수준의 권한 관리와 감사를 받아야 한다는 판단이다. 이는 권한 오남용과 내부 정보 유출을 막는 데 필수적인 기반이 된다.

MS에 따르면 2028년까지 13억개 이상의 에이전트 비즈니스가 창출될 것으로 전망된다. 바수 자칼 MS 보안 부문 부사장은 "AI 에이전트가 일상화되면서 기업들은 이제 '이 에이전트를 어떻게 등록하고 관리하며, 어떤 권한을 줄 것인가'라는 새로운 문제에 직면하고 있다"며 "AI 에이전트 시대에는 보안도 그 자체로 상시적이고 자율적으로 작동해야 한다"고 말했다. 그는 "에이전트 365는 AI 에이전트를 위한 통제 타워 역할을 한다"며 "보안이야말로 에이전트 시대를 떠받치는 핵심 원리"라고 덧붙였다.

7만8000명이 읽고 있는 글로벌 트렌드 뉴스레터인 '미라클레터'를 주 3회 무료로 만나보세요. 검색창에 '미라클레터'를 입력하거나 QR코드를 스캔해 무료로 구독할 수 있습니다.

[실리콘밸리 원호섭 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]