[임경호 기자]

3일(현지시간) 미국 라스베거스에서 'AI 에이전트의 확산과 보안'을 주제로 'AWS 리:인벤트 2025' 보안 세션이 열리고 있다. 왼쪽 두 번째부터 AWS의 에이미 허조그 최고정보보안책임자(CISO), 하트 로스먼 CISO 오피스 부사장, 지 리튼하우스 보안 서비스 부문 부사장, 네하 룽타 어플라이드 사이언스 디렉터. /사진=임경호 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

아마존웹서비스(AWS)가 에이전틱 AI의 확산으로 보안 환경도 변하고 있다고 진단했다. 에이전트가 사용자 대신 API를 호출하거나 외부 서비스를 이용해 실제 작업을 수행하는 구조가 늘면서 어떤 작업까지 허용할지 행동 범위를 설정하는 일이 중요해졌다는 설명이다.

AWS는 3일(현지시간) 미국 라스베거스에서 'AWS 리:인벤트 2025' 보안 세션을 열고 'AI 에이전트의 확산과 보안'을 주제로 기술 변화에 따른 대응 전략을 소개했다.

AWS의 에이미 허조그 최고정보보안책임자(CISO), 하트 로스먼 CISO 오피스 부사장, 지 리튼하우스 보안 서비스 부문 부사장, 네하 룽타 어플라이드 사이언스 디렉터가 패널로 참여해 AWS 내부 운영 사례과 보안 서비스 전략을 공유했다.

자율적 행동, 에이전트 보안 위협...행동 범위 설정해야

패널들은 에이전틱 AI가 스스로 행동한다는 점에 주목했다. 허조그 CISO는 "에이전트는 단순히 답을 생성하는 게 아니라 실제 시스템에서 작업을 실행하기 때문에 리소스나 API에 대한 접근 권한을 먼저 정해둬야 한다"고 말했다.

리튼하우스 부사장은 "환불 절차를 처리하는 에이전트라면 환불 금액 상한선이나 반복 환불 요청에 대한 처리 방식 등을 정책적으로 설정해야 한다"며 "에이전틱 AI 보안은 에이전트가 무엇을 할 수 있고 무엇을 할 수 없는지 규정하는 범위 설계가 중요하다"고 강조했다.

예컨대 에이전트가 규정한 범위 내에서만 행동하도록 설정해 500달러 이하 항공권은 자동 결제하고 그 이상은 사용자 승인을 요구하는 식으로 세밀한 가드레일을 설계하는 방식을 뜻한다.

AWS는 이와 관련 아마존 베드록 에이전트코어에 '정책(Policy)' 기능을 더해 통제를 강화하고 있다. 룽타 디렉터는 "테스트 환경과 운영 환경의 정책을 다르게 가져갈 수 있고 특정 네트워크 자원이나 모델 컨텍스트 프로토콜(MCP) 서버 접근을 차단하는 방식으로 안정성을 확보할 수 있다"고 설명했다.

기본적 보안 중요성 여전해...'빌더'까지 역할 확장

새로운 기술의 등장에 기초 보안의 중요성도 강조했다. 허조그 CISO는 "자격증명이나 최소 권한과 같은 기본적인 보안은 여전히 필수적"이라며 "에이전트는 사람이 개입하기 전까지 자동으로 행동하기 때문에 문제가 생기면 훨씬 빠르게 확대될 수 있다"고 위험성을 지적했다.

빠른 기술 변화 속도에 대해서도 언급하며 "단순한 학습에 그치는 것이 아니라 격리(독립)된 환경에서 실험하며 일종의 보안 기준을 체득하는 과정이 중요하다"고 제언했다.

로스먼 부사장도 "AI로 보안을 강화하는 일과 AI를 안전하게 배포하는 일 두 가지가 동시에 필요하다"며 보안 담당자의 역할이 기술 소비자를 넘어 솔루션을 만드는 빌더까지 확장되고 있다고 분석했다.

에이전트 판단 근거 있어야...옵저버빌리티 중요성 증가

에이전트 보안에서 옵저버빌리티(관측 가능성)의 중요성이 커졌다는 진단도 나왔다. 리튼하우스 부사장은 "전통적으로 보안과 관측은 별개로 다뤄졌지만 에이전트의 등장으로 둘은 밀접한 관계를 갖게 됐다"며 "에이전트가 언제 어떤 자원을 호출했는지 실시간으로 파악해야 문제를 빨리 찾을 수 있기 때문"이라고 설명했다.

AWS의 에이미 허조그 최고정보보안책임자(CISO, 왼쪽)와 하트 로스먼 CISO 오피스 부사장이 3일(현지시간) 미국 라스베거스에서 열린 'AWS 리:인벤트 2025' 보안 세션에 참석하고 있다. /사진=임경호 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

AWS는 이를 위해 AWS 시큐리티 허브 등에서 수집한 신호를 통합 분석하는 기능을 확대하고 있다. 로그를 개별 서비스 단위로 나눠 보던 방식에서 벗어나 전체 맥락을 파악해 비정상 행동을 감지하는 방식이 강조되고 있다.

리튼하우스 부사장은 "에이전틱 환경에서 사고 발생과 대응 모두 AI의 속도로 진행된다"며 "에이전트가 비정상 행위를 판단할 수 있는 배경이 필요하다"고 말했다.

사고 대응 속도 향상·작업 부하 감소 등 보안 이점 조명

사고 대응 영역에서도 에이전트 도입 효과가 빠르게 나타나고 있다고 봤다. 로스먼 부사장은 "과거에는 보안 담당자가 한 건의 사고 분석을 위해 여러 질문을 반복하며 정보를 모아야 했지만 지금은 에이전트가 몇 분 안에 원인과 대안을 제시한다"고 말했다.

허조그 CISO도 "대규모 데이터를 분석해야 하는 작업에서 에이전트가 사람이 하던 작업 부하를 상당 부분 줄이고 있다"고 설명했다.

AI를 활용한 위협 증가 우려에 대해서는 공격의 성격 자체가 변하는 것은 아니라고 봤다. 보안적 이점도 함께 짚었다.

허조그 CISO는 "10년 전에도 정교한 피싱 공격은 가능했지만 비용이 높아 잘 사용되지 않았는데 AI는 이 비용을 낮춰 속도와 반복성을 높여준다"며 "방어자 입장에서도 AI를 통한 대응 속도와 규모 측면의 이점이 있다"고 말했다.

"보안 변질 변하지 않아"...AI와 상호 보완 기대

패널들은 에이전틱 AI 시대에도 보안의 본질은 변하지 않는다고 입을 모았다. 그 중요성도 여전히 견고하다는 설명이다. 룽타 디렉터는 "매주 최고경영자(CEO)와 1시간 가량 보안 회의를 진행한다"며 "사고 재발 방지와 전사적으로 학습한 내용을 공유하기 위한 자리"라고 말했다.

로스먼 부사장은 보안팀이 직접 보안 에이전트를 개발해 AI팀과 협업하는 사례를 소개하며 "AI 도입과 보안 요구가 충돌하는 대신 서로의 역량을 끌어올리는 구조로 바뀌고 있다"고 진단했다.

허조그 CISO는 "우리가 하는 일은 결국 고객과 시스템을 보호하는 것"이라며 "보안은 혁신을 가로막는 요소가 아니라 더 안전하게 혁신할 수 있게 하는 기반이 된다"고 강조했다.

라스베이거스(미국)=임경호 기자 lim@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>