"제품이나 서비스에 인공지능(AI)을 도입하는 과정에서 속도를 내겠다고 보안을 희생해선 안 됩니다. AI 서비스를 구축하는 과정에서 보안은 우선순위가 돼야 합니다.

아난드 라가반 시스코 AI 제품 총괄 부사장은 3일 오전 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 진행된 '시스코 커넥트 코리아 2025' 미디어 라운드테이블에 화상으로 참석해 이렇게 말했다. 기업 업무나 시스템에 AI를 적용하는 과정에서 AI 보안 역시 중요하게 다뤄져야 한다는 의미다.

아난드 라가반 시스코 AI 제품 총괄 부사장이 3일 오전 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 진행된 '시스코 커넥트 코리아 2025' 미디어 라운드테이블 행사에서 화상으로 발표하고 있다. 시스코코리아 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

시스코 커넥트 코리아 2025는 시스코코리아의 연중 최대 행사로 꼽힌다. 이날 행사 전 개최된 미디어 라운드테이블에는 아난드 부사장 이외에도 최지희 시스코코리아 대표와 데이비드 코벤트리 시스코 아시아태평양·일본·중국(APJC) 협업 부문 매니징 디렉터가 발표자로 나섰다.

아난드 부사장은 발표에서 시스코의 AI 보안 솔루션인 'AI 디펜스'를 소개했다. AI 디펜스는 기업이 AI 애플리케이션을 안전하게 개발하고 배포, 보호할 수 있도록 지원하는 솔루션이다. AI 디펜스는 보안 플랫폼인 '시스코 시큐리티 클라우드'와 통합돼 네트워크 단에서 AI 기반으로 보안을 강화한다.

이 같은 AI 보안 솔루션이 필요한 이유는 AI 서비스 운영 과정에서 애플리케이션과 거대언어모델(LLM)이 동시에 작동되기 때문이다. 서비스에 따라 여러 개의 앱이나 LLM을 활용하는 경우도 있는데, 이 과정에서 악의적인 명령어를 입력하는 '프롬프트 인젝션'과 같은 공격이 이뤄질 수 있다. AI 서비스에서 앱과 LLM이 유기적으로 동작하는 만큼, 한 곳에서 보안 문제가 발생하면 전체 서비스에 영향이 미칠 수 있다.

시스코의 AI 디펜스는 AI의 분석 및 학습 능력을 활용해 실시간으로 위협을 감지하고 대응한다. 동시에 기업의 AI 서비스 운영 전반의 보안을 강화한다는 게 아난드 부사장의 설명이다. 그는 "모든 조직에서 AI가 핵심 영역에 활용되는 경우가 늘어남에 따라 모델 사용의 가시성과 운영 환경에 배포되기 전의 모델 검증, 운영 환경에서의 모델 보호를 위한 가드레일과 같은 3가지가 매우 중요해졌다"면서 "AI 디펜스는 안전과 보안, 개인정보 보호 가드레일(안전장치)을 기반으로 AI 기반 애플리케이션을 보호한다"고 강조했다.

아난드 부사장에 이어 발표에 나선 데이비드 코벤트리 매니징 디렉터는 시스코의 협업 툴인 '웹엑스(Webex)'에서 활용할 수 있는 AI 서비스 '웹엑스 AI 에이전트'의 기능에 대해 소개했다. 이 서비스는 AI와 인간 상담원을 결합해 고객 응대 시간을 줄이고 문제 해결을 자동화하는 데 쓰인다. 코벤트리 디렉터는 "웹엑스 AI 에이전트는 음성과 디지털 채널 모두에서 자연스러운 상호작용을 가능하게 한다"면서 "고객의 의도를 정밀하게 파악할 뿐만 아니라 기존 시스템과의 연계도 가능하다"고 설명했다.

최지희 시스코코리아 대표가 3일 오전 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 진행된 '시스코 커넥트 코리아 2025' 미디어 라운드테이블 행사에서 인사말을 하고 있다. 시스코코리아 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

최 대표는 이날 환영사를 통해 "지난 40년간 네트워킹 분야를 선도해 온 시스코는 보안, AI, 데이터 혁신을 주도하는 기업으로 변화하고 있다"면서 "시스코는 AI 기능을 대폭 강화한 네트워킹, 보안, 협업, 가시성 솔루션으로 기업 고객의 AI 전환과 디지털 회복탄력성을 지원하겠다"고 밝혔다.

이어진 질의응답에서는 올해 AI 보안의 중요성이 더 커질 것이라는 전망이 나왔다. 아난드 부사장은 "지난해 고객들은 AI 보안 문제를 고민하는 초창기 단계였는데, 올해 들어 담론이 바뀌면서 어떻게 AI를 안전하게 사용할 수 있을지가 화두로 등장했다"고 진단했다. 최 대표도 "아직 국내 고객들은 AI 보안에 대해 고민하는 고객이 많지는 않은 것 같다"면서도 "AI 에이전트 서비스가 나오면 보안 문제는 더 중요하게 다뤄질 것"이라고 말했다.

이명환 기자 lifehwan@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>