[디지털데일리 최민지기자] 빅데이터 분석 인공지능(AI) 기업 에스투더블유(이하 S2W)가 생성형 AI 시대에서 위협 환경 분석을 넘어, 현장 적용 가능한 고도화된 방어 체계를 구축하겠다고 밝혔다.

S2W(대표 서상덕)는 지난 26일 서울 서초 JW 메리어트 호텔 서울에서 진행된 ‘2025 국제사이버범죄대응 심포지엄(ISCR 2025)’에 초청돼, 생성형 AI 시대의 신종 보안 위협에 관한 발표를 진행했다고 27일 밝혔다.

양종헌 S2W 오펜시브연구팀장은 ‘AI 에이전트 및 멀티 에이전트 시스템 취약점 및 보안 위협’을 주제로 공개세션 발표를 맡았다.

양종현 팀장은 “이번 심포지엄 발표는 구체적인 사례를 통해 생성형 AI 시대 보안 위협의 실체를 심층 조명하고, 이를 선제적으로 차단할 수 있는 방안에 대한 인사이트를 공유한 뜻깊은 기회였다”며 “S2W는 생성형 AI가 야기한 새로운 위협 환경을 분석하는 것을 넘어, 실제 현장에서 적용 가능한 고도화된 방어 체계를 구축하는 데 주력할 것”이라고 말했다.

이날 양 팀장은 ‘프롬프트 인젝션(Prompt Injection)’과 ‘모델 포이즈닝(Model Poisoning)’, ‘악성도구를 이용한 권한 상승(Malicious Tool Privilege Escalation)’ 등을 포함해 대규모 언어모델(LLM) 기반 AI 에이전트 및 멀티 에이전트 시스템 취약점을 공략한 대표적인 보안 위협 8종과 이에 대한 대응책을 소개했다.

이어 ‘랭스미스 랭체인 허브 어뷰징(LangSmith Langchain Hub Abusing)’, ‘레노버 ‘레나’ 챗봇 XSS(Lenovo ‘Lena’ ChatBot XSS)’, ‘아마존 Q 개발자 플러그인 어뷰징(Amazon Q Developer Plugin Abusing)’ 등 올해 발생한 생성형 AI 위협 주요 사례들을 소개했다. 그러면서, 데이터 보호 정책 수립과 정교한 접근 제어, 체계적인 모니터링 시스템 구축 등을 통한 보안 대책 마련 필요성을 강조했다.

실제로 S2W는 LLM 개발·배포·운영 과정에서 안전성과 신뢰성을 확보할 수 있는 방어 체계인 ‘시큐리티 가드레일(Security Guardrail)’을 구현, 자사의 산업 특화 AI 플랫폼 ‘SAIP(S2W AI Platform)’에 탑재했다. 이를 통해 생성형 AI 서비스 운용 과정에서 파생될 수 있는 각종 사이버 위협에 효과적으로 대응하고 있다.

아울러 위협인텔리전스센터 ‘탈론(TALON)’에서는 온톨로지(Ontology) 기반 지식그래프 기술을 바탕으로 악성코드 및 취약점과 위협 행위자 간 연관성을 정밀하게 파악, 고객들이 지능화되고 있는 AI 기반 사이버 위협으로부터 최적의 방어 전략을 구축할 수 있도록 지원한다.

한편, 2000년에 시작돼 올해로 26회째를 맞이한 ISCR은 ‘사이버 치안 거버넌스를 통한 안전 확보’를 목표로, 경찰청 및 법 집행기관, 국내외 기업인, 학계 등 사회 각계의 사이버범죄 전문가들이 모여 보다 안전한 사이버 공간 구축을 위해 경험과 지식을 공유하는 경찰청 수사국 주관 심포지엄이다. 올해 행사는 ‘사이버세상 속 신뢰: 모두를 위한 안전’을 테마로 개최됐다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -