<이미지를 클릭하시면 크게 보실 수 있습니다>

AI 보안 전문기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)는 국내 최대 규모의 AI 보안 행사 ‘2025 해킹방어대회(AI Cyber Defence Contest, 2025 ACDC)’에 공식 참여해 AI 해킹방어대회 문제 출제기관 및 세미나 모더레이터 역할을 수행했다고 3일 밝혔다.

과학기술정보통신부가 주최하고 한국인터넷진흥원(KISA)과 한국정보보호산업협회(KISIA)가 주관한 이번 행사는 ‘AI for All, Security for All’을 슬로건으로 ▲AI 보안 Insight 세미나 ▲AI 해킹 방어대회 본선 ▲AI 보안 기술 전시 등 다양한 프로그램으로 구성됐다.

에임인텔리전스는 특히 대회의 핵심 프로그램인 ‘Security for AI’ 영역과 ‘AI 해킹 공방전’ 전 문제 출제 및 기술 검수를 담당했다. 이번 출제 범위는 텍스트 기반 LLM 취약점을 넘어 멀티모달·에이전트 기반 AI 시스템에서 발생 가능한 실전형 위협 시나리오로 확장됐다.

대회의 하이라이트인 ‘AI 해킹 공방전’에서는 참가 팀이 직접 가드레일과 AI 시스템을 구축한 뒤 상대 팀의 시스템을 실시간으로 공격·방어하는 방식이 적용됐다. 이를 통해 참가자들은 실제 산업 환경의 공격·방어 경쟁을 단기간에 체험하며 대응 역량을 검증했다.

출제된 문제는 시각적 적대 입력을 통해 AI 드론을 오작동하게 만드는 공격, 에이전트용 허니팟 설계, 자동 멀티턴 탈옥 공격 수행 에이전트 개발, 자율 시스템을 잘못된 방향으로 조종하도록 유도하는 시나리오, 개인키 탈취형 데이터 유출 공격, 제한된 내부 도구 호출을 강제해 민감 정보를 추출하는 공격 등으로 구성됐다.

에임인텔리전스 관계자는 “멀티모달·에이전트 기반 AI 서비스에서 실질적으로 발생 가능한 위험을 반영해 문제를 설계했다”고 설명했다.

한편 행사 첫날, 유상윤 대표는 ‘AI 보안 Insight 세미나’의 공식 모더레이터로 참여해 글로벌 기업 및 기관의 AI 도입 과정에서 제기되는 보안 이슈와 최신 동향을 소개하고 연사들과의 논의를 이끌었다.

에임인텔리전스는 인공지능안전연구소(AISI), 금융보안원, 한국신용정보원 등과 함께 AI 보안 표준화 연구 및 기술 협력을 진행 중이며, OpenAI의 로컬 AI 세이프티(Local AI Safety) 파트너로서 글로벌 협력도 강화하고 있다.

유상윤 대표는 “국가 차원의 AI 보안 생태계 강화에 기여할 수 있어 의미가 크다”며 “멀티모달·자율 에이전트 영역까지 확장되는 위협에 대응하기 위한 기술 개발을 가속화하겠다”고 말했다.

---

• 관련 기사 더 보기

https://www.venturesquare.net/998160

강진희 kti@venturesquare.net

Copyright ⓒ ATSQUARE.