[서울=뉴시스] 샌즈랩이 지난 1일부터 양일간 서울 코엑스에서 열린 '2025 ACDC(인공지능 해킹방어 대회)'에 참가해 딥페이크 탐지·분석 기술을 활용한 AI 에이전트를 선보였다고 3일 밝혔다. (사진=샌즈랩 제공) *재판매 및 DB 금지

<이미지를 클릭하시면 크게 보실 수 있습니다>

[서울=뉴시스]윤정민 기자 = 샌즈랩이 지난 1일부터 양일간 서울 코엑스에서 열린 '2025 ACDC(인공지능 해킹방어 대회)'에 참가해 딥페이크 탐지·분석 기술을 활용한 AI 에이전트를 선보였다고 3일 밝혔다.

샌즈랩은 관람객이 직접 딥페이크 이미지 생성·탐지를 체험할 수 있는 프로그램을 운영했다. 더불어 딥페이크 탐지 서비스 '페이크체크 3.0'에 적용될 기술과 개발 중인 AI 에이전트 모델을 현장에서 시연했다.

페이크체크 2.0이 생성형 AI가 만들어 낸 이미지 탐지에 중점을 뒀다면 샌즈랩이 이번에 고도화한 기술은 딥페이크 탐지 회피를 목적으로 정교하게 제작된 노이즈를 삽입한 적대적 이미지 탐지다. 이미지 속에 분포돼 있어 육안으로 구별이 불가능함은 물론 일반적인 탐지 모델이 딥페이크 이미지로 인식하지 못하게 만든다.

[서울=뉴시스] 샌즈랩이 지난 1일부터 양일간 서울 코엑스에서 열린 '2025 ACDC(인공지능 해킹방어 대회)'에 참가해 딥페이크 탐지·분석 기술을 활용한 AI 에이전트를 선보였다고 3일 밝혔다. (사진=샌즈랩 제공) *재판매 및 DB 금지

<이미지를 클릭하시면 크게 보실 수 있습니다>

현재 개발 중인 페이크체크 3.0은 이러한 적대적 공격을 포함한 모든 종류의 딥페이크 분석력을 목표로 하고 있으며 샌즈랩이 자체 개발한 AI 에이전트 또한 탑재될 예정이다.

단순 위변조 여부 판별에 그치지 않고 AI 에이전트가 사용자의 이미지·영상에 대한 질문을 스스로 추론해 최적의 결과 방향을 도출하고 분석한 내용을 거대언어모델(LLM)을 통해 정리해 답변해 준다.

첫날 현장에는 배경훈 부총리 겸 과학기술정보통신부 장관이 샌즈랩의 딥페이크 탐지 AI 에이전트 모델을 체험했다. 김기홍 샌즈랩 대표가 시연을 진행하며 샌즈랩의 데이터 기반의 AI 응용 기술, 사이버보안 분야 AI 에이전트 개발을 소개했다.

행사 2일차에는 사이버보안 AI데이터셋 우수 활용 성과 공유회가 동시 진행됐다. 한국인터넷진흥원(KISA)의 사이버보안 AI데이터셋 사업을 매해 수행하고 있는 샌즈랩은 'APT 기반 위협 프로파일링 AI데이터셋 구축과 활용'을 주제로 주요 수행 성과를 발표했다.

김기홍 샌즈랩 대표는 "에이전틱 AI 시대에는 탐지·판단·대응 전 과정에서 사이버보안 AI 에이전트의 역할이 더욱 중요해질 것"이라며 "이번 2025 ACDC를 통해 샌즈랩이 선보인 기술들은 향후 AI 에이전트 기반 보안의 핵심 요소들로써 지속적인 고도화를 이어갈 계획"이라고 말했다.

☞공감언론 뉴시스 alpaca@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개