[AI리포터]

MS 시큐리티 코파일럿 [사진: MS]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 인공지능(AI)이 생성한 코드를 활용한 피싱 공격이 마이크로소프트 디펜더(Microsoft Defender)에 의해 차단됐다.

이번 공격은 SVG 파일을 PDF처럼 위장해 사용자를 속이려 했으며, 파일 내부에 비즈니스 테마 코드가 포함돼 있었다고 지난달 30일(현지시간) IT매체 테크레이더가 보도했다.

공격자는 해킹한 작은 기업 이메일 계정을 통해 자신에게 메시지를 보내고 실제 대상은 BCC 필드에 숨겼으며, 첨부된 SVG 파일에는 스크립트 가능한 콘텐츠가 포함됐다.

탐지 과정에서 시큐리티 코파일럿(Security Copilot)이 결정적 역할을 했다. 이 시스템은 AI 생성 코드에서 흔히 나타나는 긴 식별자, 반복 구조, 일반적인 주석 등 대규모 언어 모델(LLM)의 특징을 포착했다. 또한 코드가 암호화 대신 연결된 비즈니스 단어와 정형화된 패턴을 사용하는 등 AI 특유의 비효율적인 스타일도 드러났다.

마이크로소프트 연구진은 오피스 365용 디펜더(Microsoft Defender for Office 365) 내 AI 기반 툴을 활용해 단서를 조합했다. 특이한 자가 주소 이메일 패턴, PDF로 위장된 SVG 파일, 알려진 피싱 사이트로의 리디렉션 등을 파악해 공격을 즉시 차단했다.

이번 공격은 주로 미국 기업을 대상으로 제한적으로 발생했지만, 마이크로소프트는 공격자들이 설득력 있는 유인책과 복잡한 페이로드(Payloads) 제작을 위해 AI를 점점 더 활용하고 있음을 보여주는 사례라고 평가했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>