[AI리포터]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 해커들이 일부 생성형 인공지능(GenAI) 도구를 명령·제어(C2) 인프라로 활용해 악성 트래픽을 숨기고, 의사결정 엔진으로까지 사용할 수 있다는 우려가 제기됐다.

18일(현지시간) IT매체 테크레이더는 사이버 보안 기업 체크포인트(Check Point)의 연구를 인용해, 마이크로소프트 코파일럿과 xAI 그록의 웹 브라우징 기능이 공격자에게 악용될 수 있다고 전했다. 연구진은 이들 AI 도구를 통해 악성코드가 정상 트래픽처럼 위장해 보안 솔루션을 회피하고, 공격자가 수집한 민감 정보를 외부 서버로 유출할 수 있다고 설명했다.

공격 과정에서 악성코드는 우선 시스템 정보를 수집하고 이를 암호화해 공격자가 제어하는 URL에 삽입한다. 이후 AI에게 해당 URL 내용을 요약하도록 지시하면, 정상적인 AI 요청으로 위장되기 때문에 보안 경고 없이 정보가 외부로 유출된다. 동시에 숨겨진 프롬프트가 실행되면서 악성 행위가 몰래 진행될 수도 있다.

이후 악성코드는 AI를 활용해 추가 지시를 받아 실행할 수 있다. 예를 들어, 수집한 정보를 바탕으로 해당 시스템이 중요 기업 환경인지, 혹은 샌드박스 환경인지 판단하고, 샌드박스라면 활동을 중지하고 그렇지 않으면 공격 단계로 넘어가는 방식이다.

체크포인트는 이러한 방식이 발전하면 AI 서비스가 단순한 전송 계층을 넘어 외부 의사결정 엔진으로 활용될 수 있으며, AI 기반 C2를 통해 공격 타겟 선정과 운영 결정을 실시간으로 자동화하는 수준까지 가능하다고 경고했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>