ⓒ게티이미지뱅크

<이미지를 클릭하시면 크게 보실 수 있습니다>

챗GPT가 촉발한 인공지능(AI) 혁신이 사이버 보안 판도를 뒤흔들고 있다. 해커는 AI 도구를 이용해 공격 기법을 정교화하고 있으며, 정보보호기업은 AI 기술을 적극 도입해 솔루션을 가다듬고 있다.

27일 S2W, 스텔스모어 인텔리전스 등 국내 주요 사이버 위협 인텔리전스(CTI) 기업 등에 따르면 공격자가 활동하는 딥다크웹(DDW) 포럼이나 텔레그램에서도 악성코드 개발, 취약점 분석, 피싱 캠페인 자동화 등 사이버 공격을 위한 수단으로 AI를 활용하는 사례가 지속적으로 확인되고 있다.

S2W 관계자는 “딥다크웹 포럼이나 텔레그램에서 AI 관련 논의를 위한 전용 게시판이나 채널이 개설되거나 관련 논의 내용이 다수 확인된다”며 “사이버 위협 행위자들 사이에서도 AI에 대한 관심도가 높아지고 있다”고 분석했다.

딥다크웹 포럼에서 AI 전용 게시판을 운영하고 있다.(S2W 제공)

<이미지를 클릭하시면 크게 보실 수 있습니다>

지난해 7월께 등장한 사이버 공격 특화 AI 모델 '잔소록스 AI'(Xanthorox AI)가 대표적이다. 해커들 사이에선 웜GPT 대체재(악성코드 생성 도구)로 홍보되고 있으며, 4개의 모델과 5개의 주요 기능으로 구성됐다.

먼저 잔소록스 코더는 악성코드 생성, 취약점 악용 페이로드 제작 등 각종 코드 및 스크립트 생성 작업을 수행하는 모델이다. 잔소록스 비전(Vision)은 이미지·스크린샷을 분석하고, 이미지 내 포함된 데이터 추출·분석을 수행하는 모델로, 예를 들어 탈취한 데이터가 어떤 내용을 담고 있는지 분석하는 데 쓰인다.

챗GPT-4와 유사한 범용 모델인 잔소록스 v4는 다양한 분야에서 활용할 수 있으며, 잔소록스 리즈너(Reasoner)는 고급 추론 능력을 갖춘 모델로, 복잡한 문제 해결이나 분석에 사용된다.

이 밖에도 다크AI, 크레이지웜GPT 등 다양한 사이버 공격용 AI가 유통되고 있다.

전문가 영역으로 여겨지던 취약점 발굴 분야에서도 AI가 인간을 능가하는 사건이 올해 벌어졌다. 버그 바운티 플랫폼 해커원에서 '크로스보우'가 개발한 AI 가 미국 내 1위 차지했다. 취약점은 공격의 고리가 되는 만큼 해커가 AI를 활용해 취약점을 빠르게 찾아낸다면 방어자는 손쓸 틈 없이 공격을 당하게 될 우려가 있다.

잔소록스 AI의 음성 생성 기능 시연 모습. (S2W 제공)

<이미지를 클릭하시면 크게 보실 수 있습니다>

국내 정보보호기업도 빠르게 AI 기술을 적용해 솔루션을 갈고 닦고 있다.

안랩은 에이전틱 AI 보안 플랫폼 '안랩 AI 플러스'를 앞세워 보안 전반의 지능화에 속도를 내고 있다. 최근엔 서비스형소프트웨어(SaaS) 보안 위협 분석 플랫폼 '안랩 XDR'에 대화형 AI 보안 어시스턴트 '애니'(Annie)를 연동했다. 애니는 대화형 기반 보안 어시스턴트로, 보안 운영 과정에서 발생하는 각종 이벤트나 로그를 사용자가 자연어로 질의하면 그 의미와 위험도를 빠르게 해석하는 기능을 수행한다.

이글루코퍼레이션은 AI 기술을 통해 보안 운영 효율성과 대응 속도를 높였다. XDR 기반 차세대 보안관제 플랫폼인 '스파이더 이엑스디'는 일원화된 탐지-분석-대응 체계를 구축한다. 이 제품을 통해 100% 수작업으로 처리하던 업무 가운데 83%를 자동 대응하고, 평균 30분이 소요되는 작업을 12초 이내 처리한다. 특히 하루 평균 200건에서 3000건으로 대응 건수를 늘리는 성과를 달성했다.

시큐리온의 온앱스캔은 독자 개발한 AI 탐지 엔진 '크로스 밸리데이션 시스템'(CVS)으로 분석 대상 애플리케이션 악성 여부와 위험도를 자동으로 판정하고 상세 정보를 제공한다. 지니언스도 엔드포인트탐지·대응(EDR) 위협 분석 및 운영 효율성 향상을 위해 AI 연구를 진행 중이다.

김휘강 고려대 정보보호대학원 교수는 “사이버 보안 분야는 방어자는 모든 공격표면을 막아야 하는 반면 공격자는 수많은 공격표면 중 단 하나의 공격지점만 찾아내도 성공하는 전형적인 비대칭성이 있다”면서 “AI를 이용해 취약점을 찾는 속도가 빨라지고 있어 향후 더 많은 해킹 사고가 발생할 수 있다”고 말했다.

크레이지웜GPT 메인화면 모습.

<이미지를 클릭하시면 크게 보실 수 있습니다>

조재학 기자 2jh@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]