국내외 보안 시장에서 주목한 인공지능(AI) 소식을 전합니다. AI 기술을 악용한 최신 위협부터, AI 기술을 활용한 보안 전략까지 우리가 주목해야 할 쟁점을 소개합니다. AI 보안 시대를 준비하고 있다면, 디지털데일리 'AI 가드'를 살펴보세요. <편집자주>

[디지털데일리 김보민기자] '세상에는 두 종류의 기업이 있다. 해킹을 당한 기업과, 해킹을 당한 줄도 모르는 기업이다.'

최근 국내외 기업을 겨냥한 사이버 공격이 거세지면서, 오랜 기간 회자된 이 문구가 다시 주목을 받고 있다. 사실상 '해킹 피해를 당하지 않은 기업이 없다'는 취지의 이 말은 국가와 산업을 가리지 않고 모든 조직에게 해당되기 시작했다.

글로벌 현장에서는 인공지능(AI)이 이러한 현상을 가속화하고 있다는 진단이 나오고 있다. 지난달 30일(현지시간) 세계경제포럼(WEF)이 공개한 '사이버보안 인식의 달: 2025년에 알아야 할 10가지' 분석에서도 이러한 우려를 엿볼 수 있다.

분석에 따르면 최근 4년간 사이버 공격 규모는 상승세를 이어가고 있다. 2021년 2분기 기업당 818건 수준이었던 주간 평균 공격 수는, 올해 같은 기간 1984건으로 증가했다. 4년 만에 두 배 이상 규모가 늘어난 것이다. WEF는 "지난 2년만 보더라도, 전 세계 평균 주간 공격 건수는 58% 증가했다"고 밝혔다.

WEF는 AI 기술 개발 속도가 빨라지면서, 위협 규모도 커지고 있다고 평가했다. WEF는 "AI는 사이버 위협인 동시에 방어 도구로서 역할이 커지고 있다"고 말했다.

AI 기술을 둘러싼 경고는 현장 곳곳에서 제기되고 있다. 구글은 '생성형 AI의 적대적 오용' 보고서를 통해 북한·중국·이란 등 주요 국가 배후 공격조직이 AI 서비스 중 특히 제미나이를 악용하고 있다고 밝힌 바 있다. 일반 사용자처럼 프롬프트에 질문을 입력해, 원하는 정보를 빼내고 랜섬웨어 악성코드까지 제작한 것으로 나타났다. 지난 8월에는 앤트로픽의 클로드를 악용해 서비스형랜섬웨어(RaaS) 사업을 한 사례가 보고되기도했다.

AI 에이전트는 이러한 위기감을 고조시키고 있다. AI 에이전트는 단순 번역이나 조사 작업을 넘어, 과제를 세분화해 실행할 줄 아는 일종의 '동료'로 진화 중인데, 전문가들은 더 많은 정보에 접근할 시 프라이버시 문제가 생길 수 있다고 경고한다.

메러디스 휘태커 시그널테크놀로지재단 회장은 지난달 16일 서울에서 열린 글로벌프라이버시총회(GPA)에서 "AI 에이전트는 모든 것을 대신 해준다는 명목으로 운영체제 측면에서 중립적인 인프라로 작동하지 않는다"며 "당신이 있는 모든 곳에 존재하고 민감 정보에 접근한 뒤 이를 활용한다면, 이는 곧 프라이버시의 붕괴"라고 표현했다.

그러나 AI 위협을 비롯한 신규 공격에 대한 인식은 투자 측면에서 여전히 저조하다. WEF는 "사이버보안 산 증가율은 2022년 17%에서 2025년 4%로 둔화됐다"며 "위협 수준에 맞춰 증가하지 않고 있다"고 부연했다.

WEF는 누구나 해킹 피해자일 수 있는 지금, 국제적 공조와 인재 양성이 필요하다고 강조했다. WEF는 "문제를 더욱 복잡하게 만드는 것은 심각한 인재 부족"이라며 "현시점에서는 사이버보안 전문가를 채용하는 것이 어려울 뿐만 아니라, 비용도 많이 든다"고 말했다. 이어 "인재 부족은 사이버 범죄에 대한 조직의 회복탄력성을 저해하는 주요 장애물"이라며 "적합한 인재를 보유한 기업은 전체 14%에 불과하고, 개발도상국이 가장 큰 타격을 입을 것으로 예상한다"고 덧붙였다.

한국은 10월 국정감사(이하 국감)을 계기로 사이버보안 대응력을 높이기 위한 질책과 논의를 본격화할 것으로 보인다. 국내의 경우, 기업뿐만 아니라 정부 부처와 공공기관 또한 해킹 공격에서 자유롭지 않은 실정이다. 국회 보건복지위원회 소속 조국혁신당 김선민 의원실에 따르면, 올해 들어 8월까지 보건복지부에 대한 해킹 시도는 5만6208건에 달했다. 같은 기간 국민건강보험공단에 대한 해킹 시도는 7만5513건, 건강보험심사평가원에 대한 시도는 5만3888건을 기록했다.

WEF는 "회복력을 구축하려면 국경 없는 사이버범죄에 대처하고, 숙련된 인재를 개발하는 것이 중요하다"며 "글로벌 협력과 공공-민간 협력이 중요해질 것"이라고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -