이석호 EQST Lab 팀장이 2일 ‘2024 EQST 미디어데이’에서 AI 패러다임 전환과 보안 전략에 대해 설명하고 있다. 사진 | 표권향 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

[스포츠서울 | 표권향 기자] 올 상반기 전 세계적으로 VPN, 라우터 등 네트워크 장비 취약점을 노린 해킹 사례가 두 자릿수를 기록했다. 특히 금융업을 노린 사이버 공격이 가장 많았으며, 교묘한 수법으로 범죄에 악용한 건도 다수 발생했다.

지난 1월부터 VPN·라우터·스크린커넥트 취약점으로 인한 △1700개 이상 기기 감염 △크로스체인 플랫폼 해킹으로 인한 1123억 원 이상의 가상자산 도난 △신종 인포스틸러 토틀러샤크(ToddlerShark) 유포 △XZ Utils 라이브러리에서 백도어(Backdoor) 악성코드 발견 △온라인 쇼핑몰 7089건 신용카드 정보 탈취 △피싱 메일 및 SNS 악용한 악성코드 공격 등이 있었다.


SK쉴더스는 2일 서울 중구 포럼타워에서 열린 ‘2024 EQST 미디어데이’를 통해 올 상반기 주요 보안 트렌드의 심각성을 강조하며, AI LLM 보안 대응전략을 제시했다.

SK쉴더스에 따르면 전 세계적으로 비트코인 ETF 승인 및 반감기와 같은 호재로 인해 가치가 상승한 가상자산을 노린 해킹이 지속됐다. 국내에서는 제조 및 방산 업체의 기술 탈취 목적의 북한 공격 움직임도 계속 포착된다. 국외에서는 러시아-우크라이나, 이스라엘-하마스 전쟁 등 국제 분쟁으로 인한 정부와 행정기관을 대상으로 한 공격이 증가했다.

해커들의 수법은 보안 시스템의 방어를 △LotL 기법 활용 △사회공학 기반의 오픈소스 공급망 공격 등의 방식으로 보안망을 뚫었다.

공격자들은 악성코드 사용 최소화하면서도 보안장비 탐지 회피를 위해 서버 내 설치된 정상 프로그램을 악의적으로 활용하는 LotL 기법을 구사하고 있다.

기존에도 사용된 공격 기법이지만, 최근 미국 기반 시설을 대상으로 볼트 타이푼(Volt Typhoon)의 공격과 국내 제조업체은 북한 해킹 그룹에 의해 피해를 입었다.

오픈소스를 타깃으로 한 공급망 공격은 단순하지만, 정상 패키지 이름을 유사한 명칭으로 악성 패키지를 유도하는 타이포스쿼팅 형태가 꾸준히 발생하고 있는 것으로 나타났다.

최근 원격 지원 솔루션에 침투한 랜섬웨어 공격이 증가하고 있는 가운데, 스크린커넥트 취약점을 악용한 북한 배후 조직의 공격 및 외화벌이를 위한 해킹도 이어지고 있다. 이는 백도어 악성코드 대신 RMM 도구를 사용하는 등 다양한 공격 전략이 투입된 것으로 확인했다.


2022년 대비 2023년 생성형 AI의 투자가 약 12배 증가했다. 현재 사용 중인 기업·기관은 56%였으며, 특히 LLM 비중이 절반 이상(62%)인 것으로 조사됐다. 3년 이후 도입 계획을 밝힌 곳은 60%였다.

LLM이 다양하게 사용되는 만큼 △학습 데이터 정제 미흡 △과도한 의존 △AI 오픈소스 취약점 △프롬프트 인젝션 △AI 악용 등에 대한 AI 사고 사례도 늘었다.

민감한 정보에 대한 필터링이 미흡하다는 점을 악용해 개인정보를 획득하거나 일부러 LLM에 과부하를 일으켜 정상적인 답변을 하지 못하게 하는 등 수법은 다양하다.

이를 방지하기 위해 각국에서 법안 제정에 집중하고 있다. 최근 EU에서는 AI 법안(AI Act)을 승인해 시행 예정이다. 한국은 개인정보에 대한 ‘AI 기본법’만 올랐으나, 국회 임기 만료로 이마저도 폐기됐다.

이호석 EQST Lab 팀장은 “AI 서비스를 안전하게 구축하기 위해 프롬프트 입출력에 대한 보안을 적용하고, AI 모델 학습 시 데이터를 신뢰할 수 있도록 정제해 사용하는 것이 중요하다”라고 강조했다.

이를 위해 SK쉴더스에서 제안한 ‘AI 보안 체크리스트’인 △모델 개발자(모델 가드레일·학습 데이터 검증) △서비스 개발자(출력 검증·권한 제한·인젝션 방어·외부 자원 사용 주의·보안 인프라 구축) △서비스 사용자(한계 인식·민감 정보 입력 자제)는 AI 서비스에 잠재적 취약점의 존재 인지하고 안전하게 개발 및 활용해야 한다는 것.

이 팀장은 “SK쉴더스에서는 최신 위협에 대응하는 기술력과 노하우를 바탕으로 기업·기관별 맞춤으로 최적화된 AI 모의 해킹 컨설팅 서비스와 AI 연계 보안 서비스를 제공할 예정”이라고 전했다.

gioia@sportsseoul.com

[기사제보 news@sportsseoul.com]
Copyright ⓒ 스포츠서울&sportsseoul.com