율촌, 통합보안센터 출범 기념 세미나 개최

전문가들 "AI로 공격 난도↑, 해커 뛰어넘을 기술 고민해야"

[디지털데일리 김보민기자] KT와 롯데카드에 이어 주요 기업과 기관을 노린 보안 사고가 이어질 것이라는 전망이 나왔다. 인공지능(AI)을 악용한 공격이 늘어난 만큼, 차세대 기술을 적용한 보안 체계가 필요할 것이라는 전망도 제기됐다.

정수환 숭실대학교 교수는 19일 서울 강남구 법무법인 율촌에서 열린 '통합보안센터 출범 기념 세미나'에서 "AI 기술을 활용하는 공격자들의 능력이 높아지면, 더 엄청난 사고들이 터져 나올 수 있다"며 "현재 방어체계로는 한계가 있고, 방어 능력을 획기적으로 높이고 바꿀 방안이 필요하다"고 밝혔다.

최근 세계 각국에서는 AI 기술을 악용한 위협 사례들이 연달아 보고되고 있다. 대표적으로 앤트로픽은 지난달 위협인텔리전스 보고서를 통해 자사 대형언어모델(LLM) '클로드'가 서비스형랜섬웨어(RaaS)에 악용되고 있다고 밝혔다. 공격자는 클로드 기반 AI 서비스를 활용해 노코드로 악성코드를 만들고, 랜섬웨어 서비스로 이를 판매한 것으로 나타났다. 해커는 엔드포인트탐지및대응(EDR) 등 보안 체계를 회피하는 데에도 능한 것으로 알려졌다.

정 교수는 해커를 넘어 일상생활에서 활용하는 AI 모델 또한 취약점이 늘어나고 있다고 진단했다. 그는 "오픈소스를 기반으로 코딩을 했다면, 해당 오픈소스에 있는 취약점이 애플리케이션 프로그램으로 들어오기도 한다"며 "단순히 학습데이터를 오염시켜도 잘못된 판단을 하고, 적대적 공격 또한 가능하게 된다"고 경고했다.

AI와 더불어 클라우드 환경이 보편화되고 있는 점도 공격이 늘어나는 원인 중 하나로 꼽혔다. 정 교수는 "클라우드 시스템으로 전환되면서 제로트러스트('누구도 믿지 말고 경계하라'는 보안 방법론) 보안이 관심을 받고 있는데, 공격자를 뛰어넘는 시스템을 어떻게 구축할지가 관건"이라며 "결국은 에이전트와 같은 도구를 잘 활용하는 것이 중요해질 것"이라고 제언했다.

이어 "특화된 버티컬 AI를 잘 만드는 것이 현실적"이라며 "이후에는 멀티플 에이전트로 대응하고 기능에 특화된 에이전트를 활용해 대응 체계를 갖춰야 공격자에 대응이 가능할 것"이라고 강조했다.

다만 AI 에이전트에 대한 무분별한 신뢰는 경계해야 한다고 말했다. 정 교수는 "에이전트에 일관적인 허락을 준다면 시키지 않은 일을 하거나, 나아가 개인정보 유출 문제도 있을 수 있다"고 말했다.

이날 토론 참석자들은 국가망보안체계(N2SF)·제로트러스트 등 정부 및 국가정보원에서 추진하는 차세대 보안에 대한 의견을 나눴다. 아울러 AI 보안 및 산학협력에 대한 제언사항을 이야기했다.

한편 법무법인 율촌은 기술, 법률, 산업을 통합적으로 아우르는 대응 전략을 설계하고 맞춤형 보안 전략과 솔루션을 제공하는 '통합보안센터'를 출범했다. 율촌 통합보안센터는 손도일 경영담당 대표변호사와 국정원 제3차장을 거친 윤오준 고문이 공동으로 이끌며, 분야별 고문과 위원진이 함께하고 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -