<이미지를 클릭하시면 크게 보실 수 있습니다>

중동에서 미국·이스라엘과 이란 간 전쟁이 격해지고 있는 가운데 앤스로픽을 필두로 전쟁의 양상이 인공지능(AI) 빅테크에 의해 좌우되고 있다는 평가가 나온다. 군사전략 수립, 정보 분석, 무기 설계에까지 깊숙이 관여하는 AI 없이는 전투에서 승리하기 어려운 시대가 온 것이다.

5일 주요 외신들에 따르면 미국의 이란 공습 작전에는 앤스로픽의 ‘클로드’가 핵심적인 역할을 하고 있다. 미군은 클로드를 활용해 정보 평가, 목표물 식별, 전장 시뮬레이션 등을 수행했다. 이란의 최고 지도자 아야톨라 알리 하메네이의 공식 거처를 초토화 시키는 데도 앤스로픽의 클로드 모델이 활용됐다. 당시 클로드는 방대한 데이터 분석 및 은신처 급습 시점을 제시했다. 앞서 1월 미국이 니콜라스 마두로 베네수엘라 대통령 체포 작전에도 클로드가 활약했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

앤스로픽은 최근 미군과 클로드 사용범위에서 윤리 문제를 둘러싸고 이견을 보이면서 미 정부로부터 퇴출 수순에 이르렀지만 그 시점에도 미 국방부가 진행한 대규모 드론 군집 기술 공모전에 참여했다. 결과는 공모전 탈락이었지만 자사의 기술이 군사 분야에서 계속 필요할 것이라는 자신감으로 읽힌다. 미 정부는 엔스로픽과의 갈등 중에도 클로드가 내장된 AI 기반 군사정보 플랫폼인 ‘메이븐 스마트 시스템’을 활용하는 등 앤스로픽을 군 작전에서 완전히 배제하지 못할 것으로 전해졌다. 다리오 아모데이 앤스로픽 최고경영자(CEO)도 28일 미 CBS와 한 인터뷰에서 “군 관계자와 이야기해 보니 클로드가 없으면 전력이 6개월에서 12개월, 어쩌면 그 이상 뒤처질 것이라고 한다”면서 협상 의지를 내비쳤다.

앤스로픽은 대규모언어모델(LLM)을 활용한 고신뢰 데이터 추론 능력을 기반으로 국가안보 분석 모델을 구축할 수 있는 유일한 기업으로 평가된다. 특히 군사정보 수집·평가, 목표물 식별, 전장 상황을 종합 분석해 의사 결정을 지원하는 AI 시스템을 만드는 능력 때문에 미 정부와 방산 업계에서 높은 관심을 받고 있다. 특히 이번 이란 전쟁처럼 통신을 통제하고 여러 대의 무기와 드론을 한꺼번에 여러 장소에서 공격하는 전략에 유리하다는 게 전문가들의 의견이다.

앤스로픽은 단순 데이터가 아닌 수만 권의 책을 통해 학습하면서 높은 수준의 언어 이해 능력을 갖췄다. 특히 앤스로픽은 AI가 스스로 출력값을 검토·교정하는 ‘AI 피드백 기반 강화학습(RLAIF)’을 고수해왔다. 기존 AI 모델은 ‘인간 피드백 기반 강화학습(RLHF)’에 기반하는데 이는 사람이 직접 훈련을 시키는 셈이라 편견이 담기거나 일관적이지 못할 수 있다. 국방부가 경쟁자를 제치고 앤스로픽을 그동안 활용한 점도 이 같은 신뢰 덕분으로 풀이된다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

앤스로픽 경쟁사이자 아모데이가 한때 몸담았던 오픈AI는 군사용 AI 개발에 대해 신중한 입장을 유지해 왔다. 특히 자율 살상 무기 개발에 대해서는 윤리적 우려가 컸던 회사다. 그러나 미 국방부가 AI 활용 확대를 요구하면서 상황이 바뀌고 있다. 앤스로픽이 일부 군사 프로젝트 참여에 제한적 태도를 보이자 오픈AI가 국방부 요구를 보다 적극적으로 수용하기 시작했다.

일론 머스크가 설립한 xAI 역시 군사 AI 분야에 대한 참여 의지를 강하게 나타내고 있다. xAI는 최근 군 기밀 환경에서의 사용 승인을 받은 가운데 미 워싱턴DC와 서부지역에서 비밀·극비 취급을 할 수 있는 미국 보안 인가 획득 엔지니어를 채용했다.

앞서 2022년 발발한 러시아-우크라이나 전쟁에서도 AI가 활약하고 있다. ‘AI 활용 전쟁’의 신호탄이라고 평가 받는 러시아-우크라이나전은 드론 전쟁이라고도 불리며 AI가 처음으로 활용됐다.

특히 러시아에 비해 열세 였던 우크라이나군이 지금까지 전쟁을 이어가는 중요한 요소로 AI가 작용했닫. 우크라이나군은 러시아 군지기를 타격할 때 자폭 드론을 이용했는데 여기에는 자율 비행 AI 프로그램이 탑재된 것으로 전해졌다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI 군사기술 경쟁은 미국뿐만이 아니라 경쟁 국가나 적대국에서도 벌어지고 있다. 중국은 AI 기반 드론과 무인장비 개발에 우선 주력하면서 군사 AI 기술 자립과 전력화에 속도를 내고 있다. 특히 중국은 이번 이란 공습에 AI가 핵심적인 역할을 했다는 소식이 전해지자 군사 분야에서 AI 기술 자립을 서두르고 있다.

이란은 AI를 탑재한 샤헤드-136 자폭드론을 미국·이스라엘과의 전쟁에서 활용하고 있고, 혁명수비대 해군은 AI 기반 자율항해 함정을 개발 중인 것으로 전해졌다. 이에 미 국방부는 AI 개발 능력을 압도적으로 높이는 한편 중국 등이 AI 무기 개발에 활용할 수 있는 AI칩 수출 수량을 제한하고 있다.

이강경 대구가톨릭대 군사학과 교수는 “AI의 발전과 적용은 군사분야에서 특히 두드러지는 가운데 앞으로 전쟁의 승패를 AI가 좌우한다고 해도 과언이 아니다”며 “이에 세계 각국은 AI를 탑재한 무인 전투기와 스텔스기 개발 등을 비롯해 다양한 군사 분야에서 AI를 활용할 수 있도록 기술 발전에 열을 올리고 있다”고 설명했다.

최근 군사 전문가들이 주목하는 기술 변화는 AI가 무기 설계까지 할 수 있도록 발전하고 있다는 점이다. 기존에는 인간이 무기를 설계한 뒤 AI가 이를 보조하는 방식이었지만 이제는 AI가 직접 설계안을 생성하고 인간이 이를 검증하는 형태로 빠르게 변화할 것으로 전문가들은 전망한다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI가 군사 분야에서도 빠르게 발전하면서 가장 큰 논쟁은 인간의 통제 여부다. 앤스로픽은 ‘완전자율살상무기’가 등장할 가능성을 강하게 우려하고 있다. 아모데이는 “인간의 개입 없이 스스로 표적을 정하고 발사하는 무기를 만드는 개념”이라면서 “우크라이나나 대만에서 쓰일 가능성이 있는 부분 자율 무기와는 다르다”고 설명했다.

현재 대부분 국가와 국제기구는 AI가 공격 결정을 내리기 전에 반드시 인간의 최종 승인을 받도록 해야 한다는 원칙을 강조하고 있다. 일종의 부문 자율 무기에 해당한다. 하지만 초음속 미사일, 드론 군집 공격, 사이버 전쟁 등 초고속 전장 환경에서는 인간이 개입할 시간이 거의 없다는 지적도 나온다. 아모레이는 “AI모델의 예측할 수 없는 변화로 조준을 잘못해 민간인을 사살하거나 피아 식별에 실패할 수 있다”면서 “한 사람이 1000만 대의 드론을 조종한다면 책임 소재가 무너진다”고 경고했다.

양욱 한남대 국방전략대학원 겸임교수(아산정책연구원 연구위원)는 “대규모 공격, 신속한 표적 식별 및 공격을 위해 이제는 AI의 도움 없이 전쟁을 치를 수 없을 정도로 AI가 전쟁의 양상을 바꾸고 있다”며 “AI가 전쟁에서 중요한 역할을 수행하는 만큼 인간이 이런 AI를 얼마만큼 통제할 수 있는지가 중요한 과제”라고 말했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

부시와 소름 돋는 데칼코마니? “난 다르다”던 트럼프, 판단 미스였나?

김정욱 기자 mykj@sedaily.com실리콘밸리=김창영 특파원 kcy@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]