팔란티어의 CEO 앨릭스 카프가 쓴 책 <기술공화국 선언>에는 이런 문장이 있다. “원자력 시대는 끝났다. 지금은 소프트웨어의 시대다.” 선언적 울림이 강한 이 문장은 단순한 수사가 아니다. 핵무기보다 더 강한 억지력은 이제 인공지능(AI) 역량이라는 것, 그리고 미국이 그 역량을 가장 먼저 갖추어야 한다는 것-이것이 카프의 비전이다. 마치 1945년 맨해튼 프로젝트가 핵 시대의 문을 열었듯이, 카프는 미국의 인공지능이 지배하는 새로운 억지력을 ‘신맨해튼 프로젝트’라고 불렀다.

그런데 현실의 간극은 컸다. 2024년 미국 국방부가 인공지능 역량 구축에 투입한 예산은 총 18억달러, 전체 국방 예산 8860억달러의 고작 0.2%에 불과했다. 카프가 보기에 문제는 예산만이 아니었다. “이 시대의 억지력이 될 인공지능 시스템 개발에 실리콘밸리의 기술 엘리트들이 미국 군대를 위해 일하는 것에 가장 회의적”이라는 사실이 더 큰 장애물이었다. 그러나 카프는 포기하지 않았다.

팔란티어는 2024년 5월 메이븐 스마트 시스템(Maven Smart System) 개발을 위한 4억8000만달러의 5개년 계약을 미 육군과 체결했고, 같은 해 9월에는 9980만달러 규모의 추가 확장 계약을 따냈다. 2025년 5월에는 계약 상한이 13억달러로 증액됐으며, 2025년 8월에는 75개의 개별 계약을 단일 기업협약으로 통합한 최대 100억달러 규모의 10년짜리 대형 계약이 체결됐다. 이로써 카프의 맨해튼 프로젝트는 마침내 궤도에 올랐다.

메이븐 스마트 시스템이 실현하려는 전쟁의 모습은 이전과 근본적으로 다르다. 이 시스템은 모든 출처의 정보를 실시간으로 융합해 새로운 공통작전상황도(CoP)를 지휘관에게 제공한다. 지휘관이 특정 지점의 변화를 군사 챗봇에 질문하면, 시스템은 어떤 표적이 있는지, 그 표적을 파괴하는 데 어떤 자산을 투입해야 하는지, 성공률은 몇 퍼센트인지, 그리고 적의 반격으로 아군이 사상될 확률까지 즉각 제시한다. 이후 지휘관은 시스템이 추천하는 합동전투모델을 선택하면 된다.

메이븐 시스템은 우크라이나 전장에서 먼저 실험됐고, 전쟁의 시간과 공간 개념을 근원적으로 바꾸었다. 그리고 2026년 2월의 마지막 날, 이란이 그 진짜 시험대가 되었다. 이 전장에서 놀라운 일이 벌어졌다. 과거 2000명이 분석하고 통제하던 전쟁 지휘통제 시스템이 20명만으로도 돌아갔다.

더욱 눈부신 것은 속도였다. 표적을 탐지하고, 타격하고, 효과를 확인하는 의사결정 순환 루프(kill chain)가 빛의 속도에 가깝게 압축됐다. 인공지능이 어떤 표적을 파괴하는 동시에 후속 조치까지 결심하는 세계에서, 나폴레옹 이후 200여년간 군의 두뇌 역할을 해온 사령부의 일반참모 제도는 기계 지능으로 대체된다.

이 전쟁은 실리콘밸리 우파의 전쟁이다. 카프는 자신이 만든 이 “대량살상 수학무기”가 이란 전쟁 이후 핵무기보다 더 높은 위상을 확립할 것이라는 믿음으로 가득 차 있다. 규제도 통제도 없이 기술의 활용을 극한까지 밀어붙이는 이 성향을 ‘가속주의(accelerationism)’라고 부른다.

그러나 같은 시기, 실리콘밸리의 다른 편에서는 정반대의 전쟁이 벌어졌다. 앤트로픽의 CEO 다리오 아모데이는 국방부가 요구한 “모든 합법적 용도에 AI를 무제한으로 사용할 수 있게 허용하라”는 조건을 정면으로 거부했다. 자율 무기와 대규모 민간인 감시에는 클로드를 사용할 수 없다는 두 가지 레드라인을 고수한 것이다. 국방부는 앤트로픽을 “국가안보에 대한 공급망 위험” 기업으로 지정했고, 트럼프 대통령은 모든 연방기관에 앤트로픽 기술 사용의 즉각 중단을 명령했다. 헤그세스 국방장관은 앤트로픽을 “거만하고 위선적”이라 불렀고, 펜타곤 관리는 아모데이를 “거짓말쟁이”에 “신 콤플렉스를 가진 자”라고 공격했다.

그러나 지능화된 무기의 재앙적 위험을 본 아모데이는 굽히지 않았다. 인간은 이런 지능화된 무기체계를 다룰 윤리적 준비가 전혀 되어 있지 않다.

카프와 아모데이, 그들의 논쟁 이면에는 냉혹한 현실이 기다린다. 시스템이 전쟁 승리 가능성을 수학적으로 제시하면 트럼프나 네타냐후 같은 지도자들이 그 유혹을 뿌리칠 수 있을까.

새로운 군사-테크노 복합체가 국가의 자원을 블랙홀처럼 빨아들이는 전쟁 논리로 치달을 경우, 그 여파는 상상조차 하기 힘들다. 히로시마 이후 인류는 핵무기를 쓰지 않기 위한 70년짜리 억지체계를 간신히 만들어냈다. 그러나 수학무기에는 그 어떤 통제도 없다.

김종대 전 정의당 의원

김종대 전 정의당 의원

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지