미국 국방부가 ‘공급망 위험’으로 지정하는 기업은 대개 중국 등 적대국 기업입니다. 2019년 지정된 중국 통신장비업체 화웨이와 ZTE가 대표적입니다.

그런데 국방 분야 ‘블랙리스트’나 다름없는 공급망 위험 기업 명단에 처음으로 미국 기업이 포함됐습니다. 미국 인공지능(AI) 기업 앤트로픽입니다. 앤트로픽의 AI 기술을 ‘모든 합법적 목적’으로 사용하도록 허용하라는 국방부 요구를 거부했기 때문입니다. 앤트로픽이 도널드 트럼프 행정부의 공급망 위험 지정 조치에 대해 “전례 없는 불법적 보복 행위”라며 소송을 제기하면서 양측의 갈등은 법정 공방으로 번지게 됐는데요. 앤트로픽과 국방부의 힘겨루기는 AI의 군사적 활용을 둘러싼 윤리와 제도, 결정 권한에 관한 여러 질문들을 던지고 있습니다.

아이러니하게도 트럼프 대통령이 모든 연방정부의 앤트로픽 기술 사용을 금지한 하루 뒤인 지난달 28일 미군의 대규모 이란 공격에서 앤트로픽의 거대언어모델(LLM) 클로드(Claude)가 핵심적인 역할을 했습니다. AI가 표적 탐지·식별을 넘어서 지휘관의 의사결정에까지 깊숙이 개입하는 ‘AI 전쟁’ 시대가 열린 것이지요. 국방부와 빅테크들의 관계도 더욱 긴밀해지고 있습니다.

로이터연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

앤트로픽은 국방부의 요구를 거절하면서 두 개의 자체 ‘레드라인’을 제시했는데요. 첫째, 미국 내 대규모 군중 감시에 활용하는 것은 민주적 가치에 반하며 사생활과 자유를 침해할 우려가 있으므로 안 된다, 그리고 둘째, 완전한 자율 살상무기 체계에 활용하는 것 역시 첨단 AI 시스템의 신뢰성이 완전히 입증되지 않은 상태에서 미군이나 민간인을 위험에 빠뜨릴 수 있으므로 반대한다는 것이었습니다.

사실 이런 조건은 지난해 7월 앤트로픽이 국방부의 기밀네트워크에 클로드를 제공하는 내용의 2억달러 규모 계약을 체결할 당시에도 포함돼 있었습니다. 그런데 국방부가 올해 초 계약 내용을 뒤집으려 했다는 게 앤트로픽 측 주장입니다. 반면 국방부는 국가안보를 위해 AI 기술을 언제, 어떻게 사용할지에 대한 최종 결정 권한은 군 지도부에 있다는 입장입니다. 민간 기업이 국가안보에 관한 의사 결정을 좌우해서는 안 된다는 시각을 반영합니다. AI 기술 통제권을 놓고 정부와 민간이 주도권 다툼을 하는 셈이지요. ‘윤리’와 ‘국가안보’가 정면 충돌하는 지점이기도 합니다.

앤트로픽이 특별히 더 윤리적이어서 국방부와 이런 갈등을 빚고 있는 걸까요. 앤트로픽이 AI 안전이나 AI 기술의 윤리적 통제를 여타 AI 스타트업들보다 중시해온 것은 사실입니다. 앤트로픽 공동창업자인 다리오 아모데이와 여동생 다니엘라 아모데이는 오픈AI의 상업화 행보를 비판하면서 앤트로픽을 세웠습니다. 하지만 앤트로픽이 초창기부터 국방부와 긴밀하게 협력했고, 미국 바깥에서의 군중 감시나 외국 첩보 활동에 AI를 사용하는 것에는 수긍했다는 점을 보면 앤트로픽 역시 상업적 기회를 좇는 평범한 미국 기업이라고 할 수 있습니다.

결국 이번 갈등의 뿌리에는 군사적 목적의 AI 기술 사용을 규율하는 법과 제도가 명확하지 않은 현실이 자리한다고 볼 수 있습니다. 옥스퍼드대 블라바닉 행정대학원 사이버 기술 정책프로그램의 브리아나 로젠 박사는 지난 6일 발표한 글에서 이번 사태가 단순히 ‘윤리 대 국가안보’의 대립을 넘어서서 군사용 AI를 다루는 거버넌스의 부재를 보여준다고 짚었습니다. 예컨대 자율 살상 무기 체계에 관한 국방부 행정명령은 내부 정책에 불과하고, 자율 살상 무기에 해당하지는 않지만 AI에 기반한 표적 생성·의사결정 시스템, 특히 그로 인해 민간인 피해가 발생할 경우에 대한 법령은 존재하지 않는다는 것입니다. 그는 앤트로픽이 자사 모델의 사용 정책에 기반해 AI의 군사적 활용을 제한하려 한 접근은 한계에 봉착했다면서 “(기업과 정부 간) 계약 체제는 AI 전쟁의 현실과 보조를 맞출 수 있는 제도적 틀을 대체할 수 없다”고 지적했습니다.

다리오 아모데이 앤트로픽 최고경영자(CEO·왼쪽)와 피트 헤그세스 미국 국방장관. AFP연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

트럼프 행정부가 앤트로픽을 ‘퇴출’시킨 직후, 오픈AI는 국방부와 계약을 체결했습니다. 앤트로픽과 달리 국방부의 ‘모든 합법적 목적’ 요구도 수용했습니다. 논란이 커지자 샘 올트먼 오픈AI 최고경영자(CEO)는 계약 내용을 수정해 미국 내 대중 감시 우려 등을 분명히 담겠다고 했습니다. 하지만 파장은 계속되고 있습니다. 이미 ‘큇GPT’(Quit GPT·챗GPT 구독 끊기) 운동으로 흔들리던 오픈AI는 핵심 임원이 사임하고, 앤트로픽의 클로드에 미국 내 앱 다운로드 1위 자리를 내주는 등 홍역을 치르고 있습니다. 오픈AI 창업 멤버 11명 중 현재 2명만 남은 상태입니다.

미국 기업을 공급망 위험으로 지정하는 강수를 둔 국방부가 오픈AI의 계약 수정 제안을 순순히 받아들일지도 의문입니다. 오히려 앤트로픽과의 갈등을 계기로 기업들에 대한 통제권을 강화하려 나설 가능성도 있습니다. 제2의 앤트로픽 사태가 일어나지 않으리라는 법도 없는 셈이지요.

‘미국의 군사 AI 우위를 가속화하겠다’는 목표를 내건 트럼프 행정부에서 빅테크·AI 기업들과 국방부의 협력은 한층 활발해지고 있기도 합니다. 이란 공격에 사용된 클로드는 팔란티어가 구축한 ‘메이븐 스마트 시스템’(MMS)에 탑재돼 있었는데요. 팔란티어는 자사 데이터 플랫폼 ‘고담’을 바탕으로 만든 MMS에서 위성·음성·텍스트 등 각종 군사 빅데이터를 ‘온톨로지’ 체계 아래서 통합해 AI의 표적 식별과 작전 제안을 하고 있습니다.

구글은 최근 국방부의 군사용 AI플랫폼 ‘GenAI.mil’에 자사 LLM 제미나이를 배포했습니다. 구글은 2018년 미 국방부의 군사 AI ‘프로젝트 메이븐’에 참여했다는 이유로 내부 반발이 커지자 결국 1년도 되지 않아 계약을 중단한 바 있습니다. 하지만 지금은 미군의 기밀 업무에서도 제미나이 등 AI 에이전트를 제공하는 방안을 논의하고 있습니다. 구글을 비롯해 마이크로소프트(MS), 아마존웹서비스(AWS), 오라클 등 주요 빅테크 기업은 미 국방부가 2022년 시작한 90억달러 규모의 AI 군사 데이터 클라우드인 JWCC(합동 전투 클라우드 역량)에도 참여하고 있습니다.

AI를 고리로 한 국방부와 기업들의 네트워크가 긴밀해질수록 ‘AI 군산복합체’가 미국을 움직이는 또 하나의 힘으로 부상할 가능성도 배제할 수 없어 보입니다.

공습으로 폐허가 된 이란 수도 테헤란에서 12일(현지시간) 한 구조대원이 수색을 마치고 건물을 나오고 있다. AP연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

김유진 기자 yjkim@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지