<이미지를 클릭하시면 크게 보실 수 있습니다>

미군이 대외 군사 작전에 인공지능(AI)을 본격적으로 사용하면서 윤리성 문제와 관련한 논쟁에 불이 붙고 있다. 특히 미군 기밀 네트워크에 유일하게 사용되는 기업용 AI 모델 ‘클로드’ 개발사 앤스로픽이 국방부(전쟁부)에 협조하지 않겠다는 뜻을 밝히면서 논란이 확대되는 분위기다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 미국 정부가 종국에 자국민 감시에도 클로드를 쓸 수 있다며 이 경우 AI가 민주주의를 침해할 수 있다고 맞서고 있다. 애초 아모데이 CEO는 여동생인 다니엘라 아모데이 사장과 ‘챗GPT’ 개발사 오픈AI에 몸 담다가 회사의 영리화에 반대해 2021년 앤스로픽을 창업한 인물이다. 상황이 심각해지자 도널드 트럼프 대통령은 연방기관 전체에 앤스로픽 기술 사용을 중단시키며 강력한 개입 의사를 밝혔다. 앤스로픽이 트럼프 행정부와 각을 세우면서 올해 기업공개(IPO) 시장의 대어(大漁)인 이 회사의 상장 계획도 일부 영향을 받을 가능성이 생겼다.




지난 13일(현지 시간) 미국 정치매체 악시오스는 미군이 지난달 3일 니콜라스 마두로 베네수엘라 대통령을 체포하는 과정에서 앤스로픽의 클로드를 사용했다고 보도했다. 소식통에 따르면 클로드는 마두로 대통령을 생포하는 ‘확고한 결의’ 작전이 벌어질 때 실시간으로 전달되는 데이터를 신속하게 처리하는 능력을 발휘했다. 클로드가 작전 준비 과정과 실제 실행 단계에 모두 사용된 결과, 마두로 대통령을 체포하는 동안 쿠바 경호대와 베네수엘라군은 수십 명이 사망했고 미군은 아무도 죽지 않았다.

클로드는 구글과 아마존의 지원을 받는 미국의 스타트업 앤스로픽이 개발한 AI다. 문맥 이해 능력과 대량의 텍스트 처리 능력은 업계 최고 수준으로 통한다. 고도의 추론과 코딩 능력으로 많은 정보를 한 번에 처리할 수 있는 역량 또한 탁월하다. 나아가 지난달 12일 출시된 ‘클로드 코워크’는 프로그래밍 지식이 없는 사람도 AI와 대화하는 것만으로 문서 요약, 데이터 분석, 계약서 검토 등의 업무를 자동화하는 애플리케이션을 금세 만들 수 있게 했다. 클로드 코워크의 충격적인 기능으로 뉴욕 증시에서는 최근까지 소프트웨어(SW) 관련주 등 기존 서비스 업종들이 줄줄이 급락했다.

클로드의 독보적인 능력은 미군도 인정하고 있다. 앞서 앤스로픽은 오픈AI, ‘제미나이’의 구글, ‘그록’의 xAI와 함께 지난해 7월 미국 국방부와 2억 달러(약 2900억 원) 규모의 소프트웨어 사용 계약을 체결했다. 이 가운데 성능이 뛰어난 앤스로픽만이 작전 수립, 무기 표적 설정 등 민감한 업무를 처리하는 군사 기밀 네트워크에 활용된다. 나머지 AI모델은 주로 군사 행정을 위한 비(非)기밀 네트워크에만 쓰인다. 피트 헤그세스 국방부 장관은 “전쟁을 수행하는 것을 허용하지 않는 AI 모델은 채택하지 않을 것”이라며 군사력으로 중국을 압도하기 위해 AI를 군 네트워크에 통합하길 원하다는 입장을 유지하고 있다.

문제는 클로드가 전쟁 목적으로 사용되는 상황이 앤스로픽의 기업 철학과는 크게 배치된다는 점이다. 앤스로픽은 오픈AI 출신인 아모데이 CEO·사장 남매를 주축으로 2021년 출범한 회사다. 공동 창업자들 전원이 오픈AI 출신이다. 이들은 비영리 업체로 출발한 오픈AI가 마이크로소프트(MS)에서 거액의 투자를 받자 이에 반발해 회사를 나왔다. 앤스로픽은 ‘안전하고 윤리적인 AI’를 표방하며 자사 모델이 살상 무기 개발이나 폭력적인 군사 작전에 직접적으로 사용되는 것을 제한하는 엄격한 가이드라인(지침)을 준수하고 있다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

실제 마두로 대통령 체포 작전을 계기로 미국 국방부와 앤스로픽 간 갈등은 곧장 증폭됐다. 로이터통신에 따르면 에밀 마이클 미국 국방부 최고기술책임자(CTO)는 11일 워싱턴DC 백악관에서 오픈AI, 앤스로픽 등의 임원들에게 AI 도구들을 합법적으로 기밀 네트워크에서 쓸 수 있게 해달라고 요구했다. 이에 따라 오픈AI는 통상적으로 적용하던 이용 제한 규정 가운데 일부 안전장치만 남기고 여러 개를 해제했다. 이를 통해 300만여 명의 국방부 피고용인들이 ‘genai.mil’이라는 이름의 비기밀 네트워크에서 챗GPT 등을 사용할 수 있게 됐다. 국방부에 대한 이용 준칙 요구 수준을 다른 민간 고객사들보다 완화한 셈이다. 로이터통신에 따르면 구글도 이와 유사한 계약을 국방부와 체결하고 유연한 자세를 보이고 있다. 일론 머스크 테슬라 CEO가 이끄는 xAI 또한 그록을 기밀 시스템과 모든 군사적 이용에 활용할 수 있게 하는 계약을 국방부와 최근 체결했다.

협상에 난항을 겪는 회사는 앤스로픽뿐이다. 앤스로픽 임원들은 군 관계자들에게 자사 기술이 무기 표적 자동 설정, 미국 국내 사찰에 쓰이지 않기를 원한다는 입장을 밝혔다. 앤스로픽은 자사 이용 정책에 따라 여전히 국방부에 서비스를 제한하고 있다.

앤스로픽이 비협조적인 태도로 나오자 국방부는 계약 해지까지 검토하고 나섰다. 국방부 측은 개별 사례가 발생할 때마다 매번 앤스로픽과 협상을 진행할 수도 없다고 보고 있다. 앤스로픽이 클로드의 특정 기능을 차단하도록 내버려 둘 수 없다는 입장이다. 그러면서도 다른 AI 모델이 앤스로픽을 대체할 정도의 수준이 아니란 점도 잘 알고 있다.

18일 CNBC와 월스트리트저널(WSJ)에 따르면 국방부는 급기야 자국 기업으로는 극히 이례적으로 앤스로픽을 ‘공급망 위험 업체’로 지정하는 방안까지 검토하기 시작했다. 앤스로픽이 공급망 위험 업체로 지정되면 국방부와 거래하는 모든 계약·공급 업체는 미군과의 협업 업무에서 클로드를 사용할 수 없게 된다. 공급망 위험 업체 지정은 통상 중국을 비롯한 적대국 기업에 적용되는 조치다.

앤스로픽이 조 바이든 전 행정부 출신인 벤 뷰캐넌 전 AI 고문과 타룬 차브라 전 국가안보회의(NSC) 선임보좌관 등을 영입한 점도 트럼프 행정부와 갈등하는 요인이 됐다. 앤스로픽은 이달 13일 트럼프 집권 1기 때 활동했던 크리스 리델 전 백악관 정책조정 담당 부비서실장을 이사회에 영입하기도 했다. ‘AI 차르(러시아 황제)’로 불리는 데이비드 색스 백악관 과학기술자문위원회 위원장 등 트럼프 행정부 인사들은 앤스로픽이 규제를 옹호하는 과도한 진보주의를 추구한다고 비판하고 있다.

18일 WSJ은 앤스로픽이 최근 300억 달러(약 43조 원) 규모의 자금 조달을 추진하는 과정에서 트럼프 대통령의 장남인 트럼프 주니어가 파트너로 있는 벤처캐피털 ‘1789캐피털’에 투자를 요청했다가 거절당했다고도 보도했다. 1789 캐피털은 10억 달러 정도를 투자하려다가 앤스로픽 경영진의 트럼프 대통령 비판 이력과 바이든 행정부 출신 인사 고용, AI 규제 강화 지원 등에 대한 우려로 이를 진행하지 않기로 했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

WSJ에 따르면 헤그세스 장관은 24일 아모데이 CEO를 소환해 27일 오후 5시 1분까지 국방부 요구를 따르라고 압박했다. 그렇지 않으면 예고한 대로 앤스로픽을 공급망 위험 업체로 지정하거나 국방물자생산법(DPA)을 발동해 강제 조치를 하겠다고 ‘최후 통첩’을 날렸다. 주로 국가 비상 상황에서 에너지나 보건의료와 같은 필수 분야에 활용하는 국방물자생산법을 기술기업에 적용하려는 시도도 매우 이례적인 일이었다. 아모데이 CEO는 이 자리에서 자사 지침의 준수가 군사 작전에 지장을 초래하지 않는다고 주장한 것으로 알려졌다.

앤스로픽은 결국 같은 날 홈페이지에서 ‘책임 있는 확장 정책(RSP) 3.0’ 버전을 공개하고 “두 가지 완화 조치들을 제시한다”고 알렸다. 앤스로픽은 “다른 기업이 하는 것과 상관없이 우리가 추구할 완화 조치들”이라며 “AI 산업 전반에 걸쳐 실현할 경우 위험을 적절히 관리하는 데 도움이 될 야심 찬 ‘역량 대 완화 절차’”라고 설명했다. 그러면서 “AI 모델이 위험할 수 있다고 분류되면 개발을 미루겠다”던 2023년 9월 ‘RSP’ 버전 문구를 “경쟁사에 비해 충분한 기술적 우위가 있다고 판단되는 경우에만 개발을 미루겠다”고 수정했다. 앤스로픽은 국방부 협상과 무관한 조치라고 주장했지만, WSJ은 “AI 업계에서 가장 안전 중심적인 기업 중 하나로 자리매김했던 것과 비교하면 극적인 방향 전환”이라고 짚었다.

고심하던 아모데이 CEO는 국방부의 최후 통첩 기한 전날인 26일 개인 블로그에 결국 성명을 올리고 “양심상 도저히 수용할 수 없다”고 밝혔다. 아모데이 CEO는 “미국과 다른 민주주의 국가들을 방어하고 독재적인 적대 세력에 맞서기 위해 AI를 활용하는 것은 실존적인 차원에서 매우 중요한 일”이라면서도 “극히 일부 사례에서는 AI가 민주적 가치를 수호하기보다 오히려 훼손할 수 있다”고 지적했다. 아모데이 CEO는 AI를 통한 대규모 감시 활동, 인간의 통제를 벗어난 완전 자율무기 등을 언급하며 “일부 AI 사용 사례는 현재 기술 수준에서 안전하고 신뢰할 수 있는 수행 범위를 벗어난다”며 “한편에서는 우리를 안보 위험으로, 다른 한편에서는 클로드를 국가 안보에 필수적인 존재로 규정하는 국방부의 위협은 본질적으로 모순적”이라고 꼬집었다.

이에 대해 숀 파넬 국방부 대변인은 같은 날 자신의 X(옛 트위터)에서 “미국인을 대상으로 한 대규모 불법 감시 활동에 AI를 활용할 의사가 없다”며 “인간의 개입 없이 작동하는 자율 무기 개발에 AI를 활용할 계획도 전혀 없다”고 반박했다. 27일 영국 파이낸셜타임스(FT)에 따르면 미국 국방부는 오히려 중국과의 잠재적 군사 충돌에 대비해 AI를 활용한 사이버 공격·정찰 체계 구축에 박차를 가하기로 했다. 중국의 전력망과 공공 인프라, 통신·데이터 네트워크의 취약 지점을 자동으로 탐지해 유사시 군사 작전 계획에 반영하겠다는 구상이다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

미국 국방부와 앤스로픽 간 갈등이 격화되는 와중에 이번에는 샘 올트먼 오픈AI CEO가 중재자 역할을 자처하고 나섰다. AP통신과 WSJ 등에 따르면 올트먼 CEO는 최근 직원들에게 메모를 보내고 “사태를 진정시키기 위해 노력하고자 한다”며 “우리는 기술적 안전장치를 구축하고 인력을 배치해 시스템이 제대로 작동하도록 보장할 것”이라고 주장했다. 이어 “만약 우리가 성공한다면 다른 AI 연구소들에도 통할 길이 될 것”이라며 “우리는 오랫동안 AI가 대규모 감시나 자율 살상 무기에 사용돼서는 안 되며 고위험 결정에는 반드시 인간이 개입해야 한다고 믿어왔다”고 강조했다. 올트먼 CEO는 CNBC에서도 “앤스로픽과 의견 차이는 있지만 그들의 안전 문제 우려는 진심이라고 생각한다”면서도 “민간 기업이 민주적으로 선출된 미국 정부보다 더 강력한 권한을 가질 수는 없다”고 말했다.

머스크 CEO는 이날 X에 에밀 마이클 국방부 연구공학 담당 차관의 글을 공유하면서 “앤스로픽은 서구 문명을 증오한다”고 비판했다. 마이클 차관은 공유된 글에서 앤스로픽이 자체적으로 제정한 ‘AI 모델 헌법’의 예전 판에 “어떠한 비서구 문화 전통에 대해서도 해롭거나 불쾌하게 여겨질 가능성이 낮은 응답을 선택하라”는 항목이 있었다고 지적했다.

국방부가 제시한 기한을 앤스로픽이 넘기자 이번엔 트럼프 대통령이 직접 등판했다. 트럼프 대통령은 27일 자신의 소셜네트워크서비스(SNS)인 트루스소셜에서 “급진 좌파적인 ‘워크(진보적 가치를 강요하는 행위에 대한 비판적 용어)’ 기업이 우리 위대한 군이 어떻게 전쟁에서 싸우고 승리해야 하는지를 좌지우지하게 허용하지 않을 것”이라며 미국 연방정부의 모든 기관에 앤스로픽 기술 사용을 즉각 중단할 것을 지시했다. 트럼프 대통령은 “좌파 광신도들은 전쟁부를 강압적으로 굴복시켜 헌법 대신 자신들의 이용약관을 따르도록 강요하는 치명적인 실수를 저질렀다”며 “그들의 이기심은 미국 국민의 생명을 위험에 빠뜨리고, 우리 군대와 국가 안보를 위태롭게 했다”고 비판했다.

트럼프 대통령은 그러면서도 6개월의 단계적 중단 기간을 두겠다고 밝혔다. 트럼프 대통령은 “우리는 그것이 필요하지 않기에 그들과 다시는 거래하지 않을 것”이라면서도 “앤스로픽은 6개월 동안 정신을 차리고 협조하는 편이 좋을 것”이라고 경고했다. 이어 “그렇지 않다면 대통령의 권한을 총동원해 그들이 따르도록 할 것이고, 중대한 민·형사상 결과가 뒤따를 것”이라고 덧붙였다. 헤그세스 장관도 이날 X에 “실리콘밸리의 이념을 미국 국민의 생명 위에 두는, 기업의 도덕적 이미지를 과시하려는 비겁한 행위”라며 앤스로픽을 공급망 위험 기업으로 즉시 지정한다고 밝혔다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

앤스로픽은 이에 이날 성명을 내고 자사를 공급망 위험 기업으로 지정한 데 대해 “법정에서 이의를 제기할 것”이라고 반발했다. 앤스로픽은 “이는 역사적으로 적대국에 적용되던 것이고 미국 기업에 공개적으로 적용된 적은 한 번도 없었다”며 “법적으로 타당하지 않을 뿐 아니라 정부와 협상하는 모든 미국 기업에 위험한 선례를 남길 것”이라고 비판했다.

앤스로픽과 트럼프 행정부 간 갈등은 상장을 추진하는 이 회사의 기업가치에도 일부 영향을 줄 가능성이 있는 것으로 보인다. FT에 따르면 앤스로픽은 아직 상장 주관사를 선정하지는 않았지만, 지난해 말부터 대형 투자은행(IB)들과 잠재적 IPO를 논의하고 있다. 앤스로픽은 IPO 준비를 위해 지난해 말 윌슨 손시니 법률사무소를 선임하기도 했다. 이 법률사무소는 구글, 링크트인, 리프트 등 기술기업 IPO에 관여한 경험을 갖추고 있다.

이와 관련해 11일 로이터통신은 미국 대형 자산운용사인 블랙스톤은 앤스로픽에 대한 지분 투자 규모를 10억 달러(약 1조 5000억 원)로 확대하려고 한다고 보도했다. 앤스로픽은 또 12일 싱가포르 국부펀드 GIC와 벤처투자사 코투가 주도한 시리즈G 투자를 통해 300억 달러(약 43조 원)를 조달했다고 밝혔다. 투자유치 목표액이었던 100억 달러를 크게 뛰어넘은 성과다. 해당 투자에는 블랙록, 블랙스톤, 피델리티, 골드만삭스, JP모건, 모건스탠리, 세쿼이어캐피털, 카타르투자청(QIA) 등이 대거 참여했다.

이 과정에서 앤스로픽은 무려 3800억 달러(약 545조 원)의 기업가치를 인정받았다. 지난해 9월 1830억 달러에서 5개월 만에 두 배 이상 증가했다. 어느덧 경쟁 기업인 오픈AI의 최근 기업가치인 5000억 달러에 근접했다.

앤스로픽은 그러면서 AI에 대한 규제와 안전장치 마련을 요구하는 슈퍼팩(특별정치활동위원회) ‘퍼블릭퍼스트액션(공공우선행동)’에 2000만 달러(약 287억 원)을 기부하며 자사의 경영 방향성을 확실히 했다. 퍼블릭퍼스트액션은 △AI 모델의 투명성 강화 △강력한 연방 차원의 규제 마련 △AI 칩 수출 통제 △AI 기반 생물학무기·사이버공격 규제 등을 요구하는 정치 활동을 벌이는 조직이다.

윤리성을 포기하지 못하는 앤스로픽의 행보는 자금 조달뿐 아니라 AI 산업 확장성 전반에도 파급력을 끼칠 수 있다. 아직까지 글로벌 차원에서 AI의 적용 가능 범위와 규제 범주가 통일되지 않은 까닭이다. 논란의 확장은 월가의 투자심리와 금융시장에도 잠재적인 변수가 될 공산이 크다. 만약 중국 등 다른 전체주의 국가들이 윤리성을 크게 신경 쓰지 않고 AI 개발에 속도를 낼 경우 산업 경쟁 구도도 달라질 수 있다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

뉴욕=윤경환 특파원 ykh22@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]