[서울신문 나우뉴스]

왼쪽부터 도널드 트럼프 미국 대통령, 다리오 아모데이 앤트로픽 최고경영자(CEO)

<이미지를 클릭하시면 크게 보실 수 있습니다>

지난달 28일 미국·이스라엘이 이란에 대한 대규모 공습을 시작한 뒤 이란이 거세게 반격하면서 중동 전역의 전운이 짙어지는 가운데, 미국 정부·국방부와 AI 기업의 갈등이 본격화하는 모양새다.

대규모 군사작전이 시작되기 불과 하루 전인 지난달 27일 미국 AI 스타트업인 앤트로픽은 국방부가 AI의 군사적 활용 범위를 전면 개방하라는 요구를 거절했다는 이유로 ‘공급망 위험 기업’으로 지정됐다.

앞서 앤트로픽은 지난해 7월 국방부와 AI 모델 클로드(Claude)와 관련한 2억 달러 규모의 계약을 맺었다. 당시 앤트로픽은 자사의 AI 모델을 국방 목적에 활용하되 ▲클로드 AI를 미국 시민에 대한 대규모 감시에 사용하지 않을 것 ▲AI가 스스로 표적을 선정하고 공격을 결정하는 완전 자율 무기 시스템(LAWS)에는 사용하지 않을 것이라는 조건을 달았다.

다리오 아모데이 앤트로픽 최고경영자(CEO)

<이미지를 클릭하시면 크게 보실 수 있습니다>

그러나 계약을 맺은 지 6개월이 흐른 지난 1월, 피트 헤그세스 미 국방장관은 모든 AI 관련 계약에 “모든 합법적 목적(any lawful use)”이라는 표준 문구를 넣도록 지시했다.

이는 국방부와 계약한 앤트로픽의 ‘2가지 조건’이 사실상 백지화된다는 것을 의미했다. 국방부가 ‘합법’이라고 판단하는 순간 어느 방면에서나 계약한 AI를 활용할 수 있기 때문이다.

앤트로픽이 이를 거부하자 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다. 이어 국방부는 앤트로픽을 ‘국가 공급망 위험 기업’으로 지정하면서 모든 연방기관이 앤트로픽의 AI 모델을 사용하지 못하도록 금지했다.

앤트로픽 측은 AI의 위험성을 고려했을 때 강력한 안전장치가 필요하며, 이에 따라 군사·감시 사용은 제한해야 한다고 주장했다. 그러나 미국 정부와 군은 국가 안보라는 합법적 목적이라면 제한해서는 안 된다고 반박했다. 결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 오픈AI가 차지했다.

AI 기업이 연방 정부의 블랙리스트에 오른 이른바 ‘앤트로픽 사태’는 단순히 정부·군과 기업 간의 분쟁이 아닌 AI 철학의 충돌로 해석되면서 논란이 거세졌다.

특히 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리도 나온다.

앤트로픽 CEO가 밝힌 ‘찍힌 이유’

앤트로픽 사태의 표면적 이유는 AI 모델을 소유한 업체가 합법적 목적으로 AI를 사용하려는 정부와 충돌한 것이지만, 앤트로픽 CEO는 또 다른 주장을 내놓은 것으로 알려졌다.

4일 IT 전문 매체 디인포메이션 등에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 국방부가 앤트로픽을 공급망 위험 기업으로 지정한 당일 직원들에게 보낸 내부 메모에서 “트럼프 대통령과 행정부가 우리를 싫어하는 진짜 이유는 (오픈AI와 달리) 우리는 그에게 기부하지 않았기 때문이며 (샘 올트먼 오픈AI CEO와 달리) 우리는 독재자식 찬사를 트럼프에게 보내지 않았기 때문”이라고 주장했다.

샘 올트먼 오픈AI CEO. 게티이미지 / 멀티비츠

<이미지를 클릭하시면 크게 보실 수 있습니다>

오픈AI가 공식적으로 트럼프 행정부에 정치 자금을 기부한 기록은 없지만, 올트먼 CEO는 2024년 트럼프 대통령 재임 확정 이후 100만 달러(현재 환율 기준 약 14억 7000만원)를, 공동 창업자인 그레그 브로크먼은 아내와 함께 트럼프 지지 슈퍼팩 등에 2500만 달러(367억 5000만원)를 기부한 것으로 알려졌다.

아모데이 CEO는 앤트로픽이 파기한 계약을 꿰찬 오픈AI에도 비판의 목소리를 냈다. 그는 “올트먼이 중재 역할을 하겠다며 국방부와 계약을 체결했지만, 사실 우리 입장을 지지하는 척하면서 실제로는 약화하고 있다”며 오픈AI가 가스라이팅(심리적 지배)을 하고 있다고 표현했다.

무엇보다 오픈AI가 국방부와의 계약에서 ‘안전장치’를 마련했다고 밝힌 데 대해 “아마도 20%만 실제이고 80%는 연극일 것”이라고 비판했다.

실제로 오픈AI가 체결한 계약에는 앤트로픽이 지키려던 2가지 원칙을 계약서에 명시하지 않은 것으로 알려졌다. 대신 ‘기술적 배포 방식’, ‘클라우드 전용 운영’ 등을 통해 간접적으로 ‘안전장치’를 보호하는 방식을 택했다.

이를 두고 일각에서는 트럼프 대통령과 국방부가 원한 것은 안전장치의 완전 폐기가 아니라 비교적 우회하는 길을 택하더라도 국가의 명령에 복종하는 태도였다는 지적이 나온다.

전쟁 중 혼란 가중된 방산업체

앤트로픽 사태 이후 미 방산업계는 분주하게 돌아가고 있다. 국방부 등과 10억 달러 이상의 계약을 보유한 팔란티어는 자사 플랫폼에서 앤트로픽의 클로드 AI 모델을 제거하고 대체 기술을 도입해야 하는 상황에 놓였다.

현재 드론·위성 영상에서 표적을 자동 식별하는 팔란티어의 군사 AI 플랫폼 ‘메이븐 스마트 시스템’은 앤트로픽의 클로드 코드를 기반으로 구축됐기 때문이다.

팔란티어 테크놀로지

<이미지를 클릭하시면 크게 보실 수 있습니다>

방산 분야 투자사인 J2벤처스가 투자한 방산 스타트업 10개사 역시 클로드 사용을 중단하고 다른 AI 서비스로 전환하는 절차를 진행 중인 것으로 전해졌다. 미국 최대 방산업체인 록히드마틴 역시 “우리는 대통령과 국방부 지시를 따를 것”이라며 앤트로픽의 AI 모델 클로드 사용을 중단할 것임을 시사했다.

방산업체들은 기존에 사용하던 AI 모델을 대체하기 위해 API 등을 다시 개발하고 모델 성능 테스트와 보안 인증을 다시 받아야 하는 과정에서 추가 비용이 발생할 수 있다. 대체 모델로 변경하는 과정에서 일시적으로 성능이 떨어질 가능성도 있다.

물론 방산업체 대부분이 AI 모델 교체로 인해 시스템 붕괴를 겪을 일은 사실상 없다고 볼 수 있고 AI를 교체하고 시스템과 보안을 재검증하는 과정에서 더욱 나은 서비스를 이용할 수도 있지만, 문제는 향후 AI 기업 사이에서 앤트로픽 사태가 반복될 여지가 다분하다는 사실이다.

AI 업계와 소비자의 선택은?

앤트로픽 사태 이후 경쟁사인 오픈AI와 구글의 직원들이 앤트로픽에 연대하는 서명운동을 벌이고 소비자 시장에서도 앤트로픽 사용이 크게 늘어난 것으로 나타났다.

3일 기준 구글 직원 약 830명과 오픈AI 직원 약 100명 등 900여 명은 ‘우리는 분열되지 않는다’라는 제목의 온라인 공개서한에 서명했다.

영화 ‘어벤저스’ 시리즈에서 헐크 역으로 유명한 헐리우드 배우 마크 러팔로가 본인 인스타그램에 챗GPT 불매운동인 ‘큇GPT’ 동참하는 게시물을 올렸다. 마크 러팔로 인스타그램 제공

이들은 서한에서 미국 국방부(전쟁부)가 요구하는 대규모 국내 감시와 자율 살상 무기에 대한 인공지능(AI) 사용 허가를 앞으로도 거부해달라고 자사 경영진에 요구했다. 또 “국방부는 경쟁사가 굴복할 것을 두려워하도록 함으로써 각 기업을 분열시키려 한다”며 “이와 같은 전략은 우리가 상대방(경쟁사)의 의사를 모를 때만 의미가 있다”고 지적했다.

실리콘밸리 기술기업의 창업자·경영진·투자자 등 180여명도 ‘전쟁부와 의회에 보내는 공개서한’을 통해 앤트로픽을 ‘공급망 위험’ 기업으로 등록한 것을 철회하라고 촉구했다.

소비자들도 앤트로픽에 기우는 분위기다. 앤트로픽의 클로드 AI 모델은 지난달 28일 미국 앱스토어 무료 앱 순위에서 챗GPT를 제치고 1위에 올랐고 이날까지 순위를 지키고 있다.

반면 시장조사업체 센서타워에 따르면 챗GPT는 앤트로픽의 퇴출 직후 오픈AI가 국방부와 계약을 맺었다는 소식이 전해지면서 하루 만에 앱 삭제율이 295% 늘어났다.

송현서 기자



▶ 재미있는 세상[나우뉴스]

▶ [페이스북]