[디지털데일리 이상일기자] 미국 인공지능(AI) 기업 앤트로픽(Anthropic)은 중국 AI 연구소 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax)가 자사 AI 모델 ‘클로드(Claude)’의 기능을 불법적으로 추출해 자체 모델 개발에 이용했다고 23일(현지시간) 게시한 블로그를 통해 밝혔다.

앤트로픽은 세 연구소가 약 2만4000개의 위조 계정을 만들고 1600만회 이상 클로드에 질의를 보내 불법 데이터 추출을 시도했다고 설명했다. 이는 서비스 약관 및 지역별 접근 제한을 위반한 행위로, 세 곳 모두 ‘디스틸레이션(distillation)’이라는 기술을 악용한 것으로 조사됐다.

디스틸레이션은 원래 대형 AI 모델의 출력을 이용해 더 작은 모델을 효율적으로 학습시키는 합법적 방법이다. 그러나 앤트로픽은 “이 기술이 남용되면 경쟁 기업이 독자 개발 없이 단기간에 고성능 모델을 구축할 수 있다”고 경고했다.

이번 조사에서 딥시크는 15만회, 문샷AI는 340만회, 미니맥스는 1300만회 이상 상호작용을 수행한 것으로 나타났다. 앤트로픽은 IP 주소, 요청 메타데이터, 인프라 분석, 협력사 제공 자료 등을 근거로 각 공격을 특정 연구소 소속으로 추정했다고 밝혔다.

세 연구소는 공통적으로 ‘추론(reasoning)’, ‘도구 활용’, ‘코딩’ 등 클로드의 핵심 기능을 집중적으로 노렸으며, 반복적이고 대규모 패턴의 질의로 데이터를 수집했다. 딥시크는 클로드가 답변 과정에서 내부 사고 과정을 단계별로 기술하도록 유도해 ‘연쇄 사고(chain-of-thought)’ 데이터를 대량 확보하려 한 것으로 나타났다.

문샷AI는 수백 개의 위조 계정을 통해 도구 사용과 컴퓨터 비전, 데이터 분석 기능을 추출하려 했고, 미니맥스는 1300만회 이상 요청을 보내 자사 모델 학습에 필요한 코딩 및 조정 데이터를 확보한 것으로 드러났다.

앤트로픽은 중국 내에서 클로드의 상업적 사용을 허용하지 않지만, 이들 연구소가 프록시 네트워크를 통해 접근한 정황을 확인했다. 해당 네트워크는 수천 개의 계정을 병렬 운영하며 일부는 동시에 2만개 이상 계정을 관리해 탐지를 회피했다.

회사 측은 “불법 디스틸레이션으로 만들어진 모델은 안전장치가 결여돼 생물무기 개발이나 사이버 공격 등 악용 위험이 크다”며 “독재 정부가 이러한 기능을 군사·감시 시스템에 통합할 경우 심각한 안보 위협으로 이어질 수 있다”고 우려를 표했다.

앤트로픽은 대응책으로 ▲API 트래픽 내 패턴 식별 ▲계정 간 연동 탐지 ▲클라우드 사업자 및 당국과의 정보 공유 ▲교육·연구 계정 인증 강화 ▲모델 출력의 불법 활용 억제 기능 도입 등을 추진 중이라고 밝혔다. 또한 “이 문제는 단일 기업이 해결할 수 있는 사안이 아니다”며 “AI 업계, 클라우드 사업자, 정책 입안자 간의 신속하고 협력적인 대응이 필요하다”고 강조했다.

중국 내 AI 기업들은 최근 고도화된 추론 및 코딩 기능을 갖춘 모델을 잇따라 공개하고 있다. 딥시크 역시 차세대 모델 출시를 앞두고 있다. 지난해 딥시크가 빠르게 주목을 받자, 강력한 AI 반도체 접근 없이도 중국이 미국 AI 기업을 따라잡을 수 있다는 우려가 제기된 바 있다.

딥시크는 지난해 9월 공개한 연구 논문에서 자사 주력 모델 V3의 사전학습 후반 단계에서 합성 데이터가 아닌 웹페이지와 전자책만을 사용했다고 밝혔다. 다만 일부 웹페이지에는 “오픈AI 모델이 생성한 답변이 다수 포함돼 있었다”고 설명했다. 이는 강력한 기존 모델의 결과물을 간접적으로 학습했을 가능성을 시사하고 있다는 지적이다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -