[디지털데일리 김문기 기자] "가속기가 토큰을 생성하는 것은 덤프트럭에 흙을 채우는 것과 같다. 그 엄청난 양의 흙을 실제로 실어 나르고 작업 흐름을 통제하는 것은 결국 중앙처리장치(CPU)다."

르네 하스(Rene Haas) Arm 최고경영자(CEO)는 24일(현지시간) 미국 샌프란시스코에서 개최된 Arm 에브리웨어 무대에 올라 에이전틱 인공지능(AI) 부상에 따른 데이터센터 내 중앙처리장치 수요 폭증을 진단하고 차세대 컴퓨팅 인프라 재편을 예고하며 이같이 말했다.

우선 르네 하스 CEO는 자사 생태계의 압도적 규모를 수치로 증명했다. 지구상에 존재했던 총 인류 1170억명의 3배에 달하는 3500억개 이상의 칩을 출하했다. 비(非) Arm 기반 CPU 출하량을 모두 합친 수치의 7배에 달한다. 전 세계 가구당 평균 160개의 칩이 탑재됐다는 것.

하스 CEO는 초기 개발 보드 일화를 언급했다. 전원이 차단된 상태에서도 누설 전류만으로 작동을 유지했던 사례다. 모바일 혁명을 이끈 배터리 효율 중심의 저전력 기술력을 회사의 근본적인 DNA로 강조했다.

사업 영역 확장에 대한 성과도 구체화했다. ▲단순 설계자산(IP) 제공 ▲컴퓨팅 서브시스템(CSS) 모델 적용 ▲자체 생산 실리콘 칩 공급 등 3단계로 비즈니스 모델을 진화시켰다. 특히 CSS 모델은 고객의 칩 설계 기간을 최대 18개월까지 단축한다. 해당 사업은 3년 전 도입된 이후 현재 전체 로열티 수익의 20%를 차지하며 핵심 수익원으로 자리 잡았다.

AI 시장 확대로 가속기 생태계가 부상하며 CPU 역할이 축소될 것이라는 업계 편견을 정면 반박했다. 클라우드 인프라 내에서 CPU는 여전히 핵심 오케스트레이션 역할을 수행한다.

하스 CEO는 "어디선가 사람들은 CPU가 죽었다고 생각했고 AI를 다루는 유일한 방법은 가속 컴퓨팅뿐이라고 여겼다"며 "하지만 프롬프트를 보내면 가속기가 토큰을 생성하고 그 데이터를 조율해 돌려보내는 것은 결국 데이터센터 내 CPU의 몫이다"라고 말했다. 일반적인 AI 검색 환경을 유지하는 데 1기가와트(GW)당 약 3000만개의 CPU 코어가 필요하다고 설명했다.

에이전틱 AI의 등장으로 데이터센터는 새로운 전력 한계에 직면했다. 단순 답변을 넘어 스스로 도구를 사용하고 작업을 스케줄링하는 비동기적 워크플로우를 독자적으로 수행한다. 수면 없이 24시간 가동되는 에이전트 특성상 사용자당 토큰 요청량은 기존 대비 15배 이상 폭증한다고 지적했다.

하스 CEO는 "급여 처리나 스케줄링 등 막대한 양의 작업 흐름을 제어하는 것은 가속기가 할 수 없는 CPU 고유의 영역이다"라며 "토큰 생성량이 기하급수적으로 늘어날수록 병목 현상을 해소하기 위해 헤드 노드와 가속기 랙 옆에 더 많은 CPU를 배치해야 한다"고 설명했다.

폭증하는 트래픽을 감당하기 위해 1GW 규모 데이터센터 기준 기존 4배 수준인 1억2000만개의 CPU 코어가 요구된다. 한정된 자본지출(CAPEX)과 고정된 전력 한계선 내에서 4배의 코어를 추가로 집적해야 하는 물리적 딜레마가 발생한다.

하스 CEO는 "가속기로 가득 찬 데이터센터에 전력 소모가 큰 레거시 CPU를 무한정 밀어넣는 것은 불가능하다"며 "배터리 기반으로 구동되던 저전력 DNA를 갖춘 목적 기반 실리콘 칩이 필수적인 시점이다"라고 말했다. 이에 에이전틱 AI 워크로드에 특화된 차세대 실리콘 제품군이 전력 및 공간 병목을 해결할 유일한 대안임을 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -