컨텐츠 바로가기

    03.18 (수)

    "GPU만으론 안 된다"…AMD, "에이전틱 AI 확산으로 데이터센터 내 CPU 역할 재조명"

    댓글 첫 댓글을 작성해보세요
    주소복사가 완료되었습니다

    [인더스트리 AI] 5세대 에픽 CPU, 에이전틱 AI 인프라 주도…전력 효율 2.26배 앞서

    디지털데일리

    <이미지를 클릭하시면 크게 보실 수 있습니다>


    [디지털데일리 김문기기자] 인공지능(AI) 데이터센터 시장에서 그래픽처리장치(GPU)에 쏠렸던 스포트라이트가 다시 중앙처리장치(CPU)를 향하고 있다.

    사람의 개입 없이 스스로 계획을 세우고 행동하는 '에이전틱 AI(Agentic AI)'가 부상하면서, 복잡한 로직 처리와 GPU 오케스트레이션을 담당하는 CPU의 중요성이 전례 없이 커지고 있기 때문이다.

    17일(현지시간) AMD는 공식 블로그를 통해 최근 에이전틱 AI의 확산으로 AI 추론 과정이 다단계 워크플로우로 진화함에 따라 CPU 컴퓨팅 수요가 급증하고 있다고 진단했다. 그동안 하이퍼스케일러들은 폭발적인 AI 수요를 맞추기 위해 GPU 확보에 열을 올렸다. 하지만 수많은 GPU가 병목 현상 없이 효율적으로 작동하도록 조율하고, 기업의 핵심 비즈니스 애플리케이션을 동시에 관리하는 컴퓨팅 로직의 중심에는 항상 CPU가 자리하고 있었다.

    AI 데이터센터에서 CPU와 GPU의 관계는 스포츠 팀의 '감독'과 '선수'에 비유할 수 있다. CPU는 작전을 지시하고 상황에 대응하며 데이터가 올바른 방향으로 흐르도록 조율하는 감독 역할을 한다. 구체적으로는 작업 스케줄링, 데이터 준비, 메모리 및 입출력(I/O) 관리, 제어 흐름 등을 총괄한다. 반면 GPU는 감독의 지시에 따라 특정 연산 작업을 빠르고 반복적으로 수행하는 핵심 선수 역할을 맡는다.

    특히 AI 모델의 무게 중심이 훈련 단계에서 추론 단계로 넘어가면서 CPU의 역할은 한층 고도화되고 있다. 에이전틱 AI 환경에서 CPU는 단순히 생성된 결과를 전달하는 데 그치지 않는다. 도출된 결과를 스스로 검토하고, 추가적인 논리를 적용하며, 필요시 새로운 지침과 함께 GPU에 재연산을 지시하는 등 고차원적인 의사결정을 수행한다. 툴 호출, 애플리케이션 프로그래밍 인터페이스(API) 요청, 메모리 질의 등 복잡한 과정을 동시에 관리해야 하므로 CPU의 작업 부하는 필연적으로 증가하게 된다.

    이러한 패러다임 변화에 맞춰 AMD는 자사의 '에픽(EPYC)' 서버용 CPU를 AI 및 엔터프라이즈 워크로드에 최적화하는 데 주력하고 있다. AMD가 공개한 자료에 따르면, 5세대 에픽 CPU 기반 시스템은 동급의 엔비디아 그레이스(Grace) 슈퍼칩 시스템과 비교해 코어당 최대 2.1배 높은 연산 성능을 제공한다. 또한, 전력 대비 성능을 나타내는 지표(SPECpower)에서도 최대 2.26배 앞서는 것으로 나타났다. 전력과 공간의 제약이 큰 현대 데이터센터에서 추가적인 비용 부담 없이 가속기에 데이터를 원활히 공급할 수 있는 최적의 선택지라는 설명이다.

    기존 엔터프라이즈 환경에서 지배적으로 사용되는 x86 아키텍처의 강점도 빼놓을 수 없다. 고객들은 새로운 Arm 기반 시스템을 도입할 때 겪게 되는 코드 리팩토링이나 재컴파일의 부담 없이, 이미 폭넓게 검증된 x86 소프트웨어 생태계를 그대로 활용해 AI 인프라를 빠르게 확장할 수 있다.

    현재 AMD는 에픽 CPU와 인스팅트(Instinct) GPU, 펜산도(Pensando) 네트워킹 기술, 그리고 개방형 소프트웨어 스택인 ROCm을 유기적으로 결합해 시스템 단위의 성능을 극대화하고 있다. 나아가 코드명 '베니스(Venice)'로 명명된 차세대 에픽 CPU를 통해 차세대 랙 규모 AI 아키텍처인 '헬리오스(Helios)'를 구현하고, 다가오는 에이전틱 AI 시대의 인프라 주도권을 확고히 다진다는 계획이다.

    - Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -
    기사가 속한 카테고리는 언론사가 분류합니다.
    언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.