[아이뉴스24 윤소진 기자] 엔비디아가 한국에 26만장 GPU 공급을 예고하면서 수십조원대 AI 인프라 투자를 어떻게 효율적으로 운영할 것인가가 기업들의 현실적 과제로 떠올랐다. 이러한 가운데 VM웨어가 초대형 AI 인프라의 비용과 운영 효율에 대한 해법을 제시해 주목된다.

크리스 울프 브로드컴 VCF 부문 AI 및 Advanced Services 글로벌 총괄이 4일 서울 삼성동 웨스틴 서울 파르나스에서 열린 'VM웨어 테크 서밋 2025'에서 기조연설을 하고 있다. [사진=윤소진 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

‘멀티테넌트 MaaS'로 GPU 효율 극대화

브로드컴은 4일 서울 삼성동 웨스틴 서울 파르나스에서 'VM웨어 테크 서밋 2025'를 열고 VM웨어 클라우드 파운데이션(VCF) 9.0을 기반으로 한 기술 전략을 공개했다. 핵심은 가상화와 자원 공유를 통해 같은 GPU로 더 많은 AI 워크로드를 실행하고, 총소유비용(TCO)을 대폭 절감하는 것이다.

VCF는 컴퓨팅·스토리지·네트워크·보안을 통합 관리하는 VM웨어의 대표 프라이빗 클라우드 플랫폼으로, 기존 IT 워크로드와 AI 워크로드를 하나의 인프라 위에서 통합 운영할 수 있도록 설계됐다. 9.0 버전은 여기에 AI 네이티브 기능을 추가해 별도의 GPU 전용 인프라 없이도 AI 모델 학습과 추론을 병행할 수 있게 했다.

크리스 울프 브로드컴 VCF 부문 AI 및 Advanced Services 글로벌 총괄은 "VCF 9.0은 AI 워크로드를 기존 인프라에 자연스럽게 통합하고 GPU 활용률을 극대화한다"며 "총소유비용은 통상 퍼블릭 클라우드 대비 절반 수준이고, 80개 이상 기업이 이미 Private AI 여정을 시작했다"고 밝혔다.

김정환 브로드컴 코리아 전략영업본부장. [사진=윤소진 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI 인프라 비용 절감의 핵심은 '서비스형 멀티테넌트 모델(MaaS)'이다. 멀티테넌트란 하나의 물리적 인프라를 여러 사용자나 부서가 논리적으로 분리해 동시에 사용하는 구조로, 각 테넌트(tenant)는 보안이 유지된 상태에서 독립적으로 자원을 할당 받는다.

울프 총괄은 “기업 내부 여러 부서가 동일한 AI 모델을 중복 로딩해 GPU와 전력 비용이 증가해왔다”며 “VCF는 단일 AI 모델을 여러 부서가 안전하게 공유해 같은 하드웨어로 더 많은 워크로드를 처리할 수 있다”고 설명했다.

실제 데모에서는 GPU 사용에 병목이 발생하자 'Intelligent Assist for VCF'가 8만여 기술 문서를 기반으로 원인을 분석하고, GPU vMotion 기능으로 AI 워크로드를 무중단 재배치하는 과정이 공개됐다.

VCF 9.0은 엔비디아 블랙웰 B200, AMD MI350 등 최신 GPU를 지원하며, ‘멀티-가속기 모델 런타임’을 통해 애플리케이션 수정 없이 GPU 간 전환이 가능하다. 울프 총괄은 “다음 릴리스에서는 CPU 기반 연산 지원도 추가될 것”이라고 예고했다.

보안·복원력까지 통합한 ‘AI 인프라 운영 플랫폼’

‘VCF Advanced Cyber Compliance’를 통한 보안과 컴프라이언스 강화도 강조했다. 자동화된 컴플라이언스 모니터링, 악성코드 탐지 기반 복구, 격리형 복구 네트워크 등을 제공하며, 기밀 컴퓨팅(Confidential Computing) 기술로 온프레미스 환경의 보안 거버넌스를 강화한다.

김정환 브로드컴코리아 전략영업본부장은 “VCF 9.0은 퍼블릭 클라우드 수준의 사용자 경험을 제공하면서도 보안과 거버넌스는 한층 간소화된 구조로 설계됐다”며 “최근 엔터프라이즈 기업을 대상으로 사이버공격이 빈번해지면서 복원력이 중요한데, VCF 9.0은 90% 이상의 복원율을 달성하며 높은 가용성과 보안을 동시에 구현했다”고 밝혔다.

VCF 9.0은 단순한 가상화 플랫폼을 넘어 AI 네이티브 프라이빗 클라우드로 진화한다. 브로드컴은 이를 통해 기업이 데이터 주권을 지키면서 온프레미스 환경에서 AI 모델을 안전하게 운영할 수 있도록 지원하고, GPU·CPU 등 다양한 하드웨어와 모델 선택이 가능한 개방형 생태계를 구축하고 있다.

폴 사이모스 브로드컴 아시아 총괄 부사장은 “프라이빗 클라우드는 AI에 최적화된 인프라의 핵심”이라며 “VCF는 기업이 온프레미스 환경에서 기존 워크로드와 AI 기반 워크로드를 신속하게 확장, 관리 및 보호할 수 있도록 지원하며, 엔터프라이즈 AI 시대 혁신을 위한 핵심 기반이 될 것"이라고 말했다.

폴 사이모스 브로드컴 아시아 총괄 부사장. [사진=브로드컴]

<이미지를 클릭하시면 크게 보실 수 있습니다>

/윤소진 기자(sojin@inews24.com)

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]