딥러닝 모델 쉽고 빠르게 서비스하는
토탈 인퍼런스 솔루션 공개
토탈 인퍼런스 솔루션 공개
래블업, CES서 신제품 ‘PALI’ 선보인다 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
래블업이 내년 1월 7~10일(현지 시각) 미국 라스베이거스에서 열리는 세계 최대 IT·가전 전시회 CES 2025에 참가한다고 20일 밝혔다. 2023년부터 3년 연속 참가한 래블업은 이번 행사에서 LVCC 노스홀에 부스를 마련하고(#9528) 딥러닝 모델을 쉽고 빠르게 서비스할 수 있는 토탈 인퍼런스 솔루션 PALI (Performant AI Launcher for Inference)를 선보인다.
PALI의 장점은 ▲NVIDIA NIM, Hugging Face, Kaggle 등 다양한 소스의 딥 러닝 모델 지원 ▲앱처럼 쉽게 실행하는 언어 모델, 이미지 생성 모델 등 최신 생성 AI 모델 ▲온프레미스 및 에어갭 환경에서도 쉬운 시스템 구축 및 운영 ▲Backend.AI의 강력한 기술력으로 NVIDIA GPU 하드웨어 성능 극대화 ▲직관적인 사용자/관리자 인터페이스로 편의성 제공 ▲어플라이언스 하드웨어 기반으로 유연한 확장성 보장 등으로, 고객은 PALI를 이용하여 최신 AI 모델을 비즈니스에 신속하게 적용할 수 있다.
일본 시장에 판매되고 있는 PALI 제품군은 최신 AI 모델을 비즈니스에 신속하게 적용하고자 하는 기업들에게 이상적이다. PALI를 도입하면 개발자들은 모델 서빙에 필요한 복잡한 인프라 구축 과정 없이도 곧바로 AI 서비스 개발에 집중할 수 있으며, Backend.AI 플랫폼 위에서 압도적인 GPU 가속 성능과 유연한 확장성을 바탕으로 대규모 사용자를 대상으로 하는 고성능 AI 서비스를 손쉽게 구현할 수 있다.
신정규 래블업 대표는 “AI 기술의 발전과 함께 다양한 규모와 분야에서 AI 서비스 및 어플리케이션 수요가 급증하고 있다”라며 “래블업의 이미 검증된 Backend.AI 의 기술력을 바탕으로 고성능, 고효율 인퍼런스 분야에서도 최상의 플랫폼 솔루션을 제공함으로서 AI 프로젝트 성공을 적극 지원하고자 한다. 앞으로도 래블업은 최첨단 AI 기술 개발과 제품 고도화를 통해 업계를 선도하는 AI 전문기업으로 성장해 나갈 것”이라고 밝혔다.
[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.