<이미지를 클릭하시면 크게 보실 수 있습니다>

AI 반도체 스타트업 하이퍼엑셀이 업스테이지 컨소시엄을 통해 정부의 독자 AI 파운데이션 모델 협력 생태계에 합류한다.

하이퍼엑셀은 생성형 AI의 실제 응용 환경에 최적화된 LLM 추론 전용 AI 반도체를 설계·개발하는 기업이다. 초거대 언어모델 서비스 단계에서 발생하는 연산 병목과 전력 및 운영 비용 문제를 해결하기 위해 독자 아키텍처 기반의 LPU(LLM Processing Unit)를 개발해왔다.

이번 컨소시엄 참여를 통해 하이퍼엑셀은 독자 AI 모델 확산을 위한 추론 인프라 고도화 및 효율화에 협력할 계획이다. LLM 추론에 특화된 LPU 설계와 성능 개선, 생성형 AI 응용 환경에 최적화된 추론 가속 기술 연구개발을 기반으로 고효율·저비용 AI 서비스 인프라 구현에 나선다.

또한 vLLM과 PyTorch 기반의 고가용성(HA) 풀스택 소프트웨어 스택 개발 및 제공을 주요 역할로 수행할 예정이다. 이를 통해 추론 성능과 안정성을 동시에 확보하는 인프라 구조를 마련한다는 방침이다.

하이퍼엑셀은 단순 반도체 공급을 넘어 하드웨어와 서빙 소프트웨어를 통합한 구조를 구축함으로써 초거대 모델 상용화 과정에서 요구되는 처리 효율, 전력 대비 성능, 운영 안정성을 종합적으로 강화할 계획이다.

이를 통해 독자 AI 파운데이션 모델이 실제 데이터센터 및 산업 서비스 환경에서 경제성과 확장성을 갖춘 형태로 운영될 수 있도록 지원한다는 설명이다.

김주영 하이퍼엑셀 대표는 초거대 AI 경쟁은 모델 규모뿐 아니라 이를 얼마나 효율적으로 서비스할 수 있는지에 달려 있다며, LPU 기반 추론 가속 기술을 통해 국내 AI 인프라의 기술 자립과 글로벌 수준의 비용 경쟁력 확보에 기여하겠다고 밝혔다.

---

• 관련 기사 더 보기

https://www.venturesquare.net/1036676/

강진희 kti@venturesquare.net

Copyright ⓒ ATSQUARE.