[이데일리 김현아 IT전문기자] 머지않은 미래에는 오픈AI 챗GPT같은 거대언어모델(LMM)뿐 아니라 각 산업에 특화된 소형언어모델(sLLM)이 주목받을 전망이다. 지금 같은 구조로는 돈 버는 AI 서비스를 만들기 어려워서다.

데이터센터 반도체 전문기업 파두(440110)가 지난해 10월 인수한 미국 자회사 이음(EEUM)은 AI가 금융, 통신, 교육 등 분야별로 특화되는 시기를 겨냥한 AI 데이터센터용 CXL 스위치를 개발중이다. 이음은 삼성전자 메모리 사업부·상품기획팀, SK하이닉스 상품기획팀·SSD 솔루션 개발팀에서 근무했던 한진기 대표가 2023년 10월 실리콘밸리에 설립한 기업이다. 파두가 지난해 10월 53억6500만원에 이어 지난달 63억원을 추가 투자했다.

[이데일리 문승용 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

고비용 엔비디아 지속가능?…소형언어모델 시대, 핵심은 CXL

이데일리는 오는 10일까지 한국에 머무는 한진기 이음 대표를 지난 4일 파두 사무실에서 만났다. 한 대표는 “AI에 대한 대규모 투자가 이뤄지고 있지만, 아직 이로 인해 수익을 창출하는 기업은 드물죠. 그래서 엔비디아의 AI 시스템보다 훨씬 효율적인 AI 시스템이 나올 것으로 보이며, 그 시장을 겨냥해 CXL 스위치를 개발 중”이라고 했다.

이음이 개발 중인 CXL 스위치는 파라미터 사이즈가 400GB이상의 거대언어모델(LLM)이 아니라, 50~80GB의 소형언어모델(sLLM)대중화를 겨냥했다.

한 대표는 “실리콘밸리에서는 전 세계 모든 데이터를 학습시킨 매우 큰 파라미터를 가지는 AI 모델은 고비용 문제로 위험할 수 있다는 얘기가 나온다”면서 “앞으로 엔비디아의 AI 반도체 풀 스택 솔루션에서 메모리 한계를 극복하기 위해 필요했던 NV 스위치나 NV링크가 필요 없어질 것으로 예상된다”고 전망했다. 그러면서 “그리 되면 엔비디아 GPU의 구동을 지원하는 HBM보다는 단일 장치에 여러 모델(sLLM)을 담는 것이 중요해지며, 이에 따라 용량을 증가시킬 수 있는 CXL(컴퓨트 익스프레스 링크)이 더욱 중요해질 것”이라고 덧붙였다.

HBM은 GPU가 많은 데이터를 단시간에 처리할 수 있도록 돕는 고성능 메모리로, 여러 개의 D램을 수직으로 쌓아 올린 형태다. CXL은 CPU, GPU, NPU 등 간의 고속 연결을 지원하는 기술로, 매우 뛰어난 확장성을 제공한다. 이에 따라 삼성전자·SK하이닉스도 CXL타입3 칩을 개발하는 등 CXL 인프라에 대한 관심이 크다.

AI서비스(LLM)를 위한 엔비디아 시스템. 출처=한진기 이음 대표

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI서비스(sLLM)을 위한 이음의 CXL스위치. 사진=한진기 이음 대표

<이미지를 클릭하시면 크게 보실 수 있습니다>

이음의 CXL 기반 서버 섀시(Chassis)

<이미지를 클릭하시면 크게 보실 수 있습니다>

‘26년 출시 목표, 범용 AI센터 가능해진다

한 대표는 데이터센터의 핵심이 상호연결(interconnect)이라고 강조하며, 이음이 CXL 스위치와 서버 섀시를 출시하면 데이터센터 회사들이 범용 데이터센터를 구축할 수 있다고 설명했다. 그는 “2026년, 2027년 출시를 목표로 CXL 스위치와 섀시를 개발 중인데, 이 기술이 도입되면 데이터센터를 건설한 다음에 AI를 구현하거나 스토리지를 추가하거나 메모리를 확장하는 것을 나중에 결정할 수 있다. 이는 굉장히 범용성 있는 데이터센터 구축을 가능하게 한다. CXL 스펙이 이를 가능하게 하는 것”이라고 말했다.

이음외에 CXL을 개발하는 글로벌 회사로는 미국 아스테라랩스(asteralabs)가 있는데 상장후 기업가치가 10조원을 넘었다.

데이터센터에서 CXL 스위치는 SSD, DRAM, GPU/NPU, CPU 등을 연결하는 것이기 때문에 상호운용성이 매우 중요하다. 이에 따라 이음은 CXL에코시스템 소프트웨어를 개발해 지난 1월 오픈소스로 공개했고, 다양한 글로벌 기업들과 협력을 논의 중이다.

한진기 대표는 “엔비디아가 쿠다나 NV링크를 개발하기 시작한 것은 10년이 훨씬 넘었다”면서 “(이를 넘어서기 위해)저희는 CXL 스위치 기술 검증을 위해 개발 기술을 공개하고 ‘오픈CXL’이라는 사이트를 만들어 글로벌 개발자들과 함께 하고 있다. 한국에서도 ETRI(한국전자통신연구원) 등 학계 및 연구계 전문가들이 참여하고 있다”고 전했다.

이음이 주도하는 CXL 오픈 커뮤니티

<이미지를 클릭하시면 크게 보실 수 있습니다>