이강욱 SK하이닉스 PKG개발담당 부사장./SK하이닉스 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

이강욱 SK하이닉스 PKG(패키징)개발 담당 부사장은 3일 “고대역폭메모리(HBM) 세대가 발전하면서 훈련, 추론 인공지능(AI) 서버에 탑재되는 평균 채택 숫자는 더 늘어날 것”이라고 말했다.

이 부사장은 이날 대만 타이베이 난강전시장에서 열린 ‘이종집적 글로벌 서밋(Heterogeneous Integration Global Summit) 2024′에서 ‘AI 시대를 위한 HBM과 어드밴스드 패키징 기술’이란 주제로 발표에 나서 이같이 밝혔다. 이 행사는 오는 4일 개막하는 ‘세미콘 타이완 2024′의 세션 중 하나로 열렸다.

이 부사장은 “AI와 고성능 컴퓨팅(HPC) 시대엔 데이터 트래픽이 급증하면서 메모리 대역폭 향상에 대한 요구가 커지고 있다”며 “메모리 성능에서 오는 시스템 병목 현상을 극복하기 위한 현존 최고 사양의 D램은 HBM이며, 이는 AI 시스템의 훈련, 추론에도 최적의 제품”이라고 설명했다.

그는 “현재 HBM3E 8단·12단은 초당 1.18TB(테라바이트) 이상의 데이터를 처리하며 최대 36GB(기가바이트)의 용량을 지원한다”며 “HBM4는 12·16단으로 공급되며 용량은 최대 48GB까지, 데이터 처리 속도는 초당 1.65TB 이상으로 성능이 발전한다”고 했다. 그러면서 “HBM4부터는 베이스 다이에 로직 공정을 적용해 성능 및 에너지 효율 향상을 기대하고 있다”고 덧붙였다.

이 부사장은 HBM 성능 발전에 따라 HBM에 대한 수요는 AI 시장에서 더 늘어날 것으로 내다봤다. 업계에 따르면 지난해부터 2032년까지 생성형 AI 시장은 연평균 27% 성장할 것으로 예상되는 가운데 HBM 시장은 2022년부터 2025년까지 이미 연평균 109%의 성장이 전망된다.

시장 성장세에 맞춰 SK하이닉스는 지난 3월 메모리 업체 중 처음으로 5세대 HBM인 HBM3E 8단 제품을 엔비디아에 납품하기 시작했다. 맞춤형 HBM인 6세대 HBM4도 준비 중이다. SK하이닉스는 어드밴스드 MR-MUF 기술을 적용한 HBM4 12단 제품을 2025년에 출하하고, 오는 2026년 수요 발생 시점에 맞춰 HBM4 16단 제품 출시를 준비한다는 목표다.

엔비디아를 비롯한 M7(애플·마이크로소프트·구글 알파벳·아마존·엔비디아·메타·테슬라) 등 글로벌 빅테크 기업과의 협력도 지속하고 있다. 특히 HBM4 16단부터는 어드밴스드 MR-MUF, 하이브리드 본딩 기술을 모두 검토해 고객 니즈에 부합하는 최적의 방식을 쓰겠다는 계획이다.

이 부사장은 “최근 연구에서 16단 제품에 대한 어드밴스드 MR-MUF 기술 적용 가능성을 확인했다”며 “하이브리드 본딩 기술을 적용할 경우 제품 성능, 용량 증가 및 열 방출 측면에서 장점이 있지만 기술 완성도 및 양산 인프라 준비 측면에서 해결해야 할 여러 선결 과제들이 있다”고 했다. 두 가지 방식에 대한 기술 완성도를 빠르게 높여 메모리 고용량화에 대한 고객 니즈에 선제적으로 대응한다는 계획이다.

SK하이닉스는 HBM4 외에도 차세대 제품 개발을 준비 중이며, 대역폭, 용량, 에너지 효율 측면에서의 기술적 난제들을 해결하기 위한 2.5D 및 3D SiP(시스템 인 패키지) 패키징 등 다양한 대응 방안을 검토하고 있다.

이 부사장은 “(7세대 제품인) HBM4E부터는 커스텀(맞춤형) 성격이 강해질 것으로 예상돼 다양한 고객 요구에 효율적으로 대응하기 위한 생태계 구축 관점에서도 글로벌 파트너들과의 협력을 강화해 가고 있다”고 말했다.

최지희 기자(hee@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>