삼성전자가 업계 최초로 36GB(기가바이트) HBM3E(5세대 HBM) 12H(High, 12단 적층) D램 개발에 성공하고 고용량 HBM 시장 선점에 나섰다. 사진은 HBM3E 12H D램 제품 이미지/사진제공=삼성전자

<이미지를 클릭하시면 크게 보실 수 있습니다>

삼성전자가 '고용량'과 '맞춤형'에 초점을 맞춘 HBM(고대역폭메모리) 전략을 공개했다.

삼성전자는 18일 반도체 뉴스룸에 HBM3E 12단 D램 개발과 기획을 담당했던 D램 개발실 임원들의 인터뷰를 통해 향후 HBM 전략 방향을 제시했다.

삼성전자는 우선 '고용량 HBM'이 중요해 질 것으로 관측했다. 다수의 빅테크 기업들이 범용 인공지능(AGI) 시대를 열기 위해 경쟁적으로 AI 모델을 고도화하고 있는데, 이 결과 현재 AI 모델의 파라미터는 조 단위에 이르렀다. 원활한 데이터 처리를 위해선 고용량의 HBM가 필요하다.

삼성전자의 36GB(기가바이트) HBM3E 12단 D램은 현재 시장의 주요 제품인 16GB HBM3 8단 대비 용량이 2.25배 크다. 삼성전자는 이 제품이 상용화되면 매우 빠른 속도로 시장을 주도해 나갈 것으로 기대한다. 기존보다 더 적은 수의 AI 서버로도 동일한 초거대 언어 모델(LLM)을 서비스할 수 있기 때문에 총 소유비용(TCO) 절감 효과도 누릴 수 있다.

'맞춤형 HBM'도 강조했다. 김경륜 삼성전자 상품기획실 상무는 "'맞춤형 HBM'은 프로세서, 메모리가 공동 최적화를 수행하는 첫 단추이자, AGI 시대를 여는 교두보"라고 말했다. 이어 "프로세서와 메모리 업체가 제품을 개별적으로 최적화해서는 AGI 시대가 요구하는 미래의 혁신을 만들어내기 어렵다는게 업계의 공감대"라며 "삼성전자는 메모리, 파운드리, 시스템LSI 등 종합 역량을 십분 활용해 대응해 나갈 것"이라고 설명했다.

삼성전자는 향후 HBM시장이 △'분할' △'맞춤화' △'파워 월' 등 3가지 변화를 겪을 것으로 전망했다.

초기 HBM시장에선 하드웨어의 범용성이 중요했지만, 앞으로는 킬러 앱 중심으로 서비스가 성숙되면서 하드웨어 인프라가 서비스별로 최적화되는 '분할' 과정을 필연적으로 겪을 것이란 관측이다. 이에 삼성전자는 코어 다이(core die)를 단일화하고, 8단, 12단, 16단과 같은 패키지와 베이스 다이(base die) 다변화를 통해 대응할 계획이다.

공동 최적화의 필요성으로 '맞춤화'에 대한 고객 요구가 커질 전망이다. 이에 삼성전자는 플랫폼화를 통해 공용 설계 부분을 극대화하고, 생태계 파트너 확대를 통해 효율적으로 맞춤화 요구에 대응할 수 있는 체제를 마련한다는 방침이다.

'파워 월' 극복도 관건이다. 프로세서와 메모리는 성능이 향상되면 각각 소모하는 전력량도 증가하는데, 전체 시스템의 파워는 한정돼 있다. 결국 각 칩 단위에서 전력 효율성을 높여야 한다. '파워 월'을 극복하기 위해선 프로세서와 메모리의 거리가 점점 더 가까워져야 한다.

김 상무는 "파워 월 해소를 위한 첫 번째 혁신으로 차세대 제품 HBM4에 로직(logic) 공정을 적용한 베이스 다이가 도입되고, 현재의 2.5D에서 3D형태로의 HBM으로 점차 진화하면서 두 번째 혁신을 맞이할 것"이라며 "이어 HBM-PIM처럼 D램 셀과 로직이 더 섞이는 방향으로 진화하면서 세 번째 혁신을 맞이할 것으로 예상한다"고 말했다.

윤재윤 삼성전자 D램개발실 상무는 "HBM 칩 1개라도 불량이 발생하게 되면 AI서비스가 그 순간 멈출 수도 있기에 HBM의 품질을 완벽하게 보증할 수 있는 설계, 테스트 기술을 확보하는 것이 중요하다"며 "고온 열 특성에 최적화된 NCF 조립 기술과 최첨단 공정 기술을 통해 차세대 HBM4에 16단 기술까지 도입할 계획"이라고 밝혔다.

임동욱 기자 dwlim@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지