[디지털데일리 김문기 기자] AI 확산을 가로막는 메모리 병목의 핵심에는 고대역폭메모리(HBM)가 있다. 그러나 이 병목은 단순한 DRAM 생산 부족이 아니라, HBM을 구성하는 공정·패키징·수율·공급계약의 구조적 제약이 복합적으로 얽힌 결과다.

HBM은 겉으로는 메모리이지만, 제조 관점에서는 복합 시스템 부품에 가깝다. 여러 개의 DRAM 다이를 실리콘 관통 전극(TSV)으로 수직 적층한 뒤, 이를 GPU·AI 가속기와 함께 인터포저 상에 패키징해야 한다. 단순 웨이퍼 생산을 넘어, 적층·본딩·첨단 패키징·전기적 검증 등 후공정이 절대적 비중을 차지한다.

이를 두고 업계 관계자는 “HBM 증설의 병목은 공정 캐파가 아니라 첨단 패키징 라인의 한계”이라고 말했다. 이는 DRAM 웨이퍼 생산을 늘리는 것만으로는 HBM 공급을 개선할 수 없다는 의미다. 첨단 패키징 라인은 장비 수급과 인력, 장기간의 투자 회수 사이클 때문에 빠르게 확대하기 어렵다.

HBM 제조의 또 다른 난제는 수율 관리다. 적층 수가 늘어날수록 결함 발생 위험이 높아지고, 한층의 불량이 전체 스택 성능을 떨어뜨릴 수 있다. 이 때문에 제조업체들은 출하량 확대보다 안정적 공급과 품질 확보에 우선순위를 두는 경향이 짙다. 이러한 특성은 HBM이 ‘많이 생산되는 상품’이 아니라 ‘신뢰할 수 있게 생산되는 상품’이 돼야 한다는 현실을 만든다.

HBM 병목이 심화되는 배경에는 메모리 시장의 수급 전략도 있다. 애널리스트에 따르면 “AI 수요가 메모리 시장을 재편하고 있으며, 하이퍼스케일러와 엔터프라이즈 고객이 메모리 공급의 상당 부분을 확보하면서 소비자 메모리 시장까지 가격이 영향 받는다”고 분석했다.

최근 메모리 업체들의 경영 실적에서도 이런 구조적 병목이 드러난다. 마이크론 테크놀로지는 AI 데이터센터의 메모리 수요가 증가하면서 DRAM과 낸드 플래시 가격이 상승하고 공급이 타이트한 상황이 당분간 지속될 것으로 전망했다. 또한 골드만삭스 리서치는 HBM과 전통 DRAM 수요가 공급을 크게 앞지르고 있어 가격 상승 압력이 계속될 것이라고 진단했다.

HBM 공급 상황은 일부 주요 기업들이 장기 공급 계약을 통해 주도하고 있다. SK하이닉스는 AI 메모리 시장이 2030년까지 연평균 30% 성장할 것으로 예측하면서도, 수요가 공급을 크게 앞서는 구조가 지속될 것으로 분석했다. 빅테크와 클라우드 사업자들은 선제적으로 HBM 물량을 확보하는 추세로, 메모리 공급의 불균형은 구조적으로 고착되고 있다.

이러한 공급 구조는 AI 생태계의 경쟁 구도에도 영향을 미친다. 대형 GPU·클라우드 사업자는 장기 계약과 선급금 구조를 통해 HBM을 선점하는 반면, 중소 데이터센터 사업자나 AI 스타트업은 동일한 접근이 어렵다. 또 다른 업계 관계자는 “HBM 접근성의 차이가 AI 성능 격차로 이어지고 있다”고 말했다.

HBM 병목은 클라우드 AI만의 문제가 아니다. 메모리 업체들이 제한된 자원을 HBM에 우선 배분하면서 범용 DRAM과 DDR, LPDDR 증설은 상대적으로 후순위로 밀리고 있다. 이는 온디바이스 AI 확산과 정면으로 충돌한다. 스마트폰·PC·차량용 AI 시스템의 메모리 용량 요구는 커지고 있지만, 공급은 그 속도를 따라가지 못한다는 최근 리포트들이 이를 뒷받침한다.

메모리 산업은 이 같은 병목·재편 국면에서 진퇴양난의 선택에 직면했다. AI 인프라 확장 수혜를 놓치지 않기 위해 HBM에 투자를 집중하면 범용 메모리 생태계가 약화될 위험이 커지고, HBM에만 치중하지 않으면 기술 경쟁에서 밀릴 수 있다. 그러나 공정 전환과 캐파 증설에는 수년이 걸리는 것이 현실이다.

일각에서는 HBM 공급 병목을 완화할 기술적 대안이 가능한 것으로 보기도 한다. 새로운 메모리 아키텍처나 메모리 풀링 기술은 HBM 의존도를 낮출 잠재력이 있지만, 아직 상용 AI 서버의 주력으로 자리 잡기에는 시간이 필요하다는 시각이 지배적이다.

결국 HBM 부족은 일시적인 수급 불균형이 아니라, 메모리 생산 방식과 공급망 구조가 만들어낸 구조적 병목이다. 클라우드와 엣지 AI가 동시에 메모리 압박을 가하고 있기에, AI 확산 속도는 단순히 수요가 아니라 공급망이 허용하는 속도 안에서 결정될 수밖에 없는 국면에 접어 들었다는 분석이다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -