메모리 반도체 시장에 지각변동이 일어나고 있다. 생성형 인공지능(AI) 열풍으로 모바일, PC, 서버 등 전통적인 수요처를 넘어 AI 프로세서에 최적화한 메모리 수요가 폭발적으로 증가하고 있는 것이다. 과거 ‘소품종 대량양산’ 전략으로 생산성 경쟁에 집중했던 한국 메모리 업계는 달라진 ‘게임의 법칙’을 만나게 됐다. 미세공정 기술뿐만 아니라 미국 빅테크 기업들과의 협업이 새로운 시장을 개척하는 성공의 열쇠가 된 것이다. 조선비즈는 글로벌 메모리 반도체 1·2위 기업인 삼성전자와 SK하이닉스의 경쟁력을 비교 분석하고 향후 시장 판도를 전망해본다.[편집자주]

“고대역폭메모리(HBM)는 CPU(중앙처리장치), GPU(그래픽처리장치)와 가장 가까운 곳에서 정보를 처리할 수 있는 사실상 유일무이한 기술이고, 언젠가 반도체 업계의 ‘게임체인저’가 될 것입니다.”

지난 2016년 당시 이석희 SK하이닉스 부사장(현 SK온 사장)은 한양대 서울캠퍼스에서 강연을 마친 뒤 30분 가까이 HBM의 가치에 대해 설명했다. 지금은 엔비디아, AMD 등 반도체 공룡 기업들이 HBM을 핵심 메모리로 사용하고 있지만, 당시만 해도 HBM을 상용화한 기업이 거의 없던 시기였다. SK하이닉스 전체 매출에서도 HBM이 차지하는 비중은 1%에 미치지 못했다.

HBM은 여러 개의 D램 칩을 실리콘관통전극(TSV)으로 수직 연결해 데이터 처리 속도를 획기적으로 높인 초고성능 메모리 반도체다. 고속 병렬 연산에 적합하도록 입·출력 데이터가 지나가는 통로(대역폭)를 극대화한 것이 특징이다. 소품종 대량생산 방식인 기존 D램과 달리 고객사와의 협업을 통해 만들어지는 일종의 ‘맞춤형 메모리’다. 이에 HBM은 단순히 D램을 잘 만들고 잘 쌓는 게 경쟁력이 아니라, 각 프로세서에 맞는 맞춤형 최적화가 핵심이다. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)를 거쳐 현재 5세대(HBM3E)까지 개발·양산됐다.

SK하이닉스가 업계 최초로 양산에 성공, 엔비디아에 대량 공급을 시작한 5세대 HBM 'HBM3E'./SK하이닉스 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

◇ 삼성전자, 2세대 HBM 먼저 양산했지만… SK하이닉스, 적극적 투자로 제조 기술력 축적

‘챗GPT’를 비롯한 생성형 인공지능(AI) 열풍으로 데이터 처리 속도를 극대화한 HBM이 메모리 반도체 업계 핵심 제품으로 부상한 가운데, 현재 이 분야 시장 리더는 SK하이닉스다. 전체 HBM 시장은 SK하이닉스와 삼성전자가 양분하고 있지만, 현재 시장 주력 제품인 4세대 HBM(HBM3) 시장만 놓고 보면 SK하이닉스가 90% 이상(시장조사업체 트렌드포스)을 점유하고 있다. HBM의 평균 판매 단가는 DDR4 D램과 비교해 5배가량 비싸다. SK하이닉스가 작년 4분기 글로벌 메모리 반도체 기업 중 빠르게 메모리 흑자전환에 성공한 것도 HBM 덕분이다.

HBM이 처음 시장에 등장한 2010년대 초반까지만 해도 SK하이닉스와 삼성전자의 기술 경쟁력은 거의 동일선상에 있었다. SK하이닉스가 AMD와 협업을 통해 업계 최초의 HBM 시제품을 개발하기는 했지만, 대량 양산으로 이어지진 않았고 한동안 실험적 제품으로 머물러 있었다. 실제 HBM을 시장에 상용화한 제품인 HBM2를 먼저 양산한 건 SK하이닉스가 아닌 삼성전자였다. 2015년 말 업계 처음으로 HBM2 양산에 성공한 것이다.

이에 자극을 받은 SK하이닉스는 보다 공격적으로 HBM 연구개발(R&D)에 대규모 투자를 시작했다. SK하이닉스는 2017년 경기 이천에 신규 R&D센터 설립을 결정했고, 2년 뒤 완공된 연구소에서는 HBM 공정의 핵심 기술인 TSV 공법 안정화에 대규모 예산이 집행됐다. HBM 개발 초기 이석희 사장의 바통을 이어받은 박정호 전 부회장과 곽노정 현 SK하이닉스 사장이 성공적으로 사업을 이어나가고 있다.

HBM 시장을 두고 엎치락뒤치락하던 두 회사의 승패를 가른 건 3세대 HBM(HBM2E)부터다. SK하이닉스는 HBM2E에 TSV 공정 기법 중에서도 기술 난도가 가장 높은 ‘MR-MUF’ 공정을 선제적으로 도입했다. SK하이닉스의 독자 기술인 MR-MUF는 적층한 칩 사이에 보호재를 넣은 후 전체를 한번에 굳히는 공정이다. 삼성전자와 마이크론이 사용하는 공정(칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식)보다 효율적이고 열 방출에 강점이 있다.

안정화된 공법을 기반으로 SK하이닉스는 HBM 시장이 커지기 시작했던 2022년 6월 가장 먼저 HBM3 양산을 시작하면서 초반 승기를 잡았다. 엔비디아의 최첨단 AI 칩인 H100 GPU에 최적화된 HBM3를 업계에서 가장 먼저 공급하기 시작한 것이다. 반면 삼성전자는 지난해 7월 HBM3를 양산했지만, 아직 최대 고객사인 엔비디아엔 본격적인 제품 공급을 못하고 있는 상황이다.

그래픽=손민균

<이미지를 클릭하시면 크게 보실 수 있습니다>

◇ 삼성전자, 2019년 HBM 연구개발팀 해체… 관료화된 조직문화, 시장 대응에 걸림돌

메모리 반도체 시장 ‘부동의 1위’ 삼성전자가 SK하이닉스에 초반 주도권을 내준 건 HBM 시장의 경쟁력을 과소평가했기 때문이라는 지적이 나온다. 실제 삼성전자는 AI 반도체 시장이 본격적으로 성장하기 이전인 2019년 HBM 투자에 대해 회의적인 시각을 가진 경영진이 HBM 연구개발 전담팀을 해체하는 실책을 범했다. 공교롭게도 같은 시기 경쟁사인 SK하이닉스는 신규 R&D 센터에서 본격적으로 HBM 관련 기술 역량을 끌어올리고 있었다.

삼성전자 고위 관계자는 “HBM 전략을 놓고 봤을 때 삼성전자의 가장 뼈아픈 실패는 적절한 시기에 연구개발 센터를 설립해 관련 연구 인력을 통합하지 못한 것이었다”면서 “2020년대 들어 AI 메모리 시장이 태동의 조짐을 보였을 때 확실히 차세대 메모리 연구개발 조직을 정립하고 집중적으로 개발 역량을 체계화하지 못한 것이 가장 큰 패착이었다”고 토로했다.

삼성 내부적으로는 삼성전자 반도체 부문의 관료화된 조직문화가 변화하는 시장 수요에 빠르게 대응하는 데 걸림돌로 작용했다는 분석을 내놓는다. 메모리사업부의 경우 전통적으로 D램 전문가 출신들로 구성된 경영진, 임원진이 회사의 의사결정에 깊게 관여하고 있는데 파격적인 아이디어나 선제적 투자를 받아들이기가 쉽지 않은 구조라는 것이 중론이다.

삼성전자 반도체(DS)부문의 한 임원은 “삼성 반도체가 빠르게 변화하는 시장 트렌드에 따라 민첩하게 피버팅(pivoting·사업 방향 전환)하기 어려운 이유는 1980년대부터 자리 잡아 온 D램, 낸드플래시 분야 전문가들이 관료화되기 시작했기 때문”이라며 “D램, 낸드플래시처럼 소품종 대량생산에 포커스를 맞춰온 전통적인 메모리 반도체 기업의 제조 기술 중심 전략은 외부 기업과의 적극적인 협업을 통해 창출되는 AI 메모리 시장과 완전히 성격이 다르다”고 지적했다.

실제 삼성전자 반도체부문 수장은 D램 개발실장을 거친 인물들이 맡아왔다. 경계현 삼성전자 사장(현 DS부문장)을 비롯해 이정배 메모리사업부장, 진교영 전 메모리사업부장(현 삼성전자 종합기술원장) 등 요직에는 모두 D램 개발실이나 D램 설계팀 출신들이 중용됐다. 뿐만 아니라 김기남 전 부회장(DS부문장), 권오현 전 회장(DS부문장) 등 삼성 반도체 사업을 강력한 리더십으로 이끌던 주요 인물들도 D램 개발실이나 설계팀 출신이 주류다.

반면 SK하이닉스의 경우 과거 LG반도체, 현대반도체, 하이닉스를 거쳐 SK그룹으로 통합되는 과정에서 다양한 출신과 배경을 가진 전문가들이 합류하면서 개방적인 조직문화를 형성했다는 평가다. 주영표 SK하이닉스 부사장은 최근 조선비즈와의 인터뷰에서 “SK하이닉스는 종합반도체회사(IDM)의 보수적인 기업 문화와 달리 새로운 아이디어, 기술, 사업모델에 열려있는 경영진이 포진하고 있다”며 “전통적으로 소품종 대량생산 공식에서 벗어나 다변화되는 메모리 시장에서 SK하이닉스의 이 같은 조직문화가 강점이 되고 있다”고 말했다.

황민규 기자(durchman@chosunbiz.com);최지희 기자(hee@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>