<하>AGI 넘어 ASI 시대
데이터 늘수록 메모리가 AI 효율 좌우
메모리 중심 컴퓨팅으로 전환은 필연
HBM 이을 PIM·HBF·HBDF 개발 중
엔비디아 넘을 아키텍처·NPU 나와야

10월 22일 서울 강남구 코엑스에서 열린 제27회 반도체 대전(SEDEX 2025)을 찾은 관람객들이 SK하이닉스 부스에서 6세대 HBM(HBM4)을 살펴보고 있다. 뉴스1

<이미지를 클릭하시면 크게 보실 수 있습니다>

챗GPT와 함께 시작된 생성형 인공지능(AI)은 향후 10년 내 사람 수준의 종합 지능을 가진 범용인공지능(AGI)으로 성장하거나, 사람을 닮은 몸을 자유자재로 움직이는 ‘피지컬(Physical·물리적)AI’로 우리 삶에 들어올 전망이다. 어느 방향이든 AI가 처리할 데이터는 기하급수적으로 증가하고 메모리의 중요성은 커진다. 전문가들은 여기에 한국의 경쟁력이 달렸다고 말한다.

우리 기업에 유리해지는 AI 기술 흐름

데이터 처리량이 커질수록 그래픽처리장치(GPU)와 같은 연산 반도체보다 메모리 반도체가 AI의 효율을 좌우하게 된다. 더 큰 저장용량이 필요한 것은 물론, 메모리와 GPU가 더 빠르게 정보를 주고받는 새로운 구조가 필요하기 때문이다. GPU와 메모리가 데이터를 주고받는 과정에서 소모되는 막대한 양의 전력도 문제다.

이를 해결하기 위해 필요한 것이' 메모리 중심 컴퓨팅'이다. 이혁재 서울대 반도체공동연구소장(전기정보공학부 교수)은 “AI의 효율을 높이기 위해선 메모리와 GPU 사이를 좁히고, 더 나아가 두 가지를 합친 새로운 반도체가 필요하다”며 “메모리 반도체 강국인 한국이 잘 할 수 있는 기술”이라고 말했다. 삼성전자와 SK하이닉스가 고대역폭메모리(HBM)에 연산 기능을 추가한 프로세서인메모리(PIM) 반도체를 개발하는 것도 그 일환이다.

고대역폭낸드플래시(HBF)도 차세대 메모리로 주목받는다. HBM이 휘발성 메모리인 D램(DRAM)을 쌓아올린 반도체라면, HBF는 D램보다 속도는 느리지만 용량이 큰 비휘발성 낸드 플래시 메모리를 쌓아올린 것이다. HBM이 GPU와 데이터를 주고받으며 연산할 때, HBF는 마치 도서관처럼 더 많은 참고자료를 제공하는 역할을 한다. 김정호 한국과학기술원(KAIST·카이스트) 전기전자공학부 교수는 “HBF는 HBM보다 용량이 약 10~100배 크고, AI의 학습보다 추론에 더 도움이 된다”고 설명했다.

HBF는 HBM과 기본 기술을 공유하기 때문에 우리 기업이 유리하다. SK하이닉스는 HBF 표준을 선점하기 위해 지난 8월 미국 기업 샌디스크와 표준화 양해각서를 체결했다. 김 교수는 HBF의 제품화 시점을 2028년쯤으로 전망하며 HBM과 HBF를 결합해 장점을 극대화하는 HBDF(High bandwidth dynamic flash)도 차세대 모델로 제시했다.

차세대 AI 반도체의 주도권은 메모리 반도체로 기울어질 전망이나, 현재 독점을 유지하고 있는 미국 엔비디아와의 헤게모니 다툼도 불가피하다. 이재용(왼쪽부터) 삼성전자 회장, 젠슨 황 엔비디아 최고경영자(CEO), 정의선 현대차그룹 회장이 10월 30일 서울 강남구 삼성동의 한 치킨집에서 회동을 마친 뒤 기념촬영을 하고 있다. 뉴스1

<이미지를 클릭하시면 크게 보실 수 있습니다>

중국은 화웨이 NPU 사용 독려하는데...

메모리 중심 컴퓨팅으로의 전환은 그러나 쉽지 않은 과제다. 이 소장은 “지금은 GPU를 중심으로 시스템이 설계되고 있는데, 메모리 반도체로 헤게모니가 넘어가는 것을 엔비디아 등이 쉽게 받아들이진 않을 것”이라고 내다봤다. 시야를 넓혀 종합적인 대안을 제시해야 하는 이유다. 김 교수는 “단순히 HBF 기술 완성에만 그칠 게 아니라, 이를 활용한 AI 서비스 모델부터 컴퓨터 아키텍처 전체를 제시해야 주도권을 가질 수 있다”고 말했다.

차세대 AI 연산 반도체에 대한 과감한 투자도 병행돼야 한다. 특히 피지컬AI를 비롯한 온디바이스 AI가 중요해지는 만큼 이에 최적화한 신경망처리장치(NPU)에서 경쟁력을 확보해야 한다. AI 추론에 특화한 NPU는 GPU보다 전력 효율이 높고 경량화가 용이하다. 이상현 성균관대 AI반도체 혁신연구소장(반도체시스템공학과 교수)은 “연산 반도체 시장은 메모리 반도체의 두 배 규모인 데다 계속 성장할 것으로 예상되는 만큼 GPU 이후를 준비해야 한다”며 “NPU는 자동차, 휴머노이드, 웨어러블 기기 등 다양한 시장에 활용되기 때문에 선택과 집중으로 추격해야 한다”고 말했다.

다만 NPU도 미국과 중국의 기술 개발이 앞선 상황이라 더 공격적인 투자가 필요하다. 한국도 퓨리오사AI, 리벨리온 등 주목할 만한 NPU 스타트업이 있는 만큼 정부가 국내 AI 반도체 수요 창출에 나서야 한다는 지적이다. 이 소장은 “중국은 자국 기업인 화웨이의 NPU를 우선 사용하게 하는데, 우리나라는 국가AI컴퓨팅센터 공모 조건에서도 국산 NPU를 빼는 실정”이라며 “수요 기업을 지원해 사용을 늘리거나 대학 연구용으로 공급하는 등 국내 기업에 시장 진출을 확대할 기회를 줘야 한다”강조했다.

신혜정 기자 arete@hankookilbo.com