<이미지를 클릭하시면 크게 보실 수 있습니다>

하나증권은 27일 반도체 업종에 대해 투자의견 ‘비중확대’를 유지하며 구글의 신규 압축 기술 ‘터보 퀀트(Turbo Quant)’가 인공지능(AI) 인프라 구조 변화와 함께 메모리 산업의 수요 패러다임을 전환시킬 것으로 분석했다.

보고서에 따르면 터보 퀀트는 대규모언어모델(LLM) 추론 과정에서 병목으로 지목돼 온 KV 캐시(KV Cache) 사용량을 대폭 줄이는 양자화 기술이다. 기존 FP16, BF16 방식이 토큰당 16비트를 사용하는 것과 달리, 해당 기술은 이를 4비트 이하로 압축하면서도 성능 저하를 최소화한 것이 특징이다. 기존 압축 기술 대비 정밀도 손실과 오류를 줄였으며, 오픈소스 형태로 공개돼 확산 가능성도 크다는 평가다.

이 기술은 AI 데이터센터 운영 구조에도 직접적인 변화를 가져올 것으로 전망된다. KV 캐시가 차지하는 메모리 비중이 크게 줄어들면서 같은 그래픽처리장치(GPU) 메모리에서 더 긴 문맥 처리나 더 많은 동시 사용자 대응이 가능해진다. 이는 서버 구축 비용 절감과 전력 효율 개선으로 이어지며, 하이퍼스케일러들의 인프라 투자 효율을 높이는 핵심 요인으로 작용할 것으로 분석된다.

메모리 산업 관점에서는 ‘용량’보다 ‘속도’ 중심의 경쟁 구도가 강화될 전망이다. 압축된 데이터를 빠르게 복원하고 처리하는 과정이 필수적인 만큼, 고대역폭 메모리(HBM)의 커스터마이징과 함께 PIM(프로세서인메모리) 기술 고도화가 요구될 것으로 예상된다. 메모리 단에서 압축과 해제를 처리하는 구조가 확산할 경우, 로직과 메모리의 결합 경쟁도 본격화될 것으로 보인다.

일반 D램 역시 수요 구조 변화가 예상된다. 단순 용량 확대보다는 동일한 메모리 공간에서 더 많은 연산과 작업을 처리하는 방향으로 활용도가 높아질 전망이다. 이에 따라 DDR5 대비 대역폭이 높은 MRDIMM, SOCAMM2 등 고성능 메모리 규격 수요가 확대될 것으로 분석됐다.

스토리지 시장에서도 변화가 감지된다. 기존에는 모델 가중치 저장과 데이터 보관 중심이었다면, 압축 기술 확산 이후에는 메모리를 보완하는 확장 메모리 역할이 강조될 전망이다. 이에 따라 단순 저장용 SSD보다는 초고속 읽기 성능을 갖춘 NVMe Gen5·Gen6 SSD 수요가 확대될 것으로 예상된다.

결과적으로 압축 기술은 메모리 사용 효율을 높이면서도 AI 서비스 확장을 촉진하는 방향으로 작용할 가능성이 크다. 메모리 비용 부담이 낮아지면 AI 서비스 진입 장벽이 완화되고, 전체적인 데이터 처리량과 수요는 오히려 증가할 수 있다는 분석이다.

김록호 하나증권 연구원은 “터보 퀀트와 같은 기술은 단순한 메모리 절감이 아니라 AI 인프라 효율을 극대화하는 핵심 기술”이라며 “중장기적으로 메모리 수요의 질적 변화와 함께 산업 전반의 성장성을 높이는 계기가 될 것”이라고 분석했다.

[이투데이/김우람 기자 (hura@etoday.co.kr)]

▶프리미엄 경제신문 이투데이 ▶비즈엔터

이투데이(www.etoday.co.kr), 무단전재 및 수집, 재배포금지