AI 메모리 사용량 최대 6분의 1로 줄이는 신기술
반도체 시장 즉각 출렁…HBM 성장 기대에 균열
"비용 낮아지면 오히려 수요 늘어"…반론도 확산

<이미지를 클릭하시면 크게 보실 수 있습니다>

구글이 인공지능(AI) 메모리 사용량을 획기적으로 줄이는 신기술을 내놓으면서 반도체 시장이 크게 출렁였다. 삼성전자와 SK하이닉스, 마이크론 등 메모리 기업 주가가 급락, 'AI 시대=메모리 수요 폭증'이라는 공식이 흔들릴 수 있다는 우려가 확산됐다.

다만 업계 안팎에서는 이번 기술을 단순한 수요 감소 요인으로 보기 어렵다는 분석도 나온다. 오히려 AI 운영 비용을 낮춰 시장 진입 장벽을 완화하고, 결과적으로 AI 시장 자체를 키우는 변곡점이 될 수 있다는 평가다.

'터보퀀트'가 뭐길래?

구글 리서치는 최근 AI 압축 알고리즘 '터보퀀트(TurboQuant)'를 공개했다. AI가 답변을 만드는 과정에서 사용하는 메모리를 크게 줄이면서도 성능은 유지하는 것이 핵심이다. 메모리 사용량은 최대 6분의 1 수준으로 줄이고 처리 속도는 최대 8배까지 높일 수 있는 것으로 알려졌다.

이 기술을 이해하려면 AI의 작동 구조부터 짚을 필요가 있다. 생성형 AI는 질문을 받으면 이전 대화와 맥락을 계속 참고해 답을 만든다. 이때 필요한 정보는 'KV 캐시'라는 임시 메모리에 저장된다. AI는 단어와 이미지 등 정보를 '고차원 벡터' 형태로 변환해 처리하는데 해당 벡터 안에 맥락 정보가 담긴다. 문제는 대화가 길어질수록 이 데이터가 급격히 늘어나면서 막대한 메모리를 요구한다는 점이다. 그간 AI 산업이 더 많은 메모리와 반도체를 필요로 해온 배경이다.

터보퀀트는 이 병목을 정면으로 겨냥했다. 핵심은 '정보를 유지한 채 극단적으로 압축하는 것'이다. 데이터를 더 단순한 형태로 표현해 저장 크기를 줄이고, 복잡한 수치 대신 핵심 정보만 남겨 간결하게 기록한다. 또 모든 중간 계산 결과를 저장하지 않고 필요할 때 다시 계산하는 구조를 택했다. 메모리를 덜 쓰는 대신 연산을 더 수행하는 구조다.

대표적인 기술이 '폴라퀀트'다. 기존에는 데이터를 좌표 형태로 일일이 저장했다면, 이를 '각도와 거리' 개념으로 바꿔 더 적은 정보로 표현한다. 가령 '동쪽으로 3칸, 북쪽으로 4칸 이동'이라는 정보를 '37도 방향으로 5칸 이동'으로 바꾸는 식이다. 복잡한 데이터를 더 간결하게 압축하는 방식이다.

압축 과정에서 생길 수 있는 미세한 오류는 'QJL(양자화 존슨-린덴스트라우스 변환)' 기술로 보정한다. 극히 적은 데이터만으로 오차를 잡아내는 일종의 정밀 보정 장치다. 이 덕분에 메모리를 크게 줄이면서도 정확도를 유지할 수 있다는 것이 구글 측 설명이다. 한인수 KAIST 전기·전자공학부 교수도 해당 연구에 참여했다.

발표 직후 시장은 민감하게 반응했다. 메모리 사용량이 줄어들 경우 데이터센터의 반도체 수요가 감소할 수 있다는 우려가 확산됐기 때문이다. 실제 삼성전자와 SK하이닉스, 마이크론 등 주요 메모리 기업 주가는 일제히 하락했다. 업계 일각에서는 "AI 병목을 하드웨어가 아닌 소프트웨어가 풀기 시작한 신호"라는 평가가 나왔다.

덜 쓰는데 더 커진다

다만 시장의 우려가 과도하다는 반론도 적지 않다. 터보퀀트는 아직 논문 단계 기술로 상용화까지는 시간이 필요하다. 실제 데이터센터 환경에서 동일한 성능을 구현할 수 있을지도 검증이 남아 있다.

오히려 장기적으로는 반대 효과가 나타날 가능성이 크다는 분석이 힘을 얻는다. 메모리 사용량이 줄어들면 AI 운영 비용이 낮아지고 이는 더 많은 기업과 서비스의 AI 도입을 촉진한다. 비용이 낮아질수록 수요가 늘어나는 '제번스의 역설'이 적용될 수 있다는 것이다. 결과적으로 AI 도입의 수익성이 높아지면서 전체 시장 규모가 확대될 가능성이 크다는 평가다.

과거에도 유사한 흐름이 있었다. 저비용 AI 모델 '딥시크' 등장 당시 시장은 일시적으로 흔들렸지만 이후 AI 투자와 반도체 수요는 오히려 확대됐다. 이번 터보퀀트 역시 단기 충격 이후 수요 확대 국면으로 이어질 수 있다는 전망이 나오는 이유다.

여기에 현재 메모리 시장이 여전히 공급 제약 상태라는 점도 변수다. 글로벌 빅테크 기업들은 장기 계약을 통해 메모리 확보에 나서고 있으며 AI 데이터센터 투자도 확대되고 있다. 효율 기술 하나만으로 수요 구조가 급격히 꺾이기는 어렵다는 분석이다.

이종환 상명대 시스템반도체공학과 교수는 "이번 반응은 다소 과민한 측면이 있다"며 "아직 충분히 검증된 기술이 아닌 데다 오히려 AI 시장 자체를 키우는 요인이 될 수 있다"고 말했다. 이어 "메모리를 덜 쓰게 되면 비용이 낮아지고 그만큼 AI 활용이 늘어 전체 수요가 커질 수 있다"며 "삼성전자나 SK하이닉스의 투자 방향에 큰 변화가 생길 가능성은 크지 않다"고 설명했다.

김동원 KB증권 리서치본부장도 "효율 혁신이 오히려 수요를 늘리는 사례는 과거에도 반복됐다"며 "1990년대 인터넷 확산 초기에는 종이 사용이 줄어들 것으로 예상됐지만 실제로는 PC와 프린터 보급 확대, 웹 문서 출력 증가로 종이 소비가 오히려 급증했다"고 말했다. 이어 "터보퀀트 역시 AI 비용을 낮춰 도입을 확대시키는 방향으로 작용할 가능성이 크다"며 "효율 개선이 수요 감소가 아닌 전체 시장 확대를 이끄는 흐름이 나타날 수 있다"고 덧붙였다.

ⓒ비즈니스워치(www.bizwatch.co.kr) - 무단전재 및 재배포금지