16일(현지시간) 미국 캘리포니아주 새너제이의 SAP센터에서 연례 개발자 회의 'GTC 2026' 기조연설을 하고 있는 젠슨 황 엔비디아 CEO. 사진ㅣ연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

인더뉴스 이종현 기자ㅣ"우리를 위해 그록3 LPU 생산을 맡아준 삼성에게 감사하다고 말하고 싶다"

젠슨 황 엔비디아 CEO가 AI 추론용 반도체를 개발하는 스타트업 그록(Groq) 기술을 기반으로 한 AI 반도체를 공개하며 삼성전자[005930]에게 감사 인사를 전했습니다.

이는 삼성전자 파운드리가 엔비디아의 새로운 AI 반도체의 칩 생산을 맡게 되어 나온 발언으로 해석됩니다. 업계에서는 삼성전자와 엔비디아의 협력 관계가 한층 강해졌다는 분석도 나오고 있습니다.

황 CEO는 16일(현지시간) 미국 캘리포니아 새너제이에서 열린 개발자 콘퍼런스 'GTC 2026' 기조연설을 통해 새로운 추론용 칩 '그록3 언어처리장치(LPU)'를 차세대 AI 슈퍼컴퓨터 '베라 루빈'에 통합한다고 밝혔습니다.

'루빈' 그래픽처리장치(GPU)와 LPU의 역할을 나눠 대규모 연산은 GPU가, LPU는 AI의 답변을 처리하도록 효율을 높여 추론용 반도체를 구현한다는 내용입니다.

엔비디아는 이 칩을 256개 묶은 '그록 LPX 랙'을 베라 루빈 GPU 시스템과 통합하면 토큰당 전력 효율이 최대 35배 향상될 수 있다고 설명했습니다.

황 CEO는 AI 에이전트가 등장하면서 필요하게 된 추론의 양이 챗GPT가 처음 등장했을 때의 1만배로 증가했고, 연산량뿐 아니라 사용량까지 고려하면 연산 수요가 100만배 늘어났다면서 "추론의 변곡점이 도래했다"라고 말하기도 했습니다.

AI 모델이 빠른 속도로 발전함에 따라 성능이 크게 개선되면서 '추론'이 중요한 요소로 떠오르고 있습니다. AI 모델에서 추론이란 이미 학습된 AI 모델이 실제 서비스를 수행하는 단계로 빠른 데이터 처리와 생산 능력이 핵심입니다.

이에 엔비디아의 다양한 경쟁사들도 추론 AI 모델 개발에 나서고 있습니다. 구글은 자체 설계한 텐서처리장치(TPU)를 활용해 AI 서비스를 운영하며 한 때 'GPU 다음은 TPU다'라는 말을 들으며 급부상했습니다.

엔비디아는 글로벌 AI 시장에서의 경쟁력을 제고하기 위해 지난해 12월 그록과 약 200억달러 규모의 계약을 체결했습니다. AI 추론에 특화된 칩 기술을 보유한 그록과 협업하는 만큼 엔비디아가 추론 영역에서 경쟁력을 강화할 것이라는 전망입니다.

엔비디아의 주요 칩은 대만 TSMC가 생산하고 있지만 그록 칩은 삼성전자가 생산하고 있으며 엔비디아 GPU와 달리 고대역폭메모리(HBM)도 필요하지 않습니다.

황 CEO는 '루빈'의 다음 세대 GPU인 '파인만'도 소개했습니다. 파인만은 '로자'라는 새 CPU와 함께 구동되며 LP40 LPU를 탑재할 예정입니다.

황 CEO는 "2027년까지 엔비디아의 AI 칩 매출 기회가 최소 1조달러(약 1500조원)에 달할 것"이라고 전망했습니다.

황 CEO는 AI 에이전트를 위한 인프라와 하드웨어뿐 아니라 소프트웨어까지 엔비디아가 제공하는 종합 AI 에이전트 생태계를 제시했습니다.

또한, AI 에이전트 플랫폼 '오픈클로'를 개선해 엔비디아 생태계에 편입시킨 '네모클로'도 함께 소개했습니다.

오픈클로는 마치 인간이 하는 것처럼 컴퓨터나 시스템에서 직접 작업을 수행하는 AI 도구로 각광받았지만 내부 정보가 에이전트를 통해 유출될 수 있다는 보안 위험이 제기된 바 있습니다.

이에 엔비디아는 네모클로에 '오픈셸' 등 안전장치를 추가 적용해 AI가 실수로 중요 정보를 유출하지 않도록 감시하는 기능을 추가했다고 강조했습니다.

젠슨 황 CEO는 "오늘날 모든 기업은 '오픈클로' 전략이 필요하다"라며 현재를 '에이전트 AI의 챗GPT 순간', '기업의 르네상스' 등에 비유했습니다.

Copyright @2013~202６ iN THE NEWS Corp. All rights reserved.