아시아태평양경제협력체(APEC) 정상회의를 계기로 한국을 찾은 젠슨 황 엔비디아 최고경영자(맨 오른쪽)가 2025년 10월30일 서울 삼성동 한 치킨집에서 진행된 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 치맥 회동 중 기념사진을 찍고 있다. 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

▶이코노미 인사이트 구독하기 http://www.economyinsight.co.kr/com/com-spk4.html

참으로 화려한 비즈니스 쇼였다. 전세계 시가총액 1위인 엔비디아의 젠슨 황 최고경영자(CEO)가 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 보통 사람처럼 치킨집에 앉아 치맥을 즐겼다. 엔비디아 공식 유튜브 채널에는 한국을 향한 헌정 영상이 올라왔다. 산업화와 정보화를 성공적으로 이룬 국가이며 인공지능(AI)도 선도할 거라는 내용이었다. 같은 기간 경북 경주에서는 ‘2025 아시아태평양경제협력체(APEC)’ 정상회의가 열렸다. 국운이 걸린 한-미 관세협상, 한-미, 한-중, 한-일, 미-중 정상회담이 연이어 이뤄졌다. 관점에 따라 다르겠지만 대체로 성공적이라는 평가를 받으며 여러모로 ‘국뽕’이 차오르는 시간이었다.

한껏 취한 흥분을 가라앉히고 실제로 벌어지는 일을 돌아본다. 한국 정부와 삼성, 현대, 에스케이(SK), 네이버는 엔비디아로부터 최신 AI 반도체 26만 장을 사기로 했다. AI 산업을 육성하려는 모든 기업과 국가가 엔비디아의 그래픽처리장치(GPU)를 사고 싶어 한다. 중국은 최신 GPU를 사고 싶어도 미국 정부의 견제로 살 수가 없다. 중동도 엔비디아 GPU를 구매하지 못하다가 도널드 트럼프 미국 대통령의 방문 이후 구매가 ‘허용’됐다. 꼭 외교적 이유가 아니더라도 엔비디아의 GPU 생산 역량은 제한돼 있다. GPU를 사려는 기업이 줄 서 있어 빅테크라고 하더라도 충분한 양을 제때 공급받기가 쉽지 않다.

2025년 5월까지만 해도 한국 정부가 확보하려던 목표 수량은 1만 장 정도였다. 이재명 정부 출범 이후 현업에서 직접 AI 파운데이션 모델을 개발해온 배경훈 엘지(LG) AI연구원 원장을 과학기술정보통신부 장관 겸 과학기술부총리로 선임하고 더 적극적으로 AI를 육성하겠다고 세운 목표가 2030년까지 5만 장이었다. 2030년까지 확보하려던 GPU를 이번 한 번에 확보하게 됐으니, 그 자체로 성과라고 하면 성과다. GPU가 없으면 AI를 할 수 없다.

과기부는 현재 국내 독자 AI 파운데이션 모델을 만들기 위한 ‘월드 베스트 엘엘엠’(World Best LLM) 정책을 진행하고 있다. 네이버클라우드, 업스테이지, 에스케이텔레콤(SKT), 엔씨에이아이(NC AI), 엘지(LG) AI연구원 등 5개 업체가 세계적인 AI 모델을 만들기 위해 경쟁하고 있다. 참여 기업에 정부는 GPU 인프라, 데이터세트 등을 제공한다. 부끄러운 이야기지만, 정부는 GPU가 없어 참여 기업인 네이버와 SK텔레콤에서 빌려 쓰고 있다.

한국이 현재 보유한 수량은 기종 불문하고 3만 장 남짓이다. 2022년 ‘챗지피티(ChatGPT) 모멘트’ 이후 너도나도 AI를 입에 달고 살지만 가장 기본이 되는 GPU 투자는 하지 않았다. 국내 최고 이공계 인재를 육성해야 할 카이스트조차 AI를 책으로 가르치고, 실습은 학생이 각자 알아서 해야 하는 것이 현실이다. 스마트폰부터 텔레비전, 가전제품 등으로 모든 삶의 공간을 AI로 연결하겠다는 삼성전자도, 자율주행과 로보틱스의 세계 최고 기업이 되겠다던 현대자동차도 가장 기본이 되는 GPU 인프라를 구축하지 않았다. 대한민국 모두가 컴퓨터 없이 PC 시대를 준비한다며, 또한 통신망도 깔지 않고 인터넷 시대를 준비한다며 떠들었던 셈이다.

AI 시대를 관통하는 열쇳말은 크면 클수록 좋다는 ‘스케일의 법칙’(Scale-Law)이다. 오픈에이아이(OpenAI)는 당시 누구도 도전해보지 않았던 1750억 개의 파라미터에 도전하며, 모델이 클수록 AI의 정확도가 높아진다는 사실을 증명했다. 이후 AI 생태계는 ‘크기 경쟁’이 진행됐다. 모델이 클수록 이를 처리할 GPU가 더 많이 필요하다. GPU 없이 AI를 한다는 것은 불가능하다. 수십조원, 수백조원을 우습게 이야기하는 시대가 됐다. 상황에 따라 좀더 효율적으로 AI를 구현하려는 다양한 기법이 제안되지만, ‘스케일의 법칙’이라는 근간은 변함이 없다.

한국을 비롯한 대부분 국가와 기업이 그동안 투자는 하지 않고 말로만 AI를 한 이유는 명확하다. AI로 당장 돈을 벌 방법이 없기 때문이다. AI의 가능성은 무궁무진하지만 가능성의 영역일 뿐이다. 오픈에이아이의 2025년 상반기 매출액은 43억달러(약 6조2천억원)로 2024년 전체 매출액을 넘어섰다. 하지만 운영비만 11조원에 달해 상당한 손실을 보았다. 챗지피티 유료 이용자가 많기는 하지만, 이용자가 내는 돈은 GPU를 돌리는 데 들어가는 전기요금에도 못 미친다.

오픈에이아이는 2030년까지 연매출 2천억달러(약 290조원)를 달성할 것이라고 전망했다. 그런데 2025년부터 2030년 말까지 서버 비용만 누적 4500억달러(약 654조2천억원)에 이를 것으로 예상했다. 샘 올트먼 CEO가 전세계를 누비며 주로 하는 일이 돈을 구하는 것이다. 소프트뱅크, 엔비디아, 중동 국부펀드로부터 돈을 구해 GPU를 사는 게 그의 최대 미션이다.

GPU를 산다고 해서 AI 서비스가 자동으로 만들어지고 돈을 벌 수 있는 것이 아니다. 치열한 AI 전쟁 속에 세계 최고가 되지 못하면 장렬히 전사할 수도 있다. 사람들이 만족하며 기꺼이 지갑을 열 AI 서비스가 뭔지 아무도 모르는데, GPU를 사려면 막대한 돈이 든다. 이번에 26만 장의 GPU를 확보하는 데도 약 14조원이 필요한 것으로 추산된다. GPU가 없으면 AI를 할 수 없지만, GPU가 있다고 AI가 되는 것은 아니다.

이재명 대통령이 2025년 6월20일 울산전시컨벤션센터에서 열린 울산 인공지능(AI) 데이터센터 출범식에 참석하고 있다. 이 자리에서 최태원 SK그룹 회장은 이 대통령에게 “정부가 수요자가 돼달라”고 요청했다. 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

한국에는 정말 GPU가 필요할까? 수많은 AI 스타트업이나 연구자를 만나보면 GPU가 필요하다고 입을 모은다. 당연하다. 컴퓨터 프로그래머에게 컴퓨터가 필요하냐고 묻는 것과 마찬가지다. 반면 GPU를 확보해 데이터센터 사업을 하려는 사람은 국내에 GPU 수요가 없다고 이야기한다. 2025년 6월 이재명 대통령은 SK그룹과 아마존웹서비스(AWS)가 AI 데이터센터를 짓고 있는 울산을 방문했다. 그 자리에서 최태원 SK그룹 회장은 이 대통령에게 “정부가 수요자가 돼달라”고 요청했다. 오죽 쓸 사람이 없으면 정부가 써달라고 요청했을까.

이런 모순적 상황이 발생하는 것도 돈 때문이다. GPU를 필요로 하는 사람은 무료로 혹은 저렴하게 사용할 수 있는 GPU를 원한다. GPU를 활용해 만들어내는 AI 모델이나 서비스로 수익을 낼 수 없기 때문에 최소한의 비용으로 GPU를 활용하고 싶은 것이다. GPU 공급자는 적정 비용을 내고 GPU를 쓸 수요자가 필요하다. 수조원을 투자해 GPU 데이터센터를 만들었는데 공짜로 제공할 수는 없는 노릇이다. 돈을 벌 수 없으니 투자가 없고, 투자가 없으니 인프라가 없고, 인프라가 없으니 아무것도 할 수 없는 대한민국의 현실이다.

SK그룹은 7조원을 투자해 울산에 100메가와트(㎿) 규모의 데이터센터를 구축하고 있다. 과연 100㎿ 데이터센터를 사용할 만한 수요가 있을까? 최태원 회장은 “대한민국이 현재 가진 AI 수요는 10~20㎿ 정도 된다. 기업 간 비투비(B2B), 에이전트AI에 들어가면 미래 수요가 확 올라갈 거니까 적절한 시점에 잘 들어왔다고 생각한다”고 말했다. SK그룹은 울산 데이터센터를 1기가와트(GW)까지 확대할 계획이다. 한국 AI 생태계가 적절한 비용을 내고 GPU를 사용할 수요가 100배로 늘어나리라는 미래에 SK그룹은 베팅한 것이다.

현실을 보면 엄두가 안 나지만 한국은 가능성이 큰 국가다. AI 기술 발전을 위해서는 데이터가 매우 중요하다. 기계가 인간을 대체하게 하려면, 인간 세상의 데이터가 필요하다. 온라인 데이터라면 영어가 많고 미국 빅테크가 압도적인 데이터를 확보하고 있다. 현실 데이터는 다르다. 미국이 한국에서 가장 탐내는 분야는 제조업이다. 한국은 조선, 방위산업, 원전, 반도체, 기계 등 최고 수준의 다양한 제조업 생태계가 있다. 그 아래에는 금형, 사출, 열처리 등 뿌리 산업이 자리하고 있다. 현실 영역에 AI가 진입하려면 그 데이터가 필요하다. 피지컬AI를 선도해 이끄는 젠슨 황이 굳이 한국에 우선해 GPU를 공급하는 이유다.

GPU 26만 장을 확보하게 된 것은 긍정적이지만 너무 흥분할 일은 아니다. 지금까지 말로만 AI를 외쳤지만 기초 인프라 투자도 하지 않았던 현실이 대비됐을 뿐이다. 그렇다고 아무 일도 아니라고 폄하할 일도 아니다. 이제 본격적인 투자가 이뤄졌고, 출발선에 섰으니 말이다. 그동안 말로만 하던 AI는 끝났다. 이제 정말 돈이 들어갔고, 이제 제대로 글로벌 AI 3강으로 도약할 시작점에 섰다.

권순우 삼프로TV 취재팀장 soon@3protv.com