컨텐츠 바로가기

    02.26 (목)

    [김경진의 AI전략노트] 〈22〉한국 AI 인프라, 흩어놓으면 죽고 모으면 산다

    댓글 첫 댓글을 작성해보세요
    주소복사가 완료되었습니다
    한국이 엔비디아로부터 확보한 그래픽처리장치(GPU)는 총 26만장입니다. 네이버 6만장, 삼성 5만장, SK 5만장, 현대차 5만장, 정부 5만장. 숫자로만 보면 괜찮아 보입니다.

    해외를 봅시다. 메타는 2025년 말 기준 130만장의 GPU를 운용하고 있습니다. xAI는 멤피스에 '콜로서스'라는 이름의 슈퍼클러스터를 세웠는데, 20만장의 GPU가 돌아가고 있고 100만장까지 확장할 계획입니다. 앤트로픽은 구글 클라우드와 수십조원 규모의 계약을 맺고 TPU칩 최대 100만개에 접근권을 확보했습니다. 마이크로소프트는 2026년도 설비투자 예산으로 190조원 이상을 편성했고, 구글 알파벳은 244조원, 아마존은 270조원입니다. 빅테크 5개사의 2026년 인공지능(AI) 인프라 투자액 합산은 약 880조원. 한국 GDP의 절반에 가까운 돈입니다.

    이런 상황속에서 26만장으로 무엇을 할 수 있을까요. 문제는 이 26만장마저 다섯 곳으로 나뉘어 사용된다는 사실입니다. 네이버는 하이퍼클로바를, 삼성은 가우스를, SK와 현대차는 각자의 사업에 씁니다. 정부 몫 5만장은 별도구요.

    xAI가 그록(Grok)-4를 학습시킬 때 단일 클러스터에 H100, H200, GB200을 혼합해 20만장을 투입했습니다. 오픈AI의 GPT-5 학습에도 5만장 이상이 쓰인 것으로 알려져 있습니다. 한국의 어떤 기업도 단독으로 이 규모에 도달할 수 없습니다. 5만장이든 6만장이든, 따로 쓰면 프런티어 모델 학습에는 턱없이 부족합니다.

    답은 하나입니다. 모아야 합니다.

    통합에는 두 개의 축이 필요합니다. 물리적 집중과 운용의 통합입니다. 대규모 AI 모델을 학습시키려면 수만장의 GPU가 초고속 전용 회선으로 연결된 채 한 곳에 있어야 합니다. xAI가 멤피스 한 곳에 20만장을 몰아넣은 것도 이 때문입니다. 한 곳에 모든 GPU를 집결시켜 대규모 학습 전용 클러스터를 구축해야 합니다.

    GPU 사용은 중앙 시스템이 자원 배분을 조율합니다. 결국 특수목적 법인을 만들어 기업간 조율을 해야 합니다. 기업마다 GPU 수요의 피크 시간이 다르고, 학습 주기가 다릅니다. “네이버가 오늘 대규모 학습을 돌리지 않으니 유휴 GPU를 스타트업에 할당하자” “삼성의 남는 자원으로 대학 연구팀을 지원하자” 같은 운용이 가능해지면, 통합 스케줄링만으로도 전체 가동률을 크게 올릴 수 있습니다.

    이 일을 할 수 있는 주체는 정부밖에 없습니다. 네이버가 삼성에 “GPU를 합칩시다”라고 제안할 수 없습니다. 경쟁 관계에 있는 민간 기업들이 자발적으로 핵심 자산을 공유하는 일은 일어나지 않습니다. 정부가 특수목적법인이나 주식회사 형태의 '국가 AI 컴퓨팅 공사'를 설립하고, 각 기업이 GPU를 현물 출자하거나 사용권을 위탁하는 구조를 만들어야 합니다. 기업에는 출자 비율에 따른 우선 사용권과 수익 배분권을 보장하고, 유휴 자원은 스타트업과 연구기관에 할당합니다. 규모의 경제(economies of scale)가 비로소 작동하기 시작합니다.

    중국은 미국의 수출 규제로 최첨단 GPU를 구하지 못하는 상황에서도 250개 이상의 지능 컴퓨팅 센터를 건설하고 자체 칩 생태계를 키우고 있습니다. 부족한 자원을 최대한 효율적으로 쓰기 위해 국가가 직접 나선 것입니다. 한국은 엔비디아 칩을 살 수 있습니다. 살 수 있는 것과 제대로 쓰는 것은 다른 문제입니다.

    26만장을 기업별로 나눠 별개로 사용한다면 이는 사일로에 갇히는 것입니다. 전쟁터에 소총 다섯 자루를 들고 나가면서 한 자루씩 따로 쏘겠다는 것과 같습니다. 모아야 합니다. 학습 자원은 물리적으로 한곳에, 나머지는 운용체계로 하나에. 그 일은 국가만이 할 수 있습니다. 그리고 그래야만 대한민국이 AI 패권전쟁에서 뒤처지지 않을 것입니다.

    전자신문

    김경진 전 국회의원


    김경진 전 국회의원 2016kimkj@gmail.com

    [Copyright © 전자신문. 무단전재-재배포금지]


    기사가 속한 카테고리는 언론사가 분류합니다.
    언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.