최근 미국 에너지부(Department of Energy, DoE) 자문위원회가 현재보다 에너지 효율이 높은 데이터센터를 만드는 방법을 찾기 위해 AI 테스트베드를 만들 것을 제안했다.

ⓒ Getty Images Bank

<이미지를 클릭하시면 크게 보실 수 있습니다>

이는 좋은 진전이지만, 많은 일이 필요한 작업이다. 지속 가능한 데이터센터를 구현하는 전력 및 냉각 기술을 연구하는 델오로 그룹(Dell'Oro Group)의 연구 책임자인 루카스 베란은 "AI 워크로드를 실행하는 컴퓨팅 작업은 기존의 CPU 기반 범용 컴퓨팅 작업과는 매우 다르다. AI 워크로드는 인프라에 전력을 공급하고 인프라를 냉각하는 방식, 그리고 향후 소비될 에너지의 양에 큰 변화를 초래하고 있기 때문에 변화가 필요하다"라고 말했다.

에너지 생산의 대체 방법을 모색하기 위해 구성된 에너지부 자문위원회는 지난 7월 말 미국 에너지부 장관 제니퍼 그랜홀름에게 제출한 보고서에서 "리드 타임이 1~3년인 300~1,000MW 이상의 대규모 시설에 대한 연결 요청으로 인해 지역 전력망의 전력 공급 능력에 부담을 주고 있다"라고 지적했다.

해당 보고서는 "현재와 중기(2030년 이후)에 중요한 요인은 AI 애플리케이션의 전력 수요 확대다. 하드웨어와 소프트웨어 모두의 발전으로 인해 다양한 종류의 가치 있는 작업을 인간 수준만큼 할 수 있도록 LLM을 개발할 수 있게 됐다. 이런 모델이 점점 더 성장하고 AI 툴이 사회에 더욱 깊숙이 침투함에 따라 향후 LLM을 배포하는 데 필요한 에너지가 크게 증가할 것이라는 우려도 커지고 있다"라고 강조했다.

또한 AI로 인해 전기 및 정보 기술 부문의 잠재적 성장 규모가 매우 크며, 예상되는 전력 수요 증가에 AI가 큰 역할을 한다고 보고서는 덧붙였다.

테스트베드의 목적

보고서에 따르면 AI 테스트베드는 "국립 연구소, 학계, 업계 연구원이 에너지 효율적이거나 에너지 유연한 AI 훈련 및 추론을 위한 알고리즘을 개발하고 평가하는 데 협력하도록 한다. 이는 국가 차원의 AI 역량 발전에 도움이 되며, 고성능 컴퓨팅의 발전을 가속화한 유사한 민관 노력의 성공을 바탕으로 구축할 수 있다"라고 명시되어 있다.

보고서 저자들은 즉각적인 효과를 위해 "장관은 에너지 유틸리티, 데이터센터 개발자 및 운영자, 기타 주요 이해관계자를 소집해 현재의 전력 공급 병목 현상을 해결하는 방법에 대한 적극적인 대화를 시작"해야 하며, "미래에도 AI 리더십을 유지하는 데 필요한 전력을 생성하고 제공하는 방법에 대한 전략을 개발해야 한다"라고 썼다.

베란은 테스트베드를 만들 것을 권장하는 것은 "어떤 인프라가 사용되고 있는지, 얼마나 많은 에너지를 소비하는지 파악하는 측면에서 에너지부에 필요한 첫 단계다. 데이터 포인트를 시작으로 어떻게 개선할 수 있을까? '측정할 수 없는 것을 개선할 수 없다"라는 옛말이 있다. 어딘가에서 시작해 기준 사례를 설정해야 하는데, 이것이 그 시작"이라고 말했다.

베란은 자문위원회가 의견을 구하기 위해 연락을 취한 하이퍼스케일러들은 "AI 워크로드의 전력 수요 관리 측면에서 문제에 직면해 있다. 업계가 문제나 과제를 해결했다기보다는 'AI 워크로드 및 에너지 프로필 요구 사항에 대한 문제를 확인했으니 이제 이에 대한 솔루션을 개발하기 시작해야 한다'는 의미에 가깝다"라고 설명했다. 이런 솔루션은 데이터센터 시설의 설계 방식 변경부터 워크로드 프로필을 수용하기 위한 시스템 변경까지 다양하다.

베란은 특히 에너지 효율 요소를 개선해야 한다고 강조했다. "지난 몇 년 동안 지속 가능성은 매우 중요한 요소였지만, AI 성장 요구 사항 중 일부에 밀려 뒷전으로 밀리기 시작했다. 두 가지를 모두 관리하려는 노력이 중요하다"라고 덧붙였다.

또한 인포테크 리서치 그룹(Info-Tech Research Group)의 AI 시장 조사 책임자인 토마스 랜달은 이메일을 통해 "광범위한 에너지 전략이 없다면 AI 기업이 사용하는 데이터센터를 보유한 국가는 지속적인 CO2 배출 문제, 성장 제한, 에너지 사용 관련 기회비용 문제에 직면하게 될 것"이라고 지적했다.
editor@itworld.co.kr

Paul Barker editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지