시장조사업체 포레스트의 2023년 인프라 클라우드 조사에 따르면, 설문에 참여한 약 1,300명의 기업 클라우드 의사결정권자 중 79%가 프라이빗 클라우드를 쓰고 있다. 또다른 시장조사업체 IDC는 호스팅 프라이빗 클라우드를 포함한 프라이빗 전용 클라우드 서비스에 대한 전 세계 투자가 2024년 기준 204억 달러이고, 2027년에는 최소 두 배 이상 증가할 것으로 전망한다. 하드웨어, 소프트웨어, 지원 서비스를 포함한 엔터프라이즈 프라이빗 클라우드 인프라에 대한 전 세계 투자는 2024년에 518억 달러에 달하고 2027년에는 664억 달러로 늘어날 것이다.

ⓒ Getty Image Bank

<이미지를 클릭하시면 크게 보실 수 있습니다>

물론 퍼블릭 클라우드 서비스 시장과 비교하면 다윗과 골리앗이다. AWS, 마이크로소프트, 구글 등 3대 퍼블릭 클라우드 업체의 2024년 예상 매출만 8,157억 달러다.

AI의 부상

하지만 상대적으로 규모가 작다고 해도 프라이빗 클라우드가 재부상하는 것은 분명한 사실이고 이를 주도하는 것이 바로 AI다. 퍼블릭 클라우드 서비스 업체가 제공하는 기능이 오픈소스 프라이빗 클라우드 시스템이나 오늘날 엔터프라이즈 하드웨어 업체에서 제공하는 것보다 훨씬 뛰어난 것이 사실이다. 그러나 AI 워크로드가 보편화되고 복잡해짐에 따라 많은 기업이 퍼블릭 중심의 클라우드 전략을 재검토하고 있다. 실제로 오늘날 엔터프라이즈 아키텍트 사이에서는 하이브리드 클라우드 인프라로 전환해야 한다는 공감대가 확산하고 있다.

주된 이유는 클라우드와 AI 기술과 관련된 비용이다. 퍼블릭 클라우드 서비스가 온프레미스보다 더 많은 비용이 든다는 것이 점점 사실로 입증되고 있으며, 일부 CIO는 클라우드 리소스 비용이 예상치의 2.5배에 달하는 이유를 해명하느라 난처한 상황이다. 그 결과가 현재 나타나는 프라이빗 클라우드로의 전환이다. 델 APEX와 HPE 그린레이크(현재 생성형 AI 지원 기능 탑재) 같은 제품이 대표적이고, 이 외에도 다양한 프라이빗 클라우드 서비스 업체의 제품이 있다. 더구나 기존 온프레미스 시스템 대부분은 '프라이빗 클라우드'라고 선언하는 것만으로도 프라이빗 클라우드 시장에 진입할 수 있다.

보안에 대한 잘못된 인식

그러나 프라이빗 클라우드에 대해 더 냉정하게 평가하고 검토할 부분이 많다. 일단, 프라이빗 클라우드 플랫폼은 연산 능력, 심지어 GPU까지 지원해 AI 워크로드를 처리하는 데 필요한 유연성을 제공한다. 또한, 데이터 프라이버시, 보안에 대한 엄격한 통제도 지원한다고 주장한다. 하지만 사실 이런 보안은 감정적인 측면이 더 크다. 대부분의 경우 퍼블릭 클라우드 서비스 업체는 자체 솔루션에 더 많은 투자를 하기 때문에 더 강력한 보안을 제공한다.

AI의 부상으로 데이터 보안, 특히 기업 데이터가 실수로 퍼블릭 AI 모델에 입력될 위험에 대한 우려는 어떨까? 이 역시 실제와 다른 부분이 많다. 퍼블릭 클라우드 서비스 업체가 '실수로' 기업 데이터에 접근하고, 이를 이용해 AI 모델을 학습시키는 상황은 사실상 불가능하다. 이런 엄청난 규모의 스캔들을 감당할 업체는 없을 것이다. 그럼에도 많은 기업이 프라이빗 클라우드가 통제된 환경 내에서 '민감한 데이터'를 보관할 수 있는 매력적인 대안이라고 생각한다.

직면한 과제

프라이빗 클라우드에 대해 고려해야 할 점은 또 있다. 예를 들어, 대규모 AI 작업에는 GPU 기반 서버 같은 특수 하드웨어가 필요하다. 이는 비용이 많이 들고 더 강력한 전력, 냉각 시스템으로 이어진다. 기업은 이런 장비 업그레이드 관련 기술과 비용을 제대로 파악하지 못하고 있는데, 대부분의 경우 퍼블릭 클라우드 서비스 업체에서 AI 워크로드를 실행하는 것보다 더 비쌀 가능성이 크다. 코로케이션 데이터센터 내에 프라이빗 클라우드를 구축하는 에퀴닉스(Equinix) 같은 솔루션이 있는데, AI 인프라 요구 사항을 처리할 수 있는 특별한 장비를 갖추고 있다는 점에서 직접 구축하는 것보다 합리적일 수 있다.

중요한 것은 방향성이다. 언젠가 기업은 데이터센터 운영에서 완전히 손을 떼고 더 나은 옵션을 제공하는 퍼블릭 클라우드 업체, 코로케이션 업체 혹은 매니지드 서비스 업체에 의존해야할 것이다.

그렇다면 현재 프라이빗 클라우드의 재부상은 어떻게 봐야 할까? 프라이빗 클라우드는 항상 아키텍트들이 고려하는 옵션이다. 프라이빗 클라우드는 꼭 맞는 용도가 있으며, 비용 효율성이 더 높거나 비즈니스에 더 많은 가치를 제공한다면 AI를 사용하든 사용하지 않든 도입하지 않을 이유가 없다. 필자는 AI 기술과 애플리케이션이 계속 발전함에 따라 프라이빗 클라우드에 대한 선호가 더 뚜렷할 것으로 예상한다. 엔터프라이즈 IT 업체는 새로운 성장 동력이 될 것이다. 모두 AI 덕분이다.
editor@itworld.co.kr

David Linthicum editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지