샘 알트만 오픈AI 최고경영자(CEO)가 지난 5월 미국 시애틀에서 열린 마이크로소프트의 연례 개발자 콘퍼런스 ‘빌드’에서 발언하고 있는 모습. AI 에이전트 서비스 챗GPT 개발사인 오픈AI는 최근 유료 구독자를 대상으로 자사 검색 엔진 ‘챗GPT 서치’를 출시했다. <사진=AFP>

<이미지를 클릭하시면 크게 보실 수 있습니다>

글로벌 데이터 클라우드 전문 기업 클라우데라가 12일 ‘2025년 3대 주요 기술 전망’을 발표했다.

클라우데라는 내년에도 인공지능(AI)과 생성형 AI가 가진 잠재력에 대해 낙관론이 우세하겠지만, 기업 경영진과 이사회는 AI에 쏟아부은 투자금에 대해 실질적 성과를 가져오라는 압박을 높일 것으로 전망했다.

최승철 클라우데라코리아 지사장은 “많은 한국 기업들이 데이터를 클라우드에 이동시키며 디지털 트랜스포메이션을 꾀하고 있다”면서도 “그러나 맹목적인 클라우드 전환은 진정한 디지털 트랜스포메이션이라고 볼 수 없다”고 말했다.

그러면서 그는 “보안, 거버넌스, TCO(총소유비용)를 고려해 데이터의 위치를 다양하게 배치하고 하이브리드 클라우드 환경에서 데이터를 통합적으로 분석해야한다”며 “이를 먼저 진행해야 정확하고 스마트한 생성형 AI를 활용한 경쟁 우위를 선점할 수 있다”고 강조했다.

이 때문에 내년에는 신뢰할 수 있는 데이터 플랫폼을 우선 확보하고 그 기반 위에서 생성형 AI에 도입해 실질적인 인사이트를 도출하는 것이 핵심 과제가 될 것이라는 관측이다.

최수연 네이버 대표는 최근 서울 삼성동 코엑스에서 열린 통합 콘퍼런스 ‘단 24’ 현장에서 자사 서비스 전반에 생성형 AI를 본격 탑재하며 수익화에 나선다고 발표했다. <사진=네이버>

<이미지를 클릭하시면 크게 보실 수 있습니다>

생성형 AI 거품 꺼진다...“실용적인 방식으로 접근해야”

클라우데라는 내년이야말로 생성형 AI를 활용해 성과를 거두는 기업과 아닌 기업으로 나눠질 것이라고 내다봤다.

최근 맥킨지(McKinsey)에서 실시한 글로벌 시장조사에 따르면, 기업 중 65%가 생성형 AI를 사용하고 있다고 답했다. 생성형 AI를 적용한 기업은 인적 자원 비용 절감, 수익 증대 등 실질적 혜택을 얻은 것으로 나타났다.

실제로 은행과 같은 금융 서비스 기관은 생성형 AI를 초기부터 사용해왔다. 상당수 기업은 규칙 기반 시스템에서 모델 기반 시스템으로 사기 탐지 방법을 전환함에 따라 산업 전반에 걸쳐 눈에 띄는 변화를 보이고 있다.

클라우데라는 “생성형 AI의 진정한 가치는 대규모 지식과 인사이트 획득에 있기 때문에, 신뢰할 수 있는 데이터 없이는 온전한 AI 모델을 구현하기 어렵다”면서 “따라서 신뢰할 수 있는 데이터를 기반해 실행 가능한 인사이트를 얻을 수 있는 기업이 AI로부터 가장 많은 혜택을 누릴 것”이라고 설명했다.

상대적으로 생성형 AI를 활용하지 못한 기업은 전통적 AI 또는 결정론적 머신러닝 모델로 전환해 효율성과 생산성을 높이려 할 것이라고 이 회사는 내다봤다.

정신아 카카오 대표가 지난 10월 22일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 컨퍼런스 ‘이프카카오(if kakao) AI 2024’에서 ‘카나나’ 신규 브랜드로 통하는 새로운 AI 서비스 라인업에 대해 설명하고 있다. <사진=카카오>

<이미지를 클릭하시면 크게 보실 수 있습니다>

“하이브리드 클라우드 인프라 구축 그 이상을 봐라봐야”

클라우데라는 또 “올해는 생성형 AI를 시범 운영한 한 해였다면, 2025년에는 기업들이 생성형 AI를 통한 본격적인 생산 및 확장에 나서는 해가 될 것”이라고 관측했다.

이를 위해 하이브리드 클라우드 인프라를 구축하는 것만으로는 충분치 않고, 데이터 분석을 위한 멀티 클라우드 또는 하이브리드 기능이 필수적이라는 주문이다.

회사 관계자는 “하이브리드 환경 증가로 기업은 온프레미스, 메인 프레임, 퍼블릭 클라우드, 엣지 등 여러 위치에 데이터를 분산한다”면서 “기업은 데이터 위치와 무관하게 생성형 AI 모델을 도입하고 데이터와 워크로드를 원활하게 이동시키며 필요한 가치 있는 인사이트를 도출할 수 있어야 한다”고 조언했다.

이와 함께 수많은 데이터가 AI 모델 서비스로 유입됨에 따라, 보안과 거버넌스 또한 핵심 이슈로 부상할 것이란 관측이다.

최근 딜로이트(Deloitte) 조사에 따르면, 기업의 생성형 AI 도입에 직면한 가장 큰 장벽은 규정 준수 위험과 거버넌스 문제다. 이로 인해 온프레미스와 클라우드 데이터 소스를 모두 포함하는 하이브리드 데이터 통합 관리 플랫폼에 대한 수요가 커질 것으로 보인다.

마이크로소프트의 AI 에이전트 서비스 ‘코파일럿’ 이미지 컷. <사진=로이터>

<이미지를 클릭하시면 크게 보실 수 있습니다>

“기업은 퍼블릭 LLM 보다 프라이빗 LLM을 선호할 것”

2025년에는 엔터프라이즈 AI 혁신이 중심 화두가 되면서 기업들은 퍼블릭 대규모 언어 모델(LLM) 대신 기업의 수요에 부합하고 적합한 인사이트를 제공할 수 있는 프라이빗 LLM을 선호하게 될 것이란 전망이다.

최근 맥킨지 조사에 따르면 자체 모델을 대폭 커스터마이징하고 개발하는 기업은 47%에 불과하지만, 2025년에는 기업들이 비즈니스와 산업에 맞는 AI 기반 챗봇, 가상 비서, 에이전트 애플리케이션을 개발함에 따라 상황이 변화할 것으로 예상된다.

클라우데라는 “더 많은 기업들이 프라이빗 LLM을 배포하면서 뛰어난 성능을 위해 기존 CPU보다 GPU를 고려하고 향상된 보안, 개인정보 보호 기능을 갖춘 강력한 데이터 거버넌스 시스템을 요구할 것”이라며 “또한 현장 지원, 인적 자원 관리, 공급망 분야의 최종 사용자에게 더 정확하고 신뢰할 수 있는 데이터 저장소로 일반 LLM을 전환하기 위해 검색증강생성(RAG) 사용을 확대할 것”이라고 전했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]