AI PC는 클라우드 및 데이터센터 AI 인스턴스를 사용할 때 기업이 직면하는 주요 문제(비용, 보안, 개인 정보 보호 문제 등)를 해결할 수 있다.

이미 거의 모든 기업이 이미 클라우드 기반 AI 플랫폼을 사용 중이거나 사용을 계획하고 있다. 동시에 여러 가지 이유로 인해 지연되는 프로젝트도 상당수다.

AMD가 후원한 IDC의 새로운 조사에 따르면, AI PC의 사용 비율은 2023년 5%에서 2028년에는 94%로 증가할 것으로 예상된다. 이번 조사에는 미국, 영국, 프랑스, 독일, 일본에 있는 대기업에서 근무하는 670명의 IT 의사 결정자가 참여했다. 지난해 11월에 실시한 설문 조사에서는 응답자의 97%가 향후 더 많은 직원에게 AI를 배포할 계획이라고 답했다.

IDC의 기기 및 소비자 연구 담당 그룹 부사장 톰 마이넬리는 기업의 AI PC 배포가 AI 기능의 민주화를 향한 광범위한 추세를 반영하며, 기능과 직급에 관계없이 모든 팀이 AI의 혁신적인 잠재력을 활용할 수 있도록 보장할 것이라고 밝혔다. 마이넬리는 ”AI 도구에 접근하는 것이 더쉬워지고, AI가 특정 직무에 맞게 조정되면서 산업 전반에 걸쳐 생산성, 협업, 혁신이 더욱 향상될 것”이라고 말했다.

AMD 2023 커머셜 서베이는 IT 의사결정권자가 기업에서의 AI의 이점을 낙관하고 있지만, 광범위한 도입에 앞서 몇 가지 과제에 직면하고 있음을 보여준다.

IDC 보고서를 AMD 2023 상업용 설문조사와 비교해 보면, 다음과 같은 결과를 알 수 있다.

• - 클라우드 기반 AI 도구와 플랫폼을 채택하는 의사 결정자에게 보안 위험 (32%)은 여전히 가장 큰 장벽이며, 수치 자체는 2년 전 67%에서 감소했다.
• - IT 의사 결정자 76%는 AI PC가 전반적으로 AI 기술보다 생산성을 향상시킬 것이라고 더 낙관적으로 바라본다. 2023년에는 67%가 그렇게 생각했다.
• - 조사에 참여한 대다수 응답자는(82%) AI PC가 직원에게 긍정적인 영향을 미칠 것으로 보고 있으며, 연말 이전에 기업이 새로운 하드웨어에 투자할 것으로 예상했다.

비용은 AI 프로젝트의 주요 걸림돌이었다. 소규모 기업의 경우, 사내에 단일 생성형 AI를 도입하는 데 5만~50만 달러의 비용이 소요된다. 대기업의 경우 비용이 수백만 달러로 급증한다. 서드파티 클라우드 서비스 업체를 이용하면 개인 정보 보호 및 보안 위험이 따른다.

2030년까지 기업은 챗봇, 연구, 마케팅, 요약 도구와 같은 생성형 AI 프로젝트에 연간 420억 달러를 지출할 것으로 예상된다. 이 기술이 생산성 향상에 도움이 될 것이라는 기대가 높아지고 있지만, 생성형 AI의 투자 수익률(ROI)을 정확히 파악하기는 어렵다. 조사에 따르면 ROI를 이유로 폐기되는 생성형 AI 프로젝트만 해도 1/3이다.

IDC

<이미지를 클릭하시면 크게 보실 수 있습니다>

IDC 조사에서 응답자 74%는 AI PC가 기술의 효율성을 기본으로 제공하기 때문에 총소유비용(TCO)을 개선할 것으로 기대했다. 기업은 또한 AI PC 배포의 이점을 곧 측정할 수 있을 것으로 확신하면서 87%는 ROI를 추적할 준비가 되어 있다고 답했으며, 절반 이상이 초당 40테라 연산(TOPS) 이상을 제공하는 NPU가 탑재된 PC에 10% 더 높은 가격을 지불할 의향이 있다고 답했다.

AI PC는 엣지에서 AI 처리를 가속화하는 특수 NPU를 갖춘 최신 시스템이다. 강력한 CPU와 GPU를 결합해 지연 시간을 줄이고, 개인 정보 보호를 강화하며, 클라우드 비용을 절감한다. 아직은 신생 분야지만, 다양한 가격대에서 빠르게 주목받고 있다. 마이크로소프트와 협력업체는 코파일럿+ PC라는 이름으로 고급 시스템을 판매하고 있다. 코파일럿+ PC는 라이브 캡션, 향상된 검색, 윈도우 스튜디오 이펙트와 같은 AI 기반 OS 도구를 특징으로 한다.

보안 문제는 여전히 IT 리더의 가장 큰 관심사이기 때문에 기업은 엔드포인트 기기에서 생성형 AI 도구로 눈을 돌리고 있다. 응답자들은 AI PC의 주요 기능으로 개인화된 직원 경험(77%), 향상된 데이터 프라이버시(75%), 강화된 보안 위험 예방(74%)을 꼽았다.

IDC

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI PC는 AI 작업 부하를 로컬에서 실행함으로써 프라이버시 및 규정 준수 문제를 해결하고, 클라우드 연결의 필요성을 줄이고, 데이터 유출 위험을 낮출 수 있다. 금융과 의료 등의 분야에서는 현장에서 민감한 데이터를 처리하므로 HIPAA와 같은 규정을 준수해야 한다.

독립 소프트웨어 공급업체(ISV)가 로컬 AI 기능을 통합하고 기업이 윈도우 11로 업그레이드함에 따라 AI PC는 점점 더 보편화되고 있다. 기업의 60%가 윈도우 10 시스템을 교체할 계획이고, 73%가 PC 교체 계획을 앞당기고 있다.

AI PC는 IT 문제 해결을 간소화하고, 보안을 강화하며, 작업을 자동화한다. 예를 들어 마케팅 분야에서 데이터 기반 캠페인을 처리하고 참여를 최적화한다. IDC 조사에서는 운영 분야에서 수요를 예측하고 재고를 조정해 효율성을 높이는 것으로 나타났다.

작년부터 작고 능숙한 생성형 AI 모델이 스마트폰, 노트북, IoT 하드웨어와 같은 엔드포인트 기기로 이동하고 있다. 특히 애플, 삼성 등 여러 스마트폰과 실리콘 제조업체는 하드웨어에 AI 기능을 탑재해 사용자가 엣지 기기와 상호 작용하는 방식을 근본적으로 변화시키고 있다.

AI PC가 생산성을 향상시킨다고 해도 기업은 하드웨어 및 칩 업체와 협력해 AI가 비즈니스 목표와 어떻게 협력할지 파악해야 한다. IDC는 이러한 작업을 통해 기업이 특정 과제를 해결하고 가치를 제공하는 AI PC 솔루션을 식별할 수 있다고 조언했다.

IDC에 따르면 기업이 AI PC로 얻는 기회는 두 가지다. 첫째, 기업은 전략적 AI PC 배포를 가능하게 하는 AI 기반 소프트웨어 기능에 대한 최신 정보를 얻기 위해 ISV와 협력해야 한다. 둘째, 하드웨어 파트너와 협력해 로드맵을 이해하면 데이터센터와 엣지 환경 전반에 걸친 배포를 최적화해 성능, 비용, 확장성의 균형을 맞출 수 있다.

IDC는 기업이 전략과 기술 로드맵을 연계함으로써 AI PC의 잠재력을 최대한 발휘하고 장기적인 성공을 보장할 수 있다고 강조했다.
editor@itworldkorea@foundryco.com