온디바이스 AI 구현 개념도 [퀄컴 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 조성미 기자 = 퀄컴은 내년부터 자사 애플리케이션 프로세서(AP)가 탑재된 스마트폰과 PC에서 메타의 경량급 AI 모델인 라마-2를 구현할 수 있도록 지원한다고 19일 밝혔다.

퀄컴은 라마-2와 같은 생성형 AI 모델을 클라우드에만 의지하지 않고 스마트폰, PC, 가상·증강현실(VR·AR) 헤드셋, 차량 등 온디바이스에서 구동할 수 있도록 AP 성능을 최적화할 예정이라고 밝혔다.

이를 통해 개발자는 클라우드 비용을 절약할 수 있을 뿐 아니라 이용자 맞춤형이고 보안을 강화한 AI 경험을 제공할 수 있다고 퀄컴은 기대했다.

특히 스냅드래곤으로 구동되는 온디바이스 AI 경험은 인터넷 연결이 없는 곳에서나 비행기 모드에서도 사용이 가능하다.

두르가 말라디 퀄컴 수석 부사장 겸 기술·기획 및 엣지 설루션 부문 본부장은 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐 아니라 스마트폰, 노트북, 차량, 사물인터넷(IoT) 등의 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다.

csm@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>