[디지털데일리 김문기 기자] “경쟁사들이 생성형 AI 관점에서 무엇을 말했는지 보면 알 수 있다. (나는) 아무것도 못봤다. 퀄컴은 생성형 AI에 대해 무엇을 얘기하는지 쉽게 확인 가능하고 기기에 대해 더 많이 말할 수도 있다. 기존 제품이 스마트폰이었다면 이제부터 새 휴대폰은 AI폰이다.”

지아드 아즈가 퀄컴 제품관리 수석 부사장은 24일(현지시간) 미국 와일레아 비치 리조트 메리어트에서 열린 ‘스냅드래곤 서밋 2023’에서 한국기자들과 만나 모바일 온 디바이스 AI 기반 퀄컴이 생성형 AI 분야에서 경쟁사 대비 우위에 있음을 확인시켰다.

구글이나 마이크로소프트(MS), 아마존 등 경쟁사들은 너나할 것 없이 생성형 AI에 집중하고 있다. 다만, 퀄컴과 같은 온 디바이스 AI 기반의 생성형 AI보다는 클라우드를 기반으로 한 플랫폼 개발에 매진하는 점이 다르다. 가깝게는 자체적으로 프로세서를 설계하는 애플의 경우 최근 연간 10억달러(약 1조4천억원)을 투자해 생성형 AI를 내년께 선보일 것이라는 게 업계 예상이다.

이같은 특성에 기인해 아즈가 수석 부사장 역시 온 디바이스 AI에서의 생성형 AI를 실제로 구현하는 사례를 보지 못했다고 답한 셈이다. 즉, 경쟁사 대비 앞서 있다는 반증이기도 하다.

‘온 디바이스 AI’란 디바이스가 자체적으로 AI를 실현시킬 수 있는 기초 체력을 갖췄음을 의미한다. 이를 요약한다면 인터넷 연결이 필요한 클라우드의 도움 없이도 해당 장치가 자체적인 AI 기능을 활성화시킬 수 있는 셈이다. 여기서 더 나아가 해당 장치가 생성형 AI를 구현한다면 더 빠르고 전력효율적인 콘텐츠를 도출해 낼수 있기 때문에 사용자는 경험(UX) 향상도 기대할 수 있다.

특히 경쟁사인 구글과 마이크로소프트는 퀄컴과 경쟁하기 보다는 협력에 나서고 있다. 이날 퀄컴은 양사와의 생성형 AI 개발 경과를 공유하기도 했다. 하드웨어와 소프트웨어의 결합을 위해서도 거시적인 방향의 협력이 무엇보다 중요하다.

그는 “스냅드래곤8 3세대에서 보여준 초당 토큰 수와 같은 지표에 관한 것인데, 타사는 이에 근접할 수 없을 것 같다”라며, “퀄컴은 이제 시작에 불과하다. 예를 들어, 전력 소비는 우리가 다른 사람들과 비교하여 우리가 가지고 있다고 생각하는 또 다른 큰 장점이 될 것이라고 생각하지만 제대로 분리 해 보면, (PC 영역) x86 쪽의 경쟁사들을 보면, 그들은 내재된 AI 기능이 없다”고 지적했다.

이어, “퀄컴은 헥사곤 MPU가 통합되어 있다”라며, “아시다시피 저희는 지난 10년 이상 AI에 투자해 왔다. 하드웨어 측면이나 모델 측면의 소프트웨어 측면에 대한 근본적인 연구를 수행해 왔으며, 다른 경쟁사들은 현재 이 시점에서 가지고 있지 않다고 생각한다”고 강조했다.

게다가 스냅드래곤8 3세대의 경우 상용화된 제품을 이달 중에서 만나볼 수 있다. 아즈가 수석 부사장은 “지금 당장도 확인 가능하고, 모든 주요 제조사 파트너와 함께 출시되고 있다”라며, “이들 모두 현재 디바이스에서 주요 생산형 AI 사용 사례를 보유하고 있다”고 말했다. 오는 26일만 하더라도 샤오미가 시리즈14에 퀄컴 스냅드래곤8 3세대 기반으로 설계돼 온 디바이스 생성형 AI를 구현한다.

그는 “ 타사 중에서 70억 개의 매개변수 모델을 초당 20개의 토큰으로 처리할 수 있는 곳이 없으며, 6초 만에 스테이블 디퓨전을 빠르게 수행할 수 있는 기업도 아직 없다”라며, “이러한 사용 사례를 보면 제조사들이 매우 기대감에 부푼다. PC에서도 마찬가지로 모든 파트너와 함께 XR에서 작업하고 있는 엄청난 양의 사용 사례가 있다”고 자신했다.



온 디바이스 생성형 AI는 사용자가 장치에 접근하는 방식을 새롭게 전환시킨다.

아즈가 수석 부사장은 “AI폰은 가상 비서가 될 수 있고, 콘텐츠를 생성할 수 있고, 다른 사람에게 보내기 위해 작성하려는 이메일 초안을 생성할 수도 있고, 챗봇이 될 수도 있다”라며, “기기가 할 수 있기를 바라는 모든 일을 할 수 있고, 사용자가 기기로 무엇을 할 수 있을지 선택할 수 있다”고 말했다.

가령, 과거에는 사용자가 하나의 앱에서 원하는 바를 입력해 그 앱에서 결과를 받아냈다면 앞으로는 사용자가 원하는 바를 여러 앱에서 데이터를 공유하면서 보다 생산적인 결과물을 가져다준다. 예를 들어 가장 높은 별점을 가진 레스토랑을 예약해달라는 주문에 대해 AI폰은 추천앱인 옐프(Yelp)에서 별점이 높은 레스토랑을 확인하고 해당 레스토랑 앱으로 이동하며, 다시 내비게이션 앱으로 데이터를 공유해 가장 가까운 레스토랑을 찾아낸다. 이후 일정앱에 이를 공유해서 반영하고 또 레스토랑 앱에서 예약을 완료하는 식으로 진행된다. 다양한 앱에서 공유된 데이터를 통해 최적의 결과를 가져오는 셈이다.

또한 온 디바이스 생성형 AI는 그간의 비용적인 부담을 줄여줄 수도 있다. 그는 “클라우드에서 이런 일이 발생하면 많은 전력을 소모하는 대형 그래픽 엔진에서 실행되기 때문에 비용이 많이 들지만 디바이스에서 이 작업을 수행할 수 있다면 더 많은 사람들이 이 기능을 사용하기 시작하면서 더 많은 사용 사례가 들어옴에 따라 확장할 수 있으므로 실제로 거의 무료로 바로 수행할 수 있다”라며, “모든 사람이 온디바이스 AI를 활용할 수 있도록 만들어, 진정한 기술 민주화가 될 것”이라고 강조했다.

퀄컴은 온 디바이스 생성형 AI가 개인정보보호에 대한 최근 기조를 이어갈 수 있을 것이라 기대했다. 그는 “클라우드의 데이터는 더 일반적일 수 있지만 해당 디바이스에 있는 데이터는 개인에게 훨씬 더 맞춤화되어 있다”라며, “내 필요에 따라 모델을 세밀하게 조정할 수 있다면 세계 어느 곳에 존재하는 그 어떤 모델보다 나에게 최적화된 모델이 될 것”이라고 설명했다.

한편, 퀄컴은 저작권에 대해서도 해당 규제를 준수한다고 말했다. 아즈가 수석 부사장은 “퀄컴은 항상 책임감 있는 AI를 사용하도록 장려하고 노력하고 있다”라며, 모든 주요 요구 사항을 준수할 것”이라고 언급했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -