<이미지를 클릭하시면 크게 보실 수 있습니다>

삼성전자가 무선 이어폰인 '갤럭시 버즈'에 인공지능(AI) 연동을 추진하는 것은 온디바이스(On-Device) AI 시장의 잠재력을 간파했기 때문으로 풀이된다. 온디바이스AI는 클라우드 기반 AI와 달리 기기 자체에 장착된 AI 칩을 활용해 효율을 높이는 개념이다. 와이파이, 5G 같은 통신망이 필요 없고 에너지효율이 높은 게 장점이다.

11일 정보기술(IT) 업계에 따르면 삼성전자가 스마트폰에 이어 무선 이어폰, 노트북, 가전기기는 물론 확장현실(XR) 헤드셋까지 온디바이스AI의 탑재 영역을 넓혀나갈 것으로 관측된다. 삼성전자는 스마트폰 차기작인 갤럭시S24에 자체 개발한 생성형 AI '가우스' 외에 기능별로 특화된 다양한 종류의 AI를 반영할 방침이다. 카메라·통화·통역·녹음 등 각 영역에서 활용되는 AI의 종류가 다르기 때문이다.

특히 삼성전자는 연동할 온디바이스AI에 '강화학습'을 적용할 것으로 전해졌다. 강화학습은 AI가 시행착오를 통해 최적의 행동을 학습하는 방법이다. 온디바이스AI는 클라우드 방식의 AI와 달리 인터넷이 연결되지 않은 상태에서도 작동되는 것을 전제로 하기 때문에 선택한 방식이다.

삼성전자가 스마트폰에 이어 갤럭시 버즈에 통역이 가능한 온디바이스AI를 연동하게 되면 인류가 '언어의 한계'를 극복하는 단초가 될 것으로 파악된다. 인터넷에 연결되지 않은 상태에서도 대면 대화를 실시간 통역할 수 있다는 점에서다. 개인정보·통신·시간차 문제 등 장애물을 보완해 AI 통역 시장 판도를 바꿀 전망이다.

글로벌 빅테크 기업은 이미 온디바이스AI 전쟁에 동참했다. 구글이 차세대 생성형 AI인 '제미나이(Gemini)' 나노 모델을 차세대 스마트폰 픽셀8프로에 탑재하기로 한 게 대표적 사례다. 인터넷과 연결하지 않고도 작동하는 온디바이스 환경에서 구동되는 것이 특징이다.

구글 측은 "사용자의 민감한 데이터가 휴대폰을 벗어나지 않도록 보호하고, 네트워크 연결 없이도 AI 기능을 사용할 수 있다"고 강조했다.

예를 들어 구글은 '녹음 요약' '지보드(Gboard) 스마트 답장' 기능을 대폭 강화했다. 녹음 요약 기능은 녹음된 발표 내용과 인터뷰 등을 요약해준다. 또 스마트 답장은 와츠앱 대화 내용 등을 자동 인식해 이를 토대로 여러 개 고품질 응답을 생성하고 이 중에 선택하도록 제안한다.

애플은 올 10월 차세대 AI 칩인 'M3'를 공개하면서 온디바이스AI 시대를 예고했다. 애플은 "M3 칩에 있는 뉴럴 엔진은 M1 칩보다 최대 60% 더 빠르다"며 "개인정보 보호를 위해 데이터를 개별 장치에 머무르게 하면서 AI와 머신러닝 작동 흐름을 더욱 빠르게 만든다"고 강조했다. 특히 M3는 인간 두뇌에 해당하는 파라미터 수를 최대 수십억 개 지원한다.

IT 업계는 애플이 이를 기반으로 각종 AI 서비스를 구현할 것으로 내다보고 있다. 홍콩 톈펑국제증권의 궈밍치 애널리스트는 "애플이 아이폰16 마이크를 대대적으로 업그레이드하고 있다"며 "AI 비서인 시리를 크게 향상시키려 할 것"이라고 설명했다.

온디바이스AI가 속속 개발되면서 스마트폰 시장 역시 성장할 것으로 전망된다. 모건스탠리에 따르면 스마트폰 출하량은 온디바이스AI에 힘입어 2024년 3.9%, 2025년 4.4% 증가(전년 대비)할 전망이다.

온디바이스AI는 생성형 AI의 고질병으로 꼽히는 전력 소모를 크게 줄일 것으로 보인다. 오늘날 클라우드 기반의 생성형 AI는 대규모 데이터 처리, 복잡한 모델 구조, 실시간 데이터 처리로 인해 '전기 먹는 하마'라는 별명이 붙었다.

현재 데이터센터는 전 세계 전력 사용량의 1~1.5%를 차지한다. 인디고어드바이저리그룹은 2030년까지 AI 전력 사용량이 총전력 사용량에서 3~4%를 차지할 것으로 내다봤다. 예를 들어 허깅페이스는 다국어 텍스트 생성형 AI 도구를 클라우드에서 훈련하면서 433MWh를 소모했다. 미국 가정 40곳에 1년간 전력을 공급할 양이다.

클라우드 기반 AI는 높은 서비스 요금으로 이어진다. 챗GPT는 1000토큰 규모의 답변을 생성할 때마다 약 0.002달러 비용이 들어간다. 영어로는 약 1000단어, 한국어로는 약 200음절 또는 200자 원고지 1장 분량이다. AI 서비스 고객이 늘어도 흑자를 내기 어려운 대목이다.

다만 클라우드 서비스는 디바이스 내 메모리 용량을 줄여준다는 점에서 없어서는 안될 서비스다. 이 때문에 전문가들은 향후 AI가 클라우드, 에징 컴퓨팅, 온디바이스 3개 축으로 분화될 것으로 내다보고 있다. 특히 온디바이스AI는 모델이 최적화돼 있고 실시간 처리 데이터가 적으며 적은 용량 처리로 인해 에너지효율이 월등히 높다.

IT 업계는 이를 '하이브리드 AI'로 규정하고 있다. 퀄컴은 앞서 'AI의 미래 하이브리드(The future of AI is hybrid)'라는 보고서를 통해 가까운 미래에 AI가 온디바이스와 클라우드에서 병렬적으로 작동할 것으로 내다봤다. 향후 AI는 클라우드와 디바이스를 오가며 고객이 원하는 데이터를 적재적소에 처리하는 하이브리드 AI로 거듭날 것이라는 관측이다.

[이상덕 기자 / 오찬종 기자 / 최승진 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]