[남도영 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

그동안 PC 살 때 가장 먼저 보던게 중앙처리장치(CPU) 였습니다. CPU 성능이 곧 PC 성능이었죠. 게임이나 영상 편집, 디자인 작업을 주로 한다면 그래픽처리장치(GPU)도 눈여겨 봤어야 했습니다. 그런데 말입니다, 이제 하나 더 봐야할 거 같습니다. 바로 신경망처리장치(NPU)입니다.

NPU가 뭐길래

NPU는 AI 워크로드를 처리하기 위한 전용 칩으로, '신경망'이란 이름 그대로 NPU는 신경세포와 시냅스로 연결된 우리의 뇌처럼 데이터를 학습하고 처리합니다. 특히 대량의 연산을 동시에 수행하는 처리에 특화되어 있습니다. CPU나 GPU도 이런 작업이 가능하지만, NPU는 AI 전용으로 설계된 칩이기 때문에 이들보다 더 효율적으로 작업을 처리합니다.

그동안 NPU는 주로 '스냅드래곤'이나 '엑시노스' 같은 스마트폰 애플리케이션 프로세서(AP)에 주로 탑재됐습니다. 스마트폰 안에는 다양한 머신러닝 기능이 탑재되어 있습니다. 사진을 찍으면 화사하게 보정해주고, 안면을 인식해 잠금을 해제해주고, 음성으로 여러 동작을 제어할 수 있게 해주는 게 다 머신러닝을 활용한 기능입니다. 또 사용하지 않은 앱을 잠시 쉬게 한다거나 가장 필요한 앱에 시스템 리소스를 몰아주는 등 보이지 않는 곳에서 NPU가 열심히 일해준 덕에 스마트폰에서 가장 중요한 열 효율과 배터리 수명을 늘릴 수 있게 됐습니다.

최근 들어선 PC에도 NPU가 속속 도입되고 있습니다. 바로 생성형 AI 때문인데요, AI 기능을 도입하는 애플리케이션이 늘면서 이를 지원할 NPU가 PC 안으로 들어오기 시작한 것입니다. NPU가 할 일이 굉장히 많아진 이런 PC를 'AI PC'라고 부릅니다. 지난해 말 인텔이 최초로 NPU를 탑재한 '코어 울트라' 프로세서를 선보이며 여러 AI PC 신제품이 쏟아져 나오고 있고, AMD도 NPU를 탑재한 '라이젠 8000' 시리즈를 선보였습니다. 인텔은 2025년까지 AI PC 1억대를 보급하겠다는 야심찬 목표를 제시하기도 했습니다.

NPU 강화한 애플 'M4' 조기 등판

최근 들어 NPU가 특히 주목받고 있지만, 사실 PC에 NPU를 일찍부터 도입한 '원조집'이 있는데, 바로 애플입니다. 애플은 지난 2020년 선보인 애플실리콘 'M1'에 NPU를 도입했습니다. 아이폰에서 쓰던 '뉴럴 엔진' 기술을 그대로 가져온 것이죠. 이 뉴럴엔진은 M1 칩을 탑재한 맥에서 사진을 분류하거나 얼굴이나 음성을 인식하고, 메모리를 관리하는 등의 작업을 담당해왔습니다.

/사진=애플 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

이런 애플이 지난 7일 '아이패드 프로'와 함께 'M4' 칩을 깜짝 공개했습니다. 지난해 10월 'M3' 칩을 공개한 지 약 7개월 만에 차세대 애플실리콘을 조기에 등판시킨 것입니다. M4 칩의 핵심은 역시 NPU 입니다. 그동안 M1, M2, M3 칩을 선보이며 계속해서 NPU 성능을 향상시켜왔지만, 이번 M4에선 그 폭이 월등하게 커졌습니다. NPU 성능은 보통 1초당 1조번의 AI 연산을 하는 'TOPS'(Tera Operations Per Second) 지표를 기준으로 삼는데, M1은 11TOPS, M2는 16TOPS, M3는 18TOPS 수준인데 반해 M4는 38TOPS로 전 세대 대비 2배 이상 성능이 향상됐습니다.

애플은 M4 칩을 통해 AI PC 시장에서 선도적 위치를 놓치지 않겠다는 의지를 나타냈습니다. 경쟁 칩이라 할 수 있는 인텔 코어 울트라가 11TOPS, AMD 라이젠 8000 시리즈 16TOPS 성능의 NPU를 장착한 것과 비교하면 M4 칩의 NPU 성능이 월등히 높은 것을 알 수 있습니다. 이를 통해 애플은 앞으로 선보일 AI 애플리케이션 구동 성능이 가장 앞선 제품을 선보이겠다는 야심을 드러냈습니다. 실제 애플은 이번 M4 칩을 탑재한 아이패드에서 동영상 편집 앱 '파이널 컷 프로'로 4K 영상의 배경과 피사체를 탭 한 번으로 곧바로 분리해내거나, 음악 제작 앱 '로직 프로'에서 특정 멜로디를 AI가 인지해 이에 맞는 드럼 비트와 베이스, 키보드 연주를 추가해주는 모습을 직접 보여줬습니다.

'NPU 1등' 앞세워 PC 시장 노리는 퀄컴

이런 애플의 앞길을 방해할 쟁쟁한 경쟁자가 있으니, 바로 퀄컴입니다. 그동안 스마트폰 AP에 집중하던 퀄컴은 PC용 시스템온칩(SoC) '스냅드래곤 X 엘리트'와 '스냅드래곤 X 플러스'를 선보이며 영역 확장에 나서고 있습니다. 이 두 칩은 윈도 운영체제(OS) 기반 PC에 탑재될 예정인데, 주목할 점은 칩에 탑재된 NPU 성능이 무려 45TOPS에 달한다는 것입니다.

퀄컴은 이 칩으로 진정한 '온디바이스 AI' 구현이 가능해졌다며 경쟁우위를 강조하고 있습니다. 마이크로소프트의 AI 에이전트 '코파일럿'을 인터넷 연결 없이 기기 내부에서만 구동하려면 최소 40TOPS 수준의 성능이 필요한 데, 이 기준을 넘은 유일한 칩이 스냅드래곤 X 시리즈라는 겁니다. 이 칩을 탑재한 PC 제품들은 이달부터 공개될 예정입니다. 특히 마이크로소프트가 오는 20일 열릴 '빌드' 행사를 통해 스냅드래곤 X 엘리트 칩을 탑재한 새로운 '서피스' 제품을 선보이며 AI PC 비전을 공개할 것으로 알려지며 일대 지각변동이 예고되고 있습니다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

NPU 성능만 놓고 보면 애플의 M4 칩은 공개된 지 한 달도 되지 않아 2위 자리로 밀려날 위기에 놓였습니다. 하지만 이는 이론적인 수치일 뿐이기 때문에 실제 구동 성능은 양쪽이 패를 다 열어봐야 알 수 있을 것으로 보입니다. 실제 AI 워크로드는 NPU 뿐만 아니라 CPU, GPU를 통합적으로 활용하며, 이를 얼마나 효율적으로 처리하는지에 따라 실제 구동 능력은 달라질 수 있습니다. 애플은 이미 4세대에 이르는 M 시리즈 칩을 통해 노하우를 축적했고, 전용 OS인 '맥OS'까지 수직통합된 구조이기 때문에 더 유리한 점도 있습니다. 퀄컴 스냅드래곤 X 시리즈는 이제 첫 제품이기 때문에 호환성에 대한 불안감이 남아있다는 점도 변수입니다.

AI PC 시대는 기존 시장의 강자 인텔과 AMD가 계속 주도할 수 있을 지, 혹은 애플과 퀄컴이 시장을 뒤집을 수 있을 지가 관전 포인트가 될 것 같습니다. 앞으로 PC 구매하실 땐 NPU 성능도 한 번 살펴보시길 바랍니다.

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>