전 세계적으로 인공지능(AI)을 가볍고 효율적으로 만들려는 수요가 커지고 있다. 이런 움직임은 AI 경량화 플랫폼 기업 글로벌 인수전에서도 나타난다. 엔비디아는 2023년 옴니(Omni)ML을 인수한 데 이어 작년에는 데씨(Deci)AI를 3억달러(약 4425억원)에 사들였다. 퀄컴은 지난 3월 엣지임펄스(Edge Impulse)를 인수했다. 피인수 기업은 모두 AI 경량화 및 최적화 기업이다.

한국에서도 이들과 경쟁하는 기업이 있다. 주인공은 채명수(36) 대표가 이끄는 ‘노타’다. 채 대표는 지난 12일 서울 삼성동 노타 사무실에서 조선비즈와 만나 “거대 기업에서 인수 제안이 있었지만, 우리는 한 회사만을 위해서가 아닌 세상의 모든 전자기기에 AI가 구동되도록 하는 게 목표라 거절했다”고 말했다.

노타는 2022년 AI 모델을 최대 10분의 1 크기로 줄이고, 빠른 추론 속도를 구현하는 AI 경량화 및 최적화 플랫폼 ‘넷츠프레소’를 개발·출시했다. 넷츠프레소를 일명 AI 비만약이라고 부르는 이유다. 노타의 사업은 넷츠프레소를 기반으로 크게 두 가지로 구분된다. 플랫폼 사업은 글로벌 반도체 회사를 대상으로 AI 모델이나 반도체 칩 최적화 및 경량화를 위해 개발 도구(SDK)를 제공하는 사업이다. 지난달 노타가 삼성전자의 최신 애플리케이션 프로세서(AP) ‘엑시노스 2500’에 최적화 기술을 제공하기로 계약한 게 대표적이다.

다른 한 축인 솔루션 사업은 교통, 보안, 의료 등 기존 B2B(기업 간 거래) 시장을 대상으로 맞춤형 AI 솔루션을 공급하는 것을 목표로 한다. 지난 4월 노타가 두바이 교통국과 생성형 AI 기반 지능형 교통 체계(ITS) 솔루션 공급 계약을 체결한 것이 그 예다. 교통국은 노타가 제공한 영상 관제 솔루션을 통해 교통사고가 발생하면 CCTV를 통해 사고 조사 보고서까지 자동으로 쉽게 받아볼 수 있다.

코스닥 시장에 상장한 지 한 달이 지난 채 대표는 “요즘에는 회사에 들어오는 제안을 다 소화하기가 어려운 상황”이라며 “플랫폼 부문은 삼성전자와의 계약 이후 관심이 커지고 있고, 솔루션 부문 역시 두바이 교통국과의 계약 이후 동남아, 미국은 물론 지자체에서 연락이 많이 온다”고 했다.

노타는 2015년 4월 김태호 최고기술책임자(CTO)를 포함한 4명이 모여 설립한 회사다. 처음에는 키보드 오타를 줄이는 솔루션 회사로 시작했다. 회사 이름 역시 ‘노(no) 오타’에서 시작됐다. 하지만 오타를 줄이는 솔루션을 개발하는 과정에서 처음에는 개인정보 문제가, 그 다음에는 발열과 처리 속도 문제가 생겼다. 채 대표는 스마트폰에서 AI를 구동하는 과정에서도 유사한 최적화 및 경량화 기술의 수요가 있을 것이라는 것을 인지했다. 이에 2018년부터 AI 최적화 기업으로 전환했다. 설립 당시 4명이었던 직원은 현재 약 140명으로 늘었다. 다음은 채 대표와의 일문일답.

◇ “넷츠프레소로 AI 모델 50~60% 다이어트 시켜”

─왜 직접 창업을 안 했나.

“김 CTO를 만난 것은 숭실대 산업정보시스템공학과 졸업 후 카이스트에서 지식서비스공학 석사를 받은 후인 2017년이다. 당시 군 대체 복무를 하기 위해 들어간 카이스트 인공지능연구소에서 김 CTO와 복무 기간이 1년 겹쳤다. 당시 연구 호흡이 잘 맞았다. 1989년생 동갑내기 친구이기도 하다. 2018년 9월 박사 공부를 위해 독일로 유학을 가기 위한 준비를 하고 있었다. 3개월이 비었는데, 김 CTO가 노타 사업이 풀리지 않아 창업자 3명이 회사를 떠났다며 노타를 맡아달라고 했다. 노타에 합류했을 때 직원은 혼자였고, 사무실도 카이스트 대전캠퍼스의 4평 남짓한 공간이었다. 오타 줄이는 솔루션의 문제점 해결 방법을 AI 경량화, 최적화로 연결지으며 수요가 클 것이라고 생각했다. 사실 사회생활 경험도 없어서 직접 창업을 해야겠다는 생각 자체를 못했다. 연구할 때 나의 역할은 화이트보드 앞에서 아이디어를 내는 것이었고, 김 CTO는 컴퓨터로 내 생각을 빠르게 구현해 주는 역할을 해왔는데 그게 현재 우리의 모습과 같다.”

─‘넷츠프레소’라는 이름이 흥미롭다.

“2022년 출시한 넷츠프레소는 AI 모델 크기와 연산량을 줄여 저사양 기기에서도 고성능 AI를 구현할 수 있도록 한 기술이다. 사내 공모를 통해 이름 붙인 넷츠프레소는 뉴럴 네트워크와 커피콩에서 알짜만 추출하듯 AI 모델을 압축한다는 의미다. 넷츠프레소를 통해 AI 모델 크기를 기업들은 최대 10% 미만까지로 줄일 수 있다. 이 경우 전력 소모는 30~40% 준다. 일반적으로는 AI 모델이 50~60% 정도 경량화된다.”

─AI 경량화 기업이 많은데, 노타만의 차별점은.

“AI 최적화 및 경량화 사업은 결국 코드를 어떻게 짜서 어떤 방식으로 이뤄냈는지 ‘골든룰’보다는 ‘노하우’가 중요하다. 장인들을 신참이 한 번에 따라 할 수 없는 것처럼 경험이 쌓여야 한다. 우리는 AI 모델을 깎는 장인인 셈이다. 노타는 37개 반도체를 대상으로 수백개 이상의 모델을 상대로 한 경험이 있다. 대표 고객사는 삼성전자, 퀄컴, ARM, 엔비디아, 소니, 르네사스 등이다.”

◇ 상장 후 책임감 커져… 2027년 흑자 전환 목표

─공모가 9100원으로 시작한 주가가 4만원에 육박하고 있다.

“코스닥에 상장하면서 책임감도 커지고 의사 결정도 신중히 하게 된다. 다행히 상장 후 주가 흐름이 괜찮다. 올해 젠슨 황 엔비디아 최고경영자(CEO)가 방한했을 당시 서울 삼성동 치킨집에 김태호 CTO가 엔비디아 DGX 스파크와 토르(THOR)를 들고 가 (협력사 자격으로) 상장 축하 인사와 제품에 사인을 받았다.”

─매출이 늘고 있는데, 영업이익은 아직 적자다.

“2023년 말부터 본격적으로 사업을 확장하며 매출이 늘고 있다. 제품을 만들기까지는 비용이 늘어날 수밖에 없었는데, 이제는 인건비 정도를 제외하고는 크게 비용이 나갈 게 없다. 내년에 영업 손실이 크게 개선돼 2027년에는 흑자 전환할 것으로 생각한다.”

─장단기 계획은.

“지금은 대규모언어모델(LLM), 경량화, 최적화 등 AI 모델을 개별적으로 논의하고 있다. 하지만 곧 AI 시스템에 대한 경량화 및 최적화 수요가 있을 것이라 생각해 관련 기술 개발에 나설 계획이다. 가령 AI 에이전트라 하면 음성과 영상 등 여러 AI 모델이 묶여서 작동할 것이다. 온디바이스 AI는 기기가 수용할 수 있는 용량 때문이라면, 클라우드는 비용 절감 차원에서 경량화가 필요할 것이다. 이 부분에 집중해보고자 한다.”

안상희 기자(hug@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>