AI 반도체 시장의 95%를 차지한 엔비디아에 도전장을 던진 국내 스타트업이 있다. AI 인프라 솔루션 기업 '모레(MOREH)'는 AI 연산 자동화·최적화 소프트웨어로 시장 패러다임을 바꾸고 있다.

현재 AI 컴퓨팅 인프라 시장에서 연산 반도체 부문은 엔비디아의 GPU가 95%를 꽉 틀어쥐고 있다. GPU 가격이 가파르게 치솟았지만 경쟁자가 없어서 부르는 게 값이라 할 정도다. 윤도연 모레 대표는 "엔비디아의 GPU 성능이 특출나게 좋아서가 아니다. AMD, 그래픽코어와 리벨리온, 퓨리오사AI 칩 등도 뛰어나다"라고 말했다. 그는 핵심은 하드웨어가 아니라 소프트웨어라고 본다. GPU에서 챗GPT 같은 딥러닝 모델을 효율적으로 구동할 수 있도록 하는 소프트웨어 '쿠다(CUDA)'가 있어 GPU가 시장을 석권하고 있다는 설명이다. 윤 대표는 컨설팅 기업 베인앤드컴퍼니 출신으로 서울대 컴퓨터공학과 박사 조강원 대표와 2020년 모레를 공동 설립했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

GPU는 당초 그래픽 처리장치로 나왔다. 그런데 기상 예측 등에 GPU를 사용해보니 뛰어난 데이터 동시·병렬 처리 성능을 보였다. 이 병렬 처리 알고리즘에서 GPU를 효율적으로 활용하기 위해 엔비디아에서 만든 소프트웨어가 쿠다다. 2015년 딥러닝 붐이 일 때 여러 기업이 쿠다를 이용해 좋은 성과를 얻으면서 엔비디아가 시장 주도권을 잡게 됐다. 국내에서 아무리 편리한 메신저가 나와도 카카오톡 생태계의 진입장벽을 넘지 못하는 것처럼 AI 인프라계의 카카오톡이 된 것이다.

하지만 챗GPT같은 거대언어모델(LLM)이 등장하며 상황이 달라졌다. 쿠다는 수동으로 GPU 연산을 분배해야 하는데, LLM은 이전보다 컴퓨팅 파워가 더 많이 필요하고 연산도 복잡해져 수동 최적화 작업이 어려워졌다. 쉽게 말하면 예전에는 GPU가 1개만 있어도 됐다면, 이제 1000개가 필요해진 상황이다. GPU 가격이 급격하게 치솟았고, 비용을 댈 수 있더라도 수동 작업의 양이 어마어마하게 늘어났다. 특히 데이터 양이 달라지면 새 연산 공정을 적용해야 하는데 이 과정만 2~3개월이 걸린다.

윤도연 모레 대표 [사진제공=모레]

모레는 이 같은 변화에 주목했다. GPU와 쿠다만 써서 인프라 비용이 폭등한 것이니, 쿠다 같은 솔루션을 만들어 타사 AI 반도체에서 쓸 수 있게 하면 비용을 낮출 수 있다. 또 기존에는 사람이 하던 연산 공정 작업을 자동화, 병렬화된 최적화 소프트웨어로 처리하게 하면 시간과 비용이 줄어든다. 쿠다를 사용할 경우 데이터 양이 달라지면 새 연산 공정을 적용하기 위해 2~3개월의 수동 최적화 작업 기간이 필요한데, 모레는 소프트웨어를 통해 이 작업을 자동화했다. 2~3일 만에도 끝낼 수 있다. 윤 대표는 "현재 미국 반도체 기업 AMD, 또 다른 해외 시스템 반도체 업체와도 적용을 논의 중"이라며 "비용을 기존 대비 50~70% 절감하고, 개발 기간도 절반으로 줄일 수 있다"고 말했다. 이어 "쿠다와 비슷하거나, 더 뛰어난 수준의 인프라 소프트웨어를 엔비디아 같은 특정 하드웨어 밴더에 종속되지 않으면서 동일한 사용 경험을 제공한다"고 덧붙였다.

윤 대표는 모레를 AI 산업의 조력자로 정의했다. 그는 "모레는 챗GPT 같은 미래 AI 기술이 빨리 나올 수 있도록 든든하게 지원하는 친구 같은 존재"라고 말했다. "모레가 없으면 초거대 AI를 만드는 회사는 전 세계적으로 소수만 살아남아 시장을 독점할 것”이란 설명이다.

2020년 설립한 스타트업이지만, 올해 매출은 300억원 이상으로 전망한다. 고객사로 KT 등 대기업을 두고 있고, 최근 AMD와 KT, 포레스트파트너스, 스마일게이트인베스트먼트 등으로부터 2200만 달러(약 295억원) 규모의 시리즈B 라운드 투자를 유치하는 등 국내외에서 주목받고 있다. 이를 토대로 내년부터 글로벌 진출을 본격화한다는 계획이다. 윤 대표는 "지금까지는 제품을 갈고 닦는 개발 단계였다면, 이제 본격적인 사업 단계"라며 "특히 미국 등 해외 고객을 유치하는 것이 내년도 핵심 계획"이라고 밝혔다.



오수연 기자 syoh@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>