[이데일리 김혜미 기자] “일본은 인공지능(AI)으로 무언가를 해야 한다는 절박감이 큽니다. 인구 감소에 대한 문제의식이 오래전부터 쌓여 있었고, 당장 일할 사람이 없다는 문제를 해결하기 위해 부업이나 유연 근무를 장려해왔습니다. 다시 말해 ‘일손 부족’을 해결하는 데 AI보다 좋은 것이 없다는 생각이기에 도입하는 데도 가장 적극적입니다. 미국과 한국보다 더 빠른 것은 물론이죠.”

이창수 올거나이즈 대표(사진=올거나이즈)

<이미지를 클릭하시면 크게 보실 수 있습니다>

이창수 올거나이즈 대표는 최근 서울 강남 사무실에서 인터뷰를 갖고 이같이 말했다. 올거나이즈는 모바일 데이터 분석업체 ‘파이브락스’(5Rocks)를 지난 2014년 미국 모바일 광고업체 ‘탭조이’에 매각한 이력을 가진 이 대표가 지난 2017년 미국 실리콘밸리에서 설립한 거대언어모델(LLM) 올인원 솔루션 기업이다. 일본 사업규모가 빠르게 확대되면서 2022년 일본으로 본사를 옮겼다. 현재 미국과 일본, 한국 고객사 300여곳 가운데 절반 이상이 일본 기업이다.

이 대표가 일찍부터 일본 시장에 주목한 것은 일본 게임사 ‘게임온’에 근무하며 쌓았던 현지 경험 덕분이다. 그는 “한국이 인구 감소를 국가 존폐위기와 같은 거대담론으로 접근한다면 일본은 최근 도쿄 내 식당에서 일본어에 서툰 외국인 종업원을 쉽게 볼 수 있을 정도로 일손 부족이 커다란 사회현상이 됐다”며 “요식업이나 서비스업에서 일손 부족에 따른 변화는 이미 나타나고 있고 대기업 등에서도 인재가 부족해 AI를 활용해 복잡한 업무를 처리하는 경우가 많아졌다”고 설명했다.

올거나이즈가 일본 시장에서 이름을 알리게 된 에피소드는 업계에선 이미 잘 알려진 이야기다.

콜센터에 AI를 활용하기 위해 IBM의 왓슨을 들여왔다가 데이터 학습에 골치를 썩던 일본 미쓰이스미토모은행(SMBC) 금융그룹 관계자들이 미국 실리콘밸리 행사에서 올거나이즈를 알게 됐고 시험 삼아 기술검증(PoC)을 실시했다. 그 결과 산업별 특화 학습을 마친 올거나이즈 AI 모델이 2주 만에 93.4%의 정확도를 기록하자 전격적으로 왓슨을 대체했다. 이후 SMBC그룹은 올거나이즈를 현지 기업에 알리는 데 큰 역할을 했다.

올거나이즈의 LLM 플랫폼 ‘알리’(Alli)’는 기업 고객에 특화돼 있다. 알리 플랫폼은 금융 및 공공기관 온프레미스(기업이 자체 시설에서 보유하고 직접 유지 관리하는 프라이빗 데이터 센터) 수요에 특화한 ‘알파 LLM 모델’과 다양한 LLM을 각 사용사례에 맞춰 최적화할 수 있는 모델 관리, 기업 내부 대규모 문서 및 데이터베이스(DB) 등과 연계해 사용할 수 있는 검색 증강 생성(RAG), LLM을 기반으로 다양한 업무 자동화 앱을 코딩 없이 제작할 수 있는 ‘알리 앱 빌더’, 고객사별 기제작 혹은 특화 제작한 다양한 LLM 앱을 모아 마켓 형태로 제공하는 ‘알리 앱 마켓’ 등 다섯 가지 기능을 갖고 있다.

올거나이즈의 핵심 경쟁력은 역시 LLM 모델의 한계를 보완한 ‘에이전트 RAG’ 기술이 꼽힌다. 이 기술은 LLM 모델에 학습되지 않은 정보도 외부 데이터를 실시간으로 참고해 현 시점에서 가장 정확한 답변을 생성할 수 있다.

이창수 올거나이즈 대표(사진=올거나이즈)

<이미지를 클릭하시면 크게 보실 수 있습니다>

이 대표는 올거나이즈의 차별점이 ‘권한’을 설정할 수 있다는 것이라고 강조했다. 그는 “AI 에이전트는 사용자에 맞게 지시하기 전에 스스로 판단한다”며 “업무 협업 툴에 등록한 글을 어디까지 누가 삭제할 수 있는 권한을 줄 것인가에 대한 문제만 해도 아직 정리되지 않았다”며 “알리 플랫폼은 유일하게 기업에서 쓸 만큼의 권한 부여나 복구가 가능하다”고 자신했다.

올거나이즈는 이르면 연내 일본 도쿄거래소 상장한 후 일본 내 대표적인 AI 기업으로 자리매김한다는 목표다. 국내에도 이미 금융권을 중심으로 알리 플랫폼 도입을 확대하고 있다. 올거나이즈는 9월 회계연도를 기준으로 2024년 흑자 전환이 예상된다.

이 대표는 “일본 상장 이후 더 크게 성장하는 것을 목표로 하고 있다. 상장 이후에는 인수합병(M&A)에 적극 나설 계획인데 현재 AI 서비스를 만드는 작고 빠른 스타트업들을 눈여겨보고 있다”며 “엔터프라이즈 기업 내에서 알리 플랫폼으로 업무를 보는 것이 상당한 표준으로 자리잡을 때까지 성장하는 것이 목표”라고 말했다.