━

AI모델 새 격전지 된 ‘기업용 시장’

■ 경제+

대기업 영업1팀 김 부장. 임원 진급을 코앞에 두고 조여오는 실적 압박에 직접 현장을 뛰기로 결단한다. 팀 막내에게 현장 동선만 급히 받아 외근길에 오른다. 화제의 드라마 ‘서울 자가에 대기업 다니는 김 부장 이야기’에 나오는 에피소드. 2025년 현재 대기업에서 김 부장의 이러한 ‘클래식한 뚝심’은 과연 먹힐 수 있을까. 상담 기록은 AI(인공지능)가 자동 정리하고, 실적 리포트 초안은 몇 초 만에 생성된다. 경쟁팀은 고객사 데이터 기반으로 한 예측 모델을 영업 전략에 실시간 반영한다. 불과 몇 년 전만 해도 기업들의 디지털 전환은 모바일·클라우드 도입이 전부였다. 이젠 AX(AI 전환)라는 이름으로, 서비스 개발·내부 문서 작성·고객 응대·기술 지원·경영 의사결정까지 AI를 활용한다. 이에 B2B(기업 간 거래) 기반 기업용 AI 시장은 테크업계 전략 요충지로 떠오르고 있다.

◆회사의 빛과 소금 된, AI=기업이 돈을 쓴다는 것은 풀고 싶은 문제가 있다는 의미다. 오픈AI·앤스로픽·구글 등 빅테크가 내놓은 기업용 AI 상품들을 구매한 회사들은 AI를 왜 쓰게 됐고, 또 어떻게 쓰고 있을까.

회사들은 AI를 기존 서비스를 한층 업그레이드하거나 새로운 서비스를 개발하는 방식으로 활용한다. 4년 전부터 카드사·유통사 등 기업 고객에 콜봇·챗봇 등 AI 기반 고객상담센터를 만들어 주는 AI컨택센터(AICC) 구축 사업을 시작한 통신사 LG유플러스는 기존 상품 위에 오픈AI의 챗GPT를 얹는 작업을 진행 중이다. 기존 AICC 상품은 자체 개발한 엑사원·익시오 기반이었지만 이달부터는 챗GPT까지 활용하는 ‘멀티 엔진 기반 AICC’를 제공한다.

LG유플러스 관계자는 “한국어 뉘앙스·방언 등을 다룰 때는 엑사원이, 상담 내용이 복잡하거나 글로벌 문의를 다뤄야 하면 챗GPT가 맡는 식으로 상담 내용에 따라 모델이 최적화되도록 설계 중”이라며 “AICC 상품의 성능을 획기적으로 끌어올리고 싶은 수요가 있어서 챗GPT API(응용 프로그램 인터페이스) 상품을 구매하게 됐다”고 밝혔다.

리걸테크 스타트업 로앤컴퍼니는 기술로 법률 업무 효율을 높이는 데 집중해 왔다. 변호사 광고 포털 ‘로톡’으로 이름을 알린 뒤, 회사는 최근 AI로 시선을 돌렸다.

앤스로픽의 AI모델 클로드를 주력 삼아 서비스를 개발한 끝에 지난해 7월 법률 특화 AI 서비스 ‘수퍼로이어’를 출시했다. 로앤컴퍼니 측은 “법률 업무는 법률 리서치, 문서 분석 등 서면 작업이 대부분”이라면서 “생성AI가 가장 잘하는 영역이 방대한 문서 분석과 텍스트 생성이기 때문에 AI로 업무 효율성을 높일 방법을 고민했던 것은 자연스러운 일이었다”고 말했다.

조직의 근본적 변화를 위해 전사적으로 AI를 도입하는 회사들도 늘고 있다. 2007년 숙박 예약 플랫폼으로 시작해 최근 ‘여행 솔루션 기업’으로 체질 전환을 본격화한 야놀자는 지난 9월 오픈AI의 B2B 상품 ‘챗GPT 엔터프라이즈’를 도입했다. 개발 부서를 넘어 경영·전략·영업 등 전 직군에 AI 사용 권한을 열어 업무를 개선하기 위해서다.

회사 관계자는 “일반 챗GPT는 사용 데이터가 학습에 들어가지만, 엔터프라이즈 버전은 학습 경로가 완전히 차단돼 사실상 기업 전용 환경”이라며 “데이터가 외부로 넘어가면 기업이 협업에서 대등한 위치를 잃을 수 있어, 데이터를 통제할 수 있는 환경을 원했다”고 설명했다.

◆기업 고객, 잡아야 산다=기업의 실사용 수요가 늘면서 B2B AI 솔루션 시장은 확실한 성장 국면에 들어섰다. 지난달 5일 기준 오픈AI의 기업 고객은 100만 곳을 넘어섰다. 바이오 기업 암젠, 투자은행 모건스탠리, 유통업체 타깃, 네트워크 기업 시스코 등 오픈AI가 공개한 글로벌 기업 고객의 업종은 다양하다.

국내도 마찬가지다. 통신사, OTT(티빙), 플랫폼(야놀자), 건설(GS건설) 등 업종뿐 아니라 대기업·중소·스타트업 등 규모도 천차만별이다. 업종과 규모가 제각각이다 보니 활용 목적도 갈린다. 앞선 사례들처럼 전사 차원의 AI 전환을 추진하거나, 서비스 개발에만 집중하거나, 혹은 내부 협업·문서 처리 효율화를 중심으로 도입하는 식이다.

이에 따라 B2B AI 상품도 다양해졌다. 주요 AI 기업들은 전사 도입을 위한 엔터프라이즈 패키지, 개발자용 API, 팀·중소기업 대상 비즈니스 플랜, 산업 특화 커스텀 모델까지 단계별 옵션을 내놓고 있다. 엔터프라이즈 상품은 일반 소비자 대상 모델과 달리 기업의 권한 관리와 보안을 강화했다. 또 세부 목적에 맞게 API나 파운데이션 모델 접근권을 제공하는 플랜형 상품으로 어떤 회사든, 어떤 방식으로든 AI를 쓸 수 있게 하는 상품을 마련했다.

◆AI가 재편하는 B2B 시장=한때 윈도·iOS 등 운영체제(OS)가 B2B 기술 시장의 중심이던 시기가 있었다. 이후 기업의 데이터·서비스가 클라우드에 올라가면서 주도권은 AWS(아마존웹서비스)·MS(마이크로소프트)·구글 등 인프라 기업에 넘어왔다.

앞으로의 변수는 AI다. 기업 생산성을 좌우하는 AI가 이 시장 주인공이 되면서 주요 모델을 보유한 오픈AI·앤스로픽은 B2B 시장 신흥 강자로 부상했다. 오픈AI는 전 세계 8억 명 이상이 사용한다는 대중성으로 우위를 점했다.

챗GPT 엔터프라이즈를 도입한 기업 관계자는 “성능도 중요하지만 익숙해야 직원들이 실제로 쓴다”며 “사용성이 낯설거나 진입 장벽이 높으면 회사가 제공한 도구가 있어도 직원들이 결국 외부 서비스를 찾게 되고, 전사 단위의 AX는 한계가 생긴다”고 말했다.

금융·법률 등 분야에선 정확성도 중요한데, 앤스로픽의 클로드는 이 측면에서 강점을 내세운다. 클로드를 주력모델 삼아 법률 AI 서비스를 출시한 로앤컴퍼니 측은 “클로드의 강점은 할루시네이션(환각·AI의 그럴싸한 거짓말)을 최소화할 수 있다는 점”이라며 “자체 데이터와 결합한 RAG(검색 기반 생성) 구조에서도 답변 품질이 안정적으로 유지돼 업무 적용성이 높다”고 평가했다.

미국 벤처캐피털 업체 멘로벤처스에 따르면, 올해 상반기 클로드는 기업용 LLM(거대언어모델) API 사용량 1위(점유율 32%)를 기록하며 오픈AI(25%)와 구글(20%)을 제쳤다.

김주원 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

막강한 인프라와 업무 플랫폼을 가진 기존 빅테크는 AI를 자신들의 생태계에 통합하며 경쟁 구도를 다시 짜고 있다. 클라우드 플랫폼 애저를 중심으로 탄탄한 인프라를 갖춘 MS는 워드·엑셀·파워포인트·아웃룩·팀스 등 자사 업무 플랫폼(M365) 전반에 AI 에이전트 코파일럿(Copilot)을 통합했다. 클라우드-데이터-업무 앱이 연결된 자체 생태계 안에서 기업용 AI 활용도를 끌어올리고 있다.

지난달 9일 구글이 출시한 제미나이 엔터프라이즈는 AI 모델 제미나이와 사내 및 외부 에이전트 등을 모두 하나의 플랫폼으로 통합한 기업용 AI 에이전트 상품이다. 구글 워크스페이스뿐 아니라 M365, 세일즈포스, SAP 등 다양한 비즈니스 환경에 안전하게 연결된다.

그렇다면 우리 조직에 맞는 AI 모델, 상품은 어떻게 고르면 좋을까. 앞서 AI를 도입한 한 대기업 관계자는 “가장 먼저 해야 할 일은 어떤 도메인(사업 분야), 어떤 유스케이스(구체적 활용 사례)부터 적용할지를 정확히 정하는 것”이라고 말했다. 그는 “자기 조직이 어떤 문제를 갖고 있고 AI가 어디에 투입돼야 효과가 나는지를 객관적으로 파악하는 작업부터 시작하는게 좋다”고 덧붙였다.

또 AI 도입은 단순한 기술 구매가 아니라 거버넌스·확장성까지 고려한 조직별 설계작업에 가깝다. AI의 품질뿐 아니라 가격·보안·국가별 특화 성능 등 고려해야 할 요소도 많다. 네이버 클라우드 관계자는 “당장 완벽한 투자보다 작게 시작해 단계적으로 확장하는 전략이 현실적”이라며 “어떤 솔루션이든 도입해 보고 실행하는 것이 중요하다”고 말했다.

■ 혁신의 최전선에서 비즈니스의 미래를 봅니다. 첨단 산업의 '미래검증 보고서' 더중플에서 더 빨리 확인하세요.

QR코드를 스캔해 The JoongAng Plus에 접속하면, 혁신의 최전선을 들여다보는 ‘팩플’의 보다 많은 콘텐트를 볼 수 있습니다.

‘서울 김부장’ 삽질 그만해라…요즘 대기업 실적 가르는 AI

https://www.joongang.co.kr/article/25384560

구원투수는 카카오 구원했나…‘CA협의체’ 2년 실험 성적표

https://www.joongang.co.kr/article/25386536

“챗GPT? 제정신이면 안 쓸것” 5년뒤 터질 ‘월드모델’ 뭐길래

https://www.joongang.co.kr/article/25385639

북미서 이런 영어 먹히다니! AI 무장하고 페북 잡는 당근

https://www.joongang.co.kr/article/25383694

어환희 기자 eo.hwanhee@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지