[이데일리 김현아]

디자인=이데일리 김정훈 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

KT AI/BigData 사업본부 최준기 본부장, KT AI2XL 연구소 배순민 소장, ‘매스프레소’ 이용재 대표

<이미지를 클릭하시면 크게 보실 수 있습니다>

KT(030200)(대표 김영섭)가 거대언어모델(LLM)‘믿음(Mi:dm)’의 출시를 공식 발표했다. 파운데이션 모델의 성능지수 중 하나인 파라미터(매개변수)는 최대 2000억개 이상이다.

네이버 ‘하이퍼클로바X’의 이전 버전(하이퍼클로바)의 2년 전(2021년 11월 기준)숫자가 2040억개였으니, 파라미터로는 네이버에 뒤진다.

하지만, 통신사 자체 LLM 가운데에서는 ‘믿음’이 가장 크다. 자체 클라우드 인프라에 추론(서비스)용으로 국산AI 반도체 리벨리온을 장착해 비용을 최대 50%(통상 20~30%)까지 낮춘 점은 네이버보다 낫다는 평이다.

이에 따라 KT의 ‘믿음’은 네이버가 주력하는 생성형AI 기반 검색서비스(큐:)같은 소비자 시장(B2C)이 아니라, 기업 시장을 타깃으로 했다.

네이버 ‘하이퍼클로바X’와 기업시장에서도 경쟁하지만, KT의 주력은 기업시장이다. 특히 70억 개 파라미터 파운데이션 모델을 공개해 국내 기업들이 많이 활용하는 메타의 오픈소스 LLM ‘라마’와 경쟁하게 될 것으로 보인다.

3년 뒤 1천억 대 매출 예상…5년간 1.5조 원 투자는 유효

최준기 KT AI·빅데이터 본부장은 31일 열린 온라인 기자간담회에서 KT ‘믿음’을 공개하며 기업고객을 위한 솔루션임을 강조했다. 최 본부장은 “AI 전문인력이 없어도 기업들이 쉽게 AI를 학습시키고 배포, 운영할 수 있도록 ‘믿음 스튜디오’를 제공한다”면서 “몇 번의 클릭만으로 자사의 데이터를 파인튜닝(미세조정)해서 쓸 수 있다”고 했다.

그는 KT 믿음과 KT클라우드 인프라를 함께 쓰면 비용이 줄어들 것이라고도 했다. 최 본부장은 “KT는 AI풀스택(AI 반도체·클라우드 등 인프라부터 이용자에게 제공하는 AI 응용 서비스까지 모두 아우르는 것)을 통해 통상 30% 이상 절감된 금액을 제공해드리려 한다”고 언급했다. 기존 대비 약 27% 가까운 GPU 학습 비용 절감이 가능한 KT 클라우드의 HAC(Hyperscale AI Computing) 서비스와 서비스 비용을 기존 대비 50% 절감한 리벨리온의 NPU 인프라 덕분이다.

최 본부장은 “기업시장에서 3년 뒤 1천 억원 대 매출을 예상한다”며 “5년간 1.5조 원을 생성형AI에 투자하겠다는 계획은 유효하다”고 부연했다.

금융·제조·교육 등에 적용…콴다·업스테이지와도 협업

KT는 글로벌, 제조, 금융, 공공, 교육의 5대 영역으로 초거대AI 사업을 확대하겠다는 계획이다. 복잡한 금융 상품을 소비자에게 쉽게 설명하려면 Q&A엔진이 필요하고, 언론사에서도 보도자료를 올리면 기사 작성 초안 서비스를 도울 수 있다고 했다. 언젠가는 메뉴 사진을 찍어 올리면 알아서 주문까지 해주는 서비스가 가능해질 것으로 전망했다.

구글·앤트로픽·오픈AI(MS)·메타 등 글로벌 빅테크와의 전쟁 속에서, KT는 환각을 줄이고 AI윤리를 더 챙기는 것으로 ‘믿음’의 기술력을 자신하기도 했다.

배순민 AI2XL 연구소장은 “AI의 환각 답변 문제를 해결하기 위해 검색과 추론, 답변의 모든 단계에서 신뢰성을 높일 기술들을 개발해 적용했다”면서 “도식화된 문서도 모델이 정확히 이해할 수 있도록 변환하는 기술, 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술, 원문에 근거한 응답을 생성하도록 한 강화학습을 적용했다”고 했다.

KT는 이로 인해 생성형 AI의 가장 큰 문제점인 환각 현상을 일반 생성형 AI 서비스 대비 최대 70% 가까이 줄일 수 있다고 자신했다. 교육 서비스 콴다를 서비스하는 매스프레소, sLLM(소형언어모델) 개발업체 업스테이지도 KT 믿음과 함께 한다.

왼쪽부터 ‘매스프레소’ 이용재 대표, ‘업스테이지’ 김성훈 대표, KT SW개발본부 조성은 본부장

<이미지를 클릭하시면 크게 보실 수 있습니다>

70억개 저용량 ‘믿음’ 모델 개방

스타트업들은 특히 KT가 70억개 파라미터를 가진 저용량 파운데이션 모델을 개방한 점을 높게 평가했다. ‘믿음’의 저용량 모델을 허깅페이스와 리더보드에 올려, 누구나 즉각 다운로드해서 쓸 수 있게 한 것이다.

김성훈 업스테이지 대표는 “KT가 오픈한 것은 굉장히 큰 결단이었고 생태계에 큰 영향을 미칠 것”이라면서 “LLM 시장에서 오픈 소스 오픈 영역은 미치는 영향이 굉장히 큰데 한국어가 안 된다. 그런데 믿음이 나와 메타의 오픈소스 LLM ‘라마’보다 훨씬 더 좋은 베이스라인 모델을 만들어준다면 한국어로 된 서비스, 한국어로 된 모델들이 굉장히 많이 나오게 될 것”이라고 기대했다.

(그래픽=문승용 기자)

<이미지를 클릭하시면 크게 보실 수 있습니다>