LLM 옵스·GPU 팜 구축해 생성형 AI 환경↑
"AX 레퍼런스 확보…글로벌 영업 확대"

<이미지를 클릭하시면 크게 보실 수 있습니다>

KT가 태국 현지에 태국어 거대언어모델(LLM)을 비롯한 인공지능(AI) 플랫폼을 수출했다.

KT는 태국 자스민 그룹의 정보기술(IT) 전문기업인 '자스민 테크놀로지 솔루션(JTS)'에 LLM 운영 관리 환경인 'LLM 옵스(Ops)'와 AI 서비스 인프라인 '그래픽처리장치 팜(GPU Farm)'을 구축하고, 태국어 전용 LLM 모델도 개발하는 원스톱 프로젝트를 완료했다고 15일 밝혔다. KT와 JTS는 지난해 3월 태국어 LLM 플랫폼 개발 프로젝트를 위한 계약을 체결한 바 있다.

LLM 옵스는 다양한 LLM 모델의 학습·배포·운영 전 과정을 관리할 수 있는 환경이다. KT는 이를 고객사 맞춤형으로 구축해 JTS가 복잡한 생성형 AI 운영 환경을 보다 효율적, 안정적으로 운용할 수 있게 한다는 설명이다.

KT는 클라우드 자회사 KT Cloud와 함께 GPU 자원 관리를 위한 GPU 팜도 태국 현지에 조성했다. 여기에 기반해 JTS는 태국 기업과 기관에 GPU 구독 서비스(GPU as a Service, GPUaaS)를 공급하고 본격적으로 태국 내 AI 생태계를 확장할 계획이다.

태국어 LLM은 KT가 자체 모델 개발 경험과 노하우를 토대로 국내 LLM 전문 기업인 업스테이지와 공동 개발했다. 이 모델은 태국어, 영어, 한국어 등을 지원한다. 태국의 방대한 고유 데이터를 학습해 태국 정치, 역사, 문화 관련 질문에도 정확하게 응대할 수 있다.

KT는 앞으로도 JTS의 전문 기술 파트너로서 △AI 플랫폼 고도화 △GPU 인프라 확장·유지 보수 △AI 기반 신규 서비스 발굴 등 다분야에서 지속적으로 협력한다는 방침이다. 또한 양 사는 태국 AX 시장을 겨냥한 AI 서비스를 단계적으로 선보일 계획이다. 또한 동남아 시장뿐만 아니라 중동, 유럽 등 다른 글로벌 시장까지 AX 사업 영역을 본격적으로 확대해 나가기로 했다.

이진형 KT 전략·사업컨설팅부문 AI사업전략담당(상무)은 "태국어 특화 LLM 플랫폼 개발과 상용화는 KT의 AI 기술력과 글로벌 사업 역량을 다시 한번 입증한 성과"라며 "이번 프로젝트에서 얻은 경험과 노하우를 포함해 KT는 마이크로소프트, 팔란티어와의 전략적 제휴를 기반으로 AI, 클라우드의 서비스형 상품 라인업도 다각화하겠다"고 밝혔다.

KT 직원들이 태국어 LLM 플랫폼 구축 프로젝트에서 개발한 LLM 운영 관리 환경인 'LLM 옵스'를 테스트하고 있다./사진=KT 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

ⓒ비즈니스워치(www.bizwatch.co.kr) - 무단전재 및 재배포금지