[이데일리 임유경 기자] KT가 마이크로소프트(MS)와 협력해 개발한 한국 시장 특화 인공지능(AI) 모델을 선보인다. 우리나라의 관용구와 역사, 사회, 문화를 이해하는 AI 모델로 더 정확한 답변을 내놓는 것이 특징이다. 아울러 MS클라우드 애저를 기반으로 우리나라 데이터 보안 규제를 준수하는 퍼블릭 클라우드 서비스도 출시한다. 이를 통해 데이터 국외 이전에 제한이 큰 공공, 금융, 제조 시장을 정조준한다는 전략이다. AI 모델과 클라우드 모두 올 2분기 정식 출시된다.

KT는 26일 서울 양재도 aT센터에서 열린 ‘AI 투어 인 서울’에 전시관을 꾸리고 우리나라 산업 환경에 최적화된 AI 모델, 클라우드 서비스 등 MS와 협업을 통해 개발한 다양한 AI 전환(AX) 솔루션을 선보였다.

T 직원이 AI 투어에서 한국적 AI의 개념을 담은 GPT4o기반 커스텀 모델을 소개하고 있다.(사진=KT)

<이미지를 클릭하시면 크게 보실 수 있습니다>

KT 전시관은 △한국적 시의 개념을 담은 GPT4o기반 커스텀 모델 △보안을 강화한 퍼블릭 클라우드 KT 시큐어 퍼빌륵 클라우드(SPC) △탄소 배출량 산출 자동화를 위한 ‘탄소 배출량 관리 어시스턴트’스 △클라우드 자원을 필요에 따라 유연하게 할당하는 GPUaas‘ △마이크로소프트 코파일럿 기반 업무 혁신 사례 △업무에 필요한 정보와 지식을 제공하는 대화 기반 Al 에이전트 워크 Al’ 등 총 6종의 AX 솔루션으로 구성됐다.

한국적 AI‘ 개념을 담은 ’GPT-4o 기반 커스텀 모델‘

KT는 이번 행사에서 GPT-4o를 기반으로 저작권을 확보한 한국의 역사와 철학, 사회 데이터를 학습시켜 ‘한국적 AI’를 개발했다. 단순히 잘 한국어를 처리하는 언어 모델을 넘어 KT 한국인의 사고방식과 정서에 대한 이해를 바탕으로 한국인의 일상과 비즈니스 환경에서 유용하고 안전하게 활용할 수 있다는 게 KT의 설명이다.

예컨대 ‘입이 무겁다’ 같은 관용구를 더 정확하게 번역하고, 한국 사회의 시대별 ’부의 상징‘을 묻는 질문에는 1960년대인 한국 경제는 번듯한 회사에서 직장을 구한 것 만으로도 부의 상징이라는 구체적인 답변을 내놨다.

KT는 멀티 AI 모델 중 이용자 업무 환경에 가장 적합한 것을 제공하는 ‘오케스트레이터’도 출시한다. 고성능 모델인 한국적 GPT-4o뿐 아니라 오픈소스 라마와 자체 개발 모델 믿음 등을 활용해 금융, 법률, 교육, 의료 등 산업 특화 AI를 제공해 다양한 요구사항에 대응한다는 계획이다.

KT의 한국적 AI 접근법(사진=임유경 기자)

<이미지를 클릭하시면 크게 보실 수 있습니다>

보안성을 강화한 퍼블릭 클라우드

KT는 마이크로소프트와 함께 한국적 소버린 클라우드인 KT SPC(시큐어 퍼블릭 클라우드)를 출시한다. KT SPC는 대규모 확장 가능한 하이퍼스케일 클라우드 컴퓨팅 서비스다. 기존 퍼블릭 클라우드 수준 이상의 사용 환경과 경험, 효율성을 제공하면서도 국내의 법률과 규제 및 기업 컴플라이언스 기준 준수를 전제로 높은 보안성과 데이터 주권을 확보해 금융이나 공공 영역에서도 안전하게 활용할 수 있다는 점이 강점이다.

데이터의 전 생애주기 동안 강력한 보안성을 갖춘 것이 가장 큰 특징이다. 기존 퍼블릭 클라우드 환경에서는 보호하지 못했던 ‘사용 중(in Use)인 데이터’ 영역까지 암호화하며, 하드웨어 보안 모델인 ‘매니지드 HSM’ 서비스와 고객 관리키 등을 사용한다. 고객이 제어권을 갖기 때문에 데이터 유출 시에도 암호 해제가 불가능하다.

KT 사내 ‘M365 코파일럿’ 도입 통한 업무 혁신

KT는 1만 명 넘는 전체 구성원을 대상으로 M365 코파일럿을 도입하는 등 구성원들이 업무 환경에서 일상적으로 AI를 활용할 수 있게 했다. 이번 행사에서는 AI로 일하는 방식을 바꾸면 발생한 시행착오와 극복 방법도 공개했다.

KT는 기존 IT 시스템에 M365 코파일럿을 도입할 때 이종 시스템 간 충돌을 해결하고, 구성원들의 습관을 변화시키는 데에 어려움을 겪었다. 이를 해결 하기 위해 M365 코파일럿 파워 유저로 구성된 얼리버드 그룹을 운영하며 초기 도입을 진행하고, 사내 프롬프트 경진대회 ‘크롬프톤’ 등을 통해 코파일럿을 활용한 업무 혁신 사례를 발굴하고 확산해 전사적으로 일하는 방식의 변화를 만들어 냈다.

GPU도 구독하는 ‘GPUaaS’

KT는 ‘탄소 배출량 관리 어시스턴트’도 공개했다. 탄소 배출량 변화 원인을 분석하고 감축 가이드를 제공하며 신제품 출시에 따른 탄소 배출량을 손쉽게 산출하는 등 해당 분야 전문가들의 작업을 자동화하는 에이전트다. MSM(Microsoft Sustainability Manager)를 기반으로 기업들의 기존 탄소 배출량 계산 뿐만 아니라 공급망의 탄소 배출량까지 관리할 수 있다.

이번 행사에서는 계열사들도 AI 기술력을 뽐냈다. KT클라우드는 학습과 추론을 위한 인프라 서비스 GPUaaS(GPU as a Service)를 소개했다. 올해 3분기 내에는 엔비디아 H200을 적용해 한층 강화된 성능을 구현할 계획이다.

kt ds는 임직원의 업무를 도와주는 워크Al를 선보인다. 워크AI는 MS 애저 기반 거대언어모델(LLM)을 활용해 개발됐다. 사내 .외의 업무 지식과 정보를 한 곳에서 통합해 제공한다. 임직원 누구나 업무와 관련된 자료를 업로드하고 프롬프트 입력으로 손쉽게 시 에이전트를 만들어 활용할 수 있다.

KT 관계자는 “이번 전시를 통해 MS와의 긴밀한 협력으로 달성한 기술적 성과를 공유하고, KT 그룹의 AX 혁신 사례를 선보일 것”이라며 “국내 산업계 AX가속화를 위한 고민을 해결하는 데 유용한 인사이트를 제공하겠다”고 강조했다.