GPT-4o기반 자동 에이전트…상반기 출시
소버린 클라우드 SPC…"사용자가 다 통제"

KT AI 은행원의 대출 상담 시연 화면/사진=KT 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

"대출 신청일 기준 세대주인가요? 연 소득도 알려주세요."

KT가 인공지능(AI) 상담원이 직접 버팀목 대출을 심사하는 AI 에이전트를 공개했다. 마이크로소프트(MS)와 국내 산업계에 최적화해 개발 중인 GPT-4o기반 오토노머스 에이전트(Autonomous Agent)로 오는 상반기 상용화가 목표다.

"MS 협업으로 AI 성능·비용 최적 균형"

김훈동 KT AI 리드(상무)는 '마이크로소프트 AI 투어 인 서울(Microsoft AI Tour in Seoul)' 전시 내용과 관련해 27일 미디어 대상 브리핑을 열고 "최근 각 산업군에서 AI 에이전트는 AI가 자동으로 작동해 고객사의 문제를 푸는 오토노머스 에이전트로 발전돼 구현되고 있다"며 "다만 기업 입장에서 이를 추구하면 비용이 굉장히 많이 드는데 이 부분을 KT와 MS가 투자·개발해 만들고, 고객사가 정확도 높은 AI 모델을 쉽게 쓸 수 있게 하겠다는 것"이라고 설명했다.

산업 현장에서 쓰는 AI 에이전트는 크게 내부(B2E)와 외부(B2C)로 구분한다. KT는 일찍이 내부적으로 다수의 AI 에이전트를 도입해 임직원의 일하는 방식을 혁신해왔다. 나아가 산업군별 다양한 AI 에이전트도 준비 중이다.

특히 이번 AI 투어를 통해 KT가 공개한 금융권 특화 AI 에이전트는 AI가 직접 버팀목 대출 심사 업무를 진행한다. 금융권 대출 심사에서는 단계에 따라 각 AI 에이전트 역할을 구분하는데 먼저 대출을 접수하는 에이전트다. 고객이 대출을 신청하면 신용 평가 정보를 수집하고 개인의 상황을 반영해 대출 조건을 검토한다.

김훈동 KT AI 리드(상무)가 마이크로소프트(MS)와 국내 산업계에 최적화해 개발 중인 GPT-4o기반 오토노머스 에이전트(Autonomous Agent)를 소개하고 있다./사진=KT 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

다음은 신용 평가·심사 에이전트다. 고객의 신용 점수를 평가하고 금융권 프로세스에 맞춰 심사 리포트를 작성한다. 여기서 대출 가능한 특정 기준을 충족하면 심층 리포트 작성 에이전트로 넘어간다. 최종 승인 과정에서 활용되는데 오픈AI(OpenAI)의 딥리서치와 유사한 기술을 사용한다. 마지막 에이전트는 AI와 인간 담당자가 신용 평가 결과 리포트를 최종 승인하고 고객에게 결과를 전달한다.

이처럼 복합적인 AI 에이전트를 설계할 때는 기술적인 방법론을 다양하게 고려해야 한다는 설명이다. 김 상무는 "예를 들어 첫 번째 에이전트에서는 검색 증강 생성(Advanced RAG)으로 AI가 고객이 처한 여러 상황이나 정보를 포함해 대출 약관 등을 종합적으로 살펴보게 해야한다"며 "MS의 AI 파운드리(AI Foundry) 프레임워크를 비롯한 최첨단 기술을 활용해 정확도를 높였다"고 말했다.

그러나 성능 향상을 위한 무분별한 고도화는 기업 입장에서 도입 장벽이 될 수 있다. 정확도를 높일수록 AI 모델의 운용 비용이 급격히 상승해서다. KT는 이 같은 문제를 해결하기 위해 AI 성능과 비용 간의 최적 균형을 추구한다. 특히 오픈소스 모델의 한계를 보완하기 위해 산업별 양질의 데이터를 직접 수집·학습한 자체 AI 모델 '믿음'을 활용한다.

김 상무는 "앞으로는 금융권뿐만 아니라 전 산업군에서 AI 에이전트 활용이 확대될 것"이라며 "KT의 내재화된 기술로 산업군별 전문가들이 계속해서 이를 적용시키고 발전해 나갈 수 있게 컨설팅과 전체 프레임워크를 구축하는 형태로 AI 에이전트를 발전시킬 것"이라고 전했다.

"SPC로 AI 데이터 주권 지킨다"

KT는 MS와 전략적 협력을 통해 공동으로 KT 시큐어 퍼블릭 클라우드(Secure Public Cloud·SPC) 출시도 준비 중이다. 반드시 자국 내 인프라에서만 데이터가 유통되게 해서, 어떤 경우에도 데이터가 외국으로 유출되지 않게 하는 게 핵심이다. 데이터 주권을 확보하면서도 대규모 컴퓨팅 자원을 활용할 수 있는 '한국형 소버린 클라우드'인 셈이다.

KT SPC는 데이터의 모든 단계에서 고객만이 데이터를 통제할 수 있게 '기밀 컴퓨팅'이라는 하드웨어 기반 메모리 암호화 기술을 활용한다. 만약 메모리 덤프(Memory Dump)가 유출되더라도 암호를 풀 수 없게 했다.

저장, 전송 단계에서도 고객 소유의 키로 데이터를 암호화하고 해당 키는 '관리형 하드웨어 보안 모듈(HSMHardware Security Module·HSM)'이라는 기술을 활용해 고객 이외에는 데이터를 해독할 수 없게 한 점도 특징이다. 또한 고객 자원과 클라우드 운영 환경을 격리해 클라우드 운영자가 고객 자원에 접근하는 것도 차단했다.

강성권 KT 클라우드 리드(상무)는 "퍼블릭 클라우드는 장점도 많지만, 데이터 유출 문제로 여전히 국내 기업들은 도입을 망설이고 있다"며 "퍼블릭 클라우드임에도 내 자원이 나의 통제 권한 내에 있게 하는 것이 소버린 클라우드의 원칙"이라고 설명했다.

ⓒ비즈니스워치(www.bizwatch.co.kr) - 무단전재 및 재배포금지