[이데일리 김현아 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

SK㈜ C&C(사장: 윤풍영)이 NH농협은행(은행장: 이석용)의 ‘생성형 AI 기반 질의응답 서비스 구축 사업’에 착수했다.

이 프로젝트는 NH농협은행의 개방형 ‘AI기술 허브 플랫폼’에서 운영 중인 AI은행원, 금융업무에 대한 음성합성기술(TTS), 지능형 문서처리 서비스에 생성형 AI 기반 질의응답 서비스를 추가하는 게 목표다.

생성형 AI기반 질의응답 서비스를 통해 AI가 업무 규정, 가이드, 은행 내 보고서 등을 분석해 은행원의 업무 처리를 지원할 계획이며, 향후 고객 서비스로 확장할 예정이다.

MS 애저기반 오픈AI 결합

이를 위해 SK㈜ C&C는 은행 업무 영역별 지식 저장소와 MS애저 기반의 ‘오픈 AI’를 결합해 AI프롬프트(명령어)를 활용해 업무별 질의응답 서비스를 구현할 예정이다.

이 지식 저장소는 데이터 등록 시 수작업 없이 자동으로 데이터를 처리하고 저장하며, 원천 데이터를 효율적으로 관리하고 활용할 수 있도록 지원한다.

기존의 AI챗봇과는 달리 생성형 AI를 API로 연계하여 은행 내부 지식 저장소의 데이터를 활용해 직접 답변을 생성한다.

AI프롬프트 최적화 엔진

생성형 AI 기반 질의응답 서비스의 특징 중 하나는 ‘AI프롬프트 최적화 엔진’이다.

이 엔진은 사용자 질문 의도를 파악하고 가장 적합한 프롬프트를 선택하여 최적의 답변을 제공하는 기능을 갖추고 있다. 또한, 답변 신뢰성 확보를 위해 출처를 표기하고 출처 정보 제공을 위한 하이라이팅 기능을 제공한다.

생성형 AI기술을 활용하는 동안 발생할 수 있는 위험에 대비하기 위해 국가정보원 및 금융보안원의 가이드라인을 준수하며 은행 내 민감 정보의 외부 유출을 방지하는 보안 기술도 적용할 예정이다.

NH농협은행 관계자는 “이번 프로젝트는 시작에 불과하며, 향후에는 생성형 AI기술을 다양한 업무 영역으로 확대해 비즈니스 혁신을 가속화할 계획”이라고 전했다.

SK㈜ C&C 김화중 금융Digital 혁신그룹장은 “NH농협은행의 AI 디지털 전환에 대한 관심이 높아 다양한 업무 영역에서의 생성형 AI 기술 확대가 기대된다”며 “SK㈜ C&C는 NH농협은행의 디지털 ITS파트너로서 은행 업무 현장 전반에 걸쳐 디지털 AI 기반의 다양한 금융 혁신을 적극적으로 지원할 것”이라고 했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>