[디지털데일리 이안나 기자] 금융권 인공지능(AI) 전환이 속도를 내고 있지만 기술 도입이 성과로 이어지지 못하는 구조적 한계가 여전히 뚜렷하다. 생성형AI 열풍이 1년 넘게 이어졌지만 실제 비즈니스 혁신은 여전히 제한적이라는 분석이 잇따르고 있다. 이에 따라 금융사 내부 운영 체계와 조직 역량을 ‘AI 중심’으로 설계해야 한다는 요구가 커지고 있다.

데이터이쿠는 2013년 프랑스 파리에서 설립된 통합 AI 플랫폼 기업으로, 분석·머신러닝·생성형AI를 하나의 환경에서 운영할 수 있도록 지원한다. 현재 뉴욕을 주요 거점으로 글로벌 금융·제조·유통 등 600여 개 기업 고객을 확보하고 있다. 국내에서도 금융권 중심으로 데이터·AI 운영 체계 구축 프로젝트를 확대하고 있다.

이 같은 흐름 속에서 19일 서울 여의도 콘래드호텔에서 열린 데이터이쿠 세미나에서는 금융권 AI 전환이 제자리걸음에 머물러 있다는 문제가 지적됐다. 남상규 데이터이쿠 영업대표는 국내 금융사가 직면한 현실을 “의지는 높지만 방법론이 없다”고 설명했다. 개념검증(PoC)은 빠르게 진행되지만 전사 확산으로 이어지지 못한다는 것이다.

그는 현업과 데이터 조직이 함께 움직일 수 있는 구조가 필요하다며 AI를 단순 도구가 아닌 “일하는 방식의 혁신”으로 받아들이려면 조직 전반에 ‘AI 근육’을 키우는 작업이 선행돼야 한다고 강조했다.

산업 전반의 흐름에서도 같은 지점이 확인된다. 김영석 데이터이쿠 시니어 솔루션 엔지니어는 글로벌 금융사 AI 도입 전략을 분석하며 기술보다 운영 체계 성숙도가 결과를 가른다고 설명했다. BNP파리바·아비바·스탠다드차타드 등 해외 금융사는 데이터 전처리, 모델 개발, 머신러닝·생성형AI 적용, 모니터링을 단일 프로세스로 통합해 조직 전반의 속도를 끌어올리고 있다는 것이다.

김 엔지니어는 “도구가 흩어져 있고 담당 조직이 분절된 상태에서는 AI 생산성이 절대 올라오지 않는다”며 “반대로 하나의 체계 안에서 모델 개발과 배포, 거버넌스가 이어지면 안정성과 확장성을 동시에 확보할 수 있다”고 말했다.

그는 금융 산업 특유 규제 환경이 AI 운영 난제를 더욱 키우고 있다고 진단했다. 실제로 글로벌 금융기관 다수가 AI 감사 기준을 충족하지 못하고 있으며 데이터 품질·추적성·리스크 평가 체계가 미흡해 모델의 신뢰성을 확보하는 데 상당한 시간이 걸린다는 설명이다.

김 엔지니어는 “국내 금융사도 망분리와 보안 규정 때문에 최신 모델을 실험하기 어려운데 이는 글로벌 금융권에서 공통적으로 나타나는 문제”라며 “기술 그 자체보다 이를 관리하고 운영할 수 있는 체계가 우선”이라고 강조했다.

AI 기술의 급격한 변화 속도를 금융사가 따라가기 어려운 현실도 짚었다. 폐쇄망 환경에서 외부 모델을 시험할 수 없고 부서별로 사용하는 도구가 달라 모델·데이터·시스템이 단절되는 구조가 문제로 지적됐다. 김 엔지니어는 “기술은 한 주 단위로 바뀌는데 금융사는 이 속도를 따라가지 못한다”며 “이 간극을 줄여주는 플랫폼이 필요하다”고 말했다.

이러한 문제를 해결하기 위한 기술적 해법은 우재하 데이터이쿠 시니어 솔루션 엔지니어 발표에서 구체화됐다. 그는 생성형AI 시대 금융사는 단일 모델이 아니라 수십·수백개 모델과 에이전트를 동시에 운영하게 될 것이라고 전망했다. 이를 안전하게 관리하기 위한 구조로 ‘유니버셜 AI 플랫폼’을 제시했다.

우 엔지니어는 외부 대규모언어모델(LLM), 사내 LLM, 온프레미스 모델을 단일 구조에서 연결하는 ‘LLM 메쉬’ 개념을 설명하며 “금융은 규제가 많은 산업이기 때문에 모델 접근권한, 비용, 품질, 안전성까지 Layer 단위로 통제할 수 있어야 한다”고 말했다.

그는 특히 폐쇄망 환경에서 모델을 자유롭게 교체하거나 병렬로 실험하기 어려운 금융권 현실을 지적하며 “기술은 빠르게 바뀌는데 인프라는 그 속도를 따라가지 못한다. 플랫폼이 이 변화 속도를 흡수해줘야 한다”고 강조했다. 또한 생성형AI ‘환각현상’을 비롯해 금융권이 가장 민감해하는 리스크 요인을 최소화하기 위해 품질·보안·비용을 분리해 관리하는 가드레일 구조도 소개했다.

우 엔지니어는 금융권 AI 전략 다음 단계를 ‘에이전트 운영’으로 규정했다. 그는 “생성형AI가 가능성을 보여준 단계였다면 이제는 이 기술을 실제 업무로 연결하는 에이전트 시대가 시작되고 있다”며 “금융은 작은 오류도 허용하기 어려운 산업인 만큼 변화의 속도와 리스크를 플랫폼이 대신 관리해주는 구조가 필요하다”고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -