[디지털데일리 오병훈기자] “17세 고등학생이 금요일 오전 6시30분에 아이스크림 할인점에서 결제한 건을 이상거래탐지시스템(FDS)이 곧바로 인지한 뒤 직원에게 대시보드 형태로 고지한다. 다소 수상쩍은 시간, 장소, 나이 등 데이터를 빠르게 조합해 이상거래를 잡아낼 수 있었다”

24일 신재홍 카카오뱅크 최고기술책임자(CTO)는 개발자 콘퍼런스 '이프카카오(if kakao) AI 2024'에서 열린 ‘인공지능(AI) 파이낸스테크’ 세션에서 카카오뱅크 FDS 활용 사례를 소개하면서 이같이 설명했다.

해당 세션은 정규돈 카카오 CTO 진행 아래 ▲김동용 카카오페이 CTO ▲신재홍 카카오뱅크 CTO ▲이어형 카카오엔터프라이즈 CTO 등이 각사 성과 및 향후 비전 등을 발표하는 방식으로 진행됐다.

AI가 빠르게 발전하면서 금융권에서도 다양한 활용 방안 연구가 진행됐다. 금융권에서는 오래전부터 실수를 줄이거나, 인간 인지 능력 범위를 넘어서는 리스크를 탐지하기 위한 기술 연구가 이어져왔다. 결과적으로 최근 금융 기업들은 FDS를 비롯해 비정상거래 감지시스템(ADS), 자금세탁방지(AML) 등 기술에 AI를 적용하기 위한 방법을 개발하는데 집중하고 있다.

FDS와 ADS, AML은 모두 온라인 금융 거래를 통해 발생 가능한 범죄 자금 조달, 피싱사기 등을 자동으로 잡아내는 역할을 한다. 하루에도 수많은 거래가 발생하는 인터넷뱅크 특성상 인간이 일일이 계좌 정보를 확인하며 이를 잡아내는 것은 사실상 불가능에 가깝다. 때문에 카카오뱅크는 신고접수 및 계좌 정보, 거래 데이터를 종합적으로 활용해 지속적으로 의심거래를 추적 및 제재하고 있다.

신 CTO는 “금융 서비스가 다양해지고 기술이 복잡해짐에 따라 AI를 연계한 안정적이고 지속 가능한 품질 관리체계 시스템이 필요해졌으며, 인프라를 쉽게 사용할 수 있도록 돕는 플랫폼과 전문조직 구성이 요구되는 상황”이라며 “카카오뱅크는 최근 한국과학기술원(KAIST)과 함께 산학 연구개발로, 기존보다 10배 더 빠르고 설명력이 뛰어난 FDS 알고리즘을 마련할 수 있었다”고 설명했다.

카카오뱅크는 FDS 외에도, ▲AI를 활용한 신분증 광학문자인식(OCR) 시스템 ▲영상통화 안면인식 일회용비밀번호(OTP) 셀피 인증 ▲대안신용평가모델 ‘카뱅스코어’ 등을 개발해 이용자에게 선보인 바 있다.

신 CTO는 “카카오뱅크는 AI 에코 시스템을 기반으로 금융 AI 핵심이 되는 인프라, 모델 학습, 시스템 관리 등 업무를 이어가고 있다”며 “AI를 레드티밍(AI 모델 취약점 및 편향성 테스트) 품질 검증, 오픈소스 거대언어모델(LLM) 파인튜닝 측면에서는 산학 연구도 지속 중”이라고 전했다.

카카오 핀테크 계열사 카카오페에서는 FDS 시스템에 룰베이스 및 머신러닝 기법을 동시에 활용하는 FDS를 운영 중이다. FDS에서 룰베이스와 머신러닝은 우열 관계가 아닌 상호 보완관계이기 때문에 상황에 따라 적재적소에 적용하는 것이 효율적이라는 것이 김동용 CTO 설명이다.

김 CTO는 “이용자 인증은 단순화하고, 이상거래 탐지는 정밀하게하기 위해 룰베이스와 머신러닝 하이브리드 시스템을 적용했다”며 “카카오페이는 룰베이스와 머신러닝 기반 하이브리드 시스템으로 주당 약 7600만건, 연간 약 40억건 거래를 처리하며, 4% 정밀도와 93% 재현율을 기록하고 있다”고 설명했다.

한편 카카오페이는 '금융 비서'라는 AI 개발 방향성을 가지고, 금융 시장 내 정보 비대칭성 해결하기 위한 다양한 서비스를 개발 중이다. 그 첫 시작으로 카카오페이는 ‘보험진단AI’를 선보인다. 보험진단AI는 이용자 건강검진 정보 등 데이터에 기반해 이용자에게 건강 관리 방법을 알려주고, 동시에 적합한 보험 서비스를 추천해준다.

김 CTO는 “카카오페이 AI 금융 비서는 보험 진단 서비스를 시작으로, 세무, 부동산, 투자 등 다양한 분야로 확장할 계획”이라며 “궁극적으로 종합 금융 비서를 제공하는 것이 목표”라고 강조했다.

이어형 카카오엔터프라이즈 CTO는 금융기관이 AI를 활용하기 위해 필요한 클라우드 인프라에 대해서 설명했다. 카카오엔터프라이즈는 카카오 그룹 내 클라우드서비스제공사(CSP)로서 카카오뱅크 및 카카오페이 등 금융 서비스 인프라를 뒷받침해주는 역할을 맡고 있다.

이 CTO는 금융 생태계에서 필요한 클라우드 서비스 핵심 키워드를 ‘확장성’ 및 ‘보안’이라고 봤다. 카카오엔터프라이즈는 확장성을 확보하기 위해 고성능 네트워크 기술을 통해 다른 클라우드와 쉽게 연결할 수 있는 멀티 클라우드 전략을 적용했으며, 그 덕분에 금융기관 프라이빗 클라우드 환경, 구축형(온프레미스) 환경과도 손쉽게 연결할 수 있었다는 것이 이 CTO 설명이다.

이 CTO는 “보안 측면에서는 정보보호 관리체계 국제표준(ISO), 클라우드서비스 보안인증(CSAP) 등 국내 다양한 심사 및 인증기관으로부터 인증을 받았다”며 “금융기관을 위한 CSP 안정성 평가 등을 완료했다”고 설명했다.

마지막으로 이 CTO는 “클라우드는 정보기술(IT) 종합 서비스이기 때문에 다양한 종류 서비스를 제공하기 위해서는 수준 높은 성능을 갖추고 있어야 한다”며 “카카오엔터프라이즈는 서비스 근본이 되는 가상 머신(VM), 네트워크, 스토리지 성능을 튼튼히 하기위해 AMD와 협력 아래 서버와 VM 간 경합이 발생하지 않는 기술을 개발하기도 했다”고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -