[AI리포터]

AI 에이전트 시대가 도래한다. [사진: 셔터스톡]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] AI 기반 고객 에이전트의 효율적인 운용을 위해서는 실제 고객 데이터를 활용하되, 개인정보 보호와 규제 준수를 지키는 안전한 훈련 전략이 필수적이다.

4일(현지시간) IT매체 씨엑스투데이에 따르면, 기업들이 AI 에이전트 훈련에 직면한 가장 큰 문제는 고객 행동을 반영할 실전 데이터를 확보하면서 동시에 민감 정보를 보호하는 균형을 맞추는 것이다. 기존 FAQ나 오래된 스크립트만을 사용하면 현실 고객의 복잡한 행동을 반영하지 못해 상담 성과가 떨어지고, 새로운 신뢰 및 컴플라이언스 문제가 발생할 수 있다.

안전한 훈련을 위해 전문가들은 익명화된 대화 기록, 채널 이용 기록, 행동 패턴, 결과 코드, 감정 표시, 정책 문서 등만 활용할 것을 권고한다. 결제 정보, 개인 식별자, 감정적 고백 등 민감 정보는 자동화된 삭제 및 인간 검증을 통해 관리해야 하며, CRM, 컨택센터, 메시징 데이터를 통합해 단일 고객 여정을 구성해야 모델이 정확하게 학습할 수 있다.

훈련 과정에서는 실제 상담 사례를 활용해 고객이 정보를 누락하거나 혼동하고, 감정 변화를 보이는 순간까지 학습하도록 해야 한다. 정책, 제품 규칙, 문제 해결 절차를 구조화한 지식 레이어를 구축하고, 안전 가이드라인을 설정해 AI가 허용 범위를 벗어나지 않도록 관리하면, 인간 상담사의 직관과 판단을 모방하는 AI 에이전트를 만들 수 있다.

또한, AI 에이전트 성과와 안전성을 지속적으로 모니터링하고, 해결률, 처리 시간, 고객 만족도, 감정 추세 등 지표를 바탕으로 점검·재훈련해야 한다. 전문가들은 AI 시스템 실패 대부분이 기술 문제보다 데이터 관리와 정책 설정 부족에서 비롯되므로, 안전하고 규제 준수를 지킨 데이터 활용 전략이 성공적인 AI 에이전트 구축의 핵심이라고 강조한다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>