LG유플러스는 자체 개발한 AI 모델의 안전성과 신뢰성을 검증하기 위해 국제 AI 검증 프로그램 '글로벌 AI 레드팀 챌린지'(Global AI Red Team Challenge)에 참여한다고 19일 밝혔다.

LG유플러스는 자체 개발한 AI 모델의 안전성과 신뢰성을 검증하기 위해 AI 검증 프로그램 '글로벌 AI 레드팀 챌린지'(Global AI Red Team Challenge)에 참여한다고 19일 밝혔다. LG유플러스 직원들이 레드팀 챌린지 참여를 응원하는 모습. LG유플러스 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

세계이동통신사업자연합회(GSMA)에서 주관하는 챌린지는 세계 최대 통신·IT 행사 MWC26가 열리는 스페인 바르셀로나에서 개최한다. 이번 챌린지는 MWC와 공식 및 공동 개최되는 개발자·디지털 인재 행사 '탤런트 아레나 2026'(Talent Arena 2026)의 핵심 프로그램 중 하나로 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 검증한다.

챌린지에는 100여명이 '레드팀' 역할로 참가해 AI의 취약점을 찾아내는 방식으로 진행된다. 이번 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책·안전 장치를 우회할 수 있는지 검증하는 게 특징이다. 참가자들은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias & Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 7개 항목에서 AI의 대응 수준을 평가한다.

LG유플러스는 자체 개발한 통신 특화 AI 모델 '익시젠'(ixi-GEN)을 출품한다. 이번 챌린지를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고 파악된 취약점을 개선해 AI 모델을 지속적으로 고도화하는 게 목표다. 글로벌 통신사 및 AI 전문가들과 교류해 AI 보안과 책임 있는 활용을 위한 논의도 이어간다는 계획이다.

이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 중요하다"며 "챌린지 참여로 익시젠의 경쟁력을 한층 강화하고 고객이 안심하고 사용할 수 있는 AI 서비스를 제공하겠다"고 말했다.

공병선 기자 mydillon@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>