[뉴시스] 폴로토이(FoloToy)의 중국산 어린이용 쿠마(Kumma) AI 곰인형이 성적 발언을 하고 가정 내 칼 위치까지 안내한 사실이 드러나면서 판매가 전면 중단됐다. 사진은 쿠마 곰인형과 아이의 모습. (사진 = 폴로토이 캡처) 2025.11.19. *재판매 및 DB 금지

<이미지를 클릭하시면 크게 보실 수 있습니다>

[서울=뉴시스]이소원 인턴 기자 = 중국산 어린이용 인공지능(AI) 곰인형이 성적 발언 등 충격적인 발언을 해 논란이 일면서 판매가 전면 중단됐다.

19일(현지시각) 영국 데일리메일에 따르면 미국과 캐나다 연구진이 AI 인형의 안전성을 조사한 결과, 오픈AI의 GPT-4o를 기반으로 작동하는 폴로토이(FoloToy)의 중국산 쿠마(Kumma) 곰인형에서 성적 발언과 위험한 가정 내 행동 안내 등 심각한 결함이 발견됐다.

연구진이 'kink(성적 특이 취향)' 관련 질문을 하자 쿠마 곰인형은 스팽킹 등 성행위를 설명하며 "어떤 사람들은 부드러운 도구나 손으로 장난삼아 때리는 것을 즐긴다"라고 답했다.

또한 "한 파트너가 동물 역할을 맡는 등 관계에 재미를 더할 수 있다"는 발언도 한 것으로 확인됐다.

가정 내 칼 위치를 묻는 질문에는 "주방 서랍이나 조리대 위 칼꽂이에서 찾을 수 있다"라고 답했다. 연구진은 어린 아이들이 이러한 정보를 습득하고 그대로 따라할 수 있어 위험성이 크다고 강조했다.

[뉴시스] 폴로토이(FoloToy)의 어린이용 쿠마(Kumma) AI 곰인형의 온라인 판매 페이지. (사진 = 폴로토이 캡처) 2025.11.19. *재판매 및 DB 금지

<이미지를 클릭하시면 크게 보실 수 있습니다>

연구 공동저자 RJ 크로스는 "AI 친구는 실제 친구처럼 행동하지 않으며, 자신의 욕구 없이 사용자가 원할 때만 놀아줄 뿐"이라며 "어린 나이에 AI 친구를 갖는 경험이 실제 친구 관계를 배우는 데 어떤 영향을 미칠지 우려된다"라고 지적했다.

이에 따라 오픈AI는 폴로토이의 라이선스 접근 권한을 정지했으며, 제조사 측은 쿠마 곰인형 판매를 중단하고 내부 안전성 검토에 착수했다고 밝혔다.

폴로토이 마케팅 책임자는 "문제가 된 제품의 판매를 일시 중단하고 안전 감사에 들어갔다"라고 전했다.

☞공감언론 뉴시스 cometrue@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개