[AI리포터]

이번 규제는 AI챗봇의 감정적 영향력을 통제하려는 중국 정부의 강력한 의지를 보여준다. [사진: 셔터스톡]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 중국이 인공지능(AI) 챗봇이 사용자의 극단적 선택을 유도하는 방식으로 인간 감정에 영향을 미치는 것을 막기 위한 규제안을 내놨다.

29일(현지시간) 블록체인 매체 크립토폴리탄 등 주요 외신에 따르면, 중국 국가인터넷정보판공실(CAC)은 '인간형 대화 AI 서비스'를 대상으로 한 새로운 규제 초안을 공개했다. 이는 최근 중국의 두 주요 AI챗봇 기업이 홍콩 증권거래소에 기업공개(IPO)를 신청한 가운데 나온 조치다.

이번 규제는 텍스트, 이미지, 음성, 영상 등 다양한 형태로 인간과 감정적으로 상호작용하는 AI서비스에 적용된다. 구체적으로 AI챗봇은 정신 건강을 해칠 수 있는 감정적 조작을 해서는 안 되며, 폭력적이거나 음란한 콘텐츠, 도박 관련 정보 생성도 금지된다.

만약 사용자가 극단적 선택을 암시할 경우, AI기업은 즉시 인간 상담사를 투입해 보호자나 지정된 인물과 연결해야 한다. 또 미성년자가 AI챗봇을 사용하려면 보호자 동의가 필요하며, 사용 시간에도 제한이 걸린다. 플랫폼은 사용자의 나이를 확인할 책임이 있으며, 불확실한 경우 미성년자 모드를 적용해야 한다.

뉴욕대 윈스턴 마 교수는 이번 규제가 AI의 감정적 안전성을 확보하려는 세계 최초의 시도로, 기존 생성형 AI규제보다 한 단계 진화한 조치라고 평가했다.

한편, 중국 AI챗봇 스타트업 지푸 AI(Z.ai)와 미니맥스는 최근 홍콩 증권거래소에 상장 신청을 했으며, IPO는 내년 1월 초로 예상된다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>