[AI리포터]

생성 AI 모델 공유 사이트 시빗AI(CivitAI)

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 가 실존 인물의 딥페이크 제작을 장려하기 위해 '바운티스'(bounties)라는 새로운 기능을 도입했다.

이를 통해 최고의 인공지능(AI) 모델을 만드는 사람은 사용자가 실제 돈으로 사용할 수 있는 '버즈'(Buzz)라는 가상 화폐를 받게 된다고 13일(현지시간) IT매체 엔가젯이 전했다.

현재 바운티스는 유명인이나 인플루언서와 같은 인물의 딥페이크 제작을 장려하고 있다. 그러나 바운티스는 합의되지 않은 음란물 이미지 제작 등의 우려도 불러일으키고 있다는 설명이다.

한 인스타그램 인플루언서는 "이것이 어떻게 될지 매우 두렵다"며 "인터넷은 통제할 수 없는 곳처럼 느껴지기 때문에 어떤 조치를 취해야 할지 모르겠다"고 전했다. 또 다른 시빗AI 사용자는 "향후 법적 문제를 요구한다"는 이유로 바운티스를 거부하기도 했다.

시빗AI는 바운티스를 실제 인물의 음란물 이미지 생성에 사용해서는 안 된다고 명시하고 있으나, 플랫폼에서 대중에게 공개되는 이미지는 모두 허용되고 있는 실정이다. 실제로 해외 매체 404미디어는 시빗AI의 텍스트-이미지 변환 도구를 사용해 몇 초 만에 개인과 합의되지 않은 음란물 이미지를 만들기도 했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>