인공지능(AI) 챗봇 법률 서비스부터 고객 리뷰 대필까지 생성형 AI를 활용한 사업이 다각화되는 가운데 미 규제당국이 단속에 나섰다. 이들 기업의 제품과 과대광고가 공정한 시장 경쟁을 해친다는 판단에서다.

미 연방거래위원회(FTC)는 25일(현지시간) 생성형 AI를 활용한 서비스를 제공하는 회사 및 벤처 스타트업 5곳에 대한 단속 조치를 발표했다. 이들 기업이 기만적이고 불공정한 방식으로 AI 기술을 홍보해 소비자들을 오도했다는 혐의다.

[이미지출처=게티이미지연합뉴스]

<이미지를 클릭하시면 크게 보실 수 있습니다>

FTC의 철퇴를 맞은 기업 중 하나는 '세계 최초의 로봇 변호사'를 구호로 내건 온라인 법률 서비스 업체 두낫페이(DoNotPay)다. 두낫페이는 자사 AI 서비스를 이용하면 고객이 변호사를 선임하지 않아도 누군가를 폭행 혐의로 고소하거나 유효한 법적 문서를 즉각적으로 생성할 수 있다고 홍보해왔다. 그러나 FTC는 두낫페이가 자신들의 AI 챗봇의 출력이 정말로 인간 변호사 수준과 맞먹는지 테스트하지 않았다고 지적했다.

FTC는 "증거 없이 자사 AI 서비스가 전문 인력을 대체할 수 있다고 홍보하는 것도 앞으로 금지될 것"이라며 두낫페이에 19만3000달러의 벌금을 부과했다. 앞서 두낫페이는 지난 2월 캘리포니아 한 법정에서 세계 처음으로 AI 변호를 시도할 계획이었으나 주 변호사협회의 압박으로 철회한 바 있다.

블로그나 고객 리뷰를 대신 써주는 AI 도구 라이트르(Rytr)도 FTC의 눈을 피해 가진 못했다. FTC는 라이트르의 AI 서비스가 "이용자의 제한적인 입력만으로도 구체적이고 자세한 리뷰를 생성했다"며 "제품 구매 결정을 내리기 위해 리뷰를 살펴보는 잠재적 소비자들을 기망하고 오도할 수 있는 거짓 정보들이 대거 포함돼 있었다"고 밝혔다. 라이트르는 FTC와의 합의에 따라 리뷰 대필 서비스를 중단할 예정이다.

리나 칸 FTC 위원장은 성명을 통해 "AI 도구를 사용해 사람들을 속이거나 기망하는 것은 불법"이라며 "FTC는 AI 시장의 불공정 관행을 단속해 정직한 기업과 혁신가가 공평한 기회를 얻고 소비자가 보호받도록 할 것"이라고 강조했다.

김진영 기자 camp@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>