‘AI 가짜 전문가’ 허위 광고 피해가 늘자 정부가 10일 ‘AI 생성물 표시’ 의무화 등 대책을 발표했다. 사진은 AI 가짜 광고 영상. [사진 SNS 캡처]

<이미지를 클릭하시면 크게 보실 수 있습니다>

“성장 주사 대신 이거부터 먹여보세요.”

초등학생 자녀를 둔 40대 A씨는 최근 부모님이 보낸 유튜브 영상을 보고 깜짝 놀랐다. 단정한 용모, 수려한 말투를 지닌 중년 남성이 이같이 말하며 어린이 영양제를 소개하고 있었다. 영상 자막은 이 남성을 S대 출신 소아과 전문의로 소개했다. A씨는 “부모님이 손주 영양제로 이 약이 어떠냐고 링크를 보내 가만히 살펴보니 소아과 전문의라고 나온 사람이 AI(인공지능) 가짜 의사였다”면서 “며칠 뒤 신고하려고 구매 링크를 들어가 보니 이미 사이트가 사라졌다”고 말했다.

정부가 ‘AI발(發) 허위·과장 광고’에 칼을 빼 들었다. 유튜브, 페이스북 등 소셜미디어(SNS)를 통해 AI 가짜 전문가·유명인 딥페이크들이 등장하는 광고가 급속히 유포되면서 노년층을 중심으로 피해 사례가 늘고 있어서다. 정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다. ‘AI 생성물 표시’를 의무화하고, 24시간 내 신속 차단, 징벌적 손해배상 등의 방안이 담겼다.

우선 방송미디어통신위원회(이하 방미통위)는 ‘AI 생성물 표시제’를 도입한다. AI로 만든 사진·영상 등을 게시하는 사람(직접 정보 제공자)은 해당 콘텐트가 AI로 생성됐다는 사실을 명확히 표시해야 한다. 이를 훼손하거나 제거하는 행위는 금지된다. 플랫폼 사업자도 직접 정보 제공자가 표시 의무를 준수하는지 관리해야 한다. 과학기술정보통신부는 내년 1월 시행 예정인 AI기본법에 따라 AI 사업자가 생성물 표시 의무를 이행하도록 구체적인 가이드라인을 마련할 예정이다.

정부는 이미 유통된 AI 허위·과장 광고는 신속하게 차단하기로 했다. 방미통위와 방송미디어심의위원회(방미심위)는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장 광고가 빈발하는 영역을 서면 심의 대상에 추가하도록 추진한다. 해당 영역 허위·과장 광고는 심의 요청 후 24시간 이내에 신속한 심의가 이뤄진 후 차단될 것으로 기대된다. 또 식품의약품안전처 전용 심의신청 시스템(패스트트랙)도 기존 마약류 중심에서 해당 품목군까지 확대 적용해 안건 상정 시간을 단축할 계획이다.

아울러 긴급조치가 필요할 경우 방미통위가 플랫폼 사업자에게 임시 시정 요청을 할 수 있게 제도를 정비한다. 심의 전에라도 잠정 차단이 가능해지는 셈이다. 동시에 플랫폼 자체의 자율규제 강화도 유도하기로 했다.

공정거래위원회와 식약처는 AI가 만든 전문가 제품 추천 광고에 대해 위법성 판단 기준을 명확히 마련했다. AI가 제품을 추천할 때 ‘가상인간’임을 표시하지 않으면 부당 표시 광고에 해당하고 AI 의사·전문가가 식·의약품을 추천할 경우 ‘소비자 기만 광고’로 간주하기로 했다. 위법 행위자에 대한 처벌도 강화한다. 정부는 허위·조작 정보 유통 행위에 대해 ‘징벌적 손해배상 제도(손해액의 최대 5배)’를 도입하고, 허위·과장 광고 과징금도 대폭 올릴 예정이다. 식약처와 한국소비자원은 감시·적발 기능을 강화한다.

각 부처와 기관은 관련법 개정 등을 통해 사안별로 이르면 내년 1분기, 장기적으로는 내년 하반기까지 방안을 이행할 계획이다. 김민석 총리는 “AI 시대에 걸맞은 시장 질서를 확립해 나갈 것”이라고 밝혔다.

여성국 기자

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지