WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096

“저 ○○○이 직접! 합니다.”

최근 한 온라인 쇼핑몰에 올라왔던 상품 소개 글입니다. 문구 아래로는 한 손에 샤인머스캣을 받쳐 든 어르신 사진이 있었습니다. 품질 좋은 과일을 숙련된 농부가 직접 길러냈다는 암시였습니다. 이 샤인머스캣은 쇼핑몰 리뷰가 1000여 개 가까이 달릴 정도로 반응도 좋았습니다.

인공지능(AI)이 만든 이미지란 의혹이 제기된 샤인머스캣 광고. 손가락·손톱 부위가 어색하다. /뉴스1

<이미지를 클릭하시면 크게 보실 수 있습니다>

그러나 해당 판매 페이지는 지난 11일 문을 닫았습니다. 상품이 매진된 탓은 아니었습니다. 샤인머스캣의 품질에도 이상은 없었다 합니다. 문제는 ‘인공지능(AI) 생성 이미지’였습니다. 사진 속 농부는 자세히 들여다보면 손가락이나 손톱 등에 어색한 부분이 있는, AI가 생성한 이미지였다는 의혹이 제기된 것입니다.

AI로 만든 이미지를 허위 마케팅에 활용하면 처벌할 방법이 없진 않습니다. ‘전자상거래 등에서의 소비자보호에 관한 법률’ 21조는 거짓 또는 과장된 사실을 알리거나 기만적 방법을 사용해 소비자를 유인하거나 거래하는 행위를 금지했기 때문입니다. AI가 생성한 가짜 사진이 고객을 끌어들이고 결제까지 유도했다면 충분히 문제 삼을 수 있다는 얘기입니다. 실제로 쇼핑 서비스를 제공하는 주요 포털은 해당 업체에 영업 중단 조치를 내렸다 합니다.

AI가 생성한 이미지를 써서 대중을 속이려는 시도는 예전에도 있었습니다. 지난 9월 허리케인 ‘헐린’이 미국 남동부를 휩쓸었을 때 화제가 됐던 ‘우는 소녀’ 사진도 그러한 사례 중 하나입니다. 당시 소셜미디어에 퍼졌던 이 사진엔, 구명조끼를 입은 채 두려움 가득한 표정으로 젖은 강아지를 안은 소녀의 모습이 담겨 있었습니다. 미국 유타주 연방 상원 의원인 마이클 셤웨이 리가 조 바이든 정부의 재난 대응 역량을 비판하며 이 사진을 인용해 한층 더 화제가 됐었는데, 이 사진이 AI가 생성한 이미지였다는 사실은 한참 지나서야 밝혀졌습니다. 미국 경제 매체인 포브스는 지난 5월 이 해프닝을 보도하며 “재난을 묘사하는 조작된 이미지는 구호 활동을 복잡하게 만드는 데다, 위기 상황에서 대중의 신뢰를 떨어뜨린다”며 “가짜 모금 활동에 기부하도록 사람들을 속이는 데 사용될 수도 있다”고 전했습니다.

AI가 군중을 기만하고 혼란을 조장하도록 방치한다면, AI의 운명은 위태로울 수밖에 없습니다. 그렇기에 최근엔 AI를 서비스하는 업체들이 직접 나서서 잘못된 활용에 제동을 거는 모습도 이따금 눈에 띕니다. 이를테면 챗GPT 개발사인 오픈AI는 지난 8일 “미국 대선 직전 한 달 동안 챗GPT를 통한 대선 후보들의 이미지 생성 요청을 25만건 이상 거부했다”고 밝혔습니다. 김호림 동양대 AI빅데이터융합학과 교수는 “인류사에 새로운 기술이 나타나면 이를 악용하려는 부류는 뒤따라 등장하기 마련이었고 AI 또한 예외일 수 없다”며 “AI가 그릇된 방향으로 쓰일 때의 위험을 미리 파악하고 또 저지할 필요가 있으며, AI를 연구하거나 서비스하는 사람들부터 그러한 행동에 앞장서야 할 것”이라 했습니다.

WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096

[채병효 스타라이크 대표]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -