컨텐츠 바로가기

03.29 (금)

"진짜야, 가짜야?"…AI 윤석열 등장에 '혁신 vs 눈속임' 갑론을박

댓글 2
주소복사가 완료되었습니다

"AI 윤석열, 韓 4차산업·가상세계 산업 키울 것" 기대

"가상인간은 그냥 '가짜'…대통령 선거 혼탁" 우려 목소리도

뉴스1

윤석열 국민의힘 대선 주자를 본떠 만든 인공지능 (AI) 윤석열. (국민의힘 오른소리 캡처) © 뉴스1

<이미지를 클릭하시면 크게 보실 수 있습니다>


(서울=뉴스1) 김근욱 기자,이정후 기자 = "안녕하세요. 인공지능(AI) 윤석열입니다. 윤석열 후보와 너무 닮아 놀라셨습니까?"

지난 6일 서울 송파구 올림픽체조경기장에서 열린 국민의힘 중앙선거대책위원회 출범식. 윤석열 국민의힘 대선 주자의 연설 자리에 나타난 건 '인공지능(AI) 윤석열'이었다.

영상에 등장한 AI 윤석열은 실제 윤 후보의 얼굴과 말투, 목소리와 똑 닮아 있었다. 스스로 AI라 밝히지 않았다면 일반 대중의 눈으로 구분하기 어려울 정도다.

AI 윤석열은 "정치권 최초로 만들어진 AI 윤석열은 윤석열 후보가 열어갈 대한민국의 새로운 미래와 도전을 상징한다"며 "AI 윤석열은 동에 번쩍 서에 번쩍 방방곡곡 국민 여러분을 찾아갈 것이다"고 말했다.

◇ AI 윤석열, 왜 등장했나?

최근 IT·게임업계에서 뜨거운 관심을 받고 있는 '가상인간' 열풍이 정치권까지 번졌다. 가상인간은 SNS, 유튜브, 메타버스 등 가상의 영역에 존재하는 인물을 의미한다. 신종 코로나바이러스 감염증(코로나19) 영향 아래 비대면 사회가 도래하면서 가상 인간의 영역이 점차 넓어지고 있다.

AI 윤석열은 '30대' 이준석 국민의힘 대표가 대선 승리를 위해 구상한 선거운동 전략인 '비단주머니' 중 하나다. 다양한 디지털 플랫폼에 AI 윤석열을 등장시켜 MZ세대(20대~30대)와 소통 접점을 늘리겠다는 의도다.

실제 한국의 가상인간 '로지'는 지난 7월 한 보험사의 광고 영상에 출연해 단숨에 화제의 중심에 섰다. 그녀가 기록한 유튜브 영상 조회수는 무려 1000만회. 인스타그램 팔로워 수도 10만명에 달한다.

◇ 산업계 "AI 윤석열, 韓 가상인간 산업 키울 것"

먼저 산업계 전문가들은 AI 윤석열의 등장에 긍정적 시선을 보냈다. 정치권에 등장한 AI가 '산업 경쟁력'을 키우는 데 일조할 것이라는 이유에서다.

서용구 숙명여대 경영학부 교수는 "지금 미국과 중국이 4차 산업혁명에서 앞서 있지만 한국도 기술 수준은 상당하다"며 "4차 산업혁명을 껴안아야 하는 상황에서 대통령 후보가 AI 아바타를 활용해 활동한다는 것 자체가 국가 이미지에도 긍정적인 영향을 미칠 것이다"고 말했다.

김명주 서울여대 바른AI 센터장도 "최근 가상 인간이 많이 보이는데, 가상인간 역시 하나의 마켓(시장)이다"면서 "정치권의 가상인간 활용이 산업을 활성화하는 데 도움이 될 수 있다"고 했다. 블룸버그 통신에 따르면 2025년에 이르면 가상인간 시장 규모가 14조원을 기록하며 실제 인간 인플루언서(13조원)를 추월할 전망이다.

뉴스1

미국 버즈피드가 인공지능(AI) 기술로 제작한 버락 오바마 전 미국 대통령의 가짜 동영상. (유튜브 캡처)© 뉴스1



◇ 정치와 '딥페이크'가 만난다고?…"선거 혼탁 우려"


다만 AI 윤석열에 대한 우려의 목소리도 적지 않다. 가상 인간을 제작하는 데 사용하는 '딥페이크' 기술이 가진 위험성 때문이다. 딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어다. 인공지능 기술을 이용해 만든 가짜 사진이나 영상을 의미한다.

딥페이크 기술이 정치권 가짜뉴스 생산에 동원되면 민주주의를 크게 위협할 수도 있다는 우려가 나온다.

고삼석 전 방송통신위원회 상임위원은 7일 자신의 SNS를 통해 "딥페이크 기술의 사용은 매우 제한적으로 신중하게 사용해야 한다. 선의든 악의든 그것 자체가 타인을 속이기 위한 '가짜'이기 때문이다"고 지적했다. 그러면서 "미국을 비롯한 유럽 국가에서는 정치적 목적의 인공지능 혹은 딥페이크 기술 사용을 매우 엄격하게 제한하고 있다"고 말했다.

실제 미국은 지난 2017년 45대 대통령 선거에서 '딥페이크' 영상으로 골머리를 앓았다. 버락 오바마 전 미국 대통령이 "트럼프는 쓰레기"라고 외치는 딥페이크 영상이 화제가 됐기 때문. 대중은 두 눈으로 영상의 조작 여부를 판별할 수 없었다. 이후 미국은 딥페이크를 민주주의 선거 과정을 저해할 수 있는 '위험 요인'으로 경계하고 있다.

'후보자 이미지 조작' 문제도 제기됐다. 고 전 위원은 "국민의힘이 AI 윤석열을 만든 목적이 뻔하다"며 "좋지 않은 이미지나 부족한 언변을 속이기 위한 것이라"고 꼬집었다.

실제 AI 윤석열의 모습에는 평소 윤 후보의 습관으로 꼽히는 '도리도리'(고개를 좌우로 돌리는 행위)나 '어...그...저' 등의 추임새로 말을 끄는 모습도 볼 수 없었다. 고 전 위원은 "유권자를 대상으로 후보 이미지 조작을 하겠다는 것이라는 것이다"고 비판했다.

뉴스1

보험사 TV 광고에 등장한 가상인간 '로지' (신한라이프 유튜브 캡처) © 뉴스1



◇ 가상인간은 '존재를 흔드는 손'…"일자리 사라져" 우려


정치권이 가상인간을 적극적으로 활용하는 데 있어서 우리 '인간'에게 미칠 영향에 대해서도 심도있게 고민해야 한다는 목소리도 나온다.

사실 가상인간은 산업계 입장에서 보면 '혁신'이지만, 인류의 입장에서 보면 '충격'이다. 가상인간이 인간의 영역이던 가수·아나운서·CF모델 자리를 대체하고 있기 때문. 실제 가상인간들은 사람처럼 늙지도 않고, 사고도 안친다. 소비자들이 가상인간에 대한 거부감만 없다면 광고주 입장에서는 '모델'로 딱이다.

김명주 서울여대 바른AI센터장은 가상인간을 '존재를 흔드는 손'이라고 표현한다.

그는 "인간이 존재하지 않는 자와 경쟁하는 시대가 됐다"며 "가수를 예로 들면 가수가 되기 위해 10년 이상 노력한 지망생이 이제는 가상 인간과 경쟁해야한다"고 말했다. 이어 "가상인간 산업이 활성화 되면 결국 우리 주변의 쇼호스트, 광고모델은 일자리를 잃게 될 수 있다"고 우려했다.

◇ "미국의 '딥페이크 표시 규칙' 도입 시급"

윤석열 후보가 AI를 이용한 대선 홍보에 돌입한 만큼 'AI 이재명' 'AI 안철수' 등의 가상인간까지 등장할 수 있다는 의견이 많다. 김명주 센터장은 한국도 미국처럼 딥페이크 콘텐츠에 '디스클레이머'(Disclaimer)가 도입돼야 한다고 제언했다. 디스클레이머는 일종의 정보 표시 규칙이다.

김 센터장은 "국민의힘이 AI 윤석열을 내놓은 만큼 제2의 AI 정치인이 등장할 수 있다"며 "문제는 대선 캠프 이외에 딥페이크 기술을 이용하는 국민들이 AI 인간을 만들기 시작하면 엄청난 양의 가짜 동영상이 유포될 수 있다는 것이다"고 지적했다.

이어 "미국은 딥페이크 영상으로 선거가 혼탁해질 것을 우려해 딥페이크방지법을 만들었다"며 "법의 핵심은 '딥페이크를 사용한 가짜영상'이라는 내용을 꼭 밝혀야 하는 것이다"고 설명했다.

그러면서 "미국이 우려한 일을 한국은 법도 없이 시작하는 상황이 벌어졌다"면서 "딥페이크를 이용한 영상이라는 걸 꼭 표시하는 게 윤리적으로, 도의적으로도 맞기 때문에 대선 캠프들이 이 사항을 지켜줬으면 좋겠다"고 강조했다.
ukgeun@news1.kr

[© 뉴스1코리아(news1.kr), 무단 전재 및 재배포 금지]
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.