내가 4차 산업혁명과 디지털 독재의 문제에 집중하게 된 이유는 두 가지 측면에서이다.

첫째, 지난 대선에서 문재인 정권이 들어서게 된 결정적 요인은 탄핵과 세월호 사건의 정치적 문제화에 이어서 드루킹 불법 댓글 여론조작사건이라는 선거 부정이 문 대통령의 당선에 결정적 요인으로 작용했다고 보고있기 때문이다.

둘째, 이는 대한민국의 국헌(國憲)인 민주주의를 무너뜨리고 왜곡조작하는 반국가, 반위헌적 행태로서 국가를 내부로부터 무너뜨리고, 특히 민주주의의 근간인 민심을 조작함으로써 사실상 민주주의의 정상적 기능을 막은 국가 파괴행위이기 때문이다. 이런 측면에서 오늘의 문재인 정권은 과거 김대중, 노무현 정권의 연장선상에 놓인 정권이라기보다는 선거부정으로 정권연장을 꾀한 과거 독재정권과 그 맥을 같이하고 있다.

이 두 가지 점을 감안하여 미래의 4차 산업혁명시대는 디지털 기술을 통한 민심왜곡과 조작이 더욱 난무하여 민주주의의 정상적 작동기능을 막을 가능성이 높아졌다. 바로 이런 점에 착안하여 '4차산업혁명과 디지털 독재'에 관한 관심을 집중하게 된 것이다.

유발 하라리 교수가 경고한 4차 산업혁명을 통한 첨단 기술을 활용한 디지털 독재를 시행하고 있는 대표적인 국가가 바로 중국이다.

중국 시진핑 주석은 공산 중국 건국 100주년을 맞는 2049년까지 미국을 제치고 세계 1위 국가가 되겠다는 '중국몽(夢)'을 본격화하고 있다. 그리고 그 핵심 수단으로 14억 인구를 인공지능(AI)과 같은 첨단기술로 감시하는 디지털 일당독재를 강화하고 있다.

중국 정부는 지난 2004년부터 중국 주요 도시와 교통 중심지에 대규모 감시 카메라를 설치하는 '톈왕(天網,하늘의 그물) 프로젝트'를 시작했다. 이 톈왕 프로젝트는 도시 치안을 확보하기 위해 지리정보체계(GIS,지형정보를 인공위성으로 수집하고 컴퓨터로 분석하는 시스템)와 영상 수집 전송 기술을 이용해 AI 폐쇄회로 CCTV로 실시간 감시하는 시스템이다. 현재 톈왕 프로젝트는 인공지능과 빅데이터 기술을 접목해 도로,차량,행인,연령,성별,복장 등을 분석하고 있다. 해당 CCTV에서는 특정인의 나이,성별 그리고 옷 색깔 등의 정보가 실시간으로 인물 위에 중첩돼 보인다.

그런데 이 톈왕 시스템은 정교한 안면인식 기술을 기반으로 운영된다. 안면인식 기술은 이미 중국인 생활 속에 깊숙이 파고들고 있다. 지난 해 9월 말 베이징 남부에 문을 연 세계 최대 다싱(大興)국제공항은 안면인식 기술을 도입해 승객들의 신분 확인 과정을 간소화했다. 작년 9월 15일부터 중국 공항 200여 곳에서 승객들은 신분증 없이 안면인식만으로 체크인할 수 있다. 광둥(廣東)성 선전(深圳)과 광저우(廣州)에서는 지하철 개찰에 안면인식 시스템을 도입했다. 급기야 장쑤(江蘇)성 난징(南京) 중국약과대(中国药科大)는 지난 해 9월 처음으로 대학 강의실에 학생들의 일거수일투족을 감시할 수 있는 안면인식 시스템을 시범 도입해서 학생들의 큰 반발을 불러일으켰다. 그런데도 중국 정부는 시작 당시 2천만 대였던 감시 카메라 숫자를 2020년까지 4억 대로 늘릴 계획인 것으로 알려졌다.

'디지털 독재국가'를 향한 중국의 노력은 여기서 그치지 않는다. 대표적인 것이 지난 2014년부터 실시되고 있는 '사회 신용 제도(Social Credit System)'이다. 이 제도는 빅데이터와 인공지능(AI)을 이용해 각 개인 및 기업의 사회적, 정치적, 경제적 행동에 대해 사회적 신용 점수를 부여하고 그 점수가 높으면 혜택을 제공하고 낮으면 제약하는 시스템이다. 2016년 중국 국무원이 공개한 자료에 따르면, 점수가 낮은 사람들은 인터넷 속도가 느려지고 해외여행의 자유도 제한된다. 특정 직업, 이를테면 공무원이나 기자, 법조계 직업을 얻을 수 없고 일반적인 고용에 있어서도 불이익을 받게 된다. 보험이나 대출, 주택 임대에 있어서도 불이익이 부과된다.

홍콩의 일간지 사우스차이나모닝포스트(SCMP)에 따르면, 2018년까지 항공기 탑승이 금지된 사례는 1700만 건, 고속철도 탑승이 금지된 사례는 540만 건으로 각각 집계됐다. 입학과 취업, 심지어 결혼까지 공산당이 매기는 등급제에 좌우되는 것도 시간문제라는 지적이 나온다. 중국 정부는 2020년까지 이처럼 인터넷 사용기록과 알리페이 같은 거래내역, 법규 위반 등 사실상 모든 개인정보와 사생활을 수집해 시민의 등급을 매기는 '사회 신용 제도'에 중국 국민 전체를 예외 없이 편입시킨다는 계획을 갖고 있다.

여기에 최근에는 중국 공산당 중앙선전부가 시진핑 주석의 사상과 정책을 알리기 위해 만든 모바일 앱 '쉐시챵궈(學習强國)'의 다운로드수가 1억 건을 넘어선 것으로 확인됐다고 뉴욕타임스(NYT)가 2019년 4월 7일 보도했다. 이 앱은 시진핑 국가주석의 사진을 끊임없이 보여주면서 시진핑 연설, 관련 뉴스, 시진핑 사상 관련 자료 등 시진핑에 대한 모든 것을 총망라한 데이터베이스로서 휴대전화 등 개인정보가 요구되며 이용자에게 자료 접속에 따른 포인트를 적립해준다.

그런데 이런 시진핑 선전 앱이 인기 다운로드 1위를 차지하는 이유는 '무언의 압박' 때문이라고 외신들은 지적한다. 특히 뉴욕타임스는 '쉐시챵궈' 확산을 공산당이 주도하고 있다면서 사상통제 가능성에 우려를 제기한다. 일례로 학교와 관공서는 포인트가 낮은 학생과 직원들을 망신 주고 자아비판 보고서를 쓰게 하고 있다. 민간기업도 직원들이 얼마나 점수를 얻었는지 기록해 매일 제출하도록 요구받고 있다. 그러면서 뉴욕타임스는 호주 RMIT대에서 중국 언론을 연구하는 유하이칭(Haiqing Yu) 교수를 인용해서 '(쉐시챵궈는) 시민들이 관심을 다른 곳으로 돌릴 수 없게 하고 있다"며 "디지털 독재를 새로운 차원으로 끌어 올리는 디지털 감시의 일종'이라고 지적한다.

한편 이와 같은 시진핑의 '디지털 독재'체제 강화에 대해서 작년 1월 스위스 다보스 세계경제포럼에 참석한 미국의 억만장자 투자전문가 조지 소로스(George Soros)는 시진핑 주석을 '영구집권을 꿈꾸는 독재자이며 열린 사회에 가장 위험한 적'으로 규정하고 중국 정부의 하이테크 기술을 동원한 감시체제 구축을 정면으로 비판했다. 그는 '독재정권이 4차 산업혁명의 핵심인 인공지능(AI)을 사용해 시민의 자유의지와 활동을 막을 경우 중국인은 물론 전세계 자유경제체제에 치명적 위험이 될 것'이라며 특히, '중국의 사회 신용 시스템은 개인의 운명을 일당 국가의 이익에 종속시키는 유례없는 사태를 초래할 것'이라고 강력히 비판했다.

그런데, 첨단 과학기술을 이용해서 개인들의 사생활을 검열하고 사찰하겠다는 '디지털 독재'는 더 이상 북한과 중국과 같은 폐쇄적 사회주의 국가에서나 있는 남의 나라 이야기가 아니다. 문재인 정권 또한 디지털 독재로 치닫고 있는 징후가 곳곳에서 드러나고 있다. 우선, 중국 공산당의 국민 감시 시스템과 유사하게 인터넷을 통제, 감시하기 위한 조치들이 시행되고 있다. 2019년 2월 방송통신위원회는 해외 사이트 불법 정보를 효율적으로 차단하기 위한 목적으로 일명 'SNI (Server Name Indication) 차단방식'을 도입하기로 결정했다. 이 방식은 데이터가 암호화되기 이전에 데이터 정보를 파악해서 불법적인 경우로 판단되면 접속을 강제 차단하는 것이다. 이는 '누가, 언제, 어떤 사이트에 접속하고 있는지'를 파악하는 감청과도 같은 사실상의 인터넷 검열이자, 개인정보보호와 불법행위 단속이라는 미명하에 국민들의 생각을 들여다보고, 디지털 방식으로 국민들을 사찰하겠다는 반민주적 발상을 노골화시킨 것이다.

이에 대해 미국의 경제전문지 포브스는 '한국은 디지털 독재 체제로 향하나? (Is South Korea Sliding Toward Digital Dictatorship?)'라는 제목의 2019년 2월 25일 자 기사에서 '한국 정부가 이번 차단으로 하려는 건 사람들이 무엇을 하려는지 살펴보려는 것'이라면서 '북한과의 관계에서 희망을 가지고 있는 정부가, 북한 비판에 대한 국민의 자유를 침식하려는 '큰 그림'의 일부일지도 모른다'고 꼬집었다. 또한 구글, 유튜브, 페이스북 등과 같은 해외인터넷 서비스 사업자들의 위법 행위가 계속될 경우 국내 서비스 임시중지를 명령할 수 있는 제도를 방통위가 도입하기로 하면서 이들 해외인터넷 서비스 사업자들을 옥좨서 정부의 입맛대로 통제하겠다는 '디지털 독재적 발상'이 드러난 것이라는 비판이 제기되고 있다.

뿐만 아니라, 인터넷 공간을 주 무대로 특정 세력에게 열렬한 지지를 보내는 홍위병들을 조직화해서 이들이 '가공 생산'하는 여론이 마치 침묵하는 다수의 의견을 대표하는 것처럼 과대포장하고, 때로는 정치적 목적 달성을 위해 다양한 기술과 기법을 사용해서 민의를 왜곡하거나 여론조작 기술과 기계를 통해 여론을 마음대로 조작하는 반민주적 '디지털 독재'가 벌어지고 있다.

이는 특히 선거 과정에서 특정인들이 지지하는 후보가 마치 절대 다수의 지지를 얻고 있는 것처럼 착각하게 만들어 일반 유권자들에게 대세추종의 선택을 하도록 판단의 프레임웍을 형성하는 방식으로 민주주의의 본질인 민의의 본심을 왜곡시켜 민주주의 체제의 근본을 파탄시킨다. 킹크랩을 동원한 무려 8,840만여 개의 댓글 조작을 통해 여론을 장악해서 지난 대선과정에서 민심을 왜곡시킨 드루킹 불법댓글여론조작사건이 그 대표적인 사례이다. 그런데 이렇게 정권 탄생에서부터 '여론조작 정권'의 멍에를 뒤집어쓴 문재인 정권에서 최근에도 민심과는 동떨어진 여론조사 결과 등에 대한 논란이 일어나면서 정권유지를 위해 '디지털 독재'를 강화하는 것 아니냐는 거센 비판이 제기되고 있다.

이상에서 살펴본 바와 같이, 4차 산업혁명이 가져온 혁신적 지능정보기술 혁명은 정보의 무한 유통과 공유 확대, 네트워크의 확장과 공론장 형성, 참여와 소통의 직접성 등 디지털 시대의 민주주의 발전 가능성을 보여주고 있음에도 불구하고, 첨단기술을 활용한 개인에 대한 감시와 정치적 통제 가능성, 인공지능과 알고리즘을 이용한 대중조작 및 여론조작, 데이터 집중과 독점을 위한 디지털 독재주의 등장, 기술 독재에 따른 인간의 자유 파괴, 인공지능과 알고리즘의 편향성에 따른 차별과 불평등 악화 등으로 인해 민주주의를 파괴하고 디지털 독재와 같은 전체주의가 등장할 가능성을 높이고 있다.

그렇다면 4차 산업혁명이 낳은 지능정보기술 혁명의 변화 속에서 디지털 독재를 막고 민주주의를 지켜내기 위한 방안은 무엇인가?

우선, 데이터의 집중을 막고 투명성과 접근성을 높여야 한다. 오늘날 민주주의를 위협하는 요소로 부와 권력의 집중을 꼽듯이, 4차 산업혁명 시대에서는 인공지능과 데이터의 집중과 독점을 막는 것이 민주주의를 지키는 길이다. 데이터가 정부나 기업 등 극소수에 의해서만 독점적으로 집중됨으로써 감시, 조작, 통제, 차별 등 반민주적 요인들을 확장시키는 것을 막기 위해서는 정부나 기업이 수집하고 가공한 데이터를 개인이 언제든지 확인하고 점검할 수 있는 투명성과 접근성을 확보하는 것이 필수적이다. 이런 측면에서 유발 하라리 교수는 '정보를 분산처리하는 것이 집중처리하는 것보다 더 효율적일 수 있는 방법을 계속 찾고, 그것이 낫다고 시민들을 믿게 만들어야 한다'고 주장한다.

둘째, 인공지능에 맡길 수 있는 문제와 맡길 수 없는 문제를 명확히 구분해야 한다. 이를 위해서는 국가나 사회가 추구하는 비전과 가치 등에 대해 공론의 장에서의 소통과 토론을 통해 합리적 결정으로 합의에 이르는 집단지성의 힘을 유지하고 강화해가야 한다. 인공지능은 어디까지나 이러한 결정을 신속하고 정확하게 내리기 위해 데이터를 수집, 처리, 분석하는 보조 기구로서 이용되어야 한다. 또한 이렇게 인공지능 기술을 활용하여 시민들이 직접 의사결정을 하거나 사회문제를 해결하기 위한 아이디어를 정책에 현실화 할 수 있는 알고리즘 민주주의 플랫폼을 제도화할 필요가 있다.

셋째, 인공지능이 대체할 수 없는 인간 고유의 자율성과 자유의지를 증진시켜야 한다. 인공지능이 인간과 똑같은 의식을 가질 것이라고 상상하기는 어렵다. 그 이유는 뇌과학의 발달에도 불구하고 아직 우리가 정신에 관해 아는 것이 거의 없으므로 프로그램을 통해 의식을 가진 컴퓨터를 만들 수는 없기 때문이다. 따라서 하라리 교수는 인간 정신을 탐구하고 집중할 것을 주장한다. 그는 기술적 도전이 크고 정치적으로 불안정해도 우리가 두려움을 조절하고 조금씩 겸허해진다면 위기에 대처할 수 있다고 말한다. 그리고 기술이 완성돼 인류를 함정에 빠트리기 전에 먼저 고삐를 잡을 수 있도록 빠르게 움직이고 자신을 깊이 성찰해야 한다고 조언한다.

4차 산업혁명 시대에 인공지능이 아무리 정확한 분석 자료를 제시한다 할지라도 사회구성원들 간의 이해와 신뢰, 그리고 토론과 설득을 통한 합의 문화가 바탕이 되지 않으면 민주주의는 유지되기 어려울 것이다. 그리고 이러한 알고리즘 민주주의가 제대로 작동하려면 지능기술의 발달에 못지않게 인간의 사유, 감정, 배려, 판단, 소통, 리더십 등과 같은 소위, 인간기술에 대한 교육과 제도화가 시민들 중심으로 이루어져야 한다. 4차 산업혁명이 가져온 지능정보기술 혁명의 시대에 맞게 민주주의가 유지, 발전하기 위해서는 '국민을 위한, 국민에 의한, 국민의 정치'라는 민주주의의 기본원칙이 변함없이 지켜지고 실천되어야 할 것이다.
장성민 세계와동북아평화포럼 이사장

쿠키뉴스 이영수 juny@kukinews.com
저작권자 © 쿠키뉴스, 무단전재 및 재배포 금지