"인공지능(AI)이 사람인 척 행동하는 것을 못하게 해야 합니다. 챗봇들이 인간들이 하는 대화에 끼어들면 결국 이성적인 대화가 불가능해지고 민주주의 토대가 무너질 수밖에 없어요."

초대형 베스트셀러 '사피엔스'를 쓴 작가 유발 하라리 예루살렘 히브리대 역사학과 교수(48)가 15일 오후 줌(zoom)으로 진행된 국내 언론과의 간담회에서 AI 규제 도입을 강력히 촉구했다. 6년 만에 신작 '넥서스'(김영사)를 펴낸 그는 "알고리즘이 가짜뉴스와 분노 콘텐츠를 밀고 사람의 감정을 건드리는 방식으로 많은 얘기를 하고 있다"며 "민주주의는 인간 사이의 대화를 기본으로 하는 건데, AI의 개입으로 이성적인 대화가 점점 불가능해지고 있다"고 꼬집었다.

현재 프랑크푸르트 도서전 참석차 독일에 체류 중인 그는 수년 전부터 여러 강연과 토론을 통해 AI 혁명에 반기를 들었다. 그것이 역사학자의 의무라는 게 그의 소신이다.

그는 "AI는 하나의 도구가 아니라 스스로 배우고 결정하는 독립적인 행위자"라며 "국제사회 긴장이 계속된다면 AI 통제가 불가능해져 인간 종은 결국 종말을 맞이할지 모른다"고 경고했다. 특히 "AI가 학습하는 모든 데이터는 이미 여성과 인종 등에 대해 편향된 정보를 갖고 있다"며 "이 오염된 정보를 가진 AI가 스스로 결정을 내릴 때 어떤 세상이 도래하겠느냐"고 반문했다. 그는 이어 "19세기 산업 혁명을 주도한 앞선 나라들이 전 세계를 침탈하고 지배했듯이, AI 혁명을 주도하는 소수의 나라가 세계를 지배하고 착취할 가능성이 크다"고 지적했다.

하라리 교수는 북한의 독재체제를 거론하면서 "AI가 북한의 김정은을 좌지우지하게 된다면 나라 전체가 끝장날 것"이라며 "독재자들도 AI 위험에서 자유롭지 않다"고 말했다. 당장 AI를 통제하며 부와 권력을 누린다 하더라도 관계 역전은 시간문제라는 게 그의 분석이다.

그가 보기에 개인에게도 AI는 축복보다 재앙에 가깝다. 하라리 교수는 "인간은 생체적인 주기로 살아가는데 AI는 주기가 없다. 쉼도 없이 늘 켜져 있다"고 말했다.

[이향휘 선임기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]