올해 2월, 뉴햄프셔 민주당 경선 유권자들은 조 바이든 미국 대통령의 목소리로 "투표하지 말라"고 권유하는 메시지를 담은 내용의 자동 전화를 받았다. 이 사건은 딥페이크 기술의 최근 사례 중 하나다. 딥페이크 기술은 인공지능(AI)과 딥러닝 알고리즘을 활용해 현실과 거의 구분되지 않는 영상이나 음성을 생성하는 기술이다. 기술적으로 혁신적이지만, 그 안에는 중요한 윤리적 문제와 사회적 위험이 공존하고 있다.

딥페이크 기술의 주요 문제점 가운데 하나는 앞선 사례와 같은 허위 정보와 가짜 뉴스의 확산이다. 유명 인사나 공공 인물의 가짜 영상이나 음성을 생성해 허위 정보를 퍼뜨리는 사례가 증가하고 있으며, 이는 사회적 혼란을 야기할 수 있다. 이는 일반인들에게도 적용될 수 있고 보이스피싱과 같은 다양한 사이버 범죄와 금융 사기에 악용될 가능성이 크다. 이러한 사례들이 증가하면 사회 전반의 신뢰가 심각하게 훼손될 수 있으며, 궁극적으로는 사회적 결속력이 약화되고 공동체의 안정성이 위협받을 수 있는 위험을 내포하고 있다.

딥페이크 기술은 긍정적이고 창의적인 활용 가능성도 있지만, 문제점의 심각성을 고려할 때, 필자는 기술 남용에 대한 규제와 관리 시스템이 안정화된 후에 본격적으로 논의해도 늦지 않을 것이라고 생각한다. 이러한 접근이 기술이 건강하게 발전하는 방향으로 이어질 수 있다고 본다.

딥페이크에 대한 규제와 법적 대응은 아직 미비한 상황이다. 이러한 기술을 단순히 배제하려는 노력보다는 부정적인 영향을 최소화할 수 있는 종합적인 대응 방안이 필요하다. 우선, 콘텐츠 인증 기술과 AI 기반 탐지 시스템의 개발이 중요하다. 예를 들어 프로젝트 오리진(Project Origin)은 뉴욕타임스(NYT)와 마이크로소프트(MS) 등의 협력을 통한 프로젝트인데, 미디어 제작자가 콘텐츠를 발행할 때 디지털 지문이나 워터마크 등으로 콘텐츠의 출처를 확인하고 변경 사항을 감지하면 소비자에게 경고를 표시하는 기술을 고도화하고 있다.

뿐만 아니라 딥페이크 책임법(DEEPFAKES Accountability Act)과 같은 엄격한 규제도 필요하다. 이 법률은 딥페이크를 이용한 불법 행위를 금지하고 그에 대한 대응을 강화하는 방안을 제시한다. 하지만 이러한 노력과 더불어 추가적인 발전과 보완이 필요해 보인다.

교육과 인식 제고도 중요하다. 딥페이크 기술의 잠재적 위협을 이해하고 가짜 콘텐츠를 인식하고 진위를 판단하는 능력을 키우는 교육이 필수적이다. 대중들이 기술적 발전과 도덕적 책임 사이에서 올바른 선택을 할 수 있도록 지원하는 것이 중요하다. 딥페이크 기술의 발전을 막거나 피할 수 없다면 이를 어떻게 관리하고 활용할지에 대한 명확한 방향을 모색하는 노력이 절실하다.

손윤석 미국 노터데임대 교수

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>