<이미지를 클릭하시면 크게 보실 수 있습니다>

월드(World)의 기술 개발사 툴스 포 휴머니티(이하 TFH)는 올해 인공지능(AI) 딥페이크 관련 사기가 전년 대비 162% 증가할 것이라고 전망했다.

TFH는 딥페이크 범죄 건수가 2023년 50만건에서 올해 800만건으로 급증할 것이라고 16일 밝혔다. AI로 복제된 음성이 가족을 사칭해 금전을 요구하거나, 딥페이크로 위장한 임원이 직원을 속여 수백만 달러를 송금하게 만드는 등 사이버 범죄가 다양한 형태로 확산되는 추세다.

최근 확산하고 있는 대표 사이버 범죄 유형으로는 실제 데이터와 가짜 데이터를 혼합한 합성 신원을 뜻하는 합성 사칭(synthetic impersonation), 가짜 프로필로 인한 신뢰 위기(trust crisis fueled by fake profiles), 거짓된 다수(false majorities)를 꼽았다.

TFH는 “데이팅 앱 이용자의 10~5%가 가짜 프로필로 추정되며, 비즈니스 네트워크에서는 AI 생성 이력서가 증가하고 있다”며 “봇 계정이 댓글과 여론조사를 조작해 허위 여론을 만들어내며, 소수의 개인이 수천 개의 계정을 통제하는 경우가 많아 진짜 대화와 조작된 의견을 구분하기 점점 어려워지고 있다”고 설명했다.

올해 3월 TFH가 국내 게이머 800명을 대상으로 실시한 설문조사에서도 응답자의 79%가 봇으로 인한 공정성 훼손이 우려된다고 답했다. 응답자의 83%는 게임 내 인간 검증 기술 도입의 필요성에 공감했다. 특히 91%는 AI와 “인간을 구별하는 기술이 향후 필수적”이라고 답했다.

이에 TFH는 개인 신원을 노출하지 않고도 인간임을 증명하는 보안 검증이 필요하다고 강조했다. TFH가 개발한 월드 ID는 이런 원칙을 기반으로 한다고 회사 측은 설명했다.

박상욱 TFH 한국 지사장은 “AI가 놀라운 가능성을 열고 있는 만큼, 인간의 행동을 모방하기 쉬워지고 있다”며 “사이버 보안도 방화벽과 비밀번호를 넘어 진화해야 한다”고 말했다. 그는 “기존 보안 체계는 ‘비밀번호가 맞는가’, ‘문자를 받을 수 있는가’를 묻지만, 그 문을 통과하는 존재가 사람인지 정교한 프로그램인지는 확인하지 않는다”며 “개인정보를 보호하면서도 보편적으로 인간성을 검증할 수 있는 새로운 방법이 반드시 필요하다”고 했다.

툴스 포 휴머니티는 샘 올트먼 오픈AI 최고경영자(CEO)가 지난 2019년 공동 창립한 스타트업이다. AI 시대 인간을 위한 디지털 신원, 인증, 금융 도구를 지원하기 위한 기술과 인프라를 개발하는 것을 목표로 한다.

이재은 기자(jaeeunlee@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>