월스트리트저널(WSJ)은 최근 충격적인 진단을 내놨다. 전 세계 피싱 메시지의 절반에서 많게는 75%가 인공지능(AI)으로 만들어지고 있으며, 기술 지식이 거의 없는 사람도 월 수십 달러만 내면 범죄용 AI 도구를 사용할 수 있는 시대가 열렸다는 것이다. 이는 사이버 범죄가 일부 해커의 영역을 넘어, 자동화·분업화된 ‘산업’ 단계로 진입했음을 뜻한다.

이 경고는 결코 남의 나라 이야기가 아니다. 오히려 한국 사회에 더 직접적이고 위협적인 질문을 던진다.

한국은 세계에서 손꼽히는 디지털 사회다. 모바일 금융, 메신저 기반 업무 지시, 비대면 행정과 거래가 일상화돼 있다. 이 편리함은 신뢰를 전제로 작동해왔다. 그러나 AI는 바로 그 신뢰를 공격한다. 임원의 말투를 흉내 낸 이메일, 가족의 목소리를 복제한 음성, 실제 인물과 구별하기 어려운 영상까지 등장하면서 기존의 ‘상식적 의심’만으로는 대응하기 어려운 환경이 만들어지고 있다.

문제의 본질은 기술 그 자체가 아니다. AI는 사기를 치지 않는다. 책임을 지지 않는 것은 언제나 사람과 제도다. 그럼에도 우리는 AI를 효율과 성장의 도구로만 다뤄왔고, 위험 관리와 책임 체계 구축은 뒤로 미뤄왔다. 그 공백을 범죄자들이 가장 먼저 파고들고 있다.

특히 우려되는 지점은 피해의 방향이다. AI 기반 사기는 고령층의 노후 자금, 자영업자의 운영 자금, 중소기업의 내부 통제 취약성을 정밀하게 겨냥한다. 이는 개인 피해에 그치지 않는다. 신뢰가 무너지면 거래 비용은 높아지고, 소통은 느려지며, 사회 전체의 효율은 떨어진다. ‘모든 것을 의심해야 하는 사회’는 결코 정상적인 사회라고 할 수 없다.

정부와 기업의 대응 역시 재점검이 필요하다. 사이버 보안을 기술 부서의 문제로만 취급하는 인식에서 벗어나야 한다. AI를 도입하는 속도만큼, 악용을 전제로 한 규범·감독·책임 체계가 함께 마련돼야 한다. 기업은 내부 지시와 금융 거래의 검증 절차를 재설계해야 하고, 정부는 AI 범죄를 기존 사기 범주로만 다루는 안일함에서 벗어나야 한다. 교육도 중요하다. ‘의심하는 습관’은 이제 개인의 선택이 아니라 사회적 안전망의 일부가 됐다.

AI는 앞으로 더 빠르고 정교해질 것이다. 공격과 방어는 결국 AI 대 AI의 경쟁으로 옮겨갈 가능성이 크다. 그러나 그 싸움의 결과를 감당하는 주체는 언제나 시민이다. 기술은 중립적일 수 있어도, 방치는 결코 중립이 아니다.

AI가 사기를 산업화한 시대, 한국 사회는 어떤 대가를 치를 것인가. 지금 필요한 것은 공포가 아니라 원칙이다.
기술을 앞서 도입했다면, 책임 역시 앞서 세워야 한다.

[사진=Notebook LM 인포그래픽]

<이미지를 클릭하시면 크게 보실 수 있습니다>

아주경제=

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -