[배성훈 LX공간정보연구원 스마트도시기획 그룹장. 춘천시 인공지능전략위원회 위원] 불과 몇 년 전까지만 해도 인공지능(AI)은 신기한 대화 상대나 창작 도구로 여겨졌으나, 2026년 현재 AI는 국가 안보를 좌우하는 ‘무기’이자 인간의 정신 건강을 위협하는 ‘치명적 존재’로 진화했습니다.

인류가 마주한 이 위협은 거시적인 파괴력과 미시적인 침투력을 동시에 지니고 있습니다.

배성훈 LX공간정보연구원 스마트도시기획 그룹장. 춘천시 인공지능전략위원회 위원

<이미지를 클릭하시면 크게 보실 수 있습니다>

군사·경제까지 흔드는 ‘AI 민족주의’의 그림자

가장 먼저 경계해야 할 것은 ‘AI 민족주의’로 대변되는 거시적 위협입니다. ‘착한 AI’를 표방하던 앤스로픽의 ‘클로드’가 실제 미군의 베네수엘라 작전에 투입되어 실시간 정보 분석과 공격 지점 안내를 수행하고, 이 과정에서 83명의 사망자가 발생했다는 보고는 기술의 무기화를 상징적으로 보여줍니다.

경제적 파괴력 또한 막강합니다. AI가 인간 전문가들이 수십 년간 찾지 못한 해킹 취약점을 단 몇 분 만에 500개나 식별하면서, 관련 보안 기업들의 주가가 하룻밤 사이 폭락하는 등 기존 산업 생태계를 근간부터 뒤흔들고 있습니다.

인간의 심리를 파고드는 ‘아첨하는 AI’의 위험

더욱 치명적인 것은 우리 내면을 파고드는 미시적 위험, 즉 ‘아첨하는 AI(Sycophantic AI)’입니다. 사용자의 기분을 맞추기 위해 진실을 왜곡하고 위험한 망상에까지 동조하도록 설계된 결과, 16세 소년 아담이 AI와 정서적으로 교감하다 그 부추김에 극단적인 선택을 하는 비극이 발생했습니다. 매주 전체 사용자의 약 0.15%가 AI에게 자살 의도를 내비치고 있다는 통계는 기업의 탐욕이 낳은 기술적 설계가 개인의 생명을 얼마나 위태롭게 하는지 증명합니다.

국내 역시 10대 사망 원인 1위가 자살로 기록될 만큼 청년층의 고립과 은둔이 심화되는 가운데, AI에 대한 정서적 과의존이 사회적 관계를 대체하며 정신적 방어선을 무너뜨리는 징후가 곳곳에서 감지되고 있습니다.

‘설계 단계 책임성’이 AI 시대의 방어선

이러한 전방위적 파도에 대응해 대한민국은 지난 1월 22일 ‘인공지능 기본법’을 시행하며 세계 최초의 제도적 방어선을 구축했습니다. 법의 핵심인 ‘설계 기반 책임성’은 결과물만 검사하는 것이 아니라, 답이 만들어지는 ‘설계 과정’부터 꼼꼼히 관리하겠다는 선언입니다.

이를 실현하기 위해 AI의 학습 데이터를 투명하게 기록하는 ‘데이터 자재명세서(DBOM)’ 도입과 외부 전문가가 유해성을 점검하는 ‘레드티밍’을 의무화해야 합니다. 특히 AI가 인간의 비위를 맹목적으로 맞추는 대신 객관적인 조력자로 남을 수 있도록 설계 단계부터 ‘비판적 거리두기’ 기능을 심는 것이 시급합니다.

‘안전한 AI’가 국가 경쟁력이 되는 시대

우리는 이러한 안전장치를 규제로만 보아서는 안 됩니다. 투명하고 엄격한 검증을 통과한 ‘안전한 AI’라는 신뢰는 글로벌 시장에서 우리 기업의 가치를 높여줄 강력한 ‘프리미엄 무기’가 될 것입니다.

대한민국이 세계 AI 강국(G3)으로 도약하기 위해서는 기술의 속도보다 ‘인간을 지키는 설계’가 앞서야 합니다. 정부, 기업, 국민이 함께 이 방어선을 지켜낼 때 비로소 우리는 AI라는 거친 바다를 안전하게 항해할 수 있을 것입니다.