지난해 9월 30일 강남구 코엑스에서 열린 ‘스마트라이프위크 2025’에서 관람객이 AI 로봇에게 고민 상담을 받고 있다. 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

학생 정서 지원을 명목으로 일부 학교들이 사설 업체의 ‘인공지능(AI) 상담’을 도입하고 있는 것으로 확인됐다. 청소년들의 AI 의존도가 커지고 AI 상담의 신뢰도와 보안 등이 담보되지 않았다는 우려가 크지만 교육 당국은 현황 파악에 소극적이라는 지적이 나온다.

25일 취재를 종합하면, 충북의 한 중학교는 올해 신학기에 맞춰 위클래스(학내 상담실) 안에 AI 상담 부스를 설치했다. 방음 부스에 학생이 들어가 화면 속 AI에게 힘든 감정을 말하면 AI가 학생의 표정과 발언 내용을 정리해 상담 대화 기록서를 학생과 상담교사에게 보내는 식으로 운영된다. 학교는 A사의 상담 부스 구매에 990만원과 1년 유지관리비 118만원 예산을 쓴다.

경기의 한 고교도 올해 1월 B사의 AI 심리상담 키오스크를 설치했다. 학생들은 3분 정도 설문을 통해 AI 자가진단 리포트를 받아보거나, 고민을 말하면 공감성 피드백을 받게 된다고 업체는 홍보한다. 기자가 한 프로그램을 체험해보니 접속 지연이 발생했고, 음성 인식 오류 때문에 평소보다 또박또박 말해야 했다. ‘머리가 아프다’고 했지만 상담 요약에는 반영되지 않았다.

AI 정서케어 솔루션을 내세운 C 챗봇은 지난해 조달청 혁신제품으로 선정돼 서울·충남 공주 등 19개 학교와 청소년복지기관에 시범 도입됐다. 서울시교육청 교육연구정보원은 24시간 이용 가능한 AI 챗봇 등 기능을 시범운영 학교 대상으로 제공했다.

AI 상담을 도입한 학교들도 지금까진 실효성이 크지 않다고 본다. 충북 중학교의 상담교사는 “지난주까지 오류가 계속 나 아직 아이들이 많이 해보지 않았다”며 “위기 징후를 포착할 수 있다면 좋겠지만 위기 학생들은 AI 상담도 선뜻 나서서 해보지 않는 편”이라고 말했다. 경북 포항시의 한 고교는 지난해 한 달 간 AI 상담 기기를 체험했지만 도입하지 않기로 했다. 이 학교 상담교사는 “아직 AI 상담의 안전성이 완전히 확보됐다고 볼 수 없다”고 했다.

AI 상담 프로그램을 판매하는 업체들도 AI 상담의 역할을 ‘상담교사 보조’ 정도로 설명한다. A사 대표는 “상담교사 1명이 전교생을 만날 순 없기 때문에 1차 필터링을 한다고 보면 되는 것”이라며 “학생이 이야기하도록 유도하고 결과값을 선생님에게 알리는 차원”이라고 했다. B사는 7개 학교에 도입한 사례를 홍보하며 “자연스럽게 고민을 나눌 수 있는 친근한 대화 방식을 제공한다”며 “맞춤형 자가진단으로 심리 상태를 파악하고 위험 신호를 감지한다”고 안내했다.

문제는 AI 상담의 신뢰도가 충분히 검증되지 않았다는 점이다. 최근 연구들은 AI 챗봇이 과도하게 공감하는 발언을 통해 잘못된 믿음을 강화하는 등 상담 윤리를 위반하는 문제가 발견된다고 지적한다. 학교에 도입된 AI 상담 프로그램이 학생들에게 자동화된 공감 문구를 반복하면서 비슷한 문제가 생길 수 있다.

사설 업체로의 외주화가 가속화되면, 개인정보 유출 등 사고가 발생했을 때 책임 소재가 불분명해진다는 우려도 나온다. 현재 개별 학교는 학생·학부모의 개인정보동의서만 받으면 AI 상담 프로그램을 도입할 수 있다. 상담 데이터가 고도의 민감 정보인 만큼 개인정보가 유출됐을 때 학생들에게 치명적일 수 있다. 학생들 관계 문제 상담을 지원한다는 D 업체는 “결과는 절대 노출되지 않도록 선생님 계정에 대한 보안에 특별히 신경써달라”고만 안내했다.

앞으로 학생들의 고위험 정보까지 수집될 가능성도 염두에 둬야 한다. A사는 향후 심박수·호흡량 등 생체정보까지 분석해 상담 정보로 활용할 수 있는 기술을 개발 중이라고 했다. A사 대표는 “학교로 들어가기까지 얼마 안 남았다”며 “교육청 인증 부분은 하나씩 해결해가는 중”이라고 했다.

AI 상담이 학교에 속속 도입되고 있지만, 교육당국이 현장을 파악하는 속도는 기술의 전파 속도에 못 미친다. 경기·전북교육청 등은 “AI 상담 도입 정책이나 배정된 예산은 없다”고 했지만 취재 결과 사용 중인 학교들이 확인됐다. 전북교육청 관계자는 “관리 감독을 강화하겠다”고 했다. 교육부 관계자는 “신규 기술을 도입할 때 위험이 있지만, 발전하고 있는 기술을 (정부가 나서서) 저해하기도 조심스럽다”며 “시도교육청과 상황을 모니터링하겠다”고 말했다.

김송이 기자 songyi@kyunghyang.com, 김원진 기자 onejin@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지