이주호 부총리 겸 교육부 장관이 29일 서울 종로구 정부서울청사에서 AI 디지털 교과서 검정심사 결과 및 도입 로드맵 조정 브리핑을 하고 있다. 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

정부가 인공지능(AI) 디지털교과서 검정 결과를 발표한 바로 다음 날 ‘AI 챗봇(대화로봇)이 ‘독도=영토분쟁지역’ 등의 답변을 하는지’ 여부를 알려달라고 교과서 제작사에 요청한 사실이 확인됐다.

교육부가 “‘독도는 분쟁지역’이라는 답변이 AI 교과서에 단 하나도 들어갈 수 없다”고 공언한 지 이틀 만이다. 정부 스스로 AI교과서 오류 가능성을 인정한 셈이다. 3개월여 앞둔 AI 교과서 도입을 두고 교육계의 우려가 커진다.



1일 취재를 종합하면 AI 교과서 검정을 맡은 한국교육과정평가원(평가원)은 지난달 30일 오전 교과서 제작사들에 연락해 “(AI 교과서) 수정본 검토 이후에도 지속적인 수정이 이뤄지고 있다”며 “AI 교과서에 탑재된 AI 챗봇이 언론에 제기된 ‘독도는 분쟁지역’ 등 공통 기준을 위반하는 답변을 하는지 확인을 부탁한다”고 했다. 평가원은 특히 ‘독도’ ‘동해’와 관련된 AI 챗봇의 답변을 확인해달라고 요청했다.

AI 교과서에 담긴 AI 챗봇은 생성형 AI를 기반으로 학생이나 교사가 묻는 말에 답변을 하는 기능을 수행한다.

검정 발표 이후 이뤄진 평가원의 AI 챗봇 오류 확인 요청은 교육부가 지난달 28일 백브리핑에서 “그런 것(독도는 영토분쟁지역)이 AI 교과서에는 단 하나도 들어갈 수 없다”고 단언한 점과 배치된다.

정부가 공식적으로는 오류 가능성을 전면 부인했지만, 내부적으로는 불완전한 AI 챗봇 기능을 인지하고 교과서 제작사를 통해 뒤늦게 AI 챗봇 답변을 점검하는 것으로 보인다.

그간 AI 전문가들은 AI 챗봇 기능 활용을 두고 지속적으로 우려를 표했다. AI 교과서 시제품을 사용해 본 전문가는 “현재 기술 수준으로 AI 교과서에 오류 없는 생성형 AI를 탑재하는 것은 매우 까다롭다”며 “공교육에서 생성형 AI 활용은 오랜 검증과 감수가 필수인데, (정부가) 생성형 AI 기능이 담긴 AI 교과서 도입을 너무 성급히 추진하고 있다”고 했다.

한국교육과정평가원이 교과서 제작사에 보낸 공지

<이미지를 클릭하시면 크게 보실 수 있습니다>

평가원이 교과서 제작사에 “검정 심사과정에서 (헌법 등) 공통기준 준수 여부를 확인했으나 수정본 검토 이후에도 지속적인 수정이 이뤄지고 있다”고 알린 점은 촉박한 일정 속에서 AI 교과서 검정이 이뤄진 점을 방증한다. 정부 우려처럼 향후 수정 과정에서 교과서의 생성형 AI 오류가 추가될 가능성도 있다.

평가원이 주말인 지난달 30일 오전 교과서 제작사 측에 AI 챗봇의 기능검증을 요청하면서 답신 기한을 다음날 오전 11시까지로 정한 점에서도 정부의 다급함이 드러난다. 24시간 안에 AI 교과서에 실린 AI 챗봇 기능을 점검하라는 평가원 측 지시에 다수의 교과서 제작사는 곤란함을 호소한 것으로 알려졌다.

앞서 교육부는 지난달 29일 AI 교과서 검정결과를 발표했다. 내년 1학기에는 예정대로 영어·수학·정보 교과에 AI 교과서를 도입한다. 다만 국어와 기술·가정(실과) 교과에 AI 교과서를 도입하지 않기로 했다. 사회, 과학 교과는 1년 미뤄져 2027년부터 AI 교과서를 도입한다. 교육부는 AI 교과서 도입 속도 조절에 나서면서도 “(정책의) 후퇴라고 생각하지 않는다”고 밝혔다.

교육부가 속도전을 벌이다 학부모, 교사 등 현장 우려를 뒤늦게 받아들였다는 지적도 나온다. 올해 국어 AI 교과서 시제품을 교실에서 사용한 복수의 교사들이 최근 교육부에 국어 AI 교과서의 문제점을 언급하며 사용이 적합하지 않다는 의견을 전한 것으로 알려졌다.

---

☞ [단독] “독도는 분쟁지역” AI 교과서 답변에 정부 “심각한 오류 아냐”
https://www.khan.co.kr/article/202411271734001

---

---

☞ ‘AI 교과서’ 논란에 속도 조절…국어 빠지고 사회·과학 1년 늦춘다
https://www.khan.co.kr/article/202411291428001

---

김원진 기자 onejin@kyunghyang.com, 탁지영 기자 g0g0@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 짧게 살고 천천히 죽는 ‘옷의 생애’를 게임으로!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지