[최진홍 기자] 생성형 AI가 교육 현장에 침투하며 가장 큰 화두로 떠오른 것은 '속도'가 아닌 '환각(Hallucination)' 문제다. 그럴듯한 오답을 만들어내는 AI의 한계가 에듀테크 시장의 리스크로 지목되는 가운데 기술적 통제 장치와 전문가 검증을 결합한 새로운 모델이 등장했다.

교육 콘텐츠 플랫폼 '쏠북(SOLVOOK)'을 운영하는 북아이피스는 AI 생성 콘텐츠의 신뢰성을 체계적으로 관리하기 위한 가드레일(Guardrail) 및 피어리뷰(Peer Review) 시스템을 도입했다고 26일 밝혔다.

생성형 AI를 단순한 문제 제작 도구로 보던 기존 에듀테크 업계의 시각을 뒤집는 시도다. 단순히 콘텐츠를 양산하는 것을 넘어 교육 전문가가 생성과 조정 검증 전 과정에 개입하는 '휴먼-AI 협업 구조'를 구체화했기 때문이다.

북아이피스가 구축한 시스템의 핵심은 이중 잠금장치다. 먼저 가드레일 시스템이 콘텐츠 생성 단계부터 작동한다. AI가 학습하고 결과물을 내놓는 과정에서 교육적으로 부적절하거나 오해를 낳을 수 있는 요소를 사전에 차단하는 기술적 필터링이다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

여기에 한국저작권위원회와 협력해 구축한 UCI(국가표준식별체계) 기반 관리 체계가 접목됐다. 쏠북에서 생성되고 유통되는 모든 콘텐츠는 원출처 정보가 꼬리표처럼 따라붙는다. 생성과 수정 활용 이력이 데이터로 남기 때문에 교육기관이나 공공 영역에서 민감하게 여기는 저작권 투명성과 책임 소재 문제를 해결했다.

콘텐츠가 생성된 이후에는 피어리뷰 시스템이 작동한다. 동일 분야의 교육 전문가들이 AI가 만든 결과물을 상호 검증하는 방식이다. 이는 자동화된 알고리즘이 잡아내지 못하는 맥락적 오류나 교육적 타당성을 사람이 직접 걸러내기 위함이다.

현재 에듀테크 시장은 챗GPT와 같은 거대언어모델(LLM)을 활용해 누가 더 빨리 더 많은 문제를 만들어내느냐의 경쟁에 몰두해 있다. 그러나 교육 현장에서는 AI가 만든 문제의 정답 오류나 편향성 문제가 지속적으로 제기되어 왔다. 북아이피스는 이러한 시장의 통점(Pain Point)을 파고들어 '검증된 AI 콘텐츠'라는 새로운 표준을 제시하려는 전략으로 풀이된다.

특히 AI가 만든 콘텐츠는 단순 오류보다 겉보기에 완벽해 보이나 실제로는 학습을 왜곡할 수 있는 미묘한 오류를 포함할 때가 많다. 북아이피스는 이 영역을 기계가 아닌 사람 전문가의 영역으로 남겨두며 기술만능주의를 경계했다.

김관백 북아이피스 공동대표는 "생성형 AI 시대의 핵심은 얼마나 빠르게 콘텐츠를 만드는가가 아니라 누가 어떤 기준으로 검증하고 그 책임을 어떻게 기록하느냐에 있다"며 "쏠북은 교육 전문가와 함께 신뢰를 전제로 한 콘텐츠 구조를 설계하는 플랫폼으로 건강한 교육콘텐츠 생태계를 확장해 나갈 것"이라고 말했다.

<저작권자 Copyright ⓒ ER 이코노믹리뷰 무단전재 및 재배포 금지>