[AI리포터]

[사진: 위키미디어 재단]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 위키미디어 재단이 인공지능(AI)·머신러닝(ML) 시대에 위키미디어와 위키미디어 유저들에게 닥칠 잠재적 위험을 평가했다.

2024년 진행된 인권 영향 평가 보고서에 따르면, 내부 도구와 외부 생성형 AI, 콘텐츠 활용까지 폭넓게 분석한 결과가 주목받고 있다고 2일(현지시간) 온라인매체 기가진이 전했다.

재단은 이미 파괴 행위 탐지, 출처 요청 표시 등 반복적 편집 작업을 지원하는 ML 도구들을 개발해 왔으며, 이는 생성형 AI 등장 이전부터 활용 돼왔다.

평가는 내부 개발 AI·ML 도구, 생성형 AI와 인권 리스크, 외부 연구에 활용될 수 있는 위키미디어 콘텐츠 등 세 가지 범주로 이뤄졌다.

내부 도구는 표현의 자유와 교육권 향상에 기여할 가능성이 긍정적으로 평가됐지만, 편향 증폭이나 잘못된 삭제 표시 부여 같은 부작용 위험이 지적됐다.

생성형 AI의 경우 유해 콘텐츠를 다국어로 대량·신속 생성할 수 있어 편집자와 시민의 권리를 침해할 가능성이 있다는 경고도 담겼다.

또한 위키미디어 콘텐츠가 대규모 언어모델 학습에 쓰일 경우, 데이터 품질·편향·프라이버시·문화적 민감성 문제로 이어질 수 있다는 우려가 제기됐다. 다만 재단은 이미 품질 개선과 공정성을 강화하는 이니셔티브가 시행 중이라 위험이 완화되고 있다고 밝혔다.

한편, 일론 머스크는 위키백과를 "지나치게 각성됐다"고 비판하며, 자신의 AI 기업 xAI를 통해 위키백과와 유사한 온라인 백과사전 서비스 그로키피디아(Grokipedia)를 개발 중이라고 밝혔다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>