페이스북 [연합뉴스TV 제공]

(서울=연합뉴스) 홍지인 기자 = 페이스북은 인공지능(AI) 기술로 테러·불법 무기, 약품 거래 등은 물론 혐오 발언까지도 대부분 자동 감지·삭제하고 있다고 28일 밝혔다.

페이스북은 이날 공개한 올해 2~3분기 커뮤니티 규정 집행 보고서에서 "유해 콘텐츠 전반에서 규정 집행을 강화해왔으며, AI에 대한 지난 5년간의 지속적인 투자를 통해 콘텐츠의 감지 및 삭제율을 높이고 있다"고 밝혔다.

이어 "혐오 발언 관련 위반 사항을 감지하는 시스템은 지속적으로 향상돼 올해 2분기부터 일부 게시물을 자동으로 삭제해오고 있다"며 "사전 감지율은 지난 보고서의 68%에 비해 크게 향상된 80%를 기록했다"고 설명했다.

기존에 혐오 발언으로 판별된 텍스트와 동일한 문자열 혹은 이미지를 포함하는지 식별해내는 매칭 기능, 혐오발언 콘텐츠에서 나타나는 공통적인 문구나 패턴의 유사성을 평가하는 머신러닝 식별 기능 등 감지 기법을 쓰고 있다고 페이스북은 소개했다.

그러나 혐오 발언의 기준이 명확하지 않은 경우가 많아 판단에 사람이 개입하는 경우도 적지 않다.

유동연 콘텐츠 정책 매니저는 "혐오 발언이나 따돌림 및 집단 괴롭힘과 같은 항목의 경우 콘텐츠의 뉘앙스 및 맥락을 파악하는 것이 중요하기 때문에 판단에 대한 정확도에 있어 AI에만 의존할 수 없는 영역"이라고 설명했다.

가령, '쪽○○'처럼 국적을 비난하는 발언은 판단 기준이 비교적 명확하다.

유동연 페이스북 콘텐츠 정책 매니저 [페이스북 제공]

그러나 '한남충'은 삭제됐지만 '김치녀'는 남아 있어 한때 논란을 일으키기도 했다.

유 매니저는 "'한남충'은 한국이라는 국적을 기반으로 한 혐오 표현이기 때문에 규정에 따라 삭제 조치했다"며 "'김치녀'는 게시자의 주관적인 의견을 바탕으로 정의한 일부를 나타내는 표현이기 때문에 삭제하지 않았다"고 설명했다.

페이스북은 이 밖에도 테러 선동, 아동 나체 이미지 및 아동에 대한 성착취, 불법 무기 및 의약품 거래 등 유해 콘텐츠에 대해선 90% 후반대의 사전 감지율로 사용자 신고 이전에 삭제 조치하고 있다.

현재 전 세계에서 1만5천여명이 한국어를 포함한 50개 이상의 언어로 365일 24시간 잠재적 유해 콘텐츠를 검토하고 있다고 회사는 전했다.

ljungberg@yna.co.kr



<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>