컨텐츠 바로가기

이슈 인공지능 시대가 열린다

악성 댓글 잡는 ‘AI클린봇’ 어디까지 진화할까

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다

-인공지능 기반 ‘AI클린봇’ 문맥 이해해 악플 처리

-과도한 성적표현까지 차단…악플 수치도 감소

-“신조어·축약어 많은 한국어는 고민거리…고도화 박차”

헤럴드경제

자동으로 악성 댓글(악플)을 걸러주는 인공지능(AI) 기술 ‘AI 클린봇’[네이버 제공]

<이미지를 클릭하시면 크게 보실 수 있습니다>


[헤럴드경제=유동현 기자]네이버는 자동으로 악성 댓글(악플)을 걸러주는 인공지능(AI) 기술 ‘AI클린봇’을 통해 악플 줄이기에 나섰다.

AI클린봇은 2019년 당시 가수 겸 배우 설리의 사망 등 유명인의 극단적 선택의 계기로 악플이 사회적 문제로 주목받으면서 도입됐다. 초기 AI클린봇 1.0 버전은 욕설 및 비속어가 들어간 댓글을 중심으로 숨김 처리를 했다. 네이버 웹툰, 스포츠, 뉴스 등 댓글을 달 수 있는 서비스에 적용됐다.

이후 발전된 클린봇 2.0은 문맥을 이해하는 능력을 고도화했다. 기존에는 댓글에 ‘개’나 ‘씨’같은 말로 시작하는 욕설이 있어야 악플로 인식했다. 클린봇2.0은 한발 더 나가 욕설이 없더라도 모욕적이거나 타인을 비하하는 표현이 있으면 악플로 인식한다. 문장 맥락을 이해해 악플을 가려내는 것이다. 악플 탐지 능력도 기존 대비 2배 이상 향상됐다.

현재 접목된 클린봇 2.5은 과도한 성적표현에 대한 AI학습이 반영됐다. 성적 불쾌감을 일으킬 수 있는 수준의 표현들을 차단함으로써 악플 차단 범위를 넓히게 된 것이다. 가령 직·간접적인 성적 행위나 특정부위 등의 표현도 자동으로 차단해주는 식이다.

기존에 학습된 데이터를 포함해 약 1억6000만 건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용됐다. 네이버 측은 기존대비 정확도가 약 15%가량 향상됐다고 설명한다.

헤럴드경제

AI클린봇 도입과 더불어 뉴스 기사 댓글 목록에 이용자 프로필 사진 공개 기능을 추가하면서 실제 악플 수도 줄어든 것으로 나타났다. [네이버 제공]

<이미지를 클릭하시면 크게 보실 수 있습니다>


AI클린봇 도입과 더불어 뉴스 기사 댓글 목록에 이용자 프로필 사진 공개 기능을 추가하면서 실제 악플 수도 줄어든 것으로 나타났다. 네이버는 지난 5월13일부터 네이버 뉴스에 댓글을 달면 이용자가 설정한 프로필 사진이 공개되는 기능을 도입했다. 프로필 사진 노출 기능을 적용하기 직전(4월13일~5월12일)과 적용 직후(5월14일~6월12일) 각 30일을 비교한 결과 클린봇의 악플 처리가 16% 줄어들었다.

전체 댓글 작성 수는 8% 줄었고, 작성자 삭제와 규정 미준수 삭제 건수는 각각 7%, 6% 감소했다. 네이버 측은 “규정위반삭제(-6%) 건은 전체 댓글 수 감소(-8%)와 큰 차이를 보이지 않았으나, 조금 더 넓은 범위에서 자동 블라인드하는 AI클린봇의 처리 건수는 16% 감소했다”며 “AI로 자동 블라인드 되는 비중이 줄어드는 것을 통해 악플 생산 감소 경향을 확인할 수 있었다”고 설명했다.

AI클린봇의 적용처도 확대되고 있다. 네이버 뉴스를 비롯 네이버TV, 방송Talk, 웹툰 등 네이버의 다양한 서비스에 접목됐다. 이를 통해 깨끗하고 안전한 온라인 환경 ‘클린인터넷’을 조성하는 게 목표다. AI 기술 고도화와 클린봇의 탐지 성능 향상도 지속할 계획이다.

다만 악플을 기술적으로 원천 근절하기란 만만찮다. 하나의 비속어에 많게는 10만개 이상의 변칙어가 존재하는 만큼 AI클린봇 만으로 100% 악플 감지 효과를 기대는 건 어렵다는 설명이다. 네이버 측은 “서비스 진행하며 한국어가 특히 축약어도 많고 신조어가 매일 새롭게 생겨나는 부분이 가장 고민거리였다”며 “향후 (클린봇 고도화로) 건설적인 댓글와 이용자 간 건전한 소통이 이어져서 클린봇 이용이 점점 줄어드는 것이 바람”이라고 말했다.

dingdong@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.