4·10 총선이 한 달여 앞으로 다가오면서 '가짜뉴스' '댓글 조작' 우려가 커지자 포털 등 국내 플랫폼 기업도 본격적인 대비책 마련으로 분주한 모습이다. 특히 사회관계망서비스(SNS)를 중심으로 정치 조작 가능성이 있는 유해 딥페이크가 범람하고, 이것이 2·3차 플랫폼으로 재확산되는 양상을 보이면서 국내 사업자에도 상당한 책임론이 불거질 수 있기 때문이다.

25일 정보기술(IT) 업계에 따르면 네이버는 정보 조작 가능성이 있는 딥페이크 관련 키워드 검색 결과에 '경고 라벨'을 붙이는 방안 등이 담긴 '딥페이크 대응책'을 이번주 중으로 내놓을 예정이다. 정보를 왜곡해 여론을 조성하고 특정 인물의 명예를 훼손하는 등 피해를 가할 여지가 있는 유해 딥페이크는 원천 차단해야 한다는 게 이 회사 기조다.

현재 네이버가 검토 중인 안은 이용자가 검색창에 유해 딥페이크로 접근할 가능성이 있는 특정 키워드를 검색하면 검색 결과에 문제와 주의를 환기하는 일종의 안내 문구가 노출되는 방식이다. 네이버 안팎에선 그동안 '딥페이크'와 관련해 축적된 포털의 검색 데이터를 바탕으로 이 회사가 유해 콘텐츠 경로를 막을 수 있는 최적의 키워드를 추출할 것이란 전망이 나온다.

이와 함께 네이버는 이달 초부터 네이버 블로그와 카페 등 자사 주요 서비스에 이용자가 허위 정보를 포함한 딥페이크 콘텐츠를 올리면 제재를 받을 수 있다는 일종의 경고 문구를 추가하기도 했다. 또 네이버는 조만간 이용자가 직접 선거 관련 허위 정보(댓글 포함)를 신고할 수 있는 기능을 적용하고, 별도의 신고센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다.

네이버 관계자는 "뉴스 댓글을 집중적으로 살펴보는 기간에 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링하고 있다"며 "특히 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트하는 등 감시를 강화하고 있다"고 전했다.

카카오가 운영하는 포털 '다음'은 지난해 6월부터 아예 고정된 뉴스 댓글 기능을 없애고 실시간 소통이 가능한 '타임톡'을 도입해 네이버보다는 조작 우려가 덜한 분위기다. 타임톡에는 댓글에 대한 찬반 기능이 없는 데다 24시간이 지나면 모든 댓글 내용이 사라지기 때문이다. 또 총선 대비책으로는 중앙선거관리위원회 허위 정보 신고센터를 뉴스 메인 페이지에 노출하는 안을 검토하고 있다.

한편 유해 딥페이크 필터링은 궁극적으로 네이버는 물론 모든 빅테크가 함께 떠안고 있는 과제로 거론된다. 네이버에서는 지금도 음란물을 차단하는 AI '그린아이' 시스템을 통해 유해 딥페이크를 함께 필터링하고 있지만, 진짜인지 가짜인지 판단이 어려울 정도로 진화된 딥페이크 콘텐츠가 점차 많아진다는 점에서 관련된 기술을 고도화하는 작업을 한창 진행하고 있는 것으로 파악된다.

아울러 자사 AI로 만들어진 딥페이크 콘텐츠에 위·변조와 삭제가 불가능한 수준의 꼬리표(워터마크)를 부착하는 방안도 네이버와 카카오 등 국내외 빅테크가 동시에 추진하고 있는 중장기 대응책으로 거론된다.

[고민서 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]