딥페이크 관련 안내 문구 노출 예시 [tk

<이미지를 클릭하시면 크게 보실 수 있습니다>

'슈퍼 선거'의 해를 맞아 전 세계 곳곳에서 가짜뉴스와 전쟁을 치르고 있다. 올해 전 세계 76개국에서 각종 선거가 예정된 상황에 인공지능(AI)이 자칫 민주주의 근간을 흔들 수 있다는 우려가 팽배하다. 우리나라도 예외가 아니다. 최근 윤석열 대통령의 대선 후보 시절 TV연설 장면을 짜깁기한 허위 조작 영상이 유포돼 논란이 일었다.

세계경제포럼(WEF‧다보스포럼)이 펴낸 '글로벌 리스크 리포트 2024'에서는 세계가 직면한 위험 중 하나로 'AI로 생성한 가짜 정보'를 지목했다. 글로벌 빅테크 기업들은 AI가 만들어낸 가짜뉴스에 대처할 방안을 세부화하고 있다. 국내 양대 포털업체인 네이버와 카카오도 4월 10일 치르는 제22대 총선을 앞두고 투명성 제고를 위한 총력전을 준비하고 있다. 총선 훼방꾼으로 급부상한 딥페이크(AI로 만든 영상·이미지 합성 조작물) 관련 대응책을 내놓는 것은 물론 실시간 신고센터를 운영해 공정한 투표를 위해 적극 지원하겠다는 계획이다.

윤석열 대통령도 가짜 뉴스의 희생양이 됐다. [사진=틱톡 갈무리]

<이미지를 클릭하시면 크게 보실 수 있습니다>

네이버·카카오 '딥페이크 차단 총력'

네이버는 총선을 앞두고 허위정보 확산을 막기 위한 종합적인 대책을 28일 발표했다.

특히 딥페이크 관련 피해를 방지하는 데 중점을 뒀다. 딥페이크는 사용 의도와 무관하게 그 결과물 자체로 타인의 권리를 침해할 수 있다. 이번 제22대 국회의원 선거에서는 딥페이크 관련 규정을 신설한 공직선거법이 시행돼 AI를 활용해 선거와 관련된 게시물이나 콘텐츠 제작할 때 각별한 주의가 필요한 상황이다.

현재 네이버는 블로그, 카페 등에 동영상 등을 이용한 게시물을 작성할 때 새로 시행된 공직선거법을 미처 인지하지 못해 법에 저촉되지 않도록 딥페이크 관련 안내 문구를 제공하고 있다.

이에 더해 검색을 통해 관련 정보나 콘텐츠가 유통되지 않도록 모니터링을 강화한다. 만약 관련 검색어를 입력하면 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구를 함께 노출할 예정이다. 딥페이크 관련 게시물로 인한 피해 유형과 신고 방법 등을 확인할 수 있도록 도움말 역시 새롭게 구성한다. 네이버는 AI 콘텐츠 필터링 기술인 '그린아이'로 유해 딥페이크를 실시간 차단하는 조치도 병행하고 있다.

생성형 AI인 '클로바 X'와 AI 기반 검색서비스인 '큐(CUE:)'의 부정 이용을 막기 위한 방지책도 내놨다. 그 일환으로 클로바X와 큐를 선거 관련 정보 요청이나 예측 등을 위해 사용할 때 생성형 AI의 기술적 한계를 명확히 하고 제공의 어려움을 안내한다. 또 선거 기간 동안 클로바X와 큐의 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 기재할 예정이다.

카카오는 허위정보 혹은 딥페이크를 검출할 수 있는 방향으로 연구를 진행 중이다. AI 어뷰징 관련 기술적 대응을 위한 팀을 별도로 운영하고 있다. 포털 서비스 다음에도 AI 기술을 활용해 일반 이미지와 부적절한 이미지를 분류해 유해 이미지를 차단하는 기술을 도입하고 있다.

생성 AI 이미지 차원에서는 카카오브레인의 AI 이미지 생성 모델인 '칼로'에 대한 비가시성 워터마크 기술 도입을 검토하고 있다. 일반 이용자들에게 워터마크가 노출되진 않지만 기술적으로는 칼로 생성 여부를 판단할 수 있다.

딥페이크에 대한 대응책 마련은 전 세계적인 흐름이다. 테일러 스위프트 사진을 합성한 딥페이크 음란 이미지가 엑스(옛 트위터) 등에서 퍼지면서 경각심이 높아지고 있다. 글로벌 빅테크들도 딥페이크 부작용을 차단하기로 결정했다. 오픈AI·구글·메타·틱톡·엑스(X) 등 20개 기업은 최근 독일 뮌헨안보회의(MSC)에서 유권자가 속을 위험이 있는 콘텐츠를 감지해 라벨을 붙이는 등 조치를 자발적으로 취하기로 합의했다.
허위정보 대응 체계도 강화

네이버와 카카오는 허위정보 관련 대응 체계도 강화한다. 네이버는 선거 기간 동안 '선거 관련 허위정보 신고' 채널을 운영한다. 신고센터를 메인 페이지에 마련해 사용자 접근성을 높이고, 신고가 원활하게 진행될 수 있도록 관련 정보를 제공할 예정이다.

게시 중단 요청과 관련해 선거 출마 후보자 등 관련인의 요청은 선거 관련법과 한국인터넷자율정책기구(KISO) 선거 관련 정책에 따라 운영한다. 게시물에 대한 임시조치는 선거관리위원회 결정 아래 이뤄지게 된다.

뉴스 댓글 전담 담당자를 확대하는 등 24시간 모니터링도 강화한다. 부서별 직통 체계를 구축해 문제 발생 시 빠르게 대응해 나갈 예정이다.

카카오 역시 가짜뉴스 대응을 포함한 선거 서비스 운영 원칙을 공개하고 기준에 따라 운영키로 했다. 여기엔 불공정 선거 보도 모음 페이지 마련이 포함된다. 이 공간을 통해 불공정 보도로 경고·주의 조치를 받은 기사를 확인할 수 있도록 한데 모아 제공한다. 제휴 언론사별 팩트 체크 코너도 운영 중이다. 만약 권리침해 신고를 접수하게 되면 신속하게 게시글 노출을 임시 중단 처리한다.
한영훈 기자 han@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -