오픈AI가 생성형 인공지능(AI)을 악용해 선거와 관련된 잘못된 정보를 퍼뜨리는 것을 막기 위한 방지책을 발표했다.

16일 오픈AI는 블로그를 통해 정치 캠페인과 로비 활동을 위한 애플리케이션을 구축하고 투표 참여를 방해하거나 투표 과정에 대한 잘못된 정보를 퍼뜨리는 것을 허용하지 않겠다고 밝혔다. 이를 위해 오픈AI는 적극적으로 AI가 생성한 정보임을 알린다는 방침이다.

우선 오픈AI는 올해 초에 이미지 생성기인 달리(DALL-E)가 제작한 이미지에 워터마크를 삽입한다. 또 특정 이미지가 달리가 만든 것인지 아닌지를 확인할 수 있는 '이미지 찾기 도구(image-detection tool)'를 출시한다는 방침이다.

다만 워터마크를 붙이더라도 AI 이미지 지우개를 활용할 경우 삭제할 수 있다는 점에서 한계가 있다는 평가다. 이에 대해 오픈AI는 "공정한 선거를 위해 모든 것은 민주적인 과정으로 이뤄져야 한다"며 "우리의 기술이 이 과정을 훼손하는 것을 원하지 않는다"고 적었다.

선거 정보 오남용 방지책을 마련한 것은 '딥페이크' 정보가 넘쳐나고 있어서다.

[이상덕 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]