샘 올트먼 오픈 AI 전 최고경영자(CEO)가 6일(현지시간) 미국 캘리포니아주 샌프란시스코에서 열린 오픈 AI 개발자 컨퍼런스에서 발표하고 있다. 2023.11.06 ⓒ AFP=뉴스1 ⓒ News1 정지윤 기자

<이미지를 클릭하시면 크게 보실 수 있습니다>

(서울=뉴스1) 김승준 기자 = 인공지능(AI) 챗봇 공유 플랫폼으로 AI 대중화에 나선 오픈AI가 정치인 관련 챗봇은 제한하겠다고 발표했다.

17일 업계에 따르면 오픈AI는 공식 블로그를 통해 선거 관련 서비스 남용 방지 정책을 공지했다.

2024년은 한국 총선, 미국 대선뿐 아니라 유럽연합, 일본, 멕시코, 베네수엘라, 알제리, 세네갈 등에서 의회나 국가수반 등을 뽑는 주요 선거가 벌어된다. 영국의 이코노미스트는 2024년 투표 인구를 40억명으로 추산하기도 했다.

오픈AI는 "법률, 엔지니어링 및 정책팀의 전문 지식을 모아 잠재적인 오남용을 신속하게 조사하고 해결하는 노력을 기울이고 있다"며 "이용자가 후보자와 같은 실제 사람이나 정부 기관인 것처럼 가장하는 챗봇을 허용하지 않는다"고 설명했다.

이외에도 정치 캠페인·로비 용도 응용프로그램 구축, 허위 투표 정보 표시 등 투표 방해 행위가 제한된다.

이용자는 위반 사항을 발견시 오픈AI에 신고할 수 있다.

지난해 생성형 AI 열풍이 불며 세계 각국에서 규제 논의가 진행되고 있다. 규제 대응의 주요 주제는 허위 정보 문제다. 경제협력개발기구(OECD)가 지난해 공개한 G7 회원국 대상 조사에서 가장 긴급하게 대응해야 할 것으로 '책임 있는 기술 사용'에 이어 '허위정보 및 정보조작 대응'이 꼽혔다.

또 15일 시작된 2024년 세계경제포럼(다보스포럼)에서도 AI로 인한 선거 혼란을 올해의 최대 위협으로 꼽았다.

이런 국제 사회가 우려하는 배경에는 인공지능의 급속한 대중화가 있다.

지난해 생성AI 열풍이 콘텐츠 생산 비용을 낮췄다면 최근 오픈AI는 AI챗봇 제작 허들을 획기적으로 낮추고 있다.

오픈AI가 10일 출시한 GPT스토어는 복잡한 코딩 없이도 인공지능 챗봇을 만들고 공유할 수 있는 플랫폼이다. 기존 인공지능 챗봇 개발에 방대한 데이터와 프로그래밍 지식이 필요했지만 이런 장벽이 대폭 제거된 것이다. 출시 일주일이 지나지 않았지만 GPT스토어에서는 300만개 이상의 챗봇이 공유되고 있다.

아울러 오픈AI는 챗봇뿐 아니라 이미지 생성에서도 실제 인물 관련 요청을 거부하도록 조치하고 이미지가 AI 생성물인지 확인할 수 있는 프로그램을 개발 중이다.

한편 구글도 지난달 AI '바드'에 선거 관련 질문에 응답하지 않도록 조처했다.

seungjun241@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.