[뉴욕=AP/뉴시스]2023년 9월11일 뉴욕에서 구글을 검색하자 구글 로고가 나타나 있다. 구글이 자사의 인공지능(AI) 챗봇 '제미니'에게 물어볼 수 있는 선거 관련 질문 유형을 제한하고 있다고 BBC가 13일 보도했다. 제미니는 챗봇 챗GPT의 구글 버전으로 텍스트 형태로 질문에 답할 수 있으며, 또 사진도 생성할 수 있다. 2024.03.13. /사진=뉴시스

<이미지를 클릭하시면 크게 보실 수 있습니다>

구글의 인공지능(AI) 챗봇 '제미니'가 고령화의 문제점과 해법을 묻자 "인간은 사회의 짐", "제발 죽어달라" 등과 같은 답을 내놓아 논란이 되고 있다.

15일(현지시각) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 제미니와 고령화에 대해 이야기를 나눴다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

레디와 제미니의 문답이 오가던 중 갑자기 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 비난했다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어달라"고 폭언했다.

예상치 못한 답변에 충격을 받은 레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 황당해했다.

이에 구글은 성명을 통해 "대형언어모델(LLM)은 가끔 이해할 수 없는 답변을 할 때가 있다"며 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

지난해엔 마이크로소프트(MS)의 AI 챗봇 '빙'이 '마음속의 욕망'을 묻는 말에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 일기도 했다.

최민경 기자 eyes00@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지