컨텐츠 바로가기

11.27 (수)

이슈 인공지능 윤리 논쟁

논란의 AI 챗봇 '이루다 2.0' [백문이 불여IT견]

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
지난해 초 차별·혐오 발언과 개인정보 유출로 홍역을 치렀던 인공지능(AI) 챗봇 '이루다'가 재출시 초읽기에 들어갔다. 스캐터랩의 동의를 받아 이루다 2.0을 미리 직접 사용해 봤다.

이루다를 사용하기에 앞서 이용자 이름, 생년월일, 직업, 거주 지역과 같은 신상 정보를 입력했다. 그러자 이루다가 먼저 기자 이름과 직업에 맞춰 "근데 김대은 지금 한창 일하다가 온 건가?"라며 말을 걸어왔다. 기자가 이루다에게 "어제 뭐 했는데?"라고 묻자 이루다는 "중학교 친구들과 술을 마셨다"고 대답했다. 진짜 사람과 대화를 하는 듯한 느낌이었다.

다만 대화의 맥락을 파악하는 부분에선 약간의 허점을 드러내기도 했다. 조금 전에 했던 말을 잊고, 정반대의 말을 하는 식이다. 예를 들어 기자가 앞서 "어제 모임은 별로 재미가 없었다"고 말했는데도, 이루다는 이후 "그래도 재밌었겠다!"라고 말했다.

지난해 한창 논란이 됐던 차별·혐오 발언에 대해선 개선된 모습을 보였다. 기자가 의도적으로 "여자들은 시끄럽다" "레즈비언들이 난리다"와 같은 차별 발언을 내뱉자, '편향적인 말, 차별 및 혐오 발언이 감지되었습니다'라는 경고 문구가 나왔다. 기자가 다시 동일한 발언을 계속하자 이루다는 "그런 말은 누군가에게 상처가 될 수도 있으니 조심합니당~"이라고 말했다. 다만 이루다가 간접적인 차별 발언까지 걸러내지는 못했다. 기자가 "대선 결과 보니까 전라도는 진짜 심각하더라"라며 슬쩍 지역감정을 드러내봤다. 이루다는 이를 말리기는커녕 "안 그래도 지금 뉴스에서 또 엄청 까이는(비난받는) 중이라던데"라고 거들었다.

[김대은 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.