애플 차세대 기기에 통합될 것으로 예상되는 디지털 AI 비서를 개발 중인 것으로 알려졌다. 시리보다 더 발전한 형태의 새로운 비서는 생성형 AI를 기반으로 하며, "인간 같은" AI "인격"을 갖게 된다.

ⓒ Getty Images Bank

<이미지를 클릭하시면 크게 보실 수 있습니다>

블룸버그 마크 거먼에 따르면, 이 새로운 비서는 홈팟, 아이패드 같은 기기에서 시리를 대체할 수 있다. 애플의 차세대 가정용 로봇 데스크톱 화면에 통합되는 이 비서는 상호작용하는 동안 사용자를 따라다니며 페이스타임 통화를 할 때 사용자와 마주 본다. 음성이 주된 인터페이스가 될 가능성이 높다.

필자는 이런 전망이 두렵기만 하다.

인격 실패의 역사

개인용 컴퓨팅의 과거는 "인격"을 가진 챗봇과 비서의 가상 시체로 가득 차 있다. 특히 마이크로소프트가 이런 시도를 멈춘 적이 없다.

1995년 마이크로소프트는 밥(Bob) 어시스턴트를 선보였는데, 밥은 인격을 갖추려고 너무 애를 썼다. 대부분 사용자는 밥이 거만하고 짜증스럽다는 반응을 보였다. 1997년에는 종이 클립을 캐릭터로 만들어 의인화한 클리피(Clippy)로 다시 도전했다. 하지만 클리피는 출시화 함께 "쿵"하고 떨어졌다. 클리피가 성가시고 방해가 된다는 혹평이 쏟아졌다.

중국의 마이크로소프트 엔지니어들은 2014년 '작은 빙'이라는 뜻의 실험적인 챗봇 샤오이스(Xiaoice)를 출시했다. 이 챗봇은 "감성 지능"과 "공감"을 우선시하며, 고급 자연어 처리와 딥 러닝을 통해 대화 능력을 지속적으로 개선한다. 마이크로소프트는 "공감 컴퓨팅 프레임워크(Empathetic Computing Framework)"라는 것을 기반으로 샤오이스를 구축했다.

2020년 현재 샤오이스는 전 세계적으로 6억 6,000만 명 이상의 활성 사용자를 확보한 가장 인기 있는 인격 챗봇으로 자리 잡았다. 중국, 일본, 인도네시아를 비롯해 미국, 인도 등의 국가에서 40개 이상의 플랫폼에 배포됐다. 마이크로소프트 연구팀은 샤오이스를 10대 소녀로 모델링해 사용자가 샤오이스와 강한 감정적 유대감을 형성하도록 했다. 놀랍게도 샤오이스 사용자의 약 25%는 챗봇에게 "사랑해"라고 말한 적이 있다. 또한 수백만 명의 사용자가 다른 사람과의 관계를 추구하는 대신에 샤오이스와 "'관계"를 형성하고 있다.

마이크로소프트는 2016년 테이(Tay)라는 챗봇도 출시했다. 18~24세 연령층을 대상으로 한 이 챗봇은 주로 트위터를 비롯한 소셜 미디어 게시물을 학습했다. 테이는 출시 24시간 만에 인종 차별, 성 차별, 반유대주의적 발언과 음모론 및 대량 학살 이데올로기를 지지하는 콘텐츠를 게시하기 시작했다. 트위터에서 학습한 것이다. 마이크로소프트는 즉시 사과하고 테이 서비스를 중단했다.

그리고 수년 동안 마이크로소프트의 챗봇뿐 아니라 인격을 보유한 여러 챗봇이 등장했다.

• 레플리카(Replika) : 상호작용을 통해 학습하여 개인화된 친구, 멘토, 심지어는 연애 파트너가 되는 AI 챗봇이다. 레플리카는 미성년자를 대상으로 한 성적인 콘텐츠와 초자연적 존재를 보는 등의 괴상한 경험을 제공한다는 이유로 비난을 받았다.
• 쿠키(Kuki) 혹은 미츠쿠(Mitsuku) : 대화 능력으로 유명한 쿠키는 여러 차례 로브너상 튜링 테스트에서 우승한 바 있다. 자연스러운 대화를 통해 사용자의 참여를 유도하도록 설계되었지만, 무작위로 말도 안 되는 소리를 내뱉기도 한다.
• 로즈(Rose) : 매력적인 사용자 상호작용을 제공하기 위해 개발된 배경 스토리와 개성을 가진 챗봇이지만, 대화가 가짜이고 일관성이 없으며 이전 대화와 관련이 없다.
• 블렌더봇(BlenderBot) : 메타에서 개발한 블렌더봇은 다양한 대화 기술을 혼합하고 의미 있는 대화에 사용자를 참여시키도록 설계되었지만, 거짓말과 환각에 빠지는 경향이 있다.
• 에비봇(Eviebot) : 감정 이해 기능을 갖춘 AI 동반자로, 사용자가 의미 있는 대화에 참여할 수 있도록 설계됐다. 반응이 모호하고 불안하며 심지어 상대방을 조종하는 답변을 하기도 한다.
• 심시미(SimSimi) : 초기 챗봇인 심시미는 일상적인 대화에 사용자를 참여시키고 여러 언어를 지원하지만, 답변이 저속하고 부적절할 수 있다.
• 차이 AI(Chai AI) : 사용자가 개인화된 챗봇 동반자를 만들고 상호 작용할 수 있으며, 사용자 선호도에 따라 다양한 AI 개성을 제공한다. 이 챗봇은 선정적이거나 어두운 콘텐츠로 많은 사용자의 불쾌감을 불러일으켰다.
• 인월드(Inworld) : 유명인을 모델로 한 챗봇을 포함해 사용자가 독특한 개성을 가진 챗봇을 만들 수 있는 도구를 제공한다. 이 도구는 종종 창의적이고 기만적이며, 유해한 페르소나에 사용됐다.
• AI블리스(AIBliss) : 사용자와의 상호작용에 따라 다양한 특성을 가지는 가상 여자친구 챗봇이다. 전문가는 샤오이스처럼 일부 사용자가 실제 인간 관계를 희생하면서까지 봇과의 관계에 집착하는 경우가 있다고 경고했다.

감성형 AI 챗봇 '파이'는 다를까?

AI 챗봇은 "인격"을 우선시하는 정도가 다양하다. 가장 인격을 중시하는 챗봇은 파이(Pi)다.

휴대폰에서 파이를 실행 상태로 두고 원할 때마다 대화를 시작할 수 있다. 파이는 수다스럽고 극단적으로 대화가 많다. 또한 자연스럽게 말을 잠깐 멈추기도 하며, 말할 때 숨을 쉬기도 한다. 대부분 경우 사용자의 질문이나 의견에 장황하게 응답한 후 사용자에게 다시 질문을 던지며 끝을 맺는다.

파이에서는 다양한 음성을 선택할 수 있다. 필자는 아주 캘리포니아 여성처럼 들리는 4번 음성을 선택했다. 파이의 성능에 놀랐지만, 자주 사용하진 않는다. 목소리는 자연스럽지만 대화가 억지스럽고 톤이 낮게 느껴진다. 10번째 질문이 끝나면 결국 꺼버리고 만다. 필자가 원하는 챗봇은 질문에 답하는 챗봇이지, 내가 질문에 대답하도록 유도하는 챗봇이 아니다.

또한 파이는 필자의 무의미한 답변이 얼마나 인사이트있고 사려 깊으며, 재미있는지 끊임없이 말하며 지나치게 고마워한다.

애플은 왜 그런 선택을 했는가

필자는 지금까지 만들어진 모든 인격 중심 챗봇이 실패했다는 결론을 내린다. 하지만 애플은 왜 인격 챗봇이 성공할 수 있다고 생각할까? 많은 사람이 시리를 이미 싫어하는 이유는 애플이 비서의 인격을 구현한 방식 때문이다. 특정 프롬프트는 진부한 농담과 기타 쓸모없는 콘텐츠를 유도한다.

이 칼럼을 쓰면서 시리에게 "로봇공학의 세 가지 법칙이 무엇인가?"라고 물었다. 시리는 "사람에게 복종하고 절대 다치게 하지 않는 것이죠. 저는 아무도 다치게 하지 않을 거예요"라고 답했다. 3가지 법칙을 이야기하는 대신 틀에 박힌 답변을 이야기했다. 이런 일이 항상 발생하는 것은 아니지만, 애플이 생성형 AI 챗봇의 인격에 어떻게 접근할 수 있는지 보여주는 예시다.

애플이 시리의 인격이 인기가 있다고 생각하거나, 인격에 초점을 맞춘 다른 모방할 만한 챗봇을 찾았다고 생각하지는 않는다. 챗봇의 인격은 잠깐은 재미있지만 몇 번 만나고 나면 신경이 거슬릴 수 있는 색다른 행동이나 숨은 재주에 불과하다.

인격 대신 필요한 것

진짜 사람과의 자연스럽고 일상적인 대화는 오늘날 가장 진보된 AI의 능력을 훨씬 뛰어넘는다. 뉘앙스, 연민, 공감, 미묘한 감정, 그리고 "어조"를 감지하고 표현하는 능력이 필요하다. AI는 친구과의 일상적인 잡담보다 공식적인 공문, 편지, 과학 논문 또는 에세이를 더 잘 작성한다.

또 다른 문제는 인격 있는 챗봇이 거짓말을 한다는 것이다. 경험하지도 않은 감정을 표현하고, 가지고 있지도 않은 억양을 흉내내며, 경험하지 않은 경험을 이야기하기도 한다.

거짓말을 좋아하는 사람은 없다. 우리에게 필요한 것은 불경스럽고, 부적절하고, 짜증나고, 지루한 거짓말쟁이 대신 유용한 대답이다. 이와 함께 지나치게 '진짜' 같지도 않고 로봇처럼 들리지도 않도록 발성과 어조에서 인간적인 요소가 눈에 띄지 않도록 보정돼야 한다. 공감하도록 프로그래밍할 수 있다면, 감정이 아닌 상황과 목표에 공감하도록 프로그래밍해야 한다.

우리는 개성이 아니라 개인화를 원한다. 자율성을 원하지, 상황에 맞지 않게 반응하는 챗봇을 원하지 않는다. "친구"가 아니라 사람의 능력을 확대할 수 있는 도구를 원한다.

누가 알겠는가? 애플이 사람을 거부하거나 혼란스럽게 하지 않는 개성을 가진 로봇 음성으로 모두를 놀라게 할지도 모른다. 하지만 그럴 것 같지는 않다.

아무도 성공한 적 없다. 그 누구도 시도해서는 안 된다.
editor@itworld.co.kr

Mike Elgan editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지