[이성관] 인공지능의 수준이 높아지면서 인간과 기계의 대화가 마치 인간과 인간의 대화인 것처럼 오인되는 경우도 늘고 있다. 로봇이 분명함에도 사람들은 감정을 쏟고 인간에게 하는 것처럼 하소연하는 경우도 생긴다. 영화 블레이드 러너(Blade Runner)와 같이 아예 인간과 구별할 수 없는 사이보그가 나오는 미래는 아직 멀었다 하더라도 영화 허(Her)에서와 같이 감정을 교류할 인공지능 로봇은 이미 현실화되고 있다.

인간과 AI 관련 이미지(사진=셔터스톡)

<이미지를 클릭하시면 크게 보실 수 있습니다>

하지만 미국 캘리포니아 산타 바바라 대학(University of California Santa Barbara)의 기술 관리 교수인 폴 레오나르디(Paul Leonardi)와 네일러 피츠휴(Naylor Fitzhugh)대학의 교수인 체달 닐리(Tsedal Neeley)는 AI를 인간처럼 대하지 말라고 조언한다.

IT전문 매체 엔가젯(engadget)은 이들의 책 "디지털 사고방식: 데이터, 알고리즘, AI 시대에 성공하기 위해 필요한 것(The Digital Mindset: What It really Takes to Thrive in the Age of Data, Algorithms, and AI)"의 일부 내용을 발췌하여 소개했다.

엔가젯은 'AI가 인간처럼 행동하더라도 기계처럼 취급하십시오'라는 소제목을 가진 책 내용을 발췌 인용했다. 저자들은 대화형 UI(사용자 인터페이스)를 보다 효율적으로 이용하는 방법을 설명한다. 대화형 UI란 시리나 알렉사 등 스마트폰의 AI비서나 AI 스피커를 사용할 때 "시리야" 또는 "알렉사", "오케이 구글"처럼 이용자가 먼저 말을 걸면 AI가 답하는 형식으로 프로그램이 구동되는 것을 말한다.

저자들은 미국의 철도회사인 암트랙(Amtrak)과 회의 스케줄러 아미(Amy)를 만든 엑스닷에이아이(x.ai)의 예를 들었다. 암트랙은 대화형 UI라고 할 수 있는 챗봇( chatbot) 'AI 줄리(Julie)'를 만들었다. 줄리는 매출을 25% 상승시키며 회사가 투자한 돈의 800%를 되돌려줬으며 현재 모든 예약의 30%를 책임지고 있다. 저자들은 이러한 줄리의 성공 요인이 "이용자들이 이를 인간으로 착각하지 않고 기계로 대하도록 한데 있다"고 주장한다. 그러면서 "연구원들은 기계를 기계처럼 취급하는 것이 더 효과적이라는 아이디어를 검증했다"고 밝혔다.

엔가젯은 연구결과를 담은 책을 소개하는 기사를 통해 AI 가장 효율적으로 다루는 방법은 "기계를 기계처럼 다루는 것"이라고 주장했다.(사진=셔터스톡)

<이미지를 클릭하시면 크게 보실 수 있습니다>

사용자들은 줄리에 대해 너무 많은 것을 기대하지 않으며 유용한 답변을 이끌어내는 방식으로 질문하는 경향이 있다. 좀 더 풀어서 말하자면 사용자가 자유롭게 대화를 할 수 있게 하는 것보다 어떤 질문에는 엉뚱한 대답을 하게 해서 사용자의 질문을 제한하는 것이 예약 절차가 제대로 진행되도록 하는데 편리하다는 것이다.

회의 스케줄러 아미(Amy)를 만든 엑스닷에이아이(x.ai)의 경우 "회사의 헬프데스크에서 받는 문의의 90% 이상이 사람들이 챗봇에게 자연어를 사용해 유용한 대답을 얻어내려 한 것과 관련이 있다"고CEO인 데니스 몰튼센(Dennis Mortensen)이 전했다. 아미라는 AI 프로그램을 사람처럼 여겨 질문을 하다 만족하지 못한 이용자들이 문의전화를 대개 한다는 얘기다.

스탠포드대학교의 클리포드 나스(Clifford Nass) 교수와 하버드 비즈니스 스쿨의 문영미 교수는 의인화된(anthropomorphic) 컴퓨터 인터페이스와 인간의 상호작용에 대한 일련의 연구를 진행해 왔다. 그들은 "사람들이 컴퓨터에 성별 고정 관념을 적용하거나 컴퓨터 에이전트를 인종적으로 동일시하는 경향이 있음을 발견했다"며 "인간이 아닌 컴퓨터와 상호 작용하고 있음을 알면서도 로봇 및 기타 지능형 에이전트를 마치 사람인 것처럼 취급하는 경향이 있다"고 밝혔다.

책의 저자들도 다른 연구에서 하나는 인간과 유사한 의인화된 AI를 사용하고, 다른 하나는 그렇지 않은 AI를 사용하여 사용자를 관찰했다. 먼저 의인화된 에이전트를 사용하는 회사의 직원은 에이전트가 유용한 답변을 반환하지 않을 때 에이전트에게 일상적으로 화를 내면서 "짜증난다!"와 같은 말을 했다. 그리고 더 잘 소통해 보려고 수차례 노력했지만 "어느 것도 어느 것도 특별히 성공하지 못했다"는 결론을 내리기도 했다.

반면 의인화 하지 않은 AI를 사용한 회사의 직원들은 훨씬 더 큰 만족도를 보고했다고 밝혔다. 사용자들은 마치 컴퓨터처럼 검색어를 입력하고 철자까지 신경 쓰며 오히려 AI를 배려했다. 이런 연구 결과를 통해 저자들이 내린 결론은 "기술이 아무리 인간 같거나 지능적으로 나타나더라도 상호 작용할 때는 기술로 취급하는 것이 좋다"는 것이다.

챗봇과 같은 대화형 AI가 사람처럼 반응할 것이라든지 사람의 의도를 유추할 수 있을 것이라는 기대를 이용자에게 주는 것은 문제가 된다. 이런 대화형 인터페이스와의 상호작용이 성공하려면 "사용자가 인간과 같은 방식으로 응답할 것이라는 기대치를 낮추고 기술과 인간의 효과적인 상호 작용은 아직 멀었다는 것을 이해하는 디지털 사고 방식이 필요하다"고 저자들은 지적한다. 엔가젯은 이런 내용을 소개하면서 AI에 인격을 부여하는 것이 이용자에게 더 편리함을 주지 않는다면서 AI를 일반 기계와 같이 대하는 것이 효율적이라고 강조했다.

AI타임스 이성관 busylife12@naver.com

[관련 기사] 미국 최초 'AI차별금지법' 나온다
[관련 기사] [AI 주간브리핑] 2025년엔 하늘을 나는 자동차 'UAM'이 뜬다
[관련 기사] 범용인공지능(AGI)에 한 걸음 다가선 딥마인드…범용 에이전트 가토(Gato) 출시

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>