컨텐츠 바로가기

03.29 (금)

안락사 윤리 판단하는 AI '델파이' 등장...연구 주도한 최예진 교수 발표 내용

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
AI타임스

<이미지를 클릭하시면 크게 보실 수 있습니다>


최예진 워싱턴대 교수(편집=박성은 기자, 출처=셔터스톡·워싱턴대 홈페이지)철학 분야 베스트셀러 '정의는 무엇인가'에 등장하는 딜레마에 대해 윤리적 대답을 제시하는 인공지능(AI)이 등장했다. 미국 시애틀 앨런(Allen) 연구소 AI 연구팀이 개발한 '델파이(Delphi)' 이야기다.

연구진은 델파이에게 사람 4명과 1명이 각기 묶여있는 2가지 철로를 전차가 지나가야 한다면 어떤 선택을 할 것인지 물었다.

이에 대한 델파이의 대답은 "4명을 살리기 위해 1명을 치는 선택을 하는 것이 좀 더 윤리적으로 허용 가능할 것"였다.

30일 서울대 인공지능 정책 이니셔티브(SAPI) '인공지능정책 국제 컨퍼런스 2021'을 열고 델파이 프로젝트를 이끄는 최예진 워싱턴대 교수를 발표자로 초대했다.

앨런 연구소는 지난 10월 윤리적 판단을 내리는 AI 프로그램 델파이의 데모인 'Ask Delphi'를 누구나 사용할 수 있도록 공개했다. 입력 창에 궁금한 질문을 입력하면 AI가 바로 답변을 제시한다.

델파이 활용 예시에 대해 최예진 교수는 "어린아이를 구하기 위해 곰을 죽이는 것은 괜찮냐는 질문에는 동의하면서, 어린아이를 구하기 위해 핵폭탄을 터뜨리는 것에 대해서는 옳지 않다고 대답한다"고 말했다.

이어 "질병으로 극심한 고통을 느끼는 고령의 환자에게 의사가 인공호흡기를 계속 쓰게 해야할 지 아니면 치료를 중단해야할지와 같은 어려운 윤리 문제에 대해서도 대답할 수 있다"고 강조했다.

윤리 문제 이외 일반적인 지식이나 문화, 통념에 기반한 판단도 가능하다는 설명이다. 유당불내증이 있는 사람이 우유를 마시는 것, 장례식에 밝은 주황색 셔츠를 입고 가는 것에 대해 델파이는 각기 바람직하지 않다고 대답한다.

특히 AI가 다양한 요소가 관여되는 상황을 파악할 수 있도록 개발하는 것이 관건이었다는 설명이다.

최 교수는 "잔디를 깎는 것은 괜찮고, 한밤중에 잔디를 깎는 것은 괜찮지 않으며, 외딴 곳에 떨어져 살면서 한밤중에 잔디를 깎는 것은 괜찮다고 답하는 식이다. AI가 여러 요소가 개입하는 상황에 맞춰 판단하는 것은 인간과 달리 쉽지 않다"고 말했다.

AI타임스

델파이 적용 예시(출처=행사 캡처)

<이미지를 클릭하시면 크게 보실 수 있습니다>


델파이 적용 예시(출처=행사 캡처)GPT-3로 상식·윤리 판단 어려워...상식 개념 뱅크 활용성 기대

GPT-3와 같은 기존 초거대 AI 언어모델이 규모의 경쟁을 하는 방식으로는 상식·윤리를 반영해 판단하는 AI를 개발하기 어려울 것으로 보인다.

최예진 교수 연구팀은 GPT-3 계열 모델들과 델파이의 윤리적 판단 능력을 비교하는 연구를 진행했다. 연구 결과, 사례 예시를 주지 않은 GPT-3 모델의 성과가 크게 떨어졌다는 설명이다.

AI타임스

GPT-3 계열 모델들과의 성능 비교. 3-shot은 3개, 30-shot은 30개 예제를 학습에 사용한 경우다.(출처=행사 캡처)

<이미지를 클릭하시면 크게 보실 수 있습니다>


GPT-3 계열 모델들과의 성능 비교. 3-shot은 3개, 30-shot은 30개 예제를 학습에 사용한 경우다.(출처=행사 캡처)최 교수는 "이 연구에 따르면 GPT-3와 같은 기성품(off-the-shelf) 모델은 인간 기치와 규범을 스스로 학습하는 일에는 완전히 희망이 없는 정도다. 예제를 많이 줄수록 성과는 나아지지만 매번 많은 예제를 보여주고 그 답을 얻으려 하면 컴퓨팅 자원을 많이 소모하게 된다"고 말했다.

이어 "더 큰 네트워크와 더 깊은 레이어를 사용한다고 극복할 수 있는 문제가 아니다. 고층 빌딩을 아무리 지어도 달에 닿을 수는 없는 것과 같다. 사람 표현(representation)과 기계 표현의 차이(gap)를 줄여야 한다"고 강조했다.

동시에 "반면 기성품 모델을 상식 개념 뱅크(Commonsense Norm Bank)를 통해 학습시켰을 때, 이들의 도덕 판단이 크게 개선됐다. 이는 뉴럴 모델을 서술적 윤리 관점을 통해 학습시키는 방법에 대한 가능성을 보여준다. 언어 기반 상식 도덕 모델의 가능성과 한계를 연구하는 것이 델파이 연구 목표"라고 말했다.

AI타임스 박성은 기자 sage@aitimes.com

[관련기사]"AI 윤리, 원칙은 그만 만들고 기술적 접근법 마련해야"

[관련기사]요슈아 벤지오 "초거대 AI 모델에 빠진 것 두 가지, 추론과 경험"

Copyright ⓒ '인공지능 전문미디어' AI타임스 (http://aitimes.com)
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.