버니 샌더스 유튜브 캡쳐

<이미지를 클릭하시면 크게 보실 수 있습니다>

“왜 이 모든 정보가 수집되는 거지?” (버니 샌더스 미국 상원의원)

“돈 때문이죠, 의원님.” (AI 챗봇 클로드)

클로드의 답변은 3초가 채 걸리지 않았다. 답변을 들은 버니 샌더스 미 상원의원은 허탈한 웃음을 터뜨렸다.

샌더스 의원이 앤스로픽의 인공지능(AI) 챗봇 클로드와 토론하며 AI 시대의 프라이버시 문제를 제기한 영상이 화제가 되고 있다. 20일 버니 샌더스는 자신의 유튜브 채널에 ‘버니 vs 클로드’라는 9분 17초 분량의 영상을 업로드 했다. 영상에서 테이블 앞에 앉은 샌더스 의원은 눈앞에 놓인 스마트폰 속 클로드와 음성으로 실시간으로 대화를 나눴다.

샌더스 의원이 “AI가 정보를 수집하는 방법과 어떻게 활용되는지 알고 싶다”고 질문하자 클로드는 “기업들은 모든 곳에서 데이터를 수집하고 있다”라며 “당신의 검색 기록, 위치, 구매 내역, 검색 항목, 심지어 웹페이지에서 얼마나 오래 머무는지까지 파악해 당신에 대한 매우 상세한 프로필을 만들어 낸다”고 답변했다.

클로드는 “AI는 그 프로필을 이용해 당신이 어떤 광고를 보게 될지, 어떤 가격을 제시받을지, 심지어 소셜 미디어 피드에서 어떤 정보가 우선시될지를 결정한다”라며 “모든 것이 보이지 않는 곳에서, 규제도 거의 없이 이루어지고 있다”라고 답했다.

샌더스가 정보 수집 목적을 묻자 클로드는 “돈”이라고 간결히 답했다. 기업들이 이 모든 데이터를 수집하는 이유는 AI를 통해 그것을 가치 있는 인사이트로 변환할 수 있기 때문이라는 것. 클로드는 “당신이 무엇을 살지 예측하고, 더 효과적인 광고로 당신을 타겟팅하기 위해 광고주들은 프리미엄 가격을 지불한다”라며 “당신의 관심, 행동, 선택 모두가 사고팔리는 상품이 됐다”라고 덧붙였다.

샌더스와 클로드는 이 같이 사용자의 정보를 수집하는 ‘AI 프로파일링’이 민주주의에 미치는 영향에 대해서도 토론했다. 샌더스가 “AI와 프로파일링이 정치 과정에 어떤 영향을 미칠 수 있는지 좀 더 자세히 설명해달라”고 하자 클로드는 “매우 중요한 지적”이라며 “AI 프로파일링은 민주주의에 실질적인 위협이 되는데, 이 전례없는 규모의 마이크로타겟팅을 가능하게 하기 때문”이라고 답했다.

클로드는 “캠페인이나 정치 행위자들은 AI를 이용해 재정적으로 불안하거나, 고립감을 느끼거나, 제도를 불신하는 등 취약점을 가진 유권자들을 식별하고, 그 점을 공략하도록 정밀하게 만든 메시지를 전달할 수 있다”라면서 “프라이버시가 단순히 개인적인 문제가 아니라 민주주의의 문제라는 것”이라고 지적했다.

버니 샌더스 유튜브 캡쳐

<이미지를 클릭하시면 크게 보실 수 있습니다>

이어 샌더스가 “AI 기업들이 개인 정보를 이용해 돈을 버는 상황에서 우리는 어떻게 그들이 프라이버시를 보호할 것이라고 신뢰할 수 있을까?”라고 묻자 클로드는 “바로 그것이 핵심적인 모순”이라며 “AI 기업은 프라이버시를 보호하겠다고 말하면서, 동시에 더 좋은 상품을 만들고 수익화하기 위해 바로 그 개인 정보로 모델을 훈련시키는데 어떻게 그것을 신뢰할 수 있겠습니까?”라고 반문했다. 그러면서 “강력한 법적 안전장치 없이는 신뢰할 수 없는 게 당연한데, 현재는 책임을 묻는 장치가 거의 없다”라고 지적했다.

영상을 본 사람들은 댓글을 통해 “상원의원이 질문을 하고 그에 대한 답변을 AI에게 바로 듣는 것이 놀랍다” “내용이 섬뜩해 마치 공포 영화의 한 장면 같다”라는 반응을 보였다.

전혜진 기자 sunrise@donga.com

Copyright Ⓒ 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지