메타의 인공지능(AI) 스마트 안경. 사진=메타

<이미지를 클릭하시면 크게 보실 수 있습니다>

메타의 인공지능(AI) 스마트 안경을 사용하는 과정에서 촬영된 개인 영상과 민감한 정보가 이용자도 모르는 사이 외부로 전달될 가능성이 있다는 지적이 나왔다.

3일(현지시간) 넥스트핏은 케냐 나이로비에 위치한 메타 협력 데이터 분석 업체들이 매우 사적인 내용을 포함한 이용자 자료를 검토하도록 요구받고 있다고 전했다.

케냐에서 AI 데이터 라벨링 작업을 맡고 있는 직원들은 화장실 이용 장면이나 성적인 장면이 담긴 영상, 신용카드 번호 등 민감한 정보가 포함된 자료를 확인한 경험이 있다고 밝혔다.

한 직원은 영상 시청과 주석 입력 작업을 거부할 경우 해고될 수 있다는 압박 때문에 일을 계속할 수밖에 없었다고 말했다. 그는 “누군가의 사적인 순간을 들여다보고 있다는 사실을 알고 있지만 동시에 생계를 위해 일을 해야 한다는 부담이 있다”며 “문제를 제기하면 해고될 수 있다는 분위기가 있다”고 설명했다.

메타 레이밴 스마트 글라스처럼 AI 기능이 탑재된 안경은 사용자가 보고 있는 장면을 촬영하거나 메타의 AI 비서에게 질문을 던질 수 있는 기능을 제공한다. 다만 이러한 서비스를 이용하려면 수집된 데이터를 사람이 검토할 수 있도록 허용한다는 내용이 포함된 메타의 이용 약관에 동의해야 한다.

이는 메타의 대규모 언어 모델(LLM)이 시각 정보를 이해하고 학습하는 과정에서 사람이 영상과 이미지에 설명을 붙이는 작업이 필요한 경우가 있기 때문이다.

이렇게 모인 데이터는 나이로비 등지로 전달돼 비교적 낮은 임금을 받는 노동자들이 검토하는 경우가 많다. 그러나 오스트리아 비영리 단체 노이브(Noyb·None Of Your Business)의 데이터 보호 전문 변호사 클레안티 사르델리는 “일단 정보가 AI 모델 학습에 활용되면 이용자는 데이터가 실제로 어떤 방식으로 사용되는지에 대해 사실상 통제하기 어렵다”고 지적했다.

마크 저커버그 메타 CEO가 스마트글라스를 착용해 보이고 있다. 사진=연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

메타의 AI 서비스 약관에는 “사용자가 AI와 주고받은 내용(대화와 메시지 포함)을 검토할 권한을 보유하며 이 과정은 자동화 시스템이나 인력에 의해 진행될 수 있다”는 조항이 포함돼 있다.

메타는 해당 보도와 관련해 구체적인 입장을 밝히지 않았지만 “실시간 AI 기능을 사용할 경우 메타 AI 서비스 약관과 개인정보 보호 정책에 따라 해당 자료가 처리된다”고 설명했다.

한편, 케냐와 콜롬비아, 인도 등지에서 데이터 라벨링 인력을 고용해 AI 학습 자료를 만드는 방식은 메타에만 국한된 사례는 아니다. AFP 통신은 지난해 AI 데이터 작업자들이 잔혹한 범죄 현장 사진이나 시신 이미지 등을 확인해야 하는 경우도 있다고 전했다.

이원지 기자 news21g@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]