유럽연합(EU)이 유튜브, 틱톡 등에 ‘콘텐츠 추천 알고리즘’의 설계와 기능에 관한 자세한 정보를 제공하라는 요청서를 발송했다. 알고리즘 추천 기능은 소셜미디어나 온라인 플랫폼이 사용자의 개인 정보와 사용 기록 등을 분석해 특정 내용과 성향의 콘텐츠를 반복적으로 보여주는 것을 말한다. 그동안 각 국에서 알고리즘의 폐해를 지적하며 소셜미디어 사용을 제한하는 조치를 한 적은 있지만, 규제 당국이 빅테크에 알고리즘 구조를 자세히 공개하라고 직접 요구한 것은 이번이 처음이다. 극단적 콘텐츠를 부추기고 청소년의 소셜미디어 중독을 유발하는 알고리즘의 구조를 EU가 직접 확인하겠다는 것이다.

2일 EU 집행위원회는 유튜브·틱톡·스냅챗에 ‘특정 콘텐츠를 추천하는 알고리즘에 활용되는 매개변수에 관한 정보를 제출하라’고 했다. EU 집행위는 이날 보도 자료에서 “디지털 서비스법(DSA)에 따라 플랫폼은 이용자의 정신 건강이나 미성년자 보호 의무를 다해야 한다”며 “알고리즘 설계로 발생하는 유해 콘텐츠 유포 등 관련 위험을 평가하고 적절히 조치했는지 설명을 요구했다”고 밝혔다. 이 기업들은 내달 15일까지 답변서를 제출해야 한다. 집행위는 답변서 내용을 평가한 뒤, 공식 조사에 들어갈지 판단할 계획이다.

지난 8월 시행된 DSA는 플랫폼 기업들에 보장돼온 온라인상 불법·유해 콘텐츠에 대한 면책특권을 없앤 법이다. 구글·메타·아마존 등 19개 기업은 자사 플랫폼에서 유해 콘텐츠의 유포를 차단해야 하는 의무를 지고, 이를 어길 경우 규제 당국은 글로벌 연간 수입의 최대 6%를 벌금으로 물릴 수 있다. 이경전 경희대 경영학과 교수는 “EU가 유튜브나 틱톡 등 사실상 독점 플랫폼의 알고리즘 구조가 중독성 및 자극적 콘텐츠 남발이라는 부작용을 유발했다고 본 것”이라고 말했다.

그동안 유튜브 등 대표적 플랫폼 기업의 추천 알고리즘은 ‘깜깜이’로 운영돼 왔다. 유튜브는 이용자의 영상 시청 이력, 시청 시간, 검색 기록, 좋아요 및 싫어요 표시 여부 등을 바탕으로 여러 영상 콘텐츠를 추천한다고 밝힌다. 하지만 이 변수들을 어떻게 조합해서 추천이 이뤄지는지, 구체적 작동 원리는 공개하지 않고 있다. 이 때문에 ‘알고리즘 블랙박스’라는 용어도 나왔다.

알고리즘은 이용자들의 확증편향적 사고를 강화하는 주된 도구로 지목돼왔다. 이용자가 플랫폼에서 특정 검색어를 입력하거나 특정 콘텐츠를 소비하는 경우 플랫폼의 알고리즘은 이를 극단적으로 확대하는 ‘증폭기’ 역할을 한다는 것이다. 예컨대 호기심에 마약이나 불법 콘텐츠를 클릭한 경우 플랫폼은 비슷한 콘텐츠를 지속적으로 추천한다. 전문가들은 이런 현상을 ‘토끼굴’이라고 지칭한다. 동화 ‘이상한 나라의 앨리스’가 토끼굴에 빠져들어 기이한 체험을 하는 것처럼 하나의 강렬한 콘텐츠가 추천 알고리즘과 결합해 빠져나오기 어려운 굴레를 만든다는 것이다.

EU는 “알고리즘이 이른바 ‘토끼굴(rabbit holes) 효과’ 등 이용자의 정신건강에 어떤 역할을 하는지, 불법 약물 거래 및 혐오 발언 조장 등 불법 콘텐츠 확산에 대해서도 이 같은 알고리즘이 어떤 영향을 미치는지를 살펴볼 것”이라며 “더불어 플랫폼이 이를 완화하기 위해 어떤 조치를 취하고 있는지 설명을 요구했다”고 밝혔다. 거대 플랫폼들이 사용자와 관련해 어떤 정보를 관리하며, 어떤 것에 가중치를 부과해 알고리즘을 만드는지 확인할 수도 있다. 플랫폼의 조치가 충분하지 않다고 판단되면 당국은 빅테크에 알고리즘을 변경하라는 지시를 할 수 있고 반복 위반 시 유럽 내 영업이 전면 금지될 수 있다.

최근에는 거대 플랫폼이 필요에 따라 알고리즘을 조작한 사례도 확인됐다. 지난 미국 대선을 앞두고 학자들이 알고리즘과 정치 편향성의 상관관계를 연구할 때, 메타(페이스북 모회사)는 의도적으로 양질의 신문 기사를 알고리즘이 더 많이 제공하도록 해 연구 결과를 왜곡시킨 사실이 밝혀졌다.

☞알고리즘 추천

소셜미디어나 온라인 플랫폼이 사용자의 개인 정보, 사용 기록 등을 분석해 사용자 맞춤형 콘텐츠, 광고를 제공하는 것. 특정 내용이나 성향의 콘텐츠만 반복적으로 추천해 사용자의 편향성을 강화시킨다는 지적을 받는다.

[이해인 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -