지난 25일 스위스 제네바에서 열린 제13차 ‘UN 기업과 인권 포럼’에 허진화 카카오 그룹기술윤리팀 프로젝트리더(왼쪽 첫번째)가 참석 중이다. <사진제공=카카오>

<이미지를 클릭하시면 크게 보실 수 있습니다>

카카오가 유엔(UN) 회의에서 전세계 정부와 기업 관계자에게 한국형 인공지능(AI) 윤리에 대해 소개했다.

26일 카카오는 지난 25일 스위스 제네바에서 UN 산하 인권최고대표사무소가 주최한 제13차 ‘UN 기업과 인권 포럼’에 참석했다고 밝혔다.

‘UN 기업과 인권 포럼’은 UN 기업과 인권 이행지침(UNGP)의 실행을 강화하기 위해 매년 개최되는 글로벌 포럼이다. 정부를 비롯해 기업, 지역공동체, UN 기구, 인권단체, 학계 등 다양한 이해관계자가 참여하며 올해는 각국의 인터넷·정보통신(IT) 전문가 등 약 4000명이 참석했다.

3일간 열리는 행사 기간 중 카카오는 첫날인 25일 첫번째 세션인 ‘AI 분야의 책임있는 비즈니스 행동’에서 ‘AI와 이용자 간 건강한 상호작용 위한 윤리’에 대해 발표했다.

발표를 맡은 하진화 카카오 CA협의체 ESG위원회 그룹기술윤리팀 프로젝트리더는 카카오가 기술기업으로서 이용자의 인권보호를 위한 노력을 다각적으로 소개했다.

특히 ‘카카오 AI 윤리’에 새롭게 추가된 조항을 소개하고 변화하는 기술과 사회의 흐름에 발맞추기 위한 활동을 국제 사회와 공유해 주목받았다.

신규 조항은 ‘이용자의 주체성’으로 인간이 AI에 과도하게 의존하는 것을 경계하고 신체적·정신적·사회적 안전을 위협하는 사용이 일어나지 않도록 노력한다는 내용을 담고 있다. 이는 한국인공지능법학회와 협의를 기반으로 결정한 것이다.

카카오는 지난 2018년 국내 기업 중 최초로 ‘알고리즘 윤리헌장’을 발표했다. 이어 2019년에는 기술의 포용성, 2020년에는 아동과 청소년에 대한 보호, 2022년에는 프라이버시 보호 등 총 세 차례에 걸쳐 관련된 신규 조항을 추가했다.

2022년에는 기술윤리를 계열사 전반에 걸쳐 점검하고 기술과 사회가 함께 발전시켜 나가는 방안을 고민하기 위해 카카오를 비롯한 주요 계열사가 참여한 ‘공동체 기술윤리 위원회’를 설립했다.

지난해 위원회는 기존 알고리즘 윤리헌장을 전면 개정해 ‘카카오 그룹의 책임있는 AI를 위한 가이드라인’이라는 의미의 ‘그룹 AI 윤리 원칙’을 수립했다.

‘AI 윤리 원칙’은 ’ 이용자의 주체성’이라는 이번 조항을 비롯해 ‘포용성’, ‘투명성’, ‘프라이버시’, ‘이용자 보호’등 총 10개의 원칙으로 이루어져 있다.

신규 조항을 함께 수립한 변순용 한국인공지능윤리학회장 서울교육대학교 윤리교육학과 교수는 “이용자의 주체성과 안전성을 강조하는 새로운 조항은 AI 기술에 기반한 서비스에서 발생할 수 있는 AI 과의존과 과몰입의 문제를 해소할 수 있는 중요한 대응책이 될 것”이라며 “AI윤리를 강화하려는 카카오의 노력은 AI분야의 리더로서 수행하는 사회적 책임의 실천으로서 AI 서비스 분야에서 중요한 방향타의 역할을 할 것”이라고 말했다.

이상호 카카오 그룹 기술윤리 소위원회 리더는 “카카오의 AI기반 기술과 서비스가 보다 안전하고 포용적이며 믿을 수 있는 미래를 만들어 나가도록 정책을 가다듬고 적용하는 데에 세심한 노력을 기울일 것”이라고 밝혔다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]