[이데일리 김현아 기자]방송통신위원회(위원장 김홍일)가 올해 ‘AI 이용자보호법’ 제정을 추진하겠다고 밝혔다. AI의 신뢰성을 보장하고 역기능으로부터 이용자를 보호하겠다는 취지다.

그러나 관계 부처간 적극적으로 소통하고 역할을 조정하지 않으면 중복 규제가 불가피해 보인다. 개인정보보호위원회는 AI 프라이버시 맥락에서 리스크 평가 기준을 마련 중이고, 과학기술정보통신부 역시 ‘AI 안전연구소’설립을 추진 중이기 때문이다.

방통위는 디지털 이용자 보호, 개인정보위는 개인정보 보호, 과기부는 AI 주무부처 차원이라는 입장이나, 3개 부처가 앞다퉈 AI 규제 경쟁을 벌이면서 과잉 규제 우려도 커지고 있다.

이상인 방통위 부위원장. 사진=연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

방통위 ‘AI서비스의 이용자 영향’ 평가할 것

이상인 방송통신위원회 부위원장은 21일 정부서울청사에서 2024년도 업무계획을 발표하면서 ‘AI 이용자보호법’ 제정 추진을 공식화했다.

박동주 방통위 방송통신이용자정책국장은 “먼저 AI 이용자 보호를 위한 범정부적인 보호체계를 마련할 것”이라면서도 “AI 진흥 서비스가 출시될 때 영향도 평가를 기본적으로 받게 할 계획이다. 고영향을 미치는 서비스라고 판정되면, 그 부분에 대해 다시 위험성이나 데이터 관리 등에 대해 적합도를 평가 받도록 하겠다”고 밝혔다.

이어 “진흥 서비스 자체가 이용자에게 피해를 끼칠 수 있기 때문에 이에 대해 적절한 구제 절차를 어떻게 할 것인지, 분쟁조정 절차를 어떻게 할 것인지 등도 예상하기 위해 연구반을 진행하고 있다”고 부연했다.

AI 생성물 표시제도(워터마크) 도입도 시사했다. AI를 이용해 만든 콘텐츠를 게시할 때 AI 생성물임을 드러내는 표시를 의무화하는 것이다. 박 국장은 “구글, 메타, 엑스(X), 네이버, 카카오 등도 AI 생성물에 대해 자율적으로 AI 생성물임을 표시하겠다고 밝혔다. 이를 위한 기능도 마련 중”이라고 했다.

방통위는 생성형 AI 피해 예방을 위해 가이드라인도 마련할 계획이다. 가이드라인에는 학습데이터 관련 투명성 제고, 설명 가능성 보장, 필터링 등 기술적·관리적 조치를 검토하는 내용이 포함될 예정이다. 초상권 침해, 디지털 성범죄 등 모방범죄에 대한 우려가 있는 AI 관련 피해구제를 위해 전담 신고창구도 마련할 예정이다.

개인정보위, 학습데이터 투명성 정책 시행중

하지만 방통위가 추진 중인 ‘AI이용자보호법’과 유사한 업무를 개인정보보호위원회가 하고 있다. 대표적인 것이 학습데이터 관련 투명성 부분이다.

개인정보위는 안전하고 신뢰할 수 있는 AI 환경 조성을 위해 다양한 정책과 규율체계를 마련중이다. 2021년 AI 자율점검표를 만들었고, AI학습을 위한 6대 프라이버시 가이드라인도 마련 중이다.

고학수 개인정보보호위원회 위원장은 작년 10월부터 UN AI 고위급 자문기구에서 ‘국제 거버넌스 분과 공동의장직’과 ‘자문기구 운영위원직’을 맡고 있다. 올해 8월쯤 UN자문기구는 AI 국제 거버넌스 구축방안에 관한 최종 보고서를 확정할 예정이다.

과기정통부, ‘AI 안전연구소’ 만들 것

방통위 업무보고에 담긴 AI 생성물 워터마크 도입은 과학기술정보통신부가 올해 추진하는 ‘AI법’에도 있는 내용이다.

과기정통부가추진 중인 ‘AI안전연구소’나 ‘민간 자율의 AI 신뢰성 검·인증제도’ 역시 방통위 업무계획에 담긴 AI서비스 이용자 영향 평가와 겹칠 수 있다.

지난 2월 이종호 과학기술정보통신부 장관은 올해 업무계획을 발표하면서 “AI 발전과 신뢰 기반을 조성하기 위해 올해 ‘인공지능법’을 제정하고, ‘AI 안전연구소’ 설립과 민간 자율의 AI 신뢰성 검·인증제도 활성화를 추진하겠다”고 말했다.

과기정통부는 정부를 대표해 지난해 11월 1~2일 영국에서 진행된 ‘AI 안전성 정상회의’에 참가하기도 했다.

최양희 한림대 총장. 사진=이데일리 DB

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI규제, 우리나라가 선도할 필요 없어

한편 박근혜 정부 시절 미래창조과학부 장관, 서울대 AI위원회 초대 위원장을 지낸 최양희(69) 한림대 총장은 이데일리와의 신년 인터뷰에서 “조 바이든 미국 대통령과 시진핑중국 국가주석이 만나 AI에 대해 논의한다면 AI로 영원히 함께 세계를 지배하자는 데 교감할 것 같다. 이리되면 가장 피해를 보는 것이 한국”이라고 말했다.

그는 “글로벌 AI 규제를 한국이 앞서 갈 필요는 없다”면서 “어떤 충격이 있고, 어떤 2차·3차 효과가 있는지 파악한 다음 한국의 존재감을 드러내는 (규제)아이템을 잡으면 된다. 그 분야에서 우리가 리더십을 가져 한국이 소외당하지 않는 전략을 펴면 된다”고 했다.

한국이 유럽보다 AI 기술력에서 앞선 상황에서 각종 규제를 서둘러 내놓으면 우리나라가 불리해질 것이라는 의미다. 한국의 AI 국가 순위는 미국, 중국, 영국, 싱가포르, 캐나다, 이스라엘에 이어 7위(테크 전문 인사이더몽키·2023년)였다.