[이데일리 이대호 기자]

[이데일리 김정훈 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

무분별하게 개인정보를 학습 데이터로 활용해 논란을 빚은 인공지능(AI) 챗봇 ‘이루다’ 이후 AI 신뢰성에 대한 경각심이 높아지면서 국회에서도 AI 신뢰성 관련 법안 발의가 잇따르고 있다.

지난 1일 정필모 의원(더불어민주당)이 AI 신뢰 기반 내용을 담은 법안을 발의한 데 이어 이르면 다음주 이용빈 의원(더불어민주당)도 관련 법안 발의를 준비 중이다.

세간의 관심은 AI 신뢰성 검증을 민간 자율로 둘 것인지 여부다. 정부가 지능정보산업협회(AIIA)와 한국정보통신기술협회(TTA) 등 협·단체 자율에 맡긴 AI 신뢰성 확보 지원 사업을 발표했으나, 국회가 개입하면서 AI 산업 초기부터 법적 규제가 생기는 것은 아닌지 우려가 크다.

정 의원 발의안엔 자율 규제 확립을 위한 민간자율인공지능윤리위원회 설치 규정이 포함됐다. 정부가 위원회 구성과 운영을 평가하고 인증할 수 있다. 입법공청회에선 정부 개입 우려와 함께 설명요구권, 특수활용 AI 신고제가 기업 진입장벽이 될 수 있다는 지적이 나왔다. 어느 범위까지 AI에 대한 설명이 필요한지, 특수활용 AI의 정의는 무엇인지 모호하다는 것이다.

이용빈 의원실에 따르면 곧 발의할 법안에도 민간 자율적으로 신뢰 검증을 추진하고 AI 발전을 위한 특례 적용 등의 내용을 담았다. 전제는 ‘AI의 안전한 활용’이다. 이 의원실 김형균 정책보좌관은 “산업 진흥과 AI 윤리 신뢰 구축, AI 집적단지 구축을 강화하고 종합하는 법안”이라고 설명했다. 공청회와 병합심사를 거치면서 AI 윤리와 신뢰 검증에 대한 민간 자율을 우선하는 산업계 목소리가 반영될지 주목된다.

AI 스타트업 대표는 “창의적이고 도전적으로 나서는 것을 억누르는 분위기가 염려된다”고 말했다. 그는 “이루다의 경우도 개인정보 문제는 분명히 잘못됐지만, 지금 같은 분위기면 개인정보 무단 사용이 없었어도 문제가 될 수 있었을 것”이라고 우려했다.

이성엽 고려대 기술경영전문대학원 교수는 “EU에서 법안이 나온 뒤로 법적 규제 확대 쪽으로 얘기가 되는데, 본격적인 규제를 시행하기엔 시기상조라는 생각”이라며 “일정 규모 이상 기업이라면 의무화할 수 있겠지만, 그 이상 범위를 확대해 인증을 받고 개입을 하는 것은 행정력 한계도 있을 것이다. 민간 자율적인 신뢰 기반 확보가 중요하다”고 강조했다.

지난 6월 방송통신위원회(방통위)가 ‘AI 추천서비스 이용자 보호 기본원칙’을 제정한 것을 두고도 우려가 나온다. △투명성 △공정성 △책무성 등 기본원칙이 보호하는 이용자는 최종 소비자와 플랫폼 입점 업체를 같이 일컫는다.

권세화 한국인터넷기업협회 실장은 “소비자 입장에선 ‘원하지 않는 추천이 온다’ 불만이 있을 것이고, 입점 업체에선 ‘자기 콘텐츠가 노출이 안 된다’ 불만이 있을 텐데 무조건 분쟁이 일어날 수밖에 없다”며 “공정해야 한다는 기본원칙이 굉장히 주관적인 얘기인데, 동일하게 제공해야 한다면 추천 서비스가 의미가 없어지는 것 아니냐”라고 지적했다. 덧붙여 “취지는 공감하나 법과 가이드라인으로 나가면 국내에서 개발하지 않고 기업들이 해외로 나갈까 우려된다”고 말했다.