국회 과학기술정보방송통신위원회. (연합뉴스)

<이미지를 클릭하시면 크게 보실 수 있습니다>

인공지능(AI)에 대한 기본 사항과 윤리 등을 규정하는 AI 기본법이 연내 제정될 것이라는 기대가 커지고 있다. 국회 과방위 법안소위를 통과했으며 정부 역시 AI 기본법 제정에 총력을 기울이겠다는 의지를 내비쳤기 때문이다. 법안은 긴 시간 국회에 계류되다 21대 국회에서 폐기 수순을 밟은 바 있다.

국회 과학기술정보방송통신위원회는 지난 11월 21일 법안소위를 열고 여야 의원이 발의한 AI 관련 법안 총 19건을 병합 심리해 일괄 통과시켰다. 법안은 이르면 오는 11월 27일 전체회의에서 의결해 법제사법위원회(법사위)로 넘길 예정이다. 여야 간 이견이 없어 연내 국회 본회의 통과도 무난할 것으로 보인다. 연내 법사위와 국회 본회의를 통과하면, 국내 AI 생태계 발전의 새로운 출발점이 열리게 된다.

AI 기본법은 AI의 진흥·규제에 대한 기본적인 방향성을 수립하고, 국가 차원에서 AI를 어떻게 육성할 것인지에 대한 개괄적 설명을 담은 법이다. 법안이 통과되면 11월 출범 예정인 AI안전연구소와, 지난 9월 출범한 국가AI위원회의가 법적 기반을 갖추게 된다. 법안에는 AI와 AI 시스템을 정의하고, ‘고영향 AI’ 영역에서 고시 의무 등 사업자 책임을 명시하는 내용 등이 담겼다. 최근 딥페이크 논란을 고려해 AI 기반 영상과 사진에는 워터마크를 넣도록 규정했다. 이와 함께 AI 데이터센터 등 투자 활성화 방안과 관련 산업 지원 관련 내용도 담겼다.

법안이 정의하는 AI란 학습·추론·지각·판단·언어의 이해 등 인간이 지닌 지적 능력을 전자적 방법으로 구현한 것이다. AI 시스템은 AI를 기반으로 가상환경에 영향을 미치는 예측, 결정 등 결과물을 추론하는 시스템이다. 고영향 AI란 사람의 생명이나 신체, 기본권 보호 등에 대해 중대한 영향을 끼칠 가능성이 있는 영역에서 활용되는 AI다. 의료 기기나 에너지 분야가 대표적이다.

유상임 과학기술정보통신부 장관이 10월 8일 정부세종청사에서 열린 국회 과학기술정보방송통신위 국정감사에서 위원들의 질의에 답하고 있다. (연합뉴스)

<이미지를 클릭하시면 크게 보실 수 있습니다>

법안에 따르면 만약 사업자가 고영향 AI에 대한 정보를 이용자에게 고지하지 않거나 정부의 시정명령에 따르지 않을 경우 3000만원 이하의 과태료가 부과된다. 과학기술정보통신부 장관이 3년마다 AI 기본 계획을 국가AI위원회의 심의와 의결을 거쳐 수립하고 시행한다는 내용도 포함됐다.

과기정통부는 “AI 기본법 제정을 통해 관련 조직을 신설하고 예산 사업을 세울 수 있다”며 지난해부터 제정에 속도를 냈다. 앞서 유상임 과기정통부 장관은 지난 11월 15일 ‘윤석열정부 과학기술·디지털 분야 성과 및 향후 추진 계획’ 브리핑에서 AI 기본법 제정에 총력을 기울이겠다며 기술 사업화에 “장관직을 걸겠다”는 표현까지 썼다.

업계에서는 AI 산업 규제 강화로 인해 기술 혁신과 시장 성장에 제약이 생길 수 있다는 우려도 제기된다. 고영향 AI에 대한 처벌 기준이 법에 명시될 경우, 예상치 못한 기술적 변수에 신속히 대응하기 어렵다는 지적이다. 한 AI 업계 관계자는 “고영향 AI에 대한 처벌 기준을 법에 구체적으로 명시하면 새로운 기술이 등장할 때마다 규제의 대상이 될 수 있어 우려된다”고 전했다.

전문가들은 법안 제정의 필요성에 동의하면서도, 빠르게 변화하는 AI 기술 특성을 고려해 지속적인 수정과 보완이 필수적이라고 강조한다. 김형주 중앙대 교수는 ‘AI 기본법 방향성 모색·제언을 위한 국회 세미나’에서 “법안 제정이 한 번에 완벽하게 될 수는 없으므로 끊임없이 수정, 보완해야 한다”며 “AI 기술이 가지고 있는 불확실성과 빠른 발전 가능성 때문에 불안감이 생길 수밖에 없지만 일어나지 않은 일에 대해서까지 규제하는 것은 문제가 생길 수 있다”고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]