[이데일리 성주원 기자] 인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)이 지난해 12월 국회를 통과하면서 우리나라는 유럽연합(EU)에 이어 세계 두 번째로 포괄적인 AI 규제법을 제정했다. 사단법인 ‘착한법만드는사람들’이 지난 18일 개최한 ‘AI기본법의 한계와 개선 방향’ 세미나에서 법률 및 AI 분야 전문가들은 AI기본법과 관련한 다양한 의견을 쏟아냈다.

지난 18일 개최된 ‘AI기본법의 한계와 개선 방향’ 세미나 모습. 왼쪽부터 이성엽 고려대 기술법정책센터장(교수), 구태언 법무법인 린 변호사, 김선홍 사단법인 착한법만드는사람들 공동대표, 노성열 한국지식재산기자협회장, 배수영 법무법인 파트원 변호사. 착한법만드는사람들 제공.

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI 기본법은 기술 진흥과 신뢰 확보라는 두 축을 담고 있다. 고영향 인공지능과 생성형 인공지능에 대한 규제를 도입하면서, 고영향 AI에 대해서는 ‘사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템’으로 정의했다. 이 법은 3년마다 AI 기술 및 산업 진흥 기본계획을 수립하고, 대통령 소속 국가인공지능위원회를 설치하며, AI 사업자에게 투명성과 안전성 확보 의무를 규정하고 있다. 오는 2026년 1월 시행을 앞두고 있다.

고영향AI 개념 추상적…개별법 충돌·중복규제 우려

리걸테크앤AI포럼 부회장으로 활동하고 있는 구태언 변호사(법무법인 린)는 이번 세미나 발제를 맡아 고영향 AI 개념의 추상성을 지적했다. ‘중대한 영향’의 기준이 모호해 규제 대상의 범위가 불분명하다는 것이다. 또한 어떤 AI 행위가 금지되거나 제한되는지에 대한 명확한 규정이 없고, 정보기관이나 수사기관의 AI 활용을 견제하는 장치가 미흡하다고 비판했다.

구 변호사는 또 고영향 AI의 범위가 넓게 설정될 경우 기업의 혁신이 저해될 수 있다고 우려했다. 국내 규제로 인한 추가 부담이 글로벌 시장에서의 경쟁력 약화를 초래할 수 있으며, 산업 분야별 기존 규제와 새로운 AI 기본법 사이의 정합성 문제도 발생할 수 있다고 전망했다.

한국데이터법정책학회장을 맡고 있는 이성엽 고려대 기술법정책센터장(교수)은 수평규제인 AI 기본법과 도메인별 수직규제가 병립되며 중복규제 우려가 있다고 말했다. 기본법임에도 구체적인 권리·의무 관계를 정하는 규정이 많아 개별법과 충돌할 가능성이 있으며, 금융·의료·제조 등 분야별 규제와 AI 기본법 간 책임 소재가 불분명하다는 점도 문제로 꼽았다.

배수영 변호사(법무법인 파트원)는 시민사회의 관점에서 금지해야 할 인공지능에 대한 구체적 규정이 부재하고, 영향 받는 자의 권리 및 구제 조항이 미비하다는 점을 짚었다. 또한 인공지능 인권영향평가가 ‘노력할 의무’에 그치며, 국방·국가안보 목적 AI를 법 적용에서 제외해 통제장치가 부재하다는 점도 한계로 꼽았다.

고영향AI 범위 정기 검토…분쟁 전담 독립기구 운영

전문가들은 시행령에서 고영향 AI 판단 기준을 명료하게 정의하고, 스타트업과 중소기업에 대한 규제 면제를 도입하며, 기술 발전에 따라 고영향 AI 범위를 정기적으로 재검토할 것을 제안했다.

투명성 확보 의무에 대한 사전고지 방법과 워터마크 기술 기준을 명시하고, AI 이용사업자와 개발사업자 간 책임분담 지침을 명확히 하며, 중소기업에 대한 컨설팅 지원과 인증 비용 보조 등 컴플라이언스 지원책을 병행해야 한다는 의견도 있었다.

분야별 규제부처와 과기정통부 간 역할 분담을 명확히 하고, 국가AI위원회를 통한 통합 거버넌스를 강화하며, AI 관련 분쟁이나 정책조정을 전담할 독립적인 기구 운영도 고려해야 한다고 강조했다.

생성형 AI의 학습데이터 공개와 생성물의 권리 귀속 등에 대한 지침을 마련하고, AI 시스템 활용을 위한 개인정보보호법 개정, 국가안보·치안 목적 AI 사용에 대한 투명성 의무 부과 등 기존 규제 해소 대책도 보완해야 한다는 주장이 있었다. EU 등 해외 입법과의 조화를 유지하고, 글로벌 협의체를 통해 한국의 입장을 전달하는 국제 협력도 중요하다고 전문가들은 조언했다.

노성열 한국지식재산기자협회장은 AI 기본법에 대해 “출발선치곤 비교적 무난하다”고 평가하면서도 개선책을 제안했다. AI 에이전트 등 새로운 기술 발전에 따른 신속한 법 업데이트가 필요하며, 인간 중심 관점에서 제도를 설계해야 한다고 강조했다. 자본 규모별 차등 규제로 스타트업 혁신을 보장하고, 개별법이 기본법의 상위원칙을 따르도록 법체계의 위계질서를 확립해야 한다고 언급했다.

“규제 실효성·기업 혁신·시민 권리보호 균형 찾아야”

전문가들은 AI 기본법이 추구하는 ‘혁신의 촉진과 위험의 억제’라는 이중 목적을 달성하기 위해서는 유연하고 똑똑한 거버넌스가 필요하다고 강조했다. 과학기술정보통신부가 ‘진흥 8, 규제 2’의 비율로 개방적 태도를 취했다고 하지만, 기술 발전과 윤리적 책임 간의 균형을 위해 시행령 정비 과정에서 업계·학계·시민사회와 긴밀한 협력이 요구된다는 데 의견을 모았다.

AI 기본법이 지속가능한 AI 발전과 신뢰 사회 구축에 기여하는 실질적 도구로 자리매김하기 위해서는 규제의 실효성과 기업의 혁신 여력, 그리고 시민의 권리 보호 사이에서 균형을 찾는 노력이 계속돼야 할 것이라고 전문가들은 강조했다.

사단법인 ‘착한법만드는사람들’이 지난 18일 개최한 ‘AI기본법의 한계와 개선 방향’ 세미나에서 구태언(왼쪽 상단부터 시계 방향으로) 변호사, 노성열 한국지식재산기자협회장, 배수영 변호사, 이성엽 고려대 교수가 발언하고 있다. 착한법만드는사람들 제공.