[아이뉴스24 윤소진 기자] 국회가 26일 본회의에서 'AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)'을 통과시켰다. 이로써 한국은 유럽연합(EU)에 이어 세계에서 두 번째로 AI 포괄 규제 법안을 마련한 국가가 됐다. AI 기본법은 해외 AI 기업의 국내 대리인 지정 의무화, 고영향 AI 안전성 검증 등 핵심 규제를 담고 있다.

26일 서울 여의도 국회에서 420회 국회(임시회) 제1차 본회의가 열리고 있다. [사진=정소희 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI안전성 확보·산업 진흥 '균형 모색'

이 법안은 국회 과학기술정보방송통신위원회가 여야 의원들이 발의한 19건의 법률안을 통합·조정한 것이다. 그간 AI 기술 발전으로 인한 딥페이크 범죄 증가와 AI 윤리 문제 등이 대두되면서 산업 육성과 안전성 확보를 위한 법적 기반의 필요성이 꾸준히 제기돼 왔다.

AI 기본법의 핵심은 '고영향 AI' 도입이다. 고영향 AI는 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 수 있는 AI 시스템을 의미한다. 에너지, 의료, 범죄 수사 등 11개 주요 분야의 AI 사업자에게는 안전성 및 신뢰성 검증이 요구된다.

해외 AI 기업에 대한 규제도 강화했다. 오픈AI, 마이크로소프트(MS), 구글 등 국내 시장에 영향을 미치는 글로벌 빅테크 기업은 의무적으로 국내 대리인을 지정해야 한다. 이를 통해 정부의 안전성·신뢰성 확보 조치 이행에 필요한 지원을 제공해야 하며, 대리인 미지정 시 3000만원 이하의 과태료가 부과된다.

AI 생성 콘텐츠에 대한 규제도 도입됐다. 최근 AI를 활용한 딥페이크 범죄와 사칭 보이스피싱이 증가하면서 AI로 생성한 영상이나 사진에는 워터마크를 의무적으로 표시하도록 규정했다. 생성형 AI 사업자가 이를 이용자에게 고지하지 않으면 3000만원 이하의 과태료가 부과된다.

AI 정책 추진을 위한 행정 체계도 마련됐다. 과기정통부 장관은 3년마다 AI 기본계획을 수립·시행하며, 대통령이 위원장을 맡는 국가AI위원회와 AI 정책센터, AI 안전연구소 설립 근거도 포함됐다.

후속 법령·세부 기준 마련 '핵심 과제'

업계는 AI 학습데이터 범위, AI 서비스의 책임소재 등 사업 불확실성 해소를 위해 AI기본법 제정을 환영하면서도 빠른 기술 발전을 고려한 유연한 규제 적용을 요구하고 있다.

법안이 통과됐지만 시행령과 시행규칙 등 후속 법령 마련 과정에서 구체적인 기준과 절차가 서둘러 확정돼야 한다는 것이다. 무엇보다도 고영향 AI의 구체적 범위, 해외 기업의 국내 대리인 지정 기준, 과태료 부과 세부 기준 등이 쟁점이 될 전망이다. AI 산업 발전을 저해하지 않으면서도 안전성과 신뢰성을 확보할 수 있는 균형 잡힌 후속 조치도 마련돼야 한다.

법안 마련과 함께 국가적 AI 경쟁력을 강화해야 하는 것도 과제다. 미국은 연방 차원의 포괄적 법안은 없지만 분야별 가이드라인을 통해 신속하게 대응하고 있으며, 중국도 AI 산업 육성과 규제의 투트랙 전략을 적극 추진 중이다. 캐나다와 싱가포르 등도 AI 규제 법안을 준비하고 있어, 글로벌 AI 거버넌스 주도권 확보를 위한 경쟁이 치열해지고 있다.

업계 관계자는 "현재 법안은 고영향 AI의 포괄적 정의만 제시했을 뿐 기술적 판단 기준이나 해외 기업에 대한 실질적 규제 수단이 모호하다"고 지적했다. 또 다른 관계자는 "파운데이션 모델 기반 서비스가 급속히 진화하는 상황에서 법 집행의 실효성 확보가 핵심 과제"라며 "EU와 미국 등 주요국 규제와의 정합성을 고려한 구체적인 기술 표준 수립이 시급하다"고 언급했다.

/윤소진 기자(sojin@inews24.com)

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]