[디지털데일리 이나연 기자] 미국의 기술정책 전문 싱크탱크가 내년 1월부터 시행되는 한국의 인공지능(AI) 기본법이 규제 설계 오류로 산업 진흥 효과를 훼손할 위험이 있다고 경고했다.

미국 워싱턴 D.C. 소재 정보기술혁신재단(ITIF)은 최근 발간한 '통합적 접근의 명암 : 한국 AI 기본법의 전략·진흥·규제 구조와 규제 리스크' 보고서에서 "AI 기본법은 세계 최초로 전략·진흥·규제를 단일 법안에 통합한 혁신적 시도지만 규제 부문의 구조적 결함이 법 전체의 효과를 저해할 수 있다"고 밝혔다.

ITIF는 보고서를 통해 AI 기본법에 담긴 데이터 인프라, 집적단지, 인재 양성, 국제화 전략 등 산업 진흥 조항(제13~26조)이 체계적이고 미래지향적이라고 평가했다. 3년 주기 AI 기본계획 수립(제6조)과 대통령 직속 국가AI전략위원회 설치(제7조)를 통한 전략적 통합은 다른 국가들이 참고할 만한 정책 모범이라고 강조했다.

하지만 일부 규제가 법안의 실효성을 흔들 수 있다고 우려했다. ITIF는 특히 AI 기본법 제32조의 컴퓨팅 임계값(10의 26승 플롭스) 기준을 가장 심각한 문제로 지적했다. 컴퓨팅 사용량은 모델 학습에 투입된 자원만 측정할 뿐, 실제 위험이나 성능과는 무관하다는 것이다.

같은 컴퓨팅으로 훈련해도 미세 조정이나 인간 피드백 학습으로 영향력이 크게 달라질 수 있기 때문이다. 실제 스탠퍼드대 연구진은 컴퓨팅이 모델의 기능이나 위험을 예측하는 신뢰할 수 있는 지표가 아니라는 진단을 내놓기도 했다.

ITIF는 해당 기준을 삭제하고 AI안전연구소(AISI)의 배포 후 평가 체계로 전환할 것을 제안했다.

AI 기본법 제31조의 의무적 투명성 라벨링도 비판 대상으로 지목됐다. 워터마크와 AI 라벨은 기술적으로 쉽게 제거 가능하고, 관할권 밖에서는 집행력이 없어 실효성이 떨어진다는 분석이다. 허위정보, 지식재산권 침해, 딥페이크 등 근본적 문제를 해결하지 못한다는 한계도 언급됐다.

ITIF는 이를 대신해 C2PA(Coalition for Content Provenance and Authenticity) 같은 자발적 출처 기준 장려와 디지털 리터러시 투자, 분야별 맞춤형 규제로 대체할 것을 요청했다.

AI 기본법 제33~35조의 고영향 AI 규제도 절차 중심 접근의 한계를 드러낸다는 평가가 나왔다. 광범위한 자체평가, 문서화, 위험 보고 의무는 실질적 책임성보다 행정 부담만 가중시킨다는 지적이다.

ITIF는 한국표준과학연구원(KRISS)이 측정 가능한 성과 기준을 설계하고 각 부처가 분야별 AI 시스템의 안전성·공정성·신뢰성 기준을 설정하도록 성과 기반 감독으로 전환해야 한다고 제안했다.

내년 1월 AI 기본법 시행을 앞두고 정부가 올 연말 시행령을 확정하는 가운데 ITIF는 국회 차원의 구조적 개정과 과학기술정보통신부의 균형 잡힌 시행령 설계를 병행할 것을 권고했다.

구체적으로 ▲표준의 산업계 주도 원칙 명시(제14조) ▲기업 규모 무관 지원(제18~19조) ▲데이터 요청의 필요·비례·기밀 원칙 확립(제40조) ▲위반 정도별 비례적 제재(제42조) ▲과태료 부과 전 유예기간 설정(제43조) 등을 명확히 해야 한다고 제시했다.

김세진 ITIF 산하 한국혁신경쟁력센터 부소장과 호단 오마르 ITIF 산하 데이터혁신센터 수석 정책 관리자는 "AI 기본법은 이미 전략과 산업 진흥에서 탄탄한 기반을 마련했지만, 획일적인 규제는 이러한 성과를 무력화할 위험이 있다"며 "구조적 결함을 해결하기 위해 법령을 강화하고 최종 시행령을 활용해 위험 기반, 성과 중심의 균형 잡힌 규칙을 시행해야 한다"고 전했다.

이어 "한국이 이를 실천한다면 AI 기본법은 권리를 보호하고, 일상생활을 개선하는 혁신을 촉진하며, 글로벌 경쟁력에서 지속적인 우위를 확보할 것"이라고 덧붙였다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -