인공지능(AI) 혁명 중심지인 미국 캘리포니아에서 도입 시도됐던 ‘AI 안전법’에 대해 게빈 뉴섬 주지사가 거부권을 행사했다. 법안이 AI 모델의 ‘위험도’가 아닌 ‘규모’에만 초점을 맞춰 다른 기준이 필요하다는 이유에서다. 오픈AI·구글을 비롯한 초거대 AI 개발 업체에게는 호재다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

29일(현지 시간) 뉴섬 주지사는 AI 규제법안 'SB 1047'에 대한 거부권을 행사했다고 밝혔다. 지난달 28일 주 의회가 법안을 통과시킨 후 한달여 만이다. 그는 “이 법안은 오직 가장 크고 비용이 많이 드는 AI 모델에만 적용되고 실제 AI가 고위험 상황에 배치되는지 여부는 고려하지 않았다”며 “소규모 AI도 민감 데이터를 다루는 중요한 의사 결정을 수행하고 대규모 AI도 소비자 서비스 같은 저위험 활동에 머무는 경우가 있다”고 설명했다.

뉴섬 주지사도 AI를 비롯한 신기술에 대해 규제가 필요하다는 점에는 동의한다. 실제 뉴섬 주지사는 전날 뇌 신경 데이터를 개인정보 보호 대상에 포함하는 법안에 서명하기도 했다. 다만 SB 1047은 특정 연산력을 넘어서고 교육 비용이 1억 달러 이상인 AI에만 일괄적으로 적용돼, 경량형 AI 활용이 확산되는 와중 규모에만 집중했다는 이유로 반려한 것이다.

새로운 AI 규제의 ‘기준’도 제시했다. 뉴섬 주지사는 “실증적이고 과학적인 증거에 기반한 증거가 필요하다”며 “잠재적인 AI 위험을 평가하기 위한 주 정부 차원 평가를 확대하는 한편 주요 AI 연구자들과 함께 새 법안을 개발하고 있다”고 밝혔다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

마이크로소프트(MS)·오픈AI와 구글, 메타 등 법안에 공개적으로 반대해온 기업들은 안도의 한숨을 내쉬게 됐다. 법안이 통과된다면 안전성 테스트가 의무화되고 AI가 5억 달러 이상 재산 피해와 같은 심각한 문제를 일으키지 않도록 보장하는 한편 AI 작동을 강제로 멈추는 '킬 스위치'도 마련해야 했다.

법안이 캘리포니아에서 사업을 영위하는 모든 기업에 적용되고 표현 또한 모호해 지리한 행정소송도 예상됐었다. ‘불합리한 위험’이 있는 대형 AI 모델 공개를 금지하는 항목 등이 대표적이다. 실리콘밸리 대표 밴처캐피탈(VC) 안데르센 호로위츠(a16z)의 마틴 카사도 파트너는 월스트리트저널(WSJ)에 “아무도 그 의미를 모르고 결국 기술적인 지식이 없는 법원이 판단하게 된다”고 우려하기도 했다. WSJ은 “스타트업들까지 생태계 혁신 저하를 우려했다”며 “만약 뉴섬 주지사가 법안에 서명했다면 미국 전역에서 AI를 규제하는 토대가 됐을 것”이라고 평가했다.

거부권 행사에 반발하는 의견도 나온다. 테크계에서는 일론 머스크 테슬라 최고경영자(CEO)가 대표적인 법안 찬성자였다. 생성형 AI의 아버지로 불리는 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수 등도 법안을 지지해왔다.

실리콘밸리=윤민혁 특파원 beherenow@sedaily.com
[ⓒ 서울경제, 무단 전재 및 재배포 금지]