<이미지를 클릭하시면 크게 보실 수 있습니다>

수많은 인공지능(AI) 개발 기업이 몰려있는 캘리포니아주에서 도입이 예정되었던 AI규제 법안이 주지사에 의해서 제동이 걸렸다. 빅테크에 대한 규제가 점차 강화되는 와중에도 국가 간 개발 경쟁이 치열한 AI에 대해서는 미국이 확실하게 자국 AI 기업을 보호하는 모습이다.

개빈 뉴섬 캘리포니아주 주지사는 29일(현지시간) AI 개발 기업에게 책임을 부과하는 내용의 AI 규제법안인 ‘SB 1047’에 대해 거부권을 행사했다고 밝혔다.

이 법안은 주 의회가 지난달 28일 통과시킨 법안으로 30일 서명 시한을 하루 앞두고 뉴섬 주지사는 거부권을 행사했다.

뉴섬 주지사는 “(법안의) 규제가 가장 크고 비싼 AI 모델에만 집중돼 있다”며 “AI 모델의 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지 여부를 고려하지 않았다”고 거부권 행사 이유를 밝혔다.

그는 “대규모 재난이 발생하기 전에 대책을 마련해야 한다는 법안 지지자들의 주장에 동의하지만, 규제는 반드시 과학적이고 실증적인 증거에 기반해야 한다”고 덧붙였다.

다만 그는 AI연구의 ‘대모’로 불리는 페이페이 리 스탠포드 대학교 교수 및 주요 AI 연구자들과 협력해 자신이 지지할 새로운 법안을 개발하고 있다고 밝혔다.

SB 1047이 통과될 경우 미국의 주요 AI기업들에게 적용되는 강력한 AI규제법이 될 수 있었다. 오픈AI, 앤스로픽, 구글, 메타 등의 기업들이 캘리포니아에 본사를 두고 있고, 사무소를 두고 있는 마이크로소프트, 아마존 등도 규제를 받을 수 있었기 때문이다.

미국은 조 바이든 대통령이 AI행정명령을 통해 정부가 개입할 수 있는 수단은 만들었다. 하지만 아직 연방차원의 법은 만들어지지 않았기 때문에서 SB 1047이 이런 역할을 할 수 있었다.

이 법안은 1억 달러 이상 투입된 거대언어모델에 대해 안전성 테스트를 의무화하고, AI 시스템이 다수의 사망이나 5억 달러 이상의 재산 피해를 일으키지 않도록 주의를 기울이도록 하고 있다. 규정을 지키지 않으면 주 법무장관이 기업에 소송을 제기할 수 있다.

패트릭 홀 조지타운 대학교 정보 시스템학과 조교수는 뉴욕타임스와 인터뷰에서 “주 정부가 AI기술의 명백한 폐해를 해결하기 위해 노력하고 있는데 연방 정부는 이를 규제하는 데 어려움을 겪고 있는 것은 안타까운 일”이라면서 “미국 국민들이 세계에서 가장 크고 부유한 기업들의 실험 집단이 되었다”고 비판했다.

하지만 일찍 AI법안을 도입한 EU외에 다른 국가들은 관련 법안을 도입하는 것에 소극적이다.

SB 1047에 대한 반대 의견을 낸 기업들은 법안이 미국 테크기업들의 경쟁력 저하를 가져올 것을 우려했다.

한편 AI법안과는 별도로 개빈 뉴섬 주지사는 빅테크 관련 규제 법안에도 서명했다.

그는 사람들의 두뇌 정보가 신경 기술 회사에 의해 오남용되지 않도록 하는 내용의 개인정보 보호법 개정안에 서명했고, 연예인들의 목소리 등을 AI로 복제하는 것을 금지시키는 법안에도 서명했다. 이외에도 AI 등 디지털 기술로 변조된 선거 콘텐츠에 대해 소셜 미디어가 이를 72시간 내에 제거하고, AI로 생성되었다는 사실을 표시하게 만드는 법안도 승인했다. 개인정보보호, 딥페이크의 정치적사용 금지와 같은 법안에 대해서는 법안을 승인하고, AI개발을 저해할 수 있는 법안에 대해서는 최종적으로 거부한 것이다.

실리콘밸리의 테크기업들이 캘리포니아 정치인들의 중요한 후원자라는 점에서 SB 1047은 거부될 가능성이 높았다.

뉴섬 주지사는 실리콘밸리의 테크기업 중 하나인 세일즈포스가 개최한 ‘드림포스 2024’에 참석해 SB 1047 법안에 대한 부정적인 의견을 피력한 바 있다. 주지사 다음 정치적 행보로 대통령을 노리는 뉴섬 주지사가 논란의 여지가 많은 SB 1047을 승인할 수 없을 것이라는 전망이 많았다.

[실리콘밸리=이덕주 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]