인공지능(AI) 혁명 중심지인 미국 캘리포니아에서 도입 시도됐던 ‘AI 안전법’에 대해 게빈 뉴섬 주지사가 거부권을 행사했다. 법안이 AI 모델의 ‘위험도’가 아닌 ‘규모’에만 초점을 맞춰 다른 기준이 필요하다는 이유에서다. 오픈AI·구글을 비롯한 ‘초거대 AI’ 개발 업체에게는 호재다.
29일(현지 시간) 뉴섬 주지사는 AI 규제법안 'SB 1047'에 대한 거부권을 행사했다고 밝혔다. 지난달 28일 주 의회가 법안을 통과시킨 후 한달여 만으로, 서명 마감 시한을 하루 앞두고 이뤄진 결정이다. 그는 거부권 행사 배경에 대해 “이 법안은 오직 가장 크고 비용이 많이 드는 AI 모델에만 적용되고 실제 AI가 고위험 상황에 배치되는지 여부는 고려하지 않았다”며 “소규모 AI도 전력망이나 의료 기록과 같은 민감 데이터를 다루는 중요한 의사 결정을 수행하는 한편 대규모 AI도 소비자 서비스 같은 저위험 활동에 머무는 경우가 있다”고 설명했다.
뉴섬 주지사도 AI를 비롯한 신기술에 대해 규제가 필요하다는 점에는 동의한다. 실제 뉴섬 주지사는 전날 뇌 신경 데이터를 개인정보 보호 대상에 포함하는 법안에 서명하기도 했다. 다만 SB 1047은 그 방식이 잘못됐다는 판단을 내렸다. SB 1047은 특정 연산력을 넘어서고 교육 비용이 1억 달러 이상인 AI에 일괄적으로 적용된다. 오픈AI의 챗GPT나 구글 제미나이 같은 초거대 AI를 겨냥한 결과로, 경량형 AI 활용처가 확산되는 와중 규모에만 집중했다고 비판 받아왔다.
새로운 AI 규제의 ‘기준’도 제시했다. 뉴섬 주지사는 “대규모 재난 발생 전에 대책을 마련해야 한다는 법안 지지자들 주장에 동의하지만 실증적이고 과학적인 증거에 기반한 증거가 필요하다”며 “잠재적인 AI 위험을 평가하기 위한 주 정부 차원 평가를 확대하는 한편 페이페이 리 스탠퍼드대 교수 등을 포함한 주요 AI 연구자들과 함께 새 법안을 개발하고 있다”고 밝혔다.
마이크로소프트(MS)·오픈AI와 구글, 메타 등 법안에 반대해온 기업들은 안도의 한숨을 내쉬게 됐다. 이들 기업은 SB 1047에 대해 공개적으로 반대해왔다. 법안이 통과된다면 안전성 테스트가 의무화되고 AI가 5억 달러 이상 재산 피해와 같은 심각한 문제를 일으키지 않도록 해야 한다. AI 작동을 강제로 멈추게 하는 '킬 스위치'도 필수다.
무엇보다 캘리포니아에서 사업을 영위하는 모든 기업에 적용돼 기준이 모호하고 광범위하다는 비판을 받아왔다. ‘불합리한 위험’이 있는 대형 AI 모델 공개를 금지하는 항목 등이 대표적이다. 실리콘밸리 대표 밴처캐피탈(VC) 안데르센 호로위츠(a16z)의 마틴 카사도 파트너는 월스트리트저널(WSJ)에 “아무도 그 의미를 모르고 결국 기술적인 지식이 없는 법원이 판단하게 된다”고 우려하기도 했다. WSJ은 “스타트업들까지 생태계 혁신 저하를 우려했다”며 “만약 뉴섬 주지사가 법안에 서명했다면 미국 전역에서 AI를 규제하는 토대가 됐을 것”이라고 평가했다.
거부권 행사에 반발하는 의견도 나온다. 테크계에서는 일론 머스크 테슬라 최고경영자(CEO)가 대표적인 법안 찬성자였다. 생성형 AI의 아버지로 불리는 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수 등도 법안을 지지해왔다. SB 1047을 발의한 스콧 위너 주 상원의원(민주당)은 “공공의 안전과 복지, 지구의 미래에 중요한 결정을 내리는 빅테크에 대한 감독을 원하는 모든 사람들에게 좌절을 줬다”고 주장했다.
