캘리포니아 법안, AI에 새로운 규정 부과

캘리포니아 주 의회는 이번 달 초 많은 개정안이 제출된 이후, 안전하고 보안이 확보된 혁신적인 프론티어 인공지능 모델에 대한 법안 (SB 1047)을 승인하였습니다. 이번 개정안이 제출된 것은 이번 달 초였습니다.

주 상원의원 스콧 위너에 의해 제안된 SB 1047 법안은 고도화된 AI와 관련된 위험, 예를 들어 자율 무기나 대규모 사이버 공격을 완화하는 것을 목표로 하고 있습니다. 더불어, 비즈니스 인사이더(BI)의 보도에 따르면, 이 법안은 AI 모델 개발을 하는 회사들이 안전 조치를 취하도록 요구하고 있으며, 이에는 킬 스위치와 제 3자 테스팅을 포함하고 있습니다.

SB 1047의 주요 조항에는 “커버드 모델”에 대한 엄격한 안전 규정이 포함되어 있습니다. “커버드 모델”은 훈련에 상당한 컴퓨팅 파워를 필요로 하는 대규모 AI 모델로, 상당한 피해를 초래할 가능성이 있습니다.

이러한 규정은 개발자들이 의도하지 않은 결과나 악의적인 사용과 같은 위험을 다루기 위한 철저한 보안 조치를 시행하도록 요구합니다. 또한, 개발자들은 연간 독립적인 감사를 받아야 하며, AI 안전 사고가 발생한 경우 72시간 이내에 검찰총장에게 보고해야 합니다.

이 법안은 컴퓨팅 클러스터 운영자에게도 책임을 부과하며, 그들이 고위험 모델을 훈련하는 고객을 식별하고 잠재적 위험을 완화하는 조치를 취하도록 요구합니다.

SB 1047은 기술 산업 내에서 상당한 논쟁을 불러일으켰습니다. 지지자들은 고급 AI의 잠재적 위험으로부터 대중을 보호하는 것이 필수적이라고 주장하는 반면, 반대자들은 이 법안이 혁신에 미칠 잠재적 영향에 대해 우려를 표현합니다.

비평가들은 또한 이 규제가 기업에 부담을 주어, 대형 테크 기업들과의 경쟁력을 제한할 수 있다고 주장합니다. 그러나, 위너 상원의원은 법안을 방어하면서, 이것이 AI 개발에 1억 달러 이상을 지출하는 기업들을 대상으로 하고, 작은 스타트업들은 면제한다는 점을 강조하였습니다. 이는 Fortune에서 보도하였습니다.

Elon Musk, X CEO이자 xAI의 창립자는 법안에 대한 지지를 표명하였습니다. 그는 이 법안이 일부 사람들을 불편하게 할 수도 있다는 것을 인정하면서도, 공공 위험을 방지하기 위한 규제의 필요성을 강조하였습니다.

그러나 다른 주요 인공지능 기업들과 전문가들은 반대의 목소리를 내고 있습니다. 예를 들어, LA 타임스는 OpenAI의 최고 전략 책임자인 Jason Kwon이 Wiener에게 보낸 편지에서 “연방 주도의 AI 정책 세트는 주별로 다른 법률의 조각보다 혁신을 촉진하고 미국이 세계 표준 개발을 주도할 수 있게 할 것입니다.”라고 보도했습니다.

또한, Stanford 교수이며 AI 전문가인 Fei-Fei Li는 이 법안이 본래의 의도는 좋지만, 실제로는 오픈 소스 커뮤니티에 피해를 주고, 핵심 인공지능 모델에 대한 학계의 접근을 제한하는 등 중대한 부작용을 초래할 수 있다고 주장했습니다.

논란에도 불구하고 SB 1047은 책임 있는 AI 개발을 지원하고 연구자와 개발자에게 필요한 자원에 접근할 수 있도록 공공 클라우드 컴퓨팅 클러스터인 CalCompute를 만드는 것을 제안하고 있습니다.

이 법안은 캘리포니아에서 AI를 규제하는데 중요한 한 걸음을 나타내지만, 비판자들과 지지자들 모두 급속히 변화하는 AI 환경이 새로운 도전과 기회에 대응하기 위해 법률에 추가적인 수정을 필요로 할 수 있다고 인정하고 있습니다.