캘리포니아 의회, 새로운 AI 법안 수정, 8월 말까지의 판결 예상

캘리포니아 주 의회의 재정위원회는 이번 목요일에 새로운 법안 S.B. 1047에 대한 수정안을 승인하였고, 이 법안은 이달 말까지 법률로 제정될 수도 있습니다.

이 “안전하고 보장된 혁신을 위한 프론티어 인공지능 모델 법안”은 캘리포니아에서 AI 제품 및 서비스를 공급하는 회사들에게 기술 출시 전에 안전을 테스트하도록 요구합니다. 이 법안은 주요 인공지능 결과를 예방하고 안전을 보장하는 것을 목표로 합니다.

The New York Times에 따르면, 만약 제안된 법안이 통과된다면, 캘리포니아의 검찰총장은 이러한 기술이 인명 피해나 대규모 재산 피해를 초래할 경우, Google, OpenAI, Meta와 같은 현지 거대 기업들을 상대로 소송을 제기할 수 있습니다.

스콧 위너 상원의원은 이 법안을 2월에 작성했으며, 이후에는 이에 반대하는 여러 테크 기업들의 증가하는 우려와 요청에 따라 여러 차례 수정되었습니다. 이는 법안을 승인하는 과정의 마지막 단계 중 하나가 될 것입니다.

TechCrunch에 따르면 최근의 수정안은 AI 회사 Anthropic에 의해 제안되었다고 합니다.

위너 상원의원이 TechCrunch에게 말했습니다. “우리는 Anthropic와 업계의 많은 다른 기업들로부터 제기된 핵심 우려사항을 해결했다고 믿는 매우 합리적인 수정안들을 수용했습니다.” 그는 또한 “이러한 수정안들은 오픈 소스 커뮤니티의 독특한 요구사항을 수용하기 위해 SB 1047에 내가 이전에 했던 중요한 변경들을 더욱 강화시킵니다. 이 커뮤니티는 혁신의 중요한 원천이기 때문입니다.”라고 덧붙였습니다.

중요한 변화 중 하나는 이 법안이 기업들에게 큰 결과가 발생하기 전에 좋은 안전 관행을 적용하지 않는 것에 대해 처벌하지 않을 것이라는 점입니다. 이것은 Anthropic이 권장한 대로, 대형 사고가 발생한 후에만 처벌한다는 것입니다.

Google의 대변인은 The New York Times에 그들의 우려가 “여전히 유효하다”고 말했습니다. Anthropic은 업데이트를 신중히 검토할 것이라고 말했고, Meta와 OpenAI는 최근 GPT4-o의 안전에 대한 보고서가 법안의 요구사항과 일치함에도 불구하고 새로운 변화에 대한 코멘트를 거부했습니다.

대부분의 AI 기업들은 이 법안이 기술 개발을 방해하거나 기업들이 본사를 다른 주로 옮기게 할 것이라는 우려를 표현하고 있습니다. 만약 민주당 다수 의석을 차지한 입법부의 최종 투표를 통과하고, 그 후 캘리포니아 상원과 마지막으로 주지사의 승인을 받는다면, 이는 미국에서 처음으로 도입되는 AI 안전 법안이 될 수 있습니다.