加州议会批准了《前沿人工智能模型安全创新法案》（SB 1047）。
该法案在硅谷及其他地区引发了激烈争论，旨在对在加州运营的人工智能公司实施一系列安全措施。这些预防措施必须在训练高级基础模型之前实施。
该法案的主要要求包括：
- 实施快速彻底关闭模型的机制
- 保护模型免受“不安全的训练后修改”
- 建立测试程序，评估模型或其衍生产品造成“严重损害”的潜在风险
SB 1047 法案的主要起草人、参议员斯科特·维纳 (Scott Wiener) 表示：“我们与开源倡导者、Anthropic 等组织一起努力，整整一年来不断完善和改进该法案。SB 1047 法案与我们对可预见的人工智能风险的了解非常吻合，值得颁布。”
参议员强调，该法案只是要求大型人工智能实验室履行现有承诺，测试其广泛的模型是否存在灾难性的安全风险。
然而，拟议的立法遭到了各方的反对，包括人工智能公司OpenAI和 Anthropic、政客 Zoe Lofgren 和 Nancy Pelosi 以及加州商会。批评者认为，该法案过于关注灾难性危害，可能会对小型开源人工智能开发商造成不成比例的影响。
为了回应这些担忧，对原始法案进行了几项修改。这些变化包括：
- 用民事处罚取代潜在的刑事处罚
- 限制授予加州总检察长的执法权力
- 修改法案设立的“前沿模特委员会”的加入要求
SB 1047 的下一步是州参议院投票，预计将获得通过。如果投票通过，该法案将提交给州长加文·纽森，州长必须在 9 月底之前决定是否颁布该法案。
作为美国首批重要的人工智能法规之一，SB 1047 的通过可能为未来的立法树立先例。该法案的结果可能对人工智能行业产生深远影响，不仅可能影响加州，还可能影响美国乃至全世界先进人工智能模型的开发和部署。
原创文章，作者：AI News，如若转载，请注明出处：https://www.dian8dian.com/jia-zhou-yi-hui-tong-guo-you-zheng-yi-de-ren-gong-zhi-neng
