美国加州州长否决人工智能安全法案 SB 1047

最新 9 月 30 日消息，美国加州州长加文・纽森（Gavin Newsom）今日否决了具有争议的《前沿人工智能模型安全创新法案》（简称 SB 1047），他在否决消息中提到了多个影响他决定的因素，包括该法案对 AI 公司施加的负担、加州在该领域的主导地位以及对该法案可能过于宽泛的批评。

据最新了解，SB 1047 法案旨在为训练成本超过 1 亿美元或者达到一定算力的开发者制定安全标准，确保大规模人工智能模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。

该法案于今年 2 月被提交给加州议会，引起很大争议。8 月 19 日，加州立法机构公布了法案的修订版。该法案得到有“人工智能教父”之称的杰弗里・辛顿和约书亚・本吉奥的支持，但也遭到杨立昆、李飞飞等科学家，以及头部人工智能企业的反对，称该法律将“阻碍创新”。

纽森称，“虽然 SB 1047 的出发点是好的，但它并没有考虑人工智能系统是否部署在高风险环境中，是否涉及关键决策或使用敏感数据。相反，只要是大型系统部署，该法案甚至对最基本的功能都适用严格标准。我不认为这是保护公众免受该技术构成的真正威胁的最佳方法。”

纽森还称，该法案可能“给公众一种关于控制这种快速发展的技术的虚假安全感”，他称，“更小、更专业的模型可能与 SB 1047 所针对的模型一样甚至更危险 —— 其代价可能是削弱推动公共利益进步的创新。”

纽森表示，他认同应当应该制定安全协议和护栏，并且不良行为者要承担“明确且可执行”的后果。然而他指出，他认为国家不应该“满足于一个不以人工智能系统和能力的实证轨迹分析为依据的解决方案”。

Meta 公共事务经理 Jamie Radice 对此表示，“我们很高兴纽森州长否决了 SB 1047。该法案将扼杀 AI 创新，损害业务增长和创造就业机会，并打破该州促进开源开发的悠久传统。我们支持负责任的 AI 法规，并继续致力于与立法者合作，以推广更好的方法。”