加州州长加文·纽瑟姆否决了一项具有里程碑意义的人工智能（AI）安全法案，该法案遭到了多家大型科技公司的强烈反对。
这项提案本来将成为美国首批针对AI的监管法案之一。
纽瑟姆表示，该法案可能会阻碍创新，并导致AI开发者离开加州。
提出该法案的参议员斯科特·维纳认为，否决这一法案等于允许公司继续在没有任何政府监管的情况下开发“极具威力的技术”。
该法案原本要求最先进的AI模型必须进行安全测试，并且强制开发者确保其技术包含所谓的“自毁开关”，以便在AI系统成为威胁时，组织可以隔离并关闭它。
此外，法案还要求对“前沿模型”，即最强大的AI系统的开发进行官方监管。
纽瑟姆在声明中表示，法案“并未考虑AI系统是否部署在高风险环境中，涉及关键决策或敏感数据的使用”。他补充道，法案将严苛标准适用于大型系统的任何基本功能，而不论其实际用途。
与此同时，纽瑟姆宣布了保护公众免受AI风险的计划，并邀请顶尖专家帮助开发该技术的安全保障措施。
过去几周，纽瑟姆还签署了17项法案，其中包括打击虚假信息和所谓“深度伪造”的法律。这些伪造内容包括通过生成式AI创建的图像、视频或音频。
加州是全球许多最大的AI公司总部所在地，包括ChatGPT的开发公司OpenAI。
由于加州是全球最大科技公司的集聚地，任何监管该领域的法案都会对行业在全国乃至全球范围内产生重大影响。
维纳参议员表示，否决这一法案意味着AI公司仍然“没有来自美国政策制定者的任何约束，尤其是在国会继续陷入无法有效监管科技行业的僵局时”。
国会试图对AI实施安全保障的努力也已停滞不前。
包括OpenAI、谷歌和Meta在内的多家科技巨头对该法案表示反对，警告称该法案将阻碍这一关键技术的发展。
Counterpoint Research的高级分析师魏孙（Wei Sun）表示：“作为一种通用技术，AI仍处于早期阶段，因此像提案那样限制技术本身为时过早。”她补充说，更有利的方法是监管可能在未来造成危害的特定应用场景。