加州最近被否决的人工智能法案 SB 1047 背后的立法者正在摇摆不定。
几个月来，硅谷一直在争论 SB 1047 是否会对加州的人工智能繁荣产生寒蝉效应，或者是否会防止先进人工智能系统造成的灾难性伤害。答案从未变得明朗，因为加州州长加文·纽森 （Gavin Newsom） 认为这是错误的做法，并在周日该法案成为法律之前否决了该法案。
现在，加利福尼亚州参议员斯科特·维纳 （Scott Wiener） 告诉 TechCrunch，在否决前的几个月里，一些硅谷机构传播了关于 SB 1047 的前所未有的“错误信息”。（硅谷以外的人也批评了 SB 1047，包括南希·佩洛西和美国商务部。
“我以前遇到过艰难的法案，以及存在错误信息的法案。我从来没有收到过包含这种程度错误信息的法案，“维纳告诉 TechCrunch。“有一整套宣传活动。”
Wiener 特别批评了 Y Combinator 和 Andreessen Horowitz 的高管，因为他们帮助传播了 SB 1047 法案会将初创公司创始人送进监狱的说法。这在技术上并不是错误的;从理论上讲，在 SB 1047 要求的 AI 安全报告上撒谎的开发人员可能会因作伪证而入狱。但只有当开发商撒谎时，这种情况才会发生。
事实上，科技行业的一些人帮助传播了这一想法。6 月，Y Combinator 首席执行官 Garry Tan 签署了一封致加州立法者的信，声称根据 SB 1047 法案，“AI 软件开发人员可能会入狱”。同月早些时候，Andreessen Horowitz 的合伙人 Anjney Midha 在播客中表示，“任何理性的创业公司创始人或学术研究人员都不会冒着入狱或财务破产的风险，只是为了推进 AI 的最新发展。
“我认为，A16Z 是许多反对该法案的核心，”维纳说。
Y Combinator 的公共政策主管路德·洛 （Luther Lowe） 告诉 TechCrunch，围绕 SB 1047 的辩论并不像维纳所说的那样明确。
“仅语义辩论就表明，像 SB 1047 这样的法案是模糊和开放式的，”洛在一封电子邮件中说。
安德森·霍洛维茨 （Andreessen Horowitz） 向 TechCrunch 指出，该公司的首席法务官几个月前写了一封信，当时维纳也提出了类似的主张，信中指出 SB 1047 “与美国对软件开发的监管方式有着深深的不安和根本的背离”。
Wiener 称之为错误信息的另一个说法是 SB 1047 会将 AI 初创公司赶出加州。Wiener 声称，只要全国各地的初创公司在加州开展业务，它们就会受到 SB 1047 的同等影响。
OpenAI 首席战略官 Jason Kwon 在 8 月给纽森写了一封信，称 SB 1047 将把加州的企业家赶出该州。代表 Meta、Apple 和 Google 的大型科技贸易组织 The Chamber of Progress 在其网站上也有类似的说法。
Wiener 还抨击了许多人称之为 AI 教母的 Fei-Fei Li，因为她在 8 月份为《财富》杂志撰写的一篇评论文章中撰写了有关 SB 1047 的所谓不准确之处。当时，Li 写道，开发人员下载和构建的开源程序可以由原始 AI 模型提供商根据 SB 1047 关闭。围绕 SB 1047 的很大一部分争论是它将如何影响开源生态系统。
“法案中明确规定，只有当你拥有模型时，你才需要关闭它，”维纳说。“然而，李飞飞在她的文章中提出了那个不准确的说法。她非常受人尊敬，所以很不幸。
李没有立即回应 TechCrunch 的置评请求。
最后，SB 1047 的作者对纽森解释他为什么否决该法案的信提出了异议，称州长“在描述该法案时没有公正”。纽瑟姆当然确实为他的否决给出了一个意想不到的理由，他说 SB 1047 应该针对更多的 AI 模型。
纽瑟姆在信中说：“通过只关注最昂贵和大规模的模型，SB 1047 建立了一个监管框架，可能会给公众一种关于控制这种快速发展的技术的虚假安全感。“更小、更专业的模型可能与 SB 1047 针对的模型一样甚至更危险——其代价可能是限制推动有利于公共利益的进步的创新。”
包括纽森在内的许多人过去都批评 SB 1047 过于繁琐，因此看到州长建议该法案应该有一个更灵活的框架，以涵盖更多的 AI 模型，这有点令人惊讶。
尽管这次未能成为法律，但 Wiener 表示，SB 1047 加强了加州围绕 AI 安全的对话。周日，纽瑟姆宣布与 Li 和其他研究人员一起成立一个新的工作组，为负责任的 AI 开发制定护栏。该州还在 9 月通过了其他 18 项监管 AI 的法律。
Wiener 不排除他明年带着 SB 1047 的修改版回归的可能性。
“现在说我们具体要做什么还为时过早，”维纳说。“我们绝对致力于促进 AI 安全。”
