周三，一名联邦法官阻止了加州的一项新人工智能法律，距离州长加文·纽森 （Gavin Newsom） 签署该法律不到两周。在签署 AB 2839 后不久，纽森表示可以使用它来迫使埃隆马斯克删除他转发的副总统卡玛拉·哈里斯 （Kamala Harris） 的 AI 深度伪造（引发两人之间的小规模在线战斗）。然而，加州的一名法官刚刚裁定，该州不能强迫人们拆除选举深度伪造——至少现在还不能。
AB 2839 针对社交媒体上 AI 深度伪造的传播者，特别是如果他们的帖子类似于政治候选人，并且发帖者知道这是可能会让选民感到困惑的假货。该法律是独一无二的，因为它不追究出现 AI 深度伪造的平台，而是追究传播它们的人。AB 2839 授权加州法官下令删除 AI 深度伪造的海报，否则可能面临罚款。
也许不足为奇的是，该 AI 深度伪造的原始发帖者——一位名叫 Christopher Kohls 的 X 用户——在签署仅一天后就提起诉讼，以阻止加州的新法律违宪。科尔斯的律师在一份投诉中写道，卡玛拉·哈里斯 （Kamala Harris） 的深度伪造是讽刺性的，应该受到第一修正案的保护。
周三，美国地区法官约翰·门德斯 （John Mendez） 站在科尔斯一边。门德斯下令了一项初步禁令，暂时阻止加州总检察长对 Kohls 或其他任何人执行新法律，但属于 AB 2839 的音频消息除外。
请亲自阅读 Mendez 法官在他的裁决中是怎么说的：
“几乎所有经过数字修改的内容，如果由互联网上的任意个人决定，都可以被认为是有害的。例如，根据该法规，AI 生成的选民投票率近似数字可能被视为虚假内容，会合理地破坏人们对选举结果的信心。另一方面，许多“有害”的描述在向不同的人展示时，最终可能不会影响选举前景或破坏对选举的信心。正如原告令人信服地指出的那样，AB 2839 “依赖于各种主观术语和措辞笨拙的犯罪意图”，其效果是牵涉到大量受政治和宪法保护的言论......
尽管对数字操纵的媒体环境的担忧是有充分理由的，但这种恐惧并不能让立法者肆无忌惮地推翻受第一修正案保护的批评、模仿和讽刺的长期传统。YouTube 视频、Facebook 帖子和 X 推文是当今的报纸广告和政治漫画，第一修正案保护个人的言论权，无论这些批评可能采用何种新媒介。其他法定诉因，如隐私侵权、版权侵权或诽谤，已经为公众人物或个人提供了追索权，他们的声誉可能会因讽刺作家或机会主义者在互联网上兜售的人为篡改的描述而受到损害......
该记录表明，加利福尼亚州对维护选举完整性和解决人为操纵的内容有着浓厚的兴趣。然而，与第一修正案价值观的严重性以及原告和其他类似情况的内容创作者在言论冷静时所经历的持续违宪行为相比，加州的利益和该州面临的困难是微乎其微的。
从本质上讲，他裁定该法律的成文过于宽泛，可能导致州当局严重越界允许或不允许发表言论。
因为这是一项初步禁令，我们不得不拭目以待，看看加州的这项法律是否真的被永久阻止，但无论哪种方式，它都不太可能对下个月的选举产生太大影响。AB 2839 是纽森上个月签署的 18 项与人工智能相关的新法律之一。
尽管如此，这对埃隆·马斯克 （Elon Musk） 在 X 上的言论自由海报阵营来说是一个巨大的胜利。在纽森签署 AB 2839 成为法律后的几天里，马斯克和他通常的盟友发布了一系列测试加州新法律的 AI 深度伪造。
