周日，加利福尼亚州州长加文·纽森 （Gavin Newsom） 签署了一项法案 AB-2013，要求开发生成式 AI 系统的公司发布他们用于训练系统的数据的高级摘要。除其他要点外，摘要必须涵盖谁拥有数据、数据是如何获得或许可的，以及它是否包含任何受版权保护的信息或个人信息。
很少有 AI 公司愿意说他们是否会遵守。
TechCrunch 联系了 AI 领域的主要参与者，包括 OpenAI、Anthropic、Microsoft、Google、Amazon、Meta，以及初创公司 Stability AI、Midjourney、Udio、Suno、Runway 和 Luma Labs。只有不到一半的供应商做出了回应，一家供应商——Microsoft——明确拒绝置评。
只有 Stability、Runway 和 OpenAI 告诉 TechCrunch，他们会遵守 AB-2013 的规定。
“OpenAI 遵守我们运营所在司法管辖区的法律，包括这个司法管辖区，”OpenAI 发言人说。Stability 的一位发言人表示，该公司“支持深思熟虑的监管，以保护公众，同时又不会扼杀创新”。
公平地说，AB-2013 的披露要求不会立即生效。虽然它们适用于 2022 年 1 月或之后发布的系统（ChatGPT 和 Stable Diffusion 等），但公司必须在 2026 年 1 月之前开始发布训练数据摘要。该法律也仅适用于提供给加州人的系统，留下了一些回旋余地。
但供应商对此事保持沉默可能还有另一个原因，这与大多数生成式 AI 系统的训练方式有关。
训练数据通常来自 Web。供应商从网站上抓取大量图像、歌曲、视频等，并基于这些内容训练他们的系统。
几年前，AI 开发人员的标准做法是列出其训练数据的来源，通常在模型发布时随附的技术论文中。例如，谷歌曾经透露，它在公共 LAION 数据集上训练了其图像生成系列模型的早期版本 Imagen。许多较早的论文都提到了 The Pile，这是一个开源的培训文本集合，包括学术研究和代码库。
在当今竞争激烈的市场中，训练数据集的构成被认为是一种竞争优势，公司将此列为他们不披露的主要原因之一。但是，训练数据细节也可能给开发人员带来合法的目标。LAION 链接到受版权保护和侵犯隐私的图像，而 The Pile 包含 Books3，这是一个 Stephen King 和其他作者的盗版作品库。
已经有许多关于训练数据滥用的诉讼，而且每个月都有更多诉讼被提起。
作者和出版商声称，OpenAI、Anthropic 和 Meta 使用受版权保护的书籍（其中一些来自 Books3）进行培训。唱片公司已将 Udio 和 Suno 告上法庭，理由是他们涉嫌在没有补偿音乐家的情况下进行歌曲培训。艺术家们已经对 Stability 和 Midjourney 提起了集体诉讼，他们认为数据抓取行为相当于盗窃。
不难看出 AB-2013 会给试图阻止法庭斗争的供应商带来问题。该法律要求公开有关训练数据集的一系列可能使人入罪的规范，包括说明这些数据集首次使用的时间以及数据收集是否正在进行的通知。
AB-2013 的范围相当广泛。任何“实质性修改”AI 系统（即微调或重新训练）的实体也被迫发布有关他们用于这样做的训练数据的信息。该法律有一些例外情况，但它们主要适用于用于网络安全和国防的人工智能系统，例如用于“在国家空域运行飞机”的系统。
当然，许多供应商认为被称为合理使用的原则提供了法律保护，他们在法庭和公开声明中都声称这一点。一些公司，例如 Meta 和 Google，已经更改了其平台的设置和服务条款，以允许他们利用更多用户数据进行培训。
在竞争压力的刺激下，一些公司押注合理使用辩护最终会获胜，因此对受 IP 保护的数据进行了自由的培训。路透社的报道显示，Meta 曾一度不顾自己的律师警告，使用受版权保护的书籍进行 AI 训练。有证据表明，Runway 采购了 Netflix 和迪士尼的电影来训练其视频生成系统。据报道，OpenAI 在创作者不知情的情况下转录了 YouTube 视频以开发模型，包括 GPT-4。
正如我们之前所写的，生成式 AI 供应商可以自由地摆脱困境，系统训练数据披露或不披露。法院最终可能会站在合理使用支持者一边，并认定生成式 AI 具有足够的变革性——而不是《纽约时报》和其他原告声称的剽窃引擎。
在更戏剧性的情况下，AB-2013 可能导致供应商在加利福尼亚扣留某些模型，或为仅接受合理使用和许可数据集培训的加利福尼亚人发布模型版本。一些供应商可能会认为，AB-2013 最安全的行动方案是避免泄露和引发诉讼。
