这个故事是Nature's 10的一部分，这是由 Nature 编辑们编制的年度名单，探索科学的关键发展以及对其做出贡献的个人。 它与他人共同撰写科学论文——有时是秘密的。

它起草了演示文稿、资助提案和课程的大纲，编写了计算机代码，并充当了研究想法的共鸣板。它还编造参考资料、编造事实并反刍仇恨言论。最重要的是，它激发了人们的想象力：时而听话，时而迷人，时而有趣，甚至时而令人恐惧，ChatGPT 扮演了对话者想要的任何角色，而有些角色则不是他们想要的。

为什么要将计算机程序列入 2023 年科学塑造者名单中？ChatGPT 不是一个人。然而，在许多方面，这个项目在过去的一年里对科学产生了深远而广泛的影响。 ChatGPT 的唯一目标是按照其训练数据的风格合理地继续对话。但在这样做的过程中，它和其他生成人工智能 (AI) 程序正在改变科学家的工作方式。

他们还重新引发了关于人工智能的局限性、人类智能的本质以及如何最好地调节两者之间相互作用的争论。这就是为什么今年的自然十强新增了非人类成员。 一些科学家很早就意识到大型语言模型（LLM）的潜力。但对许多人来说，2022 年 11 月 ChatGPT 作为免费对话代理的发布很快就揭示了这项技术的强大功能和缺陷。该程序由加利福尼亚州旧金山 OpenAI 的研究人员创建；其中包括伊利亚·苏茨克韦尔 (Ilya Sutskever)，她也入选了今年《自然》杂志的 10 强。

它建立在一个拥有数千亿个参数的神经网络之上，该网络是在一个巨大的在线书籍和文档语料库上进行训练的，成本估计高达数千万美元。还聘请了大型工作团队来编辑或评估其响应，进一步塑造机器人的输出。今年，OpenAI升级了ChatGPT的底层LLM并将其连接到其他程序，以便该工具可以接收和创建图像，并可以使用数学和编码软件提供帮助。

其他公司已经赶走了竞争对手。 对于一些研究人员来说，这些应用程序已经成为无价的实验室助手——帮助总结或撰写手稿、完善应用程序和编写代码（参见Nature 621、672–675；2023）。马萨诸塞州波士顿哈佛医学院从事人工智能医学研究工作的 Marinka Zitnik 表示，ChatGPT 和相关软件可以帮助集思广益，增强科学搜索引擎并确定文献中的研究空白。Zitnik 补充道，在科学数据上以类似方式训练的模型可以帮助构建可以指导研究的人工智能系统，或许可以通过设计新分子或模拟细胞行为来指导研究。

但这项技术也很危险。自动对话代理可以帮助作弊者和抄袭者；如果不加以控制，它们可能会不可逆转地污染科学知识的源泉。未公开的人工智能内容已开始在互联网上传播，一些科学家承认使用 ChatGPT 生成文章但未声明。 此外，还有错误和偏见的问题，这些问题已经融入到生成式人工智能的工作原理中。法学硕士通过映射语言的互连来建立世界模型，然后吐出该分布的合理样本，而没有评估真假的概念。

这导致程序在训练数据中再现历史偏见或不准确之处，并编造信息，包括不存在的科学参考文献（参见WH Walters & EI Wilder Sci. Rep. 13, 14045; 2023）。 西雅图华盛顿大学的计算语言学家艾米丽·本德 (Emily Bender) 认为，使用她所说的合成文本挤出机几乎没有合适的方法。她说，ChatGPT 对环境有很大的影响，存在有问题的偏见，并且可能会误导用户认为其输出来自于一个人。

最重要的是，OpenAI 因窃取数据而被起诉，并被指控剥削劳工行为（以低工资雇用自由职业者）。 法学硕士的规模和复杂性意味着它们本质上是“黑匣子”，但当它们的代码和培训材料不公开时，理解它们为什么产生它们所做的事情就更困难了，就像 ChatGPT 的情况一样。

开源法学硕士运动正在不断发展，但到目前为止，这些模型的能力不如大型专有项目。 一些国家正在开发国家人工智能研究资源，以使大公司以外的科学家能够构建和研究大型生成人工智能（参见Nature 623 , 229–230; 2023）。但目前尚不清楚监管将在多大程度上迫使法学硕士开发商披露专有信息或内置安全功能。

没有人知道从类似 ChatGPT 的系统中还能挤出多少东西。他们的能力可能仍受到计算能力或新训练数据的可用性的限制。但生成式人工智能革命已经开始。并且没有回头路。