您是否对通用人工智能 （AGI） 感到困惑？这就是 OpenAI 痴迷于最终以“造福全人类”的方式创造的东西。您可能希望认真对待他们，因为他们刚刚筹集了 66 亿美元以更接近该目标。
但是，如果您仍然想知道 AGI 到底是什么，那么您并不孤单。
周四，在 Credo AI 负责任的 AI 领导力峰会上，经常被称为“AI 教母”的世界知名研究人员 Fei-Fei Li 在一场广泛的讨论中表示，她也不知道 AGI 是什么。在其他时候，Li 讨论了她在现代 AI 诞生中的作用，社会应该如何保护自己免受先进 AI 模型的侵害，以及为什么她认为她的新独角兽初创公司 World Labs 将改变一切。
但是，当被问及她对“AI 奇点”的看法时，Li 和我们其他人一样迷茫。
“我来自学术 AI，接受过更严格和基于证据的方法的教育，所以我真的不知道这些词是什么意思，”Li 对旧金山一个挤满了人的房间说，旁边有一扇俯瞰金门大桥的大窗户。“坦率地说，我什至不知道 AGI 是什么意思。就像人们说你看到它就知道它，我想我没见过。事实是，我不会花太多时间思考这些词，因为我认为还有很多更重要的事情要做......”
如果有人知道 AGI 是什么，那可能是 Fei-Fei Li。2006 年，她创建了 ImageNet，这是世界上第一个大型 AI 训练和基准测试数据集，对于催化我们当前的 AI 热潮至关重要。2017 年至 2018 年，她担任 Google Cloud 的 AI/ML 首席科学家。如今，Li 领导着斯坦福大学以人为本的 AI 研究所 （HAI），她的初创公司 World Labs 正在构建“大型世界模型”。（如果你问我，这个词几乎和 AGI 一样令人困惑。
OpenAI 首席执行官 Sam Altman 去年在《纽约客》的一篇报道中尝试定义 AGI。Altman 将 AGI 描述为“相当于你可以作为同事雇用的中间人”。
与此同时，OpenAI 的章程将 AGI 定义为“高度自主的系统，在最具经济价值的工作中胜过人类”。
显然，这些定义对于一家市值 1570 亿美元的公司来说还不够好。因此，OpenAI 创建了它内部使用的五个级别来衡量其实现 AGI 的进展。第一级是聊天机器人（如 ChatGPT），然后是推理者（显然，OpenAI o1 就是这个级别）、代理（据说接下来会来）、创新者（可以帮助发明事物的 AI），以及最后一级，组织（可以完成整个组织工作的 AI）。
仍然感到困惑？我也是，李也是。此外，这一切听起来都比一个中等的人类同事所能做的要多得多。
在演讲的早些时候，Li 说她从小就对智能的概念着迷。这导致她早在这样做有利可图之前就开始研究 AI。李说，在 2000 年代初期，她和其他一些人正在悄悄地为该领域奠定基础。
“2012 年，我的 ImageNet 与 AlexNet 和 GPU 相结合，许多人称之为现代 AI 的诞生。它由三个关键要素驱动：大数据、神经网络和现代 GPU 计算。一旦那一刻到来，我认为整个 AI 领域以及我们的世界的生活都不一样了。
当被问及加州有争议的人工智能法案 SB 1047 时，李小心翼翼地表示，没有重提州长纽森上周通过否决该法案而平息的争议。（我们最近与 SB 1047 的作者进行了交谈，他更热衷于重新开始与 Li 的争论。)
“你们中的一些人可能知道，我一直直言不讳地表达我对这项法案 [SB 1047] 的担忧，该法案被否决了，但现在我正在深入思考，并且非常兴奋，期待未来，”李说，“我感到非常受宠若惊或荣幸，纽森州长邀请我参与 SB 1047 后的下一步。
加利福尼亚州州长最近聘请 Li 和其他 AI 专家组建了一个工作组，帮助该州制定部署 AI 的护栏。Li 说，她在这个职位上使用循证方法，并将尽最大努力倡导学术研究和资助。然而，她也希望确保加州不会惩罚技术人员。
“我们需要真正关注对人类和我们社区的潜在影响，而不是将负担放在技术本身上......如果我们惩罚汽车工程师——比如福特或通用汽车——如果一辆汽车被有意或无意地滥用并伤害一个人，那就没有意义了。仅仅惩罚汽车工程师并不会让汽车更安全。我们需要做的是继续创新以采取更安全的措施，但也要使监管框架变得更好——无论是安全带还是限速——人工智能也是如此。
这是我听到的反对 SB 1047 的更好的论点之一，该法案将惩罚科技公司使用危险的 AI 模型。
虽然 Li 在人工智能监管方面为加州提供咨询，但她也在旧金山经营着她的初创公司 World Labs。这是 Li 第一次创立初创公司，她是为数不多的领导尖端 AI 实验室的女性之一。
“我们离一个非常多样化的人工智能生态系统还很远，”李说，“我确实相信，多样化的人类智能将导致多样化的人工智能，并且只会给我们带来更好的技术。
在接下来的几年里，她很高兴能让“空间智能”更接近现实。Li 说，当今大型语言模型所基于的人类语言可能需要 100 万年才能发展起来，而视觉和感知可能需要 5.4 亿年。这意味着创建大型世界模型是一项复杂得多的任务。
“它不仅让计算机看到，而且真正让计算机理解整个 3D 世界，我称之为空间智能，”Li 说，“我们不仅仅是为了命名事物而看到......我们真的是看得见做事，在世界里导航，彼此互动，而缩小看和做之间的差距需要空间知识。作为一名技术专家，我对此感到非常兴奋。
