一些人认为 AGI 将有能力导致世界末日，变得如此聪明，以至于他们知道如何消灭人类。但 e/acc 爱好者选择关注 AGI 可以提供的好处。“除了意愿之外，没有什么能阻止我们为每个活着的人创造富裕，” e/acc 子堆栈的创始者解释道。
e/acc 运动的创始人一直笼罩在神秘之中，直到最近，@basedbeffjezos，可以说是 e/acc 的最大支持者，在身份被媒体曝光后透露自己是 Guillaume Verdon。 Verdon 曾在 Alphabet、X 和 Google 工作，现在正在开展他所谓的“AI 曼哈顿项目”，并在 X 上表示“这不是结束，而是 e/acc 的新开始。我可以挺身而出，让我们的声音在 X 之外的传统世界中被听到，并利用我的资历为我们社区的利益提供支持。
” Verdon 也是 Extropic 的创始人，这是一家科技初创公司，他将其描述为“通过利用热力学物理学，为物理世界中的生成人工智能构建终极基础”。
顶级风投的人工智能宣言
最著名的 e/acc 支持者之一是 Andreessen Horowitz 的风险投资家 Marc Andreessen，他此前将 Verdon 称为“技术乐观主义的守护神”。 技术乐观主义顾名思义：相信更多的技术最终将使世界变得更美好。安德森撰写了《技术乐观主义者宣言》，这是一份 5000 多字的声明，解释了技术如何赋予人类权力并解决所有物质问题。安德森甚至表示，“人工智能的任何减速都会导致生命损失”，如果人工智能发展不到足以预防死亡的程度，这将是一种“谋杀形式”。 他撰写的另一篇技术乐观主义文章《为什么人工智能将拯救世界》被 Meta 首席人工智能科学家 Yann LeCun 转发，Yann LeCun 因其在人工智能方面的突破而获得著名的图灵奖，被称为“人工智能教父”之一。
负责任的人工智能的承诺和怀疑
OpenAI目前正在研究Superalignment，其目标是“在四年内解决超级智能对齐的核心技术挑战”。 在亚马逊最近举行的 Amazon Web Services re:Invent 2023 会议上，它宣布了人工智能创新的新功能，同时在整个组织内实施负责任的人工智能保障措施。
AWS 负责任的人工智能主管 Diya Wynn 表示：“我经常说，负责任的人工智能不应该被视为一个单独的工作流，而应最终融入我们的工作方式，这是商业上的当务之急。” 根据AWS 委托、Morning Consult 进行的一项研究，对于 59% 的企业领导者来说，负责任的人工智能日益成为业务优先事项，其中约一半 (47%) 计划在 2024 年对负责任的人工智能进行比 2023 年更多的投资。
尽管考虑到负责任的人工智能可能会减缓人工智能的创新步伐，但像永利这样的团队认为自己正在为更安全的未来铺平道路。韦恩表示：“公司正在看到价值，并开始优先考虑负责任的人工智能，因此，系统将变得更加安全、可靠和更具包容性。” 布尔贡并不相信，并表示政府最近宣布的行动“与最终需要的相去甚远”。
他预测，人工智能系统最早可能在 2030 年发展到灾难性水平，政府需要做好无限期停止人工智能系统的准备，直到领先的人工智能开发人员能够“有力地证明其系统的安全性”。
