Paytm 首席执行官 Vijay Shekhar Sharma 在 ChatGPT 创建者 OpenAI 发表博文表示超级智能人工智能 (AI) 拥有的巨大力量可能导致人类丧失权力甚至人类灭绝后引发了担忧。
根据 OpenAI 的说法，超级智能（一种假设的智能体，其智力超过最聪明、最有天赋的人类）可能会在本十年内出现。
Sharma 在推文中表示：“这是本周发表的 OpenAI 博客文章：在不到 7 年的时间里，我们拥有了一个可能导致人类丧失权力甚至人类灭绝的系统。我真诚地关心某些人和某些国家已经积累的力量。”
OpenAI 在 7 月 5 日发表的博文中表示：“超级智能将是人类发明的最具影响力的技术，可以帮助我们解决世界上许多最重要的问题。但超级智能的巨大力量也可能非常危险，并可能导致人类丧失权力，甚至导致人类灭绝。”
OpenAI 补充道：“虽然超级智能现在看来还很遥远，但我们相信它可能在十年内实现。”
OpenAI 表示：“管理这些风险将需要新的治理机构并解决超级智能协调问题。”
OpenAI 表示，它计划投入大量资源并创建一个新的研究团队，以确保其人工智能对人类保持安全，最终利用人工智能来监督自身。
“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。我们当前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统，因此我们当前的对齐技术将无法扩展到超级智能。我们需要新的科学和技术突破，”OpenAI 博客说道。
