今年是人工智能 (AI) 融合的一年——它现在几乎融入了我们所做的一切。人工智能系统越来越多地通过物联网 (IoT) 设备及其他方式控制我们的环境。物联网设备将我们的物理环境与数字世界连接起来，目前全球有超过 150 亿台此类设备已连接。到 2030 年，这一数字预计 将翻一番 。
我们还可以通过聊天机器人与人工智能进行更加自然的互动。
和任何新兴技术一样，人工智能从小处着手：总结电子邮件并撰写有限的回复、与客服聊天机器人争论服务变更和退款，以及向机器人询问旅行建议。然而，很快人工智能将扩展到我们工作和家庭的方方面面。
未来还有更多。随着技术的进步，预测和防范新网络威胁的能力对于维护和维持我们这个互联世界的信任至关重要。人工智能还有望改善网络行业的沟通和培训，简化复杂的技术概念，让更广泛的受众更容易理解。
这是好消息，现在来说说坏消息。
人工智能系统将不可避免地成为恶意行为者的目标。这对于下一代系统尤其重要，因为事实证明，下一代系统可能会以意想不到的方式行事，例如 泄露私人和敏感信息。
人工智能驱动的安全解决方案也有可能产生许多误报，从而产生不必要的警报，给信息安全人员带来负担或忽视真正的威胁。
随着人工智能的发展，它可能会取代人类在网络安全方面的技术专长。然而，平衡人工智能驱动的自动化和人类监督至关重要——这是任何强大的网络行动的重要组成部分。
人工智能革命的下一个重大推动力将发生在这些相对孤立的系统组合成一个更大的智能时：一个庞大的发电和消费网络，每个建筑物只是一个节点，就像一个蚁群或人类军队一样。
未来的工业控制系统将包括传统的工厂机器人和用于调度其运行的人工智能系统。它们将自动订购供应品并协调最终产品的运输。它们将在需要时要求人类修复单个子系统或执行机器人无法完成的专业任务。
但我们最新的机器人与之前的型号有很大不同。它们的传感器和执行器将分布在环境中，处理过程也将分散。它们将形成一个网络，最终成为机器人。
这将彻底颠覆我们的安全观念。如果大规模的去中心化人工智能掌控一切，那么谁来控制这些人工智能就变得至关重要。
就好像一个行业中的所有行政助理或律师都为同一家机构工作；一个既值得信赖又值得信赖的人工智能将成为一个关键要求。
这种未来要求我们更多地将自己视为更大系统的一部分，而不是个人。人工智能就是自然，就是盖亚——一切都是一个系统。这种未来更符合佛教的互联互通哲学，而不是西方的个体观念。（它也符合科幻反乌托邦，比如《终结者》电影中的天网。）
这将需要我们重新思考我们对治理和经济的许多假设。这不会很快发生，但在 2024 年，我们很可能会看到这条道路上的第一步。
因此，欧盟今年 3 月通过《人工智能法案》可谓恰逢其时。该法案禁止高风险的人工智能应用，例如某些生物识别和面部识别系统、社交评分机制以及为操纵或利用而设计的人工智能。它对基础设施、教育和就业等关键领域的高风险人工智能系统制定了严格的规则，要求进行风险评估、透明度和人工监督。
尽管业界批评此举可能阻碍创新和竞争力，倡导团体也批评此举未能完全解决道德问题，但分阶段实施的目的是在监管和实用之间取得平衡。
随着创新者继续推动人工智能的发展，许多国家仍将是重要的贡献者。但这一发展必须由真正了解潜在利益和巨大风险的政策制定者和立法者来指导。
本文最初刊登于《 多伦多星报》。
在全球人工智能芯片竞赛中，中国正在奋起直追。
