2023年,人工智能(AI)中争论最多的话题之一是安全问题,因为大型人工智能模型正在迅速变得更加强大和广泛可用。多年来,对人工智能的安全性、一致性、道德风险以及社会和环境影响的关注一直是积极讨论的焦点,但随着关于人工智能失控造成的生存风险的讨论变得更加突出,公共议程的重点有所转移。
在过去的一年里,这些担忧已经成为主流,部分原因是大赦国际的领导人 贝尼奥 和 杰弗里辛顿他们对未来强大的人工智能模型失控的情况表示担忧,要么是因为被恐怖分子或流氓国家恶意使用,要么是因为他们获得了超人的智慧,变得自我意识和自主地追求自己的目标。
自2012年前后深度学习兴起以来,AI系统在过去10年中取得了快速发展,但在过去几年里,大型语言模型和生成性人工智能的发展速度甚至更快。大约一年前,随着生成型AI模型Tg-1的发布,世界意识到了这些模型的力量,以及它们可能对社会许多领域产生的破坏性影响。还有严重的双重用途关切----恶意行为者可以利用生成的人工智能来扩大有害的犯罪计划,例如在错误信息和网络犯罪方面。 那些关注的人也许会惊讶地发现,作为查特普特背后的公司,"开放"公司正把开发人工智能作为其核心任务。
网站.该公司已经制定了一项计划,分阶段部署日益强大的人工智能,给予每个人"令人难以置信的新能力",造福全人类,同时应对潜在的风险。普赛要求我们相信他们能够正确地逐步、安全地进行部署。发布Tg-1是这方面的一个大规模实验,数以百万计的用户提供免费反馈(除了付费的注释员)。调整模型,注意到问题时加入抗毒性滤波器。然而,如何安全、全面地调整像ChatGPT这样的模型,使其符合人类的意图,还不得而知。 在前沿人工智能模型(或追求agi)中,公开赛并不是唯一的玩家。
Tg-1发布后不久,其他公司加入了与生成型模型的竞争,不管是否有聊天机器人界面,例如美达的骆驼,百度的厄尼,人类的克洛德,最近谷歌的双子座。GTP-4,一个令人印象深刻的模式多式联运版本,其基础是查特普特,发布于2023年3月wp。谷歌的研究人员最近进行的一项调查显示,谷歌在实现年龄组化方面取得了进展。 1 这些模型中有几个被归为"新兴的"年龄组,这是五个层次中最低的,这意味着这些模型至少比没有受过具体任务专门训练的人好,或者稍微好一点。 随着2023年初人工智能发展的旋风,3月人工智能研究和工业的几个关键人物签署了 公开信 来自未来生命研究所,呼吁暂停6个月的"巨大人工智能实验"。
这封信建议,只有在我们确信其效果将是积极的和其风险将是可控制的情况下,才能开发出强大的人工智能系统。然而,作为具有人工智能伦理学研究背景的专家,这一举措受到相当大的反对 争论的 公开信过于狭窄地专注于未知的科幻风险,而现在有许多已知的风险需要同等的关注,即使不是更大的关注。 对政府宣布 安全高峰会议 ,由联合王国于11月1日n至2日组织,来自28个国家和若干产业及民间社会的代表参加。
为发展大赦国际而开发护栏,并为确保大赦国际的安全发展而开展国际合作,这无疑是值得欢迎的。但是这次峰会 批评 因为它注重长期风险和依赖行业自我监管。另一个的 公开信 若干民间社会在峰会开始时发表的声明呼吁采取管制行动,处理人工智能系统可能带来的各种风险,包括目前已经影响到人权的风险。
就在10月30日安全峰会之前,美国总统约瑟夫·拜登 发布的 关于"人工智能安全和安保新标准"的行政命令。它是美国关于大赦国际的第一项行政命令,为联邦机构提供指导,以及大赦国际的标准和定义。其中,它要求最强大的人工智能系统的开发者与美国政府分享他们的安全测试结果和其他重要信息,并呼吁开发标准、工具和测试,以帮助确保人工智能系统的安全、可靠和可信。 2 . 这样的要求符合一群工业界和学术界的人工智能安全专家提出的建议,这些建议来自开放、人类和谷歌的深刻思想等等。研究人员呼吁采取措施,要求注册和报告强大的"前沿"人工智能模型、风险评估和部署后监测,同时依靠监管和自我监管 3.他们讨论了新出现的风险,以及为人工智能模型中危险能力的不可预测的发展做准备的必要性。
然而,应当指出,人工智能应用程序在过去几年里已经出现了可预见和明显的危害--例如算法歧视、对低收入数据注释员的剥削、侵犯版权和严重的假冒攻击,这些问题也没有得到解决。随着2024年即将来临,人工智能安全辩论将继续进行,我们支持呼吁确保议程不仅仅由大型技术公司的代表决定,国家和国际监管应考虑到更广泛、更全球的声音,以解决人工智能的危害、未来和当前。
