人工智能的崛起给二十一世纪的公民权概念带来了前所未有的挑战。数字公民权这一新兴概念已经岌岌可危。与此同时，民主本身也有可能受到威胁。
公民权的概念本身起源于古希腊和古罗马，后来演变为在陆地民族国家内赋予个人某些权利的主流思想。如今，数字技术和互联网已经将“人类圈”——人类互动的领域——扩展到包括物理空间和虚拟空间。
从本质上讲，公民身份正在进步——在面临新挑战时，公民身份既要努力维护现有权利，又要努力获得新权利。在支持者看来，数字公民身份是这一理念的最新、也是最进步的迭代。但数字化转型并没有消除社会不平等——恰恰相反。事实上，人工智能的崛起可能会加剧与数字公民身份相关的社会不平等。
原因如下:
我们当前的数字地理反映了线下的社会不平等，使历史上被边缘化的群体难以创造内容和获取可靠信息。那些技术工具熟练程度有限的人发现他们无法获得在线公共服务，他们辨别网上真实和虚假内容的能力也受到了阻碍，这影响了他们行使公民权的能力。一个及时的例子是 2024 年美国总统竞选中出现的大量虚假图像。值得注意的是，对数字公民身份的各种解读都主张以个人充分参与数字社会的能力为前提。但当前数字公共领域的这些挑战阻碍了所有人知情、基于事实的参与。
当我们的数字社会努力应对这些挑战时，人工智能带来了更多的复杂性。当不仅是个人，而且机器实体也在网上主张公民权利时，会发生什么？如果人工智能公司的影响力超过整个城市或国家，监管机构将如何应对？正如我们之前的 研究表明，技术发展往往会带来意想不到的后果。
事实上，由于人工智能的应用仍然在很大程度上不受监管，数字公民身份面临着夭折的风险。此外，数字公民身份可以通过人工智能驱动的网络操纵进行设计、利用甚至造成伤害。公民身份——就像民主一样——并不一定以线性、渐进的方式发展；它会经历挫折、障碍和攻击。但轨迹仍然可以变得更好。
我们认为，人工智能的广泛应用对公民意识提出了三大新挑战
首先，数字公民身份是指参与和融入数字社会，从而确保个人能够从中受益。为了在数字世界中生存和发展，个人需要掌握某些能力，我们通常称之为数字素养。然而，人工智能系统可能会加剧人们之间现有的与他们使用技术的能力相关的数字鸿沟，从而使那些技能较低的人进一步落后。与这些数字素养压力的增加相关的是，人工智能推动的自动化可能会导致工作流失——对社会的不同部分产生不同的影响。牛津大学的研究人员估计，未来 9% 到 32% 的工作可能面临被自动化的风险，导致一些人失去收入，加剧社会经济差距。
其次，能够模仿人类行为的生成式人工智能聊天机器人的出现引发了人们对在线互动合法性的担忧。这些“人工智能角色”将能够模仿真正的公民，并可能借此获得政治影响力。深度伪造的视频和音频记录已经对在线信息的完整性构成了威胁——破坏了数字公共领域。这些由人工智能造成的在线环境污染可能会进一步扭曲在线对话，使数字世界成为公民自我了解的最糟糕场所——阻碍民主审议，并进一步阻碍有文化的数字公民的发展。
第三，大型社交媒体平台的主导地位将巨大的权力集中在少数人手中。这些平台利用数据、算法甚至人工智能，通过政策和商业模式影响在线空间和物理空间。而且，它们最有能力利用所有用户积累的数据来训练新的人工智能。这种权力（数据）的集中可能会被人工智能进一步放大，甚至可能在有效的监管或制衡机制建立之前。未来生命研究所和新加坡国立大学的研究人员等一些专家表示，大型科技公司在监管出台之前就已经在试图积聚权力。此外，随着人工智能和硬件变得越来越紧密地交织在一起，微软等科技巨头可能会利用这一点巩固其在硬件和软件市场的主导地位。
总而言之，人工智能将对民主产生更强大的挑战——在这种情况下，它干扰了全球数字公民的发展。这一风险要求我们紧急审议和重新评估数字公民实践——包括需要创新的公民技术，以考虑新兴的选民操纵方法，并处理影响权利享受的新社会和数字不平等问题。
公民社会和全球研究界应该考虑哪些数字公民实践能够维护民主原则并确保在这种快速发展的环境中实现权利。应对新挑战需要更强大的数字公民实践。这些实践不仅应该抵制操纵，还应该从人权的角度促进平等获得这些新技术的好处。此外，政策制定者在调整立法以应对人工智能带来的新挑战时，应该以数字公民原则为指导。
理想情况下，数字公民身份涉及旨在维护前几个时代所取得的成就和权利的实践，同时利用数字社会带来的机遇和新技术的民主潜力。
沿着这些思路进行的重新评估应该基于关于如何从权利角度理解这一概念的当前研究。
我们主张数字公民实践尊重人权和民主价值观，主张在这些新空间中进行互动以解决而不是加剧现有的社会不平等。从早期设计到实施，再到对其影响的评估，我们需要考虑新兴技术影响公民身份的所有方式。
