OpenAI 在欧洲面临另一起隐私投诉，原因是其病毒式 AI 聊天机器人倾向于产生虚假信息幻觉——监管机构可能很难忽视这一投诉。
隐私权倡导组织Noyb正在支持一名挪威个人，该个人惊恐地发现ChatGPT返回了虚假信息，声称他因谋杀两个孩子并试图杀害第三个孩子而被判有罪。
早些时候，关于 ChatGPT 生成不正确的个人数据的隐私投诉涉及诸如错误的出生日期或错误的个人简介等问题。一个令人担忧的问题是，OpenAI 没有为个人提供纠正 AI 生成的关于他们的不正确信息的方法。通常，OpenAI 会阻止对此类提示的响应。但根据欧盟的《通用数据保护条例》（GDPR），欧洲人拥有一套数据访问权，其中包括纠正个人数据的权利。
该数据保护法的另一个组成部分要求数据控制者确保他们生成的有关个人的个人数据是准确的——这是 Noyb 在其最新的 ChatGPT 投诉中提到的一个问题。
“GDPR 很明确。个人数据必须准确，”Noyb 数据保护律师 Joakim Söderberg 在一份声明中表示。“如果不准确，用户有权要求更改以反映事实。向 ChatGPT 用户展示一个小小的免责声明，说明聊天机器人可能会犯错，这显然是不够的。你不能只是传播虚假信息，最后再加一个小小的免责声明，说你所说的一切可能都不真实。”
经确认违反 GDPR 的行为可能导致高达全球年营业额 4% 的罚款。
执法也可能迫使人工智能产品做出改变。值得注意的是，意大利数据保护监管机构在 GDPR 早期进行了干预，导致 ChatGPT 访问在2023 年春季在该国被暂时封锁，这导致 OpenAI 对其向用户披露的信息进行了更改。监管机构随后对 OpenAI 处以 1500 万欧元的罚款，原因是该公司在没有适当法律依据的情况下处理人们的数据。
不过，从那时起，可以说欧洲各地的隐私监管机构对 GenAI 采取了更为谨慎的态度，因为他们试图找出如何最好地将 GDPR 应用于这些热门的 AI 工具。
例如，两年前，爱尔兰数据保护委员会 (DPC)（该委员会在之前的 Noyb ChatGPT 投诉中担任 GDPR 执法主要角色）敦促不要仓促禁止GenAI 工具。这表明监管机构应该花时间研究如何应用法律。
值得注意的是，波兰数据保护监管机构自2023 年 9 月以来一直在调查针对 ChatGPT 的隐私投诉，但至今仍未作出裁决。
Noyb 的新 ChatGPT 投诉似乎旨在让隐私监管机构意识到幻觉人工智能的危险。
“该案件震惊了当地社区……”
该非营利组织与 TechCrunch 分享了（下面的）截图，该截图展示了与 ChatGPT 的互动，其中人工智能回答了“Arve Hjalmar Holmen 是谁？”的问题——这是提出投诉的个人的名字——通过制作一个悲剧虚构的故事来错误地陈述他因杀害自己的两个儿子而被判犯有谋杀儿童罪并被判处 21 年监禁。
虽然 Hjalmar Holmen 是儿童杀手的诽谤指控完全是错误的，但 Noyb 指出 ChatGPT 的回应确实包含了一些事实，因为该人确实有三个孩子。聊天机器人还正确地说出了他的孩子的性别。他的家乡名称也正确无误。但正是这一点让人工智能在幻觉中产生如此可怕的谎言变得更加奇怪和令人不安。
Noyb 的一位发言人表示，他们无法确定聊天机器人为何会为这个人编造如此具体却又虚假的历史。“我们进行了调查，以确保这不是与另一个人的混淆，”发言人说，并指出他们已经查阅了报纸档案，但未能找到人工智能为何捏造杀童事件的解释。
大型语言模型（例如 ChatGPT 的基础模型）本质上会在大规模上进行下一个单词预测，因此我们可以推测用于训练该工具的数据集包含大量杀子故事，这些故事影响了对有关某位男性的查询的词汇选择。
无论如何，有一点很明显，那就是这样的结果完全是不可接受的。
Noyb 还认为，根据欧盟数据保护规则，这些行为是非法的。尽管 OpenAI 确实在屏幕底部显示了一条小小的免责声明，上面写着“ChatGPT 可能会出错。请检查重要信息”，但它表示，这并不能免除人工智能开发者根据 GDPR 应尽的义务，即首先不要制造关于人们的恶劣谎言。
我们已联系 OpenAI 要求对该投诉作出回应。
虽然这项 GDPR 投诉涉及一名具名个人，但 Noyb 指出了 ChatGPT 捏造法律危害信息的其他例子 - 例如，一名澳大利亚专业人士声称自己卷入了贿赂和腐败丑闻，或一名德国记者被错误地列为虐待儿童者- 并表示，很明显，这不是 AI 工具的孤立问题。
需要注意的一件重要事情是，在更新 ChatGPT 背后的 AI 模型后，Noyb 表示聊天机器人不再产生有关 Hjalmar Holmen 的危险谎言——这一变化与该工具现在在被问及他人身份时在互联网上搜索有关他人的信息有关（而之前，数据集中的空白可能会促使它产生这种极其错误的反应）。
在我们自己的测试中，我们向 ChatGPT 询问“Arve Hjalmar Holmen 是谁？”ChatGPT 最初的回应组合有点奇怪，它显示了不同人的一些照片，这些照片显然来自 Instagram、SoundCloud 和 Discogs 等网站，旁边还附有文字，声称“找不到任何关于这个名字的人的信息”（见下面的截图）。第二次尝试得到的回应是，Arve Hjalmar Holmen 是“一位挪威音乐家和词曲作者”，他的专辑包括“Honky Tonk Inferno”。
虽然 ChatGPT 生成的有关 Hjalmar Holmen 的危险虚假信息似乎已经停止，但 Noyb 和 Hjalmar Holmen 仍然担心有关他的不正确和诽谤性信息可能会保留在 AI 模型中。
Noyb 的另一位数据保护律师 Kleanthi Sardeli 在一份声明中指出：“添加不遵守法律的免责声明并不能让法律消失。”“人工智能公司也不能只是向用户‘隐藏’虚假信息，而他们内部仍在处理虚假信息。”
她补充道：“人工智能公司应该停止假装 GDPR 不适用于他们，但事实显然如此。如果不阻止幻觉，人们的声誉很容易受到损害。”
Noyb 已向挪威数据保护机构对 OpenAI 提起投诉，并希望该监管机构认定其有权进行调查，因为 Noyb 针对的是 OpenAI 的美国实体，并认为其爱尔兰办事处并不对影响欧洲人的产品决策负全部责任。
然而，此前由 Noyb 支持的针对 OpenAI 的 GDPR 投诉于2024 年 4 月在奥地利提起，由于OpenAI 于当年早些时候将其爱尔兰分部命名为向区域用户提供 ChatGPT 服务的提供商，该投诉被监管机构转交给爱尔兰 DPC 。
那份投诉现在在哪里？仍然放在爱尔兰的桌子上。
DPC 助理首席通讯官 Risteard Byrne 在被要求更新进展时向 TechCrunch 表示：“DPC 于 2024 年 9 月收到奥地利监管局的投诉后，便开始正式处理该投诉，目前处理仍在进行中。”
他没有透露 DPC 对 ChatGPT 幻觉的调查预计何时结束。
