一月份,人工智能巨头 OpenAI 宣布推出一款工具,可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的,来拯救世界,或者至少保持教授和教师的理智。
半年后,这个工具就死了,因为它无法完成其设计目的。
ChatGPT 创建者 OpenAI 上周悄然拔掉了其人工智能检测工具 AI Classifier,因为该公司表示,因为“其准确率较低”。该解释并不是在新的公告中,而是在首次发布该工具的博客文章中添加的注释中添加的。OpenAI 分类器的链接不再可用。
OpenAI 写道:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视觉内容是否是人工智能生成的。”
允许使用日益复杂的人工智能的新工具几乎每天都会上线,并创建了人工智能探测器的家庭手工业。
OpenAI 宣布推出人工智能分类器,声称它可以区分人类和人工智能编写的文本。然而,即便如此,OpenAI 仍称分类器“并不完全可靠”,并补充说,对英语文本“挑战集”的评估正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”,同时错误地标记了人类编写的文本。 - 9% 的时间由 AI 编写文本。
OpenAI 表示,AI 分类器的局限性包括对少于 1000 个字符的文本不可靠、将人类编写的文本错误地标记为 AI 编写的文本,以及基于神经网络的分类器在训练数据之外表现不佳。
对准确检测人工智能非常感兴趣的一个领域是教育。自去年 11 月 ChatGPT 推出以来,教育工作者对学生使用聊天机器人写论文敲响了警钟。
OpenAI 表示:“我们认识到,识别人工智能编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”并补充说,该公司将继续扩大推广范围当它学习的时候。
OpenAI 尚未回复Decrypt 的置评请求。