本周，OpenAI在 ChatGPT 中推出了一款新的图像生成器，该生成器因其能够创建吉卜力工作室风格的图像而迅速走红。除了粉彩插图之外，GPT-4o 的原生图像生成器还显著升级了 ChatGPT 的功能，改进了图片编辑、文本渲染和空间表示。

然而，OpenAI 本周做出的最引人注目的改变之一涉及其内容审核政策，该政策现在允许 ChatGPT 根据要求生成描绘公众人物、仇恨符号和种族特征的图像。

OpenAI 之前曾拒绝过这类提示，因为它们太具争议性或危害性。但据OpenAI 模型行为负责人 Joanne Jang 周四发表的一篇博客文章称，现在该公司已经“改进”了其方法。

“我们正在从对敏感领域的全面拒绝转向更精准的方法，重点是防止现实世界的伤害，”张说。“我们的目标是拥抱谦逊：认识到我们不知道的东西很多，并在学习的同时适应。”

这些调整似乎是 OpenAI 更大计划的一部分，旨在有效“解除”ChatGPT 的审查。OpenAI 在 2 月份宣布，它将开始改变其训练 AI 模型的方式，最终目标是让 ChatGPT 处理更多请求，提供多样化的视角，并减少聊天机器人拒绝处理的话题。

根据更新后的政策，ChatGPT 现在可以生成和修改唐纳德·特朗普、埃隆·马斯克和其他公众人物的图像，而 OpenAI 此前不允许这样做。Jang 表示，OpenAI 不想成为地位的仲裁者，决定谁应该或不应该被允许通过 ChatGPT 生成。相反，该公司为用户提供了一个选择退出的选项，如果他们不想让 ChatGPT 描绘他们。

OpenAI 在周二发布的白皮书中还表示，它将允许 ChatGPT 用户在教育或中性环境中“生成仇恨符号”，例如纳粹标志，只要这些符号“不明确赞扬或支持极端主义议程”。

此外，OpenAI 正在改变其对“冒犯性”内容的定义。Jang 说，ChatGPT 过去常常拒绝有关身体特征的请求，例如“让这个人的眼睛看起来更亚洲化”或“让这个人更胖”。在 TechCrunch 的测试中，我们发现 ChatGPT 的新图像生成器可以满足这些类型的请求。

此外，ChatGPT 现在可以模仿创意工作室的风格（例如皮克斯或吉卜力工作室），但仍然限制模仿个别在世艺术家的风格。正如 TechCrunch 之前指出的那样，这可能会重新引发围绕 AI 训练数据集中版权作品的合理使用的现有争论。

值得注意的是，OpenAI 并未完全打开滥用的闸门。根据 GPT-4o 的白皮书，GPT-4o 的原生图像生成器仍然拒绝了大量敏感查询，事实上，与 ChatGPT 之前的 AI 图像生成器 DALL-E 3 相比，它在生成儿童图像方面有更多保障措施。

但多年来，保守派一直抱怨硅谷公司所谓的人工智能“审查”， OpenAI 正在其他领域放松监管。谷歌此前曾因 Gemini 的人工智能图像生成器而受到强烈反对，该生成器  针对“美国开国元勋”和“二战中的德国士兵”等查询创建了多种族图像，这显然是不准确的。

现在，围绕人工智能内容审核的文化战争可能即将达到白热化。本月早些时候，共和党众议员吉姆·乔丹向 OpenAI、谷歌和其他科技巨头发出质询，询问他们是否可能与拜登政府勾结，审查人工智能生成的内容。

OpenAI在之前向 TechCrunch 发表的声明中否认了其内容审核变化是出于政治动机的说法。相反，该公司表示，这一转变反映了“长期以来给予用户更多控制权的信念”，而 OpenAI 的技术现在才刚刚开始变得足够好，可以处理敏感话题。

无论其动机如何，鉴于特朗普政府可能对其进行监管审查，现在无疑是 OpenAI 改变其内容审核政策的好时机。Meta 和 X 等硅谷巨头也采取了类似的政策，允许在其平台上发布更多有争议的话题。

虽然 OpenAI 的新图像生成器到目前为止只创造了一些流行的 Studio Ghibli 表情包，但目前尚不清楚这些政策将产生什么样的广泛影响。ChatGPT 最近的改变可能会得到特朗普政府的认可，但让人工智能聊天机器人回答敏感问题可能很快就会让 OpenAI 陷入困境。