OpenAI 正开发新的 AI 图像检测工具 预测照片是否由DALL-E3生成

摘要： 今日要闻钟睒睒发文悼念母亲因我被莫名网暴忧虑去世雷军小米预约到店购车一天增加万人腾讯收编字节跳动两个游戏工作室并成立新公司机器人惊艳面世划重点新增了用于检测图像是否由其生成的工具新...

​NEWS 今日要闻 钟睒睒发文悼念母亲：因我被莫名网暴忧虑去世；雷军：小米预约到店购车一天增加10万人；腾讯收编字节跳动两个游戏工作室并成立新公司；OpenAI机器人惊艳面世 ....

划重点:

- 新增了用于检测图像是否由其 生成的工具。

- 新的图像检测分类器可预测照片是否由 DALL-E3生成。

- OpenAI 还加入了不可见，用于更清晰地标记其生成的内容。

5月8日 消息:OpenAI 近日宣布，他们已开始开发新的，用于跟踪内容并证明其是否由人工智能生成。其中包括使用人工智能来确定照片是否是由 AI 生成的新的图像检测分类器，以及一种耐篡改的水印技术，可为内容添加不可见信号。

这个分类器可以预测照片是否由 DALL-E3生成。OpenAI 声称，即使图像被裁剪、压缩或饱和度发生变化，该分类器也能以约98% 的准确率检测出图像是否由 DALL-E 生成。然而，该工具在确定内容是否来自其他 AI 模型的性能则不佳，只能标记出来自其他图像生成器（如 Midjourney）的照片的5% 至10%。

此前，OpenAI 已经在图像的元数据中加入了 Coalition of Content Provenance and AuthorityC2PA）提供的内容凭证。内容凭证本质上就是水印，包含有关图像所有者和创建方式的信息。OpenAI 与微软、Adobe 等公司一样，是 C2PA 的成员之一。此外，本月，OpenAI 还加入了 CPA 的指导委员会。

除了图像分类器，OpenAI 还开始向其文本到语音平台 Voice Engine 的片段添加水印。这一功能目前处于有限预览阶段。

无论是图像分类器还是音频水印技术，都还在不断完善中。OpenAI 表示需要从用户处获得反馈以测试其有效性。研究人员和非营利 机构可以通过 OpenAI 的研究访问平台测试图像检测分类器。

多年来，OpenAI 一直致力于检测由 AI 生成的内容。然而，在2023年，他们不得不终止一项旨在识别 AI 写作文本的计划，因为 AI 文本分类器一直准确率很低。