跳到文章正文
应用 编辑推荐

99.96%准确率:Pangram要让AI图片无处可藏

一张看起来毫无破绽的产品图,可能完全由 AI 生成;一段看似普通的新闻配图,可能经过了局部重绘。…

一张看起来毫无破绽的产品图,可能完全由 AI 生成;一段看似普通的新闻配图,可能经过了局部重绘。生成式模型越强,辨认“哪些像素不是拍的”就越难。对内容平台、电商和媒体来说,这不再是一个技术趣味问题,而是审核、版权和信任的基础设施问题。

99.96%准确率:Pangram要让AI图片无处可藏
99.96%准确率示意图

Pangram Labs 是一家专注 AI 生成内容识别的实验室。其在本月 4 日正式发布 Pangram Image 1.0 模型,号称可以通过热力图定位 AI 生成的内容。在一个由 12 种前沿图像生成器、100 张真实照片制作的 1200 张测试数据集上,该模型取得了 99.96% 的准确率。

一分钟速览

  • Pangram Image 1.0 于 11 月 4 日发布,支持用热力图定位 AI 生成区域。
  • 测试集包含 12 种生成器、100 张真实图片,共 1200 张照片,准确率 99.96%。
  • 模型能抵抗压缩、缩放和人工修饰的影响,在 256×256 分辨率下仍有 96.4% 准确度。
  • 同场发布的 Pangram Image Flash 1.0 视频检测模型,在 DF26 数据集上准确率 98.7%。
  • 该视频模型领先第二名 29 个百分点。

为什么“检测”比“生成”更难

生成模型的目标是“像真的”,检测模型的目标是“找出不像真的地方”。这是一场不对称的对抗:生成器只要骗过人眼就算成功,检测器却要在各种压缩、裁剪、滤镜、二次编辑之后,仍然给出可靠判断。

Pangram 的测试设计,特意覆盖了这些干扰。1200 张测试图片来自 12 种前沿生成器,既有完全生成的图,也有基于真实照片的修改。模型不仅要判断“是不是 AI”,还要用热力图标出“哪里是 AI”。后者对内容审核更有价值:编辑可以据此决定是整张下架,还是只处理局部。

96.4% 的 256×256 准确度,是另一个值得注意的数字。社交平台上的图片经常被压缩到很小的尺寸,检测模型如果只在原图上有效,实际落地价值会大打折扣。Pangram 把低分辨率场景单独拿出来测试,说明它考虑到了真实的分发环境。

视频检测:更难,但更急

与图像模型一同面世的,还有 Pangram Image Flash 1.0 视频检测模型。它在 DF26 数据集上的准确率达到 98.7%,领先第二名 29 个百分点。

视频检测的难度,比图像高一个量级。视频有帧间一致性、运动模糊、压缩伪影、音画同步等问题;生成模型可以逐帧做得很好,却在时间维度上露出破绽。检测模型则需要在大量帧中寻找规律,同时控制计算成本。98.7% 的准确率,如果能在真实场景中稳定复现,意义不小。

但也要看到,数据集上的高分,不等于落地后的高分。真实世界的视频经过平台转码、二次剪辑、叠加字幕,分布会发生变化。检测模型需要持续更新,才能跟上生成模型的迭代。

检测之外,更需要“ provenance ”

AI 内容检测有一个天然局限:它本质上是在“事后判断”,而且是一场持续的猫鼠游戏。生成模型每升级一次,检测模型就要重新训练。单靠检测,很难建立长期稳定的信任机制。

因此,行业里还有另一条路线:内容溯源。通过在生成时嵌入水印、元数据或加密签名,让内容在传播过程中携带“我是谁生成的、有没有被修改”的信息。检测和溯源,一个负责“事后识别”,一个负责“事前标记”,两者互补。

Pangram 目前更偏检测。它的优势是模型覆盖广、准确率高、支持局部定位;挑战是误判成本。把真实照片判成 AI 生成,可能伤害创作者;把 AI 图判成真实,则可能让虚假信息扩散。99.96% 听起来很高,但在每天数亿张图片的平台里,0.04% 仍然是一个不小的绝对数量。

谁需要这类工具

第一类是内容平台和社交媒体。它们需要在大规模上传中快速筛查,降低虚假信息的传播风险。第二类是电商。商品图如果由 AI 生成,可能与实物不符,涉及消费者权益。第三类是媒体和出版机构,尤其是新闻图片的真实性核验。第四类是版权和保险行业,用于判断素材来源与真实性。

这些场景的共同点是:量大、时效要求高、误判成本高。检测模型不能只追求准确率,还要给出置信度和可解释的依据。热力图之所以重要,就是因为它把“判断”变成了“可复核的证据”。

趋势洞察

AI 内容检测,正在从“研究 demo”变成“合规基础设施”。随着各国对 AI 生成内容标识的要求趋严,平台需要可审计的检测能力;生成模型厂商也需要在输出端加入水印和元数据。检测、溯源、标识,三者会逐渐形成一套组合拳。

对 Pangram 来说,99.96% 是一个漂亮的起点,但真正的护城河,是持续更新的数据、对不同生成器的覆盖,以及跟平台工作流的整合。检测模型的价值,不在于实验室里的数字,而在于能不能在真实内容流里,稳定地帮人做出判断。

结语

AI 让“看图说话”变得不可靠,也让“验图”成为一门生意。Pangram Image 1.0 给出的答案,是用更高的准确率和更细的定位,把判断权交还给人类。但这场对抗不会结束:只要生成模型还在进化,检测模型就必须一直跑下去。

本文地址:https://www.163264.com/19578