Pangram Labs 发布 Pangram Image 1.0 与 Image Flash 1.0,用于识别…
Pangram Image ist da: KI-Bilder und -Videos aufspüren | heise online
Pangram Labs 推出 Pangram Image 1.0 和 Image Flash 1.0 两款检测模型,用于识别 AI 生成的图像和视频。Image 1.0 新增 Heatmap 标出图像中的 AI 生成区域,最低分辨率从 512×512 降到 256×256,并可通过扩展 API 和 Chrome 扩展使用;Flash 1.0 对视频逐帧分析,以定位含 AI 素材的片段。Pangram 称 Image 1.0 在自建数据集上准确率达 99.96%,Flash 1.0 在 DF26 上达 98.7%,但这些数值未经独立验证。
正文 · AI 翻译
Pangram Labs 推出 Pangram Image 1.0 和 Image Flash 1.0 两款模型,用于识别 AI 生成的图像和视频。据称,主模型即使面对经过后续压缩的素材、低于 512 像素的小尺寸图像或局部图像篡改,也能识别出 AI 内容。较小的 Flash 1.0 版本则对视频逐帧检测。两款模型均可通过扩展 API 使用。Pangram Image 1.0 还已在 Chrome 扩展中提供。
广告后继续阅读
这家美国公司成立于 2023 年,创始团队包括谷歌和特斯拉的前开发者以及斯坦福大学的毕业生,专注于检测机器生成的内容。最初用户只能检查文本文档,但 2026 年 7 月推出了首个图像预览版。其背景之一是法律要求,例如自 2026 年 8 月起逐步生效的欧盟人工智能法规中的透明度义务。
热力图显示图像中的 AI 成分
随着 Pangram Image 1.0 的正式发布,该提供商现在结束了其图像识别功能的预览阶段。新增了所谓的热力图。它们应标出图像中哪些区域包含 AI 成分。例如,如果有人通过 AI 将某个物体插入真实照片,热力图就会精确标出该区域。此外,最低分辨率从 512 × 512 像素降至 256 × 256 像素。但在边长低于 512 像素时,结果会提示测试可靠性较低。
为了将 Image 1.0 与其他 AI 图像检测器进行比较,Pangram 为 100 张真实照片生成了合成对应图像。十二个当前前沿图像生成器接收了尽可能精确描述原图的提示词,并生成了 1200 张图像。这些相似的画面旨在防止检测器在测试中将特定图像内容一概判定为 AI 生成。决定性因素应是各图像中 AI 生成的特征。据 Pangram 称,在该数据集上,Pangram Image 1.0 达到了 99.96% 的准确率。据 Pangram 表示,该模型在 Synthbuster 和 Community Forensics 等学术基准测试中也表现良好。该模型对压缩、模糊和噪声具有鲁棒性,因为它专门针对此类变化进行了训练。
视频逐帧检测
对于视频,Pangram 提供了更小、更快的模型 Image Flash 1.0。制造商以科学研究 DF26 为依据,说明此类方法的必要性。根据该研究,人类识别真实和 AI 生成的说话人视频的能力几乎与随机猜测无异,而以往的检测器也只略好一些。Flash 1.0 现在对上传的视频逐帧分析。由此应能界定哪些片段包含 AI 素材。据开发者称,该模型在 DF26 上达到 98.7%,比次优检测器高出 29 个百分点。
广告后继续阅读
据 Pangram 称,为了与其他提供商进行比较,Pangram 创建了自己的测试集。基础是来自社交网络的 129 个真实视频。一个视觉语言模型(VLM)分别描述了其中的情节,14 个前沿视频生成器获得了这些描述以及首个真实单帧图像,并据此各生成一个视频。每个生成器基于从 129 个原始视频中选出的模板生成了 100 个视频。连同原始视频,该数据集共包含 1529 个视频。据 Pangram 称,结果显示 Flash 1.0 在多个大型识别服务面前表现更好。不过,这些数值并未经过独立验证。
(fo)