Google DeepMind 与 UPenn 论文提出可解释的 AI 文本检测器
New Google DeepMind + UPenn paper shows that an AI-text detector can explain its verdicts with readable writing features and still match a black-box detector.
Google DeepMind 与 UPenn 的新论文提出一种可解释的 AI 文本检测器，用可读的写作特征解释判定结果，同时准确率接近黑盒检测器。研究在 Gemma-2-2B 检测器的内部活动上训练稀疏自编码器，把其活动拆分为特征并由 LLM 为每个特征打标签，只保留标签能较好预测其行为的特征输入简单分类器。仅用标注良好的特征，该检测器域内 F1 为 96.8，接近黑盒的 98.0；在未见测试数据上，基于基座模型特征的版本 F1 为 92.2，黑盒为 75.2。
推荐理由
AI 评分 56
论文用稀疏自编码器把黑盒检测器的内部活动拆成可读特征，在保持接近准确率的同时让判定依据可被审查。
主题
正文 · AI 翻译
Google DeepMind 与 UPenn 的新论文表明，一种 AI 文本检测器能够用可读的写作特征解释其判定结果，同时仍能与黑盒检测器相媲美。
这表明，任何部署 AI 文本检测器的人都应当能够读取并移除检测器所依赖的具体线索。
最好的 AI 文本检测器是黑盒分类器，但它们却会标记学生作文和同行评审。可读的风格计量检测器虽然存在，但远远落后于它们。
他们在 Gemma-2-2B 检测器的内部活动上训练稀疏自编码器，将其活动拆分为特征，然后让 LLM 为每个特征打标签。他们只保留标签能较好预测其特征行为的特征，并将这些特征输入一个简单的分类器。
仅使用标注良好的特征，该检测器在域内保持了 96.8 的 F1，接近黑盒的 98.0。在未见过的测试数据上，基于基座模型特征构建的版本得分为 92.2 F1，而黑盒为 75.2。
如果你的检测器的决策会影响人们，就应基于带标签的特征来构建它，以便评审者能够看到并剔除他们认为不公平的线索。