AI 热点

马里兰大学论文发现前沿模型可从文本识别 AI 写作与作者身份

Rohan Paul更新于 11月22日 06:49

New University of Maryland paper finds that frontier models now detect AI-written prose as well as trained detectors like Pangram, while also explaining their r

AI 导读

马里兰大学新论文发现,前沿模型检测 AI 写作的能力已可比拟 Pangram 等专用检测器,还能解释推理过程并识别文本作者或生成模型所属实验室。研究仅向模型提供单篇文本和零样本提示,不使用网络搜索、工具或候选名单。Claude Fable 5.2 识别出 398 份未公开作者的私密同行评审中 56% 的审稿人,并从一年发帖超过 500 次的 Reddit 用户评论中识别出 69% 对应账号。

推荐理由

精选AI 评分 80

研究将零样本文本来源识别用于匿名审稿与化名账号,为依赖写作匿名性的产品提供了具体的风险测试思路。

主题

标签

正文 · AI 翻译

马里兰大学的一篇新论文发现,前沿模型如今检测 AI 撰写文本的能力已可媲美 Pangram 等经过训练的检测器,同时还能解释其推理过程。

仅凭文本本身,就能说出文本作者、相关 AI 实验室或具体个人的名字。

匿名同行评审和使用化名的账号都以“单凭写作内容不会暴露身份”为前提。人们此前也认为,识别 AI 文本需要经过训练的检测器,而不是普通提示词。

研究者向模型提供单篇文本和零样本提示,不允许使用网络搜索、工具或候选名单。他们测试了模型能否判断文本由 AI 还是人类撰写、由哪家实验室的模型撰写,以及由哪个人撰写。

Claude Fable 5.2 成功说出了 398 份私密同行评审中 56% 的审稿人姓名,而这些评审的作者身份从未公开。对于一年内发帖超过 500 次的 Reddit 用户,它还能根据评论识别出其中 69% 的对应账号。

如果你的产品依赖匿名写作,例如盲审或使用化名的论坛,就应将作者匿名性视为薄弱保障,并用前沿模型对其进行测试。

来源

Rohan Paul