马里兰大学论文发现前沿模型可从文本识别 AI 写作与作者身份
New University of Maryland paper finds that frontier models now detect AI-written prose as well as trained detectors like Pangram, while also explaining their r
马里兰大学新论文发现,前沿模型检测 AI 写作的能力已可比拟 Pangram 等专用检测器,还能解释推理过程并识别文本作者或生成模型所属实验室。研究仅向模型提供单篇文本和零样本提示,不使用网络搜索、工具或候选名单。Claude Fable 5.2 识别出 398 份未公开作者的私密同行评审中 56% 的审稿人,并从一年发帖超过 500 次的 Reddit 用户评论中识别出 69% 对应账号。
正文 · AI 翻译
马里兰大学的一篇新论文发现,前沿模型如今检测 AI 撰写文本的能力已可媲美 Pangram 等经过训练的检测器,同时还能解释其推理过程。
仅凭文本本身,就能说出文本作者、相关 AI 实验室或具体个人的名字。
匿名同行评审和使用化名的账号都以“单凭写作内容不会暴露身份”为前提。人们此前也认为,识别 AI 文本需要经过训练的检测器,而不是普通提示词。
研究者向模型提供单篇文本和零样本提示,不允许使用网络搜索、工具或候选名单。他们测试了模型能否判断文本由 AI 还是人类撰写、由哪家实验室的模型撰写,以及由哪个人撰写。
Claude Fable 5.2 成功说出了 398 份私密同行评审中 56% 的审稿人姓名,而这些评审的作者身份从未公开。对于一年内发帖超过 500 次的 Reddit 用户,它还能根据评论识别出其中 69% 的对应账号。
如果你的产品依赖匿名写作,例如盲审或使用化名的论坛,就应将作者匿名性视为薄弱保障,并用前沿模型对其进行测试。
AI 热点