你能自学识别 AI 写作吗?也许可以
Can you teach yourself to detect AI writing? Maybe - ΑΙhub
AI 写作正让书面语言结构本身发生变化,识别它没有单一铁证,只能依靠词汇、句式等模式累积判断:quietly、genuinely、delve、meticulous 等词在 LLM 输出中反复出现,"not X, but Y" 结构和三段式也构成一种共同文风。2023 年斯坦福研究发现七款流行 AI 检测器平均将 61% 的非英语母语者作文误判为 AI 生成,其中一款误判率达 97%。《Nature Human Behaviour》分析超 88 万条 Reddit 帖子、新闻和学术文章后发现,LLM 的普及与写作风格多样性下降相关。
正文 · AI 翻译
Yasmine Boudiaf & LOTI / 数据处理 / 依据 CC-BY 4.0 许可。
AI 正在悄然重塑写作。变化的不只是散文本身——书面语言的结构本身也真的在改变。
这不只是一项新技术。
这不是一时风潮。
这是一场不可否认的革命。
这篇文章的开头看起来像是 AI 生成的吗?是什么让你有这种感觉?
事实是,它并非 AI 生成;我写它是为了模仿合成散文,也就是大语言模型(LLM)把词语组织成文本时产生的那种文风。
这种文风突然之间似乎无处不在:在为积累广告点击而建的低质量网站上,在追逐互动量的社交媒体配文中,甚至在书籍手稿里。犯罪小说家 Jerry Falade 最近失去了一份价值超过 200 万美元的图书合约,因为他自己的文学经纪人表示,他们已无法忠实判断他的手稿是如何成形的。今年 3 月,Hachette 在类似疑云下撤下了恐怖小说《Shy Girl》。
在生成式 AI 出现之前,我们通常可以假定书面文本是由人撰写的。如今情况已不再如此。那么,我们怎样才能识别 AI 写的文本?
没有单一的破绽。相反,存在一些模式:某些特定的词、句子结构和表达习惯,会反复出现在 AI 生成的散文中。LLM 的更新也迅速而高效,因此今天能暴露合成文本的特征,几个月后可能就不再奏效。
quiet、quietly 和 genuinely
quietly 一词是一个重要的破绽。自 2021 年 12 月以来,该词在 Google Trends 上的搜索热度稳步攀升,不过这衡量的是搜索量而非其在写作中的出现频率,因此只能算是有提示性,而非证据。
那段时期真正发生变化的是,有多少人开始借助 LLM 写作,而这些模型似乎确实比普通人类写作者更常使用 quiet 和 quietly。
genuinely 的情况类似,而且更多是轶事性的。我注意到它在 AI 输出中被过度使用,包括 Claude,超出我对一个随意写作的人的预期。目前还没有人对这个具体的词做过严谨研究。
这一模式有据可查的版本,是自 2022 年以来在科学写作中激增的词汇:delve、meticulous、underscore、boast 和 intricate 在扫描的 PubMed 摘要中出现的频率都远高于以往,研究人员已将这一模式直接与 ChatGPT 式的措辞联系起来。
这些词单独来看都不是证据。但当 quietly、genuinely、delve 和 meticulous 这类词与同样精雕细琢的句子框架一同出现时,它开始听起来像是 LLM 之间共享的一种“共同文风”,而非某个个体的声音。
一种自成体系的共同文风
“不是 X,而是 Y”的句式是这种共同文风的另一部分,此外还有对三段式的偏爱。
它还喜欢先提出一个温和的论断,然后立刻将其升级。例如:“本文对语言提出了一个有用的视角。它从根本上改变了我们对写作意味着什么的理解。”人类写作者一直都会用这种写法,但生成式 AI 以惊人的一致性产出这一模式。
然后是破折号——最早也最被嘲弄的 AI 特征。它从来就站不住脚。一位写作者把同一个提示词输入六个聊天机器人,结果从 ChatGPT 那里在 573 个词中得到了八个破折号,而 Gemini 或 Meta AI 一个都没有。
这再次印证了这一教训:单个线索并不可靠,但它们的累积才重要。
冗长的文本
生成式 AI 使用的另一个线索是文本长度。
《大西洋月刊》的一名记者描述了这样一件事:在约翰内斯堡一名司机撞到她之后,他在现场慌乱而语无伦次的举止,仅半小时后就变成了一段用精雕细琢的散文写成的冗长文字。当她后来联系一位此前短信中满是简写的修理工时,他的回复也带着同样独特的 AI 腔调。
人类语言受到精力和时间压力的塑造。生成式 AI 消除了其中大部分成本。现实中,一个人可能会发短信说:“抱歉,要迟到了。堵车太糟了。20 分钟后到。”
AI 可以迅速把它变成一段话,解释意外的交通拥堵,表达诚挚的歉意,并感谢收信人的耐心。那个更长的版本里没有任何内容必然有错。它只是做了远超时间紧迫时该情境通常所需的语言工作。
AI 检测的危险
有些人相信 AI 检测软件能识别 AI 生成的文本。然而,这些系统远非完美,还可能加剧现有的偏见。
2023 年斯坦福大学的一项研究发现,七款流行的 AI 检测器平均将 61% 由非英语母语者撰写的文章误判为 AI 生成,其中一款工具将其中 97% 标记为 AI 生成。
自那以后,AI 检测已经有所发展,更近期的研究呈现出更复杂的图景:当前的检测器在某些场景下表现更好,但仍易被规避,并且仍会产生误报。
与此同时,问题正逐渐超越检测本身:欧盟现在要求所有 AI 生成的内容都必须标注或加水印。
LLM 正在改变我们的写作方式吗?
《自然·人类行为》的一项新研究分析了超过 88 万条 Reddit 帖子、新闻文章和学术文章,发现大语言模型(LLM)的普及与写作风格多样性的减少相关。
知道某段文字出自谁手之所以重要,是因为语言的效果会因说话者不同而不同。这个人可信吗?博学吗?风趣吗?更年轻吗?他们是真实存在的吗?
另一个原因是灵活性。人类擅长解决问题和发挥创造力,而这些能力会体现在个人语言的独特之处:一个出人意料的词、一个独特的比喻、一种可能在多位写作者身上反复出现但不会像合成文本那样成批出现的句式结构。
如果我们媒体中的文字开始听起来像是从同一个自动、缺乏创意、平淡且重复的模子里刻出来的,我们就会失去个性、细微差别,以及对书面文本及其作者真实性的信任。
本文依据知识共享许可协议从 The Conversation 转载。阅读原文。
相关文章:
专访 William Yijiang Li:视觉语言模型与物理世界
即将举行的机器学习和 AI 研讨会:2026 年 10 月版
用神经形态计算重建大脑:专访 Oliver Rhodes
面向协作式自动驾驶车辆、使用自然语言通信的神经符号规划
AIhub 月度文摘:2026 年 9 月——追踪动物种群、推荐系统,以及专访 Ken Goldberg
AI 驱动的平台揭示组织细胞区室的蛋白质
当压缩技术不只是简单相加:混合 LLM 压缩中的交互效应
#IROS2026 上有什么值得期待?