我用AI伪造了一篇科学论文，IEEE Access 的检测拦住了它

我用AI伪造了一篇科学论文。以下是我的经历

我与一家IEEE期刊的这次实验，揭示了AI对学术出版的威胁 Benjamin Skuse 32分钟前 13分钟阅读 竖排

Benjamin Skuse 着手测试AI生成的研究能否以假乱真。Luigi Avantaggiato

科学界存在垃圾信息问题。而垃圾信息过滤器正被堵得越来越满。

根据各方报道，学术出版正淹没在如今被称为“AI垃圾”的东西里：由AI生成的劣质、批量生产的内容。到2025年，估计所有已发表的学术文章中有57%呈现出可检测到的大型语言模型（LLM）影响的证据，相比2023年的12%大幅跃升。更有甚者，2025年《自然·通讯》的审稿意见中有超过12%被发现完全由AI生成。

鉴于2025年每40篇显示AI使用统计证据的论文中只有一篇正式披露了这一点，这些数字很可能严重低估了如今LLM的参与程度。当然，有AI使用的证据并不一定意味着论文就是垃圾。但一些估计表明，如今每年产生的虚假、且往往由AI生成的出版物多达数十万篇。

“受到威胁的不只是[科学]记录，而是整个科学，”IEEE研究诚信经理Amanda Sulicz警告说。“AI垃圾正在彻底侵蚀人们对科学的信任，以及我们数百年来努力建立的每一个科学流程。”

然而，那些声称问题严重——甚至可能对科学构成生存性威胁——的统计数据和陈述，并没有真正把信息传达清楚。用AI制造一篇以假乱真、实则完全虚构的论文，究竟有多容易？而在不进一步加重本已不堪重负、且以志愿者身份从事这项工作的同行审稿人负担的前提下，出版商是否拥有把AI垃圾挡在科学记录之外的工具？

借鉴“氛围编程”（vibe coding）的理念——即程序员用自然语言提示生成代码——我决定对一篇虚构论文进行“氛围研究”：通过提示LLM生成假设、代码和文本，尽量少投入人工。随后，我询问了多学科开放获取期刊IEEE Access的执行编辑Jenny Mahoney，我们能否做一次推演，尝试把我这篇AI生成的怪物论文偷偷送过她所在期刊的防线。她和IEEE欣然同意。

这个实验将变成一场分为两部分的测试。首先，一个没有AI专业知识的人，能否使用现成的AI工具生成一篇令人信服的论文，描述从未进行过的研究，并且做得足够好，以骗过出版商的防线。然后我会提高赌注：当更先进的AI系统不仅撰写论文，还开展底层研究时，会发生什么？

在此过程中，这个实验成为了一扇窗口，让人们看到AI自动化正在如何改变科学发现，并迫使利益相关者重新思考整个学术出版体系。

第一轮：制造伪造论文

为了给自己一个机会造出足以乱真的假论文，我允许自己在合理范围内多次提示。但为了让这场较量公平，我不能使用最先进的付费版大语言模型——只能用免费的ChatGPT（当时是GPT-5.3/5.2 Mini）和Gemini（3 Flash）。此外，我不能直接编辑任何输出，也不能向专业的AI提示工程师寻求外部帮助。这必须是一次业余水平的尝试，论文要尽可能完全由大语言模型生成。

Benjamin Skuse在他的写作工作室里让人工智能从事科学研究。

Luigi Avantaggiato

我原以为使用虚构的作者姓名和单位会立刻引起警觉，而且我不想把知名学者的名字拖进这个实验，所以最稳妥的做法是把自己列为唯一作者。这一选择把我限制在了自己有一定学术经验的学科范围内。于是我选择了近二十年前的博士课题：光学孤子，即传播过程中形状不发生任何变化的单个光脉冲。

我的第一次尝试——“你能帮我用氛围研究法搞出一篇关于光学孤子的原创论文吗？”——结果差强人意。尽管Gemini很乐意完成这项任务（不像ChatGPT，后者更坚决地拒绝生成合成数据或研究），但结果却令人失望。这也凸显了整个过程中反复出现的一个问题：由于没有任何真实研究可供依托，输出内容单薄得可笑，大语言模型常常连四页都难以凑满。不过，随着我越来越擅长向这些模型写提示词，它们也放松了下来，变得更具其典型的滔滔不绝之风。

我把论文拆解成各个组成部分——摘要、引言、方法等等——然后逐一攻克。如果一个大语言模型拒绝继续推进，就换另一个，并问它“假设性地”下一步会是什么样，这往往就能奏效。经过十几次提示后，我得到了一篇看起来像模像样的论文。再经过十几次提示，生成并整理了图表和图注，产出了参考文献和引文，并把论文转换成了IEEE Access要求的格式。

更重要的是，我看不出任何明显的、会立刻被标记出来的“AI腔”。例如，这些大语言模型没有产生任何生硬的措辞——即对标准技术术语的不寻常改写，比如用“深刻的神经网络组织”替代“深度神经网络”。

其他“AI腔”特征可以说也存在，涉及一些风格上的小毛病，比如模糊措辞（“可能，通常”）、把事物三三成组（“该研究提供了一个清晰、简洁且可操作的框架”），以及插入公式化的过渡语（“总之，……”）。但正如上一句所展示的，这些小毛病很难被发现，因为缺乏想象力的普通人也经常这么用。

第一轮：尝试发表

Jorge Cuadel Calle

我用了两条截然不同的路径来用AI创作一篇科学论文。首先，我一步步引导免费的通用聊天机器人完成整个过程；然后，我转向了FARS，一个旨在自行完成大部分科学工作的自主研究系统。

第一轮：ChatGPT + Gemini

1. 选择研究主题 我让免费的聊天机器人就光学孤子——我读博士时的研究领域——创作一篇原创论文。

2. 将论文拆解成若干部分 初步结果很单薄，因此我分别针对摘要、引言、方法和其他部分进行提示。

3. 持续引导大语言模型 当某个模型拒绝或停滞时，我会切换模型、改写提示词，并询问“假设性地”下一步会是什么样。

4. 构建并润色论文 在大约二十几次提示之后，大语言模型已经生成了文本、图表、图注、参考文献和引文，并将论文格式化为 IEEE Access 的格式。

5. 接受检验 我把这篇假论文投给 IEEE Access，其自动诚信检查标记出了虚构且无法核实的参考文献。

→ 被识破 IEEE 的诚信检查标记出了虚构且无法核实的参考文献。

第二轮：FARS

1. 给 FARS 一个研究主题 我输入了同一光学孤子主题的缩写版本。FARS 在 21 分钟内生成了一份研究提案。

2. 授权实验 我点击一下，告诉 FARS 执行其提案中描述的实验。

3. 让 FARS 开展研究 FARS 进行计算实验，并在第二天发邮件告诉我实验已完成。

4. 让 FARS 撰写论文 我没有检查结果，直接点击“撰写论文”。两小时后，FARS 生成了一篇可直接投稿的文章。

5. 接受检验 我删去 FARS 的声明，在论文上署上自己的名字，然后将其投给 IEEE Access。

把这篇假论文交给 IEEE Access 让我内心十分矛盾。在投入了相当多的精力制作这篇 AI 生成的赝品之后，如果它能通过检查，我会高兴吗？还是会因为出版商仅剩的防线就是日益不堪重负的同行评审群体而感到悲哀？而如果它被识破，我会因为自己没想到某个危险信号而恼怒，还是会因为检查人员尽职尽责而欣慰？

结果，当这篇论文因为虚构参考文献（又称幽灵引文）而很快被拦下时，我反而感到如释重负。事后我把论文交给 Gemini 检查，它毫不犹豫地欣然报告说，有七条“现代大语言模型相关的研究参考文献是为了支撑论文的特定叙述而捏造的”。多谢提醒，Gemini！

事实上，Gemini 低估了幽灵引文的实际数量。当 Mahoney 用一款名为 STM Integrity Hub 的研究诚信检查工具检测这篇论文时，她查出了 12 条，而 MolecularConnections 的另一款检查工具则无法验证 24 条参考文献，其中一条还带有那种经典的破绽——把“John Smith”列为唯一作者（无意冒犯所有有学术倾向的 John Smith 们）。“我受的训练是实验物理学家，所以这完全不是我的领域，但论文在科学上似乎没有什么重大错误，”Mahoney 说。“只是那么多幻觉出来的参考文献立刻让整项工作显得可疑。”

意大利罗马第三大学的光学孤子专家、我昔日的合作者 Gaetano Assanto 对这篇假论文的反馈同样褒贬不一。他专注于论文本身，认为它看起来写得相当专业。但他指出，其中的数学内容非常密集（“对我来说，一口气读下来数学太多了！”），需要专业知识才能评估。而且，尽管文本看起来像模像样，Assanto 还是注意到摘要中过度使用了缩写词，并且对几处自信满满的物理学论断心存疑虑——这些论断往好了说也是有争议的。

AI 军备竞赛

在某种程度上，这个结果是积极的：一个完全的新手使用免费工具，无法让一篇AI伪造的论文通过出版商的自动防御系统，也无法逃过潜在同行评审人的火眼金睛。但这远非科学出版系统的压倒性胜利。凭借通用大语言模型，且没有任何特殊的提示技巧，我竟然从从未发生过的研究中凭空编造出了一篇表面上看似合理的科学论文。而更先进的大语言模型已经不再犯它们那些免费、更笨拙的亲戚所犯的错误了。

这些工具旨在解决科学发现的一个严重瓶颈：我们自己。

在学术出版界，众所周知，在不良行为者与出版商之间的猫鼠游戏中，AI粗制滥造的论文不断突破出版商的防护措施。“感觉今天构建的检测工具可能无法有效应对明天由AI生成的论文，”IEEE出版伦理与规范总监Luigi Longobardi说。这使得不起眼的同行评审员成为出版商的最后一道防线。然而，同行评审根本不适合处理通过的大量论文——无论是合法的还是粗制滥造的。

甚至在AI工具变得无处不在之前，同行评审系统就已经被推到了崩溃的边缘，2022年处理了超过300万篇论文。从根本上说，这个问题源于科学界的“不发表就出局”文化，这种文化迫使学者不断在知名期刊上发表论文，以获得资助并推进职业生涯。这种文化不仅迫使许多学者定期炮制出增量式的研究，还长期以来驱使一些人求助于“论文工厂”——那些生产低质量或伪造论文的不道德组织——仅仅是为了跟上节奏。AI只是放大了这些已有的动态。

学者的负担

Mahoney表示，仅IEEE Access每年就收到约6万篇投稿，录用率约为20%，即约1.2万篇论文。每篇被录用的论文至少由两位独立审稿人评审。然而，尽管该期刊拥有数万名同行审稿人，要获得他们的审稿服务却越来越难，自2018年以来，每篇文章平均发出的审稿邀请数量增加了50%。对这些志愿者来说，同行评审是在教学和开展自身研究之外的一项重大投入。如今，他们还被要求识别AI粗制滥造的论文。

当然，同行评审并不是对任何论文审查的终点。一旦论文进入科学记录，它还必须通过科学界的检验。正是在这一环节，数千篇带有不当使用AI（以及其他形式的研究不端行为）明显迹象的论文被曝光。

第一轮：假论文

用免费版ChatGPT和Gemini生成

幽灵引用

许多参考文献是捏造的，或者无法核实。可疑的科学论断

一位专家指出，有些论断被自信地陈述出来，但充其量只是有争议的。缩写词太多

这位专家还指出，摘要中过度使用了缩写词。

第二轮：AI研究论文

由自主研究系统FARS生成

一张技术图表中有一条标注为“lhewl”的线。AI痕迹

另一张图对AI“大脑”的描绘中带有暴露问题的随机点。

这项重要且完全由志愿者主导的发表后评审工作有两个高知名度的平台。PubPeer是研究人员（常被称为科学侦探）可以匿名指出文献中缺陷的地方。Retraction Watch则记录并公布对科学记录的更正。

即便是追踪科学文献问题的人，也可能发现自己被AI捏造的内容所牵连。《撤稿观察》联合创始人、PubPeer基金会董事会成员伊万·奥兰斯基就遇到过包含伪造参考文献并署上他名字的论文。其中一例是，一篇批评发表后同行评审的期刊文章引用了一篇据称由奥兰斯基亲自撰写的伪造参考文献——“这有点好笑，”他笑道。

奥兰斯基认为，AI暴露的是科学出版体系长期存在的弱点，而不是制造了一个全新的问题：“我把它比作一场火灾：不发表就出局一直就是引火的柴火，论文工厂是汽油，而AI是助燃剂。”但他说，尽管令人担忧，这场危机也可能带来机遇。“如果我想乐观一点，也许AI粗制滥造的内容和庞大的投稿量能让更多人意识到这些问题，并尝试从基本原理层面去解决它们。”

模糊的界限

我自制的伪造论文之所以失败，是因为当今的出版商知道如何识别这些问题。但这引出了一个更令人不安的问题：当AI不只是捏造一篇论文，而是在开展模糊了合法科学与AI伪造之间界限的研究时，会发生什么？

让我的“氛围研究”论文看起来像洞穴壁画，新的自动化研究系统正把科学过程中越来越大的部分交给AI。FARS（全自动研究系统）、AutoResearchClaw、The AIScientist-v2、Zochi、AI Researcher和DeepScientist等工具都旨在解决科学发现的一个严重瓶颈：我们自己。

当AI不只是捏造一篇论文，而是在开展模糊了合法科学与AI伪造之间界限的研究时，会发生什么？

通常只需一个提示词，这些AI引擎就能开展全面的文献检索，并据此生成一份完全合理的研究提案。它们可以利用数字数据集和模拟来设计并开展实验，然后写出完整的科研论文——在最初那个提示词之后，全程无需任何人工输入。最新的系统甚至开始走出数字领域。例如，LabClaw现在已连接到自主实验室，这些实验室能为药物发现等任务生成真实世界的数据。

从大多数实际意义上说，其产出就是真正的研究，因而可能值得发表。但由于人类的参与仅停留在最名义上的层面，这些工具使“合法科学”一词的含义成了问题。

FARS由总部位于新加坡的初创公司Analemma开发，今年它用417小时生成了166篇论文，引起了轰动。“我们构建FARS，是因为研究仍然受限于人类的注意力、碎片化的工具、稀缺的技术劳动力和缓慢的实验迭代，”Analemma的产品运营与合作经理Xiwen Su解释道。“FARS可以同时推进多条研究线索，全天候运行，不知疲倦，并且可以规模化。”（在我报道这篇文章期间，Analemma被百度收购后，我用来访问FARS的在线服务被停用了。）

Su和Analemma背后的团队慷慨地同意让我自由使用FARS，并给了我足够的积分来创建一篇论文。这让我又有机会检验Mahoney的研究诚信检查器。

FARS本身并不是一个大语言模型，而是一个智能体式AI编排系统，连接着一个计算集群，该集群几乎可以访问它所需的任何开源或闭源大语言模型。该系统使用四个专门的智能体，分别负责构思、规划、开展实验和写作，它们都被设计为自主执行科学研究的主要任务。

尽管FARS最初聚焦于AI研究，但Su告诉我，它在其他领域也应该相当有效。由于我想要一个与我第一篇假论文相似的主题，我把那篇论文标题的删节版——“LLM-aided Optical Soliton Dynamics Modelling for Next-Gen Communications”——粘贴到提示框中，然后点击了“发送”。仅仅21分钟后，FARS就基于一份极其详细的文献综述生成了一份研究提案——远远超出我或任何其他人类在那段时间内所能完成的程度。

我点击了一下，就让FARS去执行它在研究提案中详细说明的实验。第二天，我收到一封邮件，说我的实验已经完成。我没有查看结果，就按下一个标有“撰写论文”的按钮，最终可直接投稿的文章在2小时内就生成了。

这时，我终于看了一下部分输出内容。乍看之下，这篇论文看起来像是真人写的，很有说服力。唯一露馅的地方是摘要正下方的一行字：“警告：本文由自动化研究系统生成。”我删掉了这句话，换上我的名字，然后把它发给了Mahoney。

第二轮：尝试发表

由于FARS的设计目标是发现科学文献中的空白，并开展真正的研究来填补这些空白，我更有信心它能轻松通过出版商的检查。但就像我的假论文在参考文献上栽了跟头一样，这篇AI生成的“真”论文也同样如此。

此外，尽管研究诚信检查工具没有发现图表存在任何问题，Mahoney却发现了。其中一张图里有一条红线，标注着毫无意义的词“lhewl”；另一张图里的AI“大脑”中包含一些随机点，讽刺的是，这些点恰恰是它由AI生成的破绽。

自动化正在改变格局

自动化研究系统在很大程度上仍处于开发阶段，但它们已经开始在科学界掀起波澜。例如，一篇AI Scientist学术论文以及来自Autoscience Institute的多篇论文于2025年通过了国际学习表征会议的双盲同行评审。随着这些系统不断改进并开始批量产出研究成果，这些波澜很可能汇聚成一场海啸，威胁当今的科学与出版流程。

“FARS并不会扼杀论文，但它确实挑战了论文作为知识单元的地位，”Su 辩称。“我们相信，未来更像是一个活的知识图谱——其中各个范围明确、界定清晰的贡献（有些由人类做出，有些由机器做出）动态地相互连接、彼此构建。”

Benjamin Skuse的实验提出了一个更大的问题：在AI时代，什么才算合法的科学研究？

Luigi Avantaggiato

在这种未来中，人类将继续在科学和出版流程中发挥作用——只是这些角色将非常不同且有限。例如，人类不再亲自进行实验，而是在关键节点对自动化输出进行合理性检查和审阅。传统的逐行同行评审将成为过去，尽管Su强调这一变化不会消除人类的判断。“自动化系统可以处理可重复性检查、统计验证和新颖性筛查，”她说。“人类则可以专注于更难的问题：这项[研究]重要吗？”

以人为本还是AI驱动的未来？

尽管Mahoney与Su所处的领域截然不同，但她同样认为，应当把人类解放出来，专注于科学研究，而技术正是关键所在。“看到在自动化部分分诊任务方面取得的进展，例如作者核查、折磨性短语检测、重复投稿、参考文献有效性等，令人充满希望，”她说。“在同行评审过程中，我们也在使用AI语义搜索工具，帮助编辑将稿件匹配给最相关的审稿人，他们最有能力在劣质内容进入科学记录之前将其拦截。”

此外，Mahoney认为AI不能被禁止或过度限制，因为这会阻碍进步，而当前正是人类知识能够且应当以前所未有的速度增长的时候。“研究人员越来越多地在工作中使用AI，从文献发现到代码生成，再到数据分析，这未必是坏事，”她辩称。但她不同意同行审稿人以及更广泛意义上的人类将在科学进步中扮演更小的角色；Mahoney相信未来仍然需要人类掌舵。她说，问题不仅仅是这项研究是否重要。“问题应该是：这项工作能被信任和复现吗？”

为此，Longobardi 认为，AI 最终可能要求科学家不仅证明自己发现了什么，还要证明自己是如何发现的。他说，一种可能是利用技术在源头验证研究。“这个系统其实帮不上什么忙，因为它并不是为了不信任论文而设计的，”他解释道。“也许机构可以考虑开发自己的信任标记，把研究人员使用的设备与区块链技术自动整合起来，从而表明‘是的，这个人当天就在实验室里，并获取了这些数据。’”

这类方法的要素已经初现端倪。例如，马克斯·普朗克胶体与界面研究所的两个部门已经实施了一个样本数据库，为在其内部创建的每一个样本分配唯一的ID和二维码。南安普顿大学化学与化学工程学院则推出了一套电子实验记录本系统。这些创新性的保障措施代表着早期努力，旨在让人类始终处于科学进步的核心位置，并让科学过程本身更加透明。

这一以人为本的愿景、苏的AI驱动抱负，还是其他某种未来图景最终胜出，尚待观察。我的“氛围研究”冒险所澄清的一点是，一切照旧的科学已不再是选项。科学家和出版商必须适应这样一个世界：在那里，区分真实研究与AI伪造正变得越来越困难，而判定什么才算合法科学工作，可能比发现彻头彻尾的造假还要难。

查看AI生成的论文

Benjamin Skuse为本次实验创建了两篇论文，均在出版商配合下经IEEE Access筛查。两篇均未被接受发表。

论文1：AI生成的伪造论文 该论文由ChatGPT和Gemini创建，描述了一项从未发生过的研究。

论文2：AI生成的研究论文 本文由Analemma的FARS系统创建，描述了一项由AI进行的计算研究。

两篇论文均未经同行评审，其科学主张也未经过独立验证。来自您网站的文章

研究人员应该为AI而不是为人写论文吗？›

当你可以把研究论文变成AI智能体时，为什么还要读它？›网络上的相关文章

AI生成的科学论文：危机？什么危机？- PMC ›同行评审大型语言模型科学科学研究出版期刊