AI News

AI-generated junk papers falsely use the names of scholars such as Hinton and Fei-Fei Li, and pay-to-publish journals use these names to attract submissions

36Kr · AIUpdated Nov 16 21:20

English text is being prepared.

AI summary

A group of newly registered pay-to-publish journals has been exposed for mass-publishing AI-generated junk papers under the names of well-known scholars such as Geoffrey Hinton, Yann LeCun, Fei-Fei Li, and Andrew Ng, all without the knowledge of the named individuals. After Alan Said, a professor at the University of Gothenburg, discovered the impersonation papers, the paper's author was changed twice within two days, and the editor-in-chief and editorial board lists of the same batch of journals were also alleged to have been misappropriated. Christopher Manning called on Google Scholar not to index these papers, and the report also noted that such content may flow back into model training corpora.

Why read this

AI score 66

The report outlines how impersonation journals use AI to mass-generate papers and attach the names of well-known scholars, as well as why the indexing stage becomes a risk entry point.

Topics

Tags

Body

某天,哥德堡大学计算机科学教授 Alan Said 收到了一条谷歌学术的推送:他有一篇新论文发表了。

论文题为《Intelligence Systems Supporting Sustainable Global Development》(支持全球可持续发展的智能系统),刊登在一本名为 American International Journal of Research and Innovation(AIJRI)的期刊上。题目和他「AI 与可持续性」的研究方向沾边,署名也确实是他。

问题是:这篇论文不是他写的。

「我写一篇这个方向的论文并不奇怪,但只要看一眼论文本身和它的参考文献,就知道是 AI 生成的。它没有任何内容,就是一堆 slop。」Said 在接受 Times Higher Education(简称 THE)采访时这样说。

顺着这篇论文,THE 挖出了一个更大的盘子:一批名不见经传的期刊,正在以斯坦福、伯克利等顶尖高校教授的名义,批量发表 AI 生成的垃圾论文。被「署名」的人里,包括 Geoffrey Hinton、Yann LeCun、Yoshua Bengio、李飞飞、Christopher Manning、Michael I. Jordan、吴恩达和 Stuart Russell 等诸多 AI 领域的著名研究者。

删了作者,论文还在,换个名字接着挂

但论文并没有消失,只是作者从 Said 换成了另一个人。根据 Said 提供给 THE 的截图,两天之后,作者又换了一次。同一篇论文,就这样先后挂在三个不同的人名下。

这个细节相当说明问题:对这类期刊来说,论文内容根本不重要,重要的是挂在上面的名字。名字可以随时替换,就像商品页面换一张模特图。

Said 随后又发现了两本「兄弟期刊」:American Journal of Advanced Multidisciplinary Research and Innovation(AJAMRI)和 American Journal For Multidisciplinary Research(AJFMR)。三本期刊视觉风格相似,主编和编委会成员相同。

其中 AJAMRI 已经发表了几十篇署名知名学者的论文,名单堪称 AI 圈的「全明星阵容」:斯坦福的李飞飞和 Christopher Manning,伯克利的 Michael I. Jordan 和 Stuart Russell。

斯坦福大学计算机科学教授 Jure Leskovec 也在名单之中。他向 THE 明确表态:「我可以确认,我没有写这篇论文,没有参与投稿,也没有授权使用我的名字。在收到你们的邮件之前,我甚至不知道它的存在。这相当令人担忧。」

仔细看这三本期刊,破绽并不难找。

三个网站的域名都是 2026 年才注册的,网站上却挂着「数年前」发表的论文存档。它们统一自称「同行评审、开放获取、多学科」期刊,并且明码标价收取发表费用。

收费规则也值得一看。AIJRI 和 AJAMRI 对「五位及以上非印度籍作者」的论文收取 200 美元;AJFMR 则对 1 到 4 位作者收 80 美元,5 位及以上作者只收 10 美元。

三本期刊的主编都写着同一个名字:Denish Brown。联系方式是一个美国区号的 WhatsApp 号码。编委会里列了几十位成员,大多来自印度高校。

但这份编委名单同样经不起推敲。弗吉尼亚联邦大学博士后 Kanakaraju Manupati 就在其中,他告诉 THE:「我不知道这本期刊的存在,也和它没有任何关联。刚刚去看了期刊网站,很惊讶在编委会里看到了自己的名字。」

也就是说,从作者到编委,这些期刊的「学术背书」很可能是整套盗用来的。THE 联系了三本期刊,截至发稿未获回复。

Manning:「这是一种更恶劣的骗局」

报道发出后,被点名的 Christopher Manning 在 𝕏 上回应,他此前已经见过两篇「署名」他的假论文,分别刊登在所谓的 International Journal of Computer Vision and AI Applications 和 International Journal of Clinical and Medical Sciences 上。

前者的名字明显在蹭计算机视觉顶刊 IJCV(International Journal of Computer Vision)的热度;后者更离谱,一位 NLP 学者「发表」在临床医学期刊上。值得注意的是,这两本期刊并不在 THE 调查的三本之列,这意味着类似的操作可能远不止一个团伙。

「骗子期刊一直都有;这是一种更恶劣的骗局。」Manning 写道,「最要紧的是别让它们被索引!拜托了,Google Scholar!」

评论区有用户抱怨,Google Scholar 一直在给他推荐一些明显是假的论文,作者栏里挂着一堆大牛,「我实在想不通动机是什么,为什么有人要这么干?」

Manning 的回复点出了关键:THE 的报道认为,这些期刊把知名学者列为作者,目的是让博士生们也被吸引过来投稿,而这些期刊是收费的。他最后补了一句:「说不定还真管用!」

冒名的生意经:拿大牛的名字当广告牌

这正是 Said 最担心的地方:「如果一位刚入学的博士生在这本期刊上看到我的名字,他可能会觉得投这里也没问题,我真的不希望发生这种事。」

传统的掠夺性期刊(predatory journal)靠的是「快速发表、来稿必登」吸引急于凑论文数的作者。但它们普遍有一个短板:看起来不像正经期刊。而生成式 AI 恰好补上了这块短板,几分钟就能批量「写」出格式规范、引文齐全、看似言之有物的论文,再挂上顶级学者的名字,一本野鸡刊就能在几周内「包装」出体面的过刊和豪华的作者阵容。

这套玩法并非首次出现。雅典经济与商业大学软件工程教授 Diomidis Spinellis 在 2023 年 12 月也遭遇过一模一样的事:一篇题为《Global Business Strategies in the Digital Age》的论文以他的名字和单位,发表在 Global International Journal of Innovative Research(GIJIR)上,还配了一个有效的 DOI。

Spinellis 没有止步于澄清。他把整个 GIJIR 网站爬了下来做分析,并于 2025 年在《Research Integrity and Peer Review》上发表了案例研究。在引文数最少的 53 篇文章中,至少 48 篇看起来是 AI 生成的,Turnitin 检测给出的 AI 概率在多篇论文上高达 100%。他的结论是:这类期刊一方面用冒名的 AI 论文抬高自身地位,另一方面以此吸引那些想要刷论文数的作者。

据 JMIR 今年 6 月的一篇报道,Spinellis 把 GIJIR 的论文归为三类:占大头的是期刊自己用 AI 生成、冒用学者姓名的「虚假署名论文」;其次是作者花钱买来的「购买署名论文」;真正的研究反而是少数。

类似事件在 2026 年明显变得密集。今年 4 月,知名心脏病学家 Eric Topol 发现自己的名字被一本数字健康期刊冒用;5 月,NBC News 报道了一个已发表上百篇 AI 生成论文的假期刊网络,其中部分论文同样冒用了顶尖高校教授的名字。

真正的漏洞在下游

如果这些论文只是躺在一个无人问津的网站上,危害或许有限。但 Manning 的呼吁指向了问题的真正症结:索引。

Said 之所以发现这篇论文,恰恰是因为 Google Scholar 把它收录进了自己的主页,并主动推送给他。一旦被学术搜索引擎收录,这些论文就会出现在学者的个人主页上,进入检索结果,甚至被其他论文引用。Spinellis 那篇冒名论文在发表后的几个月里就收获了 3 次引用。

对 AI 行业来说,还有一层更隐蔽的风险:大量模型训练数据来自爬取的学术文献。当 AI 生成的垃圾论文被挂上真实学者的名字、进入索引,它们就有可能回流进下一代模型的训练语料,形成「AI 生成、AI 收录、再被 AI 学习」的污染闭环。

从技术上说,这并不是无解的问题。Spinellis 在研究中提出的方向包括加强 DOI 和 ORCID 的身份核验机制、改进 AI 内容检测,以及改革以论文数量为导向的科研评价体系。JMIR 的报道还提到,研究者在投稿前可以借助 Think.Check.Submit 这类核查清单核对期刊的 ISSN、DOI 和独立索引情况。

但所有这些措施都绕不开一个现实:生成一篇假论文的成本已经趋近于零,而澄清一篇假论文的成本,全部落在了受害学者身上。Said 投诉之后,论文换了个作者继续挂着;Leskovec 直到记者发邮件才知道自己「发表」了论文;Manupati 被挂在编委会里也毫不知情。

那么,问题来了:当李飞飞和 Manning 这样的名字都可以被随意借用,学术署名本身还能在多大程度上作为信任凭证?在 AI 让「写论文」变得廉价的时代,学术界需要守住的,或许不再只是内容的真实性,还有名字的真实性。

参考链接

本文来自微信公众号 “机器之心”(ID:almosthuman2014),作者:关注AI滥用的,36氪经授权发布。

Source

36Kr · AI