←新闻详情

澎湃新闻更新于 10月19日 07:36

AI智能体抢先公布科研发现,科研规则面临新考验

AI开始“抢跑”,科研规则面临新考验_未来2%_澎湃新闻-The Paper

AI 导读

过去5周内至少发生两起AI公司抢先给出科学家长期研究问题答案的事件:OpenAI称其智能体解决了纳维-斯托克斯问题,Anthropic称Claude发现新型酶系统ART,均有研究者质疑与自身未发表研究重合,两家公司均否认使用用户数据训练。报道援引《金融时报》指出,这些事件引出科学数据归属、AI自主发现如何认定、成果如何署名等问题;《自然》9月16日社论呼吁建立透明的贡献认定机制,《遗传学前沿》10月7日综述认为AI不应被列为论文作者。

推荐理由

AI 评分 56

两起AI抢先公布科研结果的争议,引出数据归属、贡献认定与署名规则等具体问题。

主题

标签

正文

下载客户端

+1AI开始“抢跑”,科研规则面临新考验张佳欣/科技日报2026-10-19 07:03未来2% >听全文字号

过去5周内,至少已有两起类似事件。科学家长期追寻的问题,竟被AI公司抢先给出了答案,或在他们准备公布成果前就有了结果。担心未发表的研究被AI获取,一些科学家开始减少使用这类工具。

在数学领域,美国纽约大学数学家特里斯坦·巴克马斯特与AI公司Anthropic数学家莱文特·阿尔波格合作研究纳维-斯托克斯问题已有一年。9月7日,巴克马斯特公布了研究进展,并附上一份解决该问题的简化版论文。次日,OpenAI宣布,其AI智能体已经解决了这一著名数学难题。

巴克马斯特随后提出疑问:他与合作者此前输入OpenAI工具的信息,是否可能被用于训练模型?OpenAI否认了这一猜测,并表示在研究成果公开前,其研究人员和AI智能体没有接触过这些成果。

生物学领域也出现了类似争议。9月23日,Anthropic宣布,其AI智能体Claude发现了一种新型酶系统,并将其命名为“阵列相关逆转录酶”(ART)。公司称,Claude通过分析大量DNA序列,发现某些逆转录酶附近存在类似CRISPR的重复DNA序列。

几天后,丹麦哥本哈根大学计算生物学博士生马里奥·罗德里格斯·梅斯特质疑:自己和同事从2022年起便开始研究相关酶,并在过去几年使用Claude处理科研任务,向其分享尚未发表的研究材料。而Claude公布的系统与团队此前的研究存在明显重合,尤其是逆转录酶附近的重复序列及相关分子。不过,他无法确定Anthropic宣布的发现是否受到其研究的影响,也没有证据证明公司直接使用了这些未发表成果。

Anthropic回应称,公司此前并不知道有研究描述过相同的生物学发现,并表示Claude的独特贡献在于识别出相关逆转录酶属于一个更大的系统。公司还强调,Claude没有使用用户对话记录进行训练。

英国《金融时报》指出,这些事件引发了一系列深刻问题:谁拥有并控制科学数据?当科学家向AI智能体提供尚未发表的研究思路时,什么样的发现才能算作AI自主完成的发现?在AI辅助取得科研突破的时代,研究成果应当如何署名和确认贡献?

新西兰奥克兰大学听觉认知科学家塞缪尔·梅尔为实验室制定了AI使用政策,禁止学生向商业大语言模型上传受保护的信息,并提醒他们不要将这些模型用于研究过程中的任何环节。在他看来,如果无法确定第三方会如何处理相关信息,将知识产权交给商业AI服务存在很大风险。

选择退出模型训练,也未必能完全消除科学家的顾虑。AI研究人员、非营利组织Evitable创始人大卫·克鲁格指出,即使用户退出模型训练,甚至完全不使用相关系统,也未必能确保信息安全。

风险还可能出现在科研管理环节。《金融时报》指出,外部评审人员如果将保密的科研基金申请书上传至AI模型进行评估,也可能使尚未公开的研究构想暴露。英国惠康基金会等科研资助机构已禁止此类做法。

AI会不会抢在人类之前找到答案?美国加州伯克利AI安全研究机构Resolution首席科学家杰弗里·欧文认为,即使AI智能体从未接触科学家的私人研究数据,人类长期积累的“知识海洋”也足以支撑它们不断取得新发现。随着推理能力持续增强,科学家可能一次又一次发现,AI已经先于自己找到了答案。

欧文强调,科学发现被AI抢先,不一定是因为上传了未发表的论文,也可能只是因为AI越来越擅长解决问题。当被问及这一预测时,OpenAI拒绝置评,Anthropic则未作回应。

不过,能抢先给出答案,不等于能独立推动科学发现。AI研究人员、旧金山初创公司Adaption联合创始人萨拉·胡克认为,AI智能体目前仍不擅长提出推动科学发现所必需的问题,科学家在提出假设、确定研究方向方面依然发挥着关键作用。

AI参与科研的程度不断加深,科研规范也需要回应新的现实。英国《自然》杂志9月16日发表社论指出,AI公司应与科学界合作,建立可靠、透明的成果贡献认定机制,并通过独立验证、提高研究过程透明度以及恰当承认已有研究,维护科研诚信。10月7日发表于《遗传学前沿》的一篇综述进一步指出,使用AI智能体的科学家应监督其工作,披露AI在研究中的贡献,并对相关研究承担责任。由于AI无法承担道德和学术责任,因此不应被列为论文作者。

(原标题为《AI开始“抢跑”,科研规则面临新考验》)责任编辑:宦艳红澎湃新闻报料:021-962866澎湃新闻,未经授权不得转载+1收藏我要举报#AI4S查看更多

来源

澎湃新闻