先了解这件事
AI 综述
Google DeepMind发表论文,发现AI模型无法自主做出真正随机选择。研究让Gemini、Qwen3和OLMo各从简单分布中采样1024次,所有匹配目标概率的统计检验均未通过,调整temperature或top-p也无法解决。在真实随机检查可让攻击者获胜75%的安全游戏中,Gemini的选择让攻击者获胜率达到96.6%至99.9%。论文同时发现,较大模型在由程序先给出随机数时能正确选取,并建议智能体需要随机性时在代码中生成并传入,而不是让模型自己随机。
AI 根据公开报道生成
最新进展 · 正式报道
Google DeepMind 论文发现 AI 模型无法自主做出真正随机选择事件进展
1 个已确认进展
- 来源：Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月27日
Rohan Paul
Google DeepMind 论文发现 AI 模型无法自主做出真正随机选择
Google DeepMind 新论文发现，AI 模型无法自主做出真正随机选择，但较大模型在由程序先给出随机数时能正确选取。研究让 Gemini、Qwen3 和 OLMo 各从简单分布中采样 1024 次，所有匹配目标概率的统计检验均未通过，调整 temperature 或 top-p 也无法解决；在真实随机检查可让攻击者获胜 75% 的安全游戏中，Gemini 的选择让攻击者获胜率达到 96.6% 至 99.9%。作者建议智能体需要随机性时在代码中生成并传入，而不是让模型自己随机。