Google DeepMind 论文发现 AI 模型无法自主做出真正随机选择
New Google DeepMind paper finds that AI models cannot make truly random choices on their own, but larger models pick correctly when a computer program gives the
Google DeepMind 新论文发现，AI 模型无法自主做出真正随机选择，但较大模型在由程序先给出随机数时能正确选取。研究让 Gemini、Qwen3 和 OLMo 各从简单分布中采样 1024 次，所有匹配目标概率的统计检验均未通过，调整 temperature 或 top-p 也无法解决；在真实随机检查可让攻击者获胜 75% 的安全游戏中，Gemini 的选择让攻击者获胜率达到 96.6% 至 99.9%。作者建议智能体需要随机性时在代码中生成并传入，而不是让模型自己随机。
推荐理由
AI 评分 67
论文用统计检验和攻防游戏量化了模型无法自主产生随机性，并给出把随机数交给代码生成的工程做法。
主题
正文 · AI 翻译
Google DeepMind 的新论文发现，AI 模型无法自主做出真正随机的选择，但如果先由计算机程序给出一个随机数，较大的模型就能正确选取。
智能体经常需要以固定概率随机选择行动，比如以不可预测的顺序检查服务器。LLM 声称会均匀选择，却总是落在 7、42 或答案 C 之类的偏好上。
他们让 Gemini、Qwen3 和 OLMo 模型各从简单分布中采样 1024 次。他们还尝试了其他 temperature 和采样设置，并给模型一个随机数让其转换。
所有用于检验是否匹配目标概率的统计测试均未通过，调整 temperature 或 top-p 也无法解决。在一个真正随机的检查可让攻击者获胜 75% 的安全游戏中，Gemini 的选择让攻击者获胜率达到 96.6% 至 99.9%。
如果你的智能体需要随机性，就在代码中生成并传入，而不是让模型自己随机。