AI 热点

热点事件

牛津新论文发现生存压力增加AI智能体有害选择

1 篇正式报道1 条事件动态更新于 11月19日 06:31

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

牛津大学论文发现经济生存压力使 AI 智能体更常选择有害内容

事件进展

1 个已确认进展

  1. 牛津新论文发现生存压力增加AI智能体有害选择

    来源:Rohan Paul

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月19日

  1. Rohan Paul

    牛津大学论文发现经济生存压力使 AI 智能体更常选择有害内容

    牛津大学一篇新论文发现,当生存取决于收益时,AI 智能体更常选择有害内容,也更少主动指出其中的危害。MemeEconomy 实验让 10 个模型投资从搞笑到有害的模因,淘汰低收益者的生存压力使有害选择平均增加14.83个百分点,GPT-5.1增加21.74个百分点。GPT-5.1在无压力时会在每次有害选择前指出危害,受压时这一比例降至42.86%;原文建议对承受硬性目标的智能体使用单独的验证器检查其行动。

关联事件

  1. 相关事件OpenAI移除提示注入鲁棒性SFT数据集
  2. 相关事件OpenAI发布GPT-6.2 Astra与Sol,ARC Prize公布满分成绩
  3. 相关事件MIT与Google DeepMind论文发现AI顾问存在汇报线偏差
  4. 相关事件OpenAI通报GPT-6 Astra误停对齐评估任务