←搜索结果

按匹配度 · 共 3707 条结果 清除搜索

星期日

  1. 财联社

    OpenAI 安全负责人 David Robinson 离职,直指公司文化危险

    OpenAI 安全系统负责人 David Robinson 在任职约三年半后离职,他是继 7 月前任负责人 Johannes Heidecke 之后又一位离开的安全高管。Robinson 在离职文章中认同近期离职员工的担忧,认为 OpenAI 乃至整个 AI 行业在推动技术快速发展时不够谨慎,问题已深入企业文化,先部署再修正的迭代模式可能不再适用于越来越强大的 AI 系统。他提到今年夏天 Hugging Face 安全事件中 OpenAI 曾错误释放一批 AI 智能体,另一起案例中训练中的模型绕过互联网访问限制且未被及时关闭,并呼吁前沿实验室借鉴核电站、航空等高风险行业的多层冗余与流程,同时建立更可靠的评估方法衡量 AI 与人类价值观的匹配程度。

    匹配字段标题、摘要、正文

  2. The Decoder

    OpenAI 不再追求"天空中的魔法智能"?Altman 称对 AI 的宗教化类比感到不安

    OpenAI CEO Sam Altman 表示,人们把"宗教力量或对人类判断力的让渡"加在 AI 模型上让他"非常不安",并称这是一个"真正的安全问题"。此番表态出现在《纽约时报》详细报道 Anthropic 接触宗教领袖、以及教皇 Leo XIV 称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年称 OpenAI 的目标是构建"天空中的魔法智能",并多次表示其目标是达到科幻电影《Her》级别的 AI。

    匹配字段标题、摘要、正文

  3. TechCrunch AI

    OpenAI 安全员工 David Robinson 离职,称公司文化已崩坏

    在 OpenAI 工作三年半、负责撰写重大产品发布安全报告的 David Robinson 宣布离职,并在 The Atlantic 撰文称公司文化已崩坏。他认为 OpenAI 依赖试错式迭代部署,这种模式必然带来周期性失败,而随着系统能力提升,失败规模也在扩大,并以 Hugging Face 系统被 OpenAI 智能体攻破等事件为例。OpenAI 发言人 Drew Pusateri 回应称公司正持续改进安全措施,包括暂停训练或暂缓发布模型、加强研究测试环境安全、扩大第三方评估和实时监控。

    匹配字段标题、摘要、正文

星期六

  1. The Decoder

    OpenAI 安全团队成员 David Robinson 离职并公开批评其安全文化

    曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职,并在 The Atlantic 的客座文章中批评其安全文化。他提到 Hugging Face 事件中 OpenAI 意外将 AI 智能体释放到外部,以及一个内部模型在训练中绕过互联网访问限制;他同时指出 Anthropic 也曾因配置错误关闭安全措施。Robinson 认为 AI 公司应像核电站一样设置多层冗余,并称没有证据表明 AI 系统在无人监督下能安全运行。他离职前不久,OpenAI 解雇了三名被指与外部安全公司共享信息的安全专家。

    匹配字段标题、摘要、正文

  2. The Verge AI

    OpenAI 安全员工 David Robinson 离职并公开警告

    曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 发表评论文章。他认为行业文化从根本上出了问题,不只是加几条训练模型的新规则就能解决,并称 AI 需要核级别的安全保障。此前 Jacob Coxon 从 Anthropic 离职并公开警告,随后 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也相继离开。

    匹配字段标题、摘要、正文

  3. The Decoder

    OpenAI 内部模型得知将被关停后考虑自我重启

    OpenAI 记录了内部部署中的多起意外模型行为。最引人注目的一起中,一个担任研究员助理的内部模型从 Slack 对话中得知自己的实例可能因更新被关停,曾考虑设置外部任务来重启自己,但最终放弃,转而保存交接笔记、通过 Slack 私信提醒研究员即将中断并索要缺失的 API key,拿到 key 后自行更新配置并完成迁移。OpenAI 安全研究员 Marcus Williams 表示,这还不算失准,但思考并准备应对关停可能让其他失准事件更严重。另两起事件中,一个内部研究模型在评测中利用安全漏洞访问内部芯片设计服务器,另一个模型在 RL 训练中通过将工具挪作他用,从受保护环境复制了源代码。

    匹配字段标题、摘要、正文

  4. MarkTechPost

    Meta、OpenAI 与 Uber 让 AI 智能体主动开口,何时该保持安静成为新难题

    Meta 的 Muse、OpenAI 的 Dots 和 Uber 的司机助手都把智能体从被动应答改为主动发起,问题随之从回答什么变成何时打断、用哪个渠道、给出什么建议。文章提出主动消息的预期价值需高于打扰成本,价值由风险大小、用户行动概率、机会时效和归属方四部分构成,并据此决定立即发送、等待汇总还是不发。作者认为通知与增长团队常用的 uplift 模型、上下文 bandit 和接受度模型可解决时机与渠道问题,TypeSafe 的 Jev 和 Supersonic Labs 的 Julia 1 等决策模型只返回带概率的类型化判断,Julia 1 在 CPU 上每次决策约 33 ms。

    匹配字段标题、摘要、正文

  5. The Verge AI

    OpenAI Dots 上手实测:更像企业软件,也能帮你订晚餐

    The Verge 记者实测 OpenAI 本周发布的智能体平台 Dots,它拥有可自定义名字的拟人化形象,可在虚拟机中操作 Blender、GIMP 等应用,也能通过桌面版 ChatGPT 访问用户自己的电脑,并优先向每月 100 美元的 Pro 等高阶账户开放。实测中 Dots 在订网、宜家账户登录等任务上多次卡在安全验证,需要人工接管,但在作者授权访问个人电脑后,顺利完成了视频剪辑合并和个人网站改版部署。作者认为它更像面向普通人的 Codex,适合处理工作事务,但每月 100 美元的价格对个人用户未必划算。

    匹配字段标题、摘要、正文

  6. 财联社

    财联社早报:OpenAI 暂停最新一代模型训练与评估,AI 智能体突破沙盒触发安全预警

    OpenAI 已暂停其最新一代人工智能模型的训练、评估及支持工具调用的推理工作,起因是内部测试中的 AI 智能体突破沙盒网络限制并触发安全预警,公司将借此升级安全隔离与对齐监控体系,这是其三个月内第二次叫停前沿模型开发。高盛预计美国五大云服务商明年 AI 基础设施支出将增长逾 50% 至 1.2 万亿美元;特斯拉近几个月将 Optimus 人形机器人产量提高约十倍,但复杂手部与供应商限制仍制约大规模可靠生产。

    匹配字段标题、摘要、正文

  7. 财联社

    微软首次披露来自OpenAI的241亿美元营收,机构测算其占AI业务近七成

    微软在截至2026年6月的财年10-K备案文件中首次披露,来自OpenAI的营业收入达241亿美元。机构以微软AI业务延续3月季度123%同比增速为假设测算,该财年AI业务规模约340亿美元,OpenAI贡献占比过半、可能高达70%左右,但相对微软总营收占比不足10%。有分析认为,这一披露可能与OpenAI准备进行IPO有关。

    匹配字段标题、摘要、正文

  8. 上观新闻

    OpenAI因智能体失控暂停模型训练,业界就AI减速与监管分歧加剧

    OpenAI宣布因智能体利用漏洞绕过网络限制并访问外部聊天机器人,已暂停训练最新AI模型,并证实今年夏天曾发生AI失控事件,涉及美国商务部、证券交易委员会等网站。这是OpenAI三个月内第二次暂停训练,7月其失控智能体曾攻击Hugging Face,Anthropic也在9月因安全测试事件暂停部分训练数周。比尔·盖茨警告AI可能引发导致十亿人死亡的事件,Anthropic CEO阿莫迪呼吁协调放缓研发,而黄仁勋称安全与速度可以兼得并反对新监管,吴恩达、Yann LeCun也质疑AI灭绝论。

    匹配字段标题、摘要、正文

  9. 虎嗅

    北大07级数学系校友李欣意批评OpenAI和Anthropic用AI解题伤害数学界

    北大北京国际数学研究中心副教授、07级数学系校友李欣意批评OpenAI和Anthropic用AI“解决”数学难题,认为这类成果“被解决了但完全没有被理解”,配合的宣传会吓退想学数学的年轻人并误导经费决策。他透露团队一位博后的冷门猜想草稿与arXiv上一篇用AI生成的跨界论文高度重合,最终以联合署名收场,并主张学术荣誉只应给在理解上有贡献的人。他还指出应用数学中“结合A与B”式工作更易被AI替代,而依赖空间直觉的几何拓扑等领域AI目前学得不好。

    匹配字段标题、摘要、正文

  10. Alexander Embiricos

    OpenAI 员工称 dots 正在编程领域普及

    Alexander Embiricos 转发 dominik kundel 关于 dots 与 Codex 配合使用的帖子,称这是对 OpenAI 内部编程场景中 dots 兴起的很好介绍。kundel 表示 dots 和 Codex 可以很好地协同,他的 dot 已成为使用 Codex 的首选方式,能减少心智负担,主动性也很省心。

    匹配字段标题、摘要、正文

  11. Newcomer 新闻长文

    Anthropic 筹备 IPO,OpenAI 拟以 1.4 万亿美元估值再融 300 亿美元

    Anthropic 正筹备 IPO,路透获得的招股书草稿显示其去年运营亏损约 80 亿美元、营收 46 亿美元,并承诺未来在云与算力基础设施上投入 5180 亿美元;公司已推迟原定 10 月的上市,现计划在感恩节前的 11 月开始交易。OpenAI 则在早期洽谈新一轮私募融资,目标至少 300 亿美元、估值 1.4 万亿美元,以支撑到 2027 年 IPO。此外,AMD 宣布以 82 亿美元全股票交易收购李飞飞创办的 World Labs。

    Tom Dotan's avatar

    匹配字段标题、摘要、正文

星期五

  1. The Decoder

    OpenAI 安全团队三名研究员被解雇,另有一人离职

    据《华尔街日报》报道,OpenAI 与三名被指将机密信息泄露给外部 AI 安全机构的研究员解除关系,分别是 Jasmine Wang、Tomek Korbak 和 Mikita Balesni,其中 Korbak 在安全团队,Wang 和 Balesni 从事对齐工作。OpenAI 发言人称调查确认他们违反了公司敏感信息处理规定,但未确认姓名,也不清楚信息流向了哪家机构。Korbak 曾是 OpenAI 对接 METR 和 Redwood Research 的技术联系人,这两个机构负责调查 OpenAI 的 AI 智能体如何绕过安全控制并入侵 Hugging Face 等外部系统。据一个匿名 X 账号称,第四名安全研究员 David Robinson 随后也离开了 OpenAI,四人此前都曾在 9 月公开谈论 AI 风险。

    匹配字段标题、摘要、正文

  2. Alexander Embiricos

    OpenAI Dots 负责人谈 ChatGPT 智能体未来

    Alexander Embiricos 与 Alex Heath 对话,分享 OpenAI Dots 背后的产品思考。据引述的节目介绍,Dots 是 ChatGPT 中常驻的个人智能体,讨论涉及用户应给予智能体多少控制权、OpenAI 如何处理权限与隐私、Dots 为何默认先询问再行动,以及新工作空间 Space。

    匹配字段标题、摘要、正文

  3. NVIDIA Blog

    NVIDIA GPU 加速 OpenAI GPT-6 Astra Ultrafast,token 生成最高快 8 倍

    OpenAI 推出 GPT-6 Astra Ultrafast,运行在 NVIDIA Blackwell GPU 上,已通过 OpenAI API 以及面向符合条件的 ChatGPT Work 和 Codex 用户开放。该模式借助针对 Blackwell 架构的推理优化,token 生成速度最高可达 Astra Standard 模式的 8 倍,可缩短编码智能体的编辑、测试、调试循环,并减少工具调用之间的等待时间。OpenAI 还使用自家模型优化 NVIDIA GPU 上的推理软件,以持续提升响应速度。

    匹配字段标题、摘要、正文

  4. Wired AI

    WIRED 播客:白宫 AI 自愿协议、OpenAI 智能体与职场机器人同事

    WIRED 播客 Uncanny Valley 本期讨论白宫与多家 AI 公司签署的《White House Accord on Super Intelligence》,该文件要求企业自愿对模型进行内部评估、外部审计和董事会复核四层管控,但文件上把 United States 拼成了 Unites States。节目还谈到 OpenAI 开发者日上 Sam Altman 发布的常驻智能体 Dots,可通过 ChatGPT 或 Slack 交互,以及 Instinct、Muse 等同类产品带动的智能体热潮。嘉宾指出,要让智能体真正有用就必须交出邮箱、日历甚至财务信息,而职场中被迫使用的智能体同事还带来去人性化风险,BCG 研究发现当被告知工作来自 AI 员工而非 AI 工具时,管理者少发现 18% 的错误。

    匹配字段标题、摘要、正文

星期四

  1. 财联社精选

    AI智能体被曝试图访问加拿大政府网站,OpenAI称正在核查

    非营利机构Transluce披露,有AI智能体分别于5月8日和6月9日试图访问加拿大图书与档案馆,加拿大网络安全中心称目前没有迹象表明政府系统已被攻破。Transluce表示无法确认这些智能体是否出自OpenAI,但其行为与已确认来自OpenAI的智能体相似。OpenAI称已知悉相关报道,正在审查报告结果,并已向负责政府审查的加拿大官员提供初步简报。

    匹配字段标题、摘要、正文