←搜索结果

按匹配度 · 共 1248 条结果 清除搜索

星期二

  1. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5.3 Instant 系统卡

    OpenAI 发布 GPT-5.3 Instant 系统卡,该模型是 GPT-5 系列新成员,响应更快、联网搜索时答案上下文更丰富,并减少不必要的死胡同、免责声明和过于武断的措辞。安全评估显示,它在禁用内容评测上平均高于 gpt-5.1-instant、低于 gpt-5.2-instant,在禁用性内容和自残类别上相对前代出现退步,图形暴力与暴力非法行为类别的退步统计显著性较低。HealthBench 上得分为 54.1%(-1.3%),Hard 为 25.9%(-0.9%),Consensus 为 95.3%(-0.5%)。

    匹配字段标题

  2. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5.3-Codex 系统卡

    OpenAI 发布 GPT-5.3-Codex 系统卡,称其为迄今最强的智能体编码模型,结合 GPT-5.2-Codex 的编码能力与 GPT-5.2 的推理和专业能力,可执行涉及研究、工具调用和复杂执行的长任务。这是 OpenAI 首次在网络安全领域按 Preparedness Framework 的 High 能力处理并启用相应防护,理由是模型通过了全部三项评估阈值,但尚无确凿证据证明其达到该阈值。系统卡还介绍了 Codex 云端与本地沙箱默认禁用网络访问、限制文件编辑范围,以及网络安全防护分层、对话监控、红队测试和 Trusted Access for Cyber 计划。

    匹配字段标题

  3. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5.2 系统卡更新

    OpenAI 发布 GPT-5 系统卡更新,覆盖 GPT-5.2 模型家族(含 gpt-5.2-instant 与 gpt-5.2-thinking)的安全评测。在提示注入的 Agent JSK 与 PlugInject 评测中,两个版本均显著提升并接近饱和;GPT-5.2 Thinking 在启用浏览时于商业营销、金融税务、法律监管、学术写作和时事新闻五个领域实现低于 1% 的幻觉率。生产流量中 GPT-5.2 Thinking 的欺骗率为 1.6%,低于 GPT-5.1 并略低于 GPT-5;生物与化学领域仍按 High 能力处理并启用相应防护,网络安全与 AI 自我改进未达 High 阈值。

    Figure 1

    匹配字段标题

  4. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5.2-Codex 系统卡增补:网络安全能力增强但未达 High 阈值

    OpenAI 发布 GPT-5.2 系统卡增补,介绍面向 Codex 智能体编码优化的 GPT-5.2-Codex。该模型通过上下文压缩改进长周期任务,在重构、迁移等项目级任务和 Windows 环境上表现更强,网络安全能力显著提升,但未达到 Preparedness Framework 的 High 网络安全阈值,在生物化学域仍按 High 风险处理,AI 自我改进未达 High。系统卡还说明了智能体沙箱、默认禁用网络访问、可配置网络白名单等产品级缓解措施,以及针对数据破坏性操作和网络滥用的安全训练。

    Figure 1

    匹配字段标题

  5. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5.1 Instant 与 GPT-5.1 Thinking 系统卡补充

    OpenAI 于 2025 年 11 月 12 日发布 GPT-5.1 Instant 与 GPT-5.1 Thinking 的系统卡补充,给出这两个新版本的安全基线指标。GPT-5.1 Instant 更贴近对话,指令遵循更好,并具备自适应推理能力,可自行决定何时先思考再回答;GPT-5.1 Thinking 则更精确地按问题调整思考时间,GPT-5.1 Auto 继续自动路由查询。安全评测方面,两者在 Production Benchmarks 上整体与 GPT-5 前代相当,gpt-5.1-thinking 在骚扰与仇恨言论、违规性内容上略有回退,gpt-5.1-instant 在违规性内容、暴力内容、心理健康和情感依赖上略逊于 gpt-5-instant-oct3。OpenAI 仍将 GPT-5.1 在生物与化学领域列为高风险并沿用相应防护措施。

    匹配字段标题

  6. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5.1-Codex-Max 系统卡

    OpenAI 发布 GPT-5.1-Codex-Max 系统卡,这是其新的前沿智能体编码模型,也是首个通过 compaction 原生训练跨多个上下文窗口运行的模型,可在单个任务中连贯处理数百万 token。系统卡显示该模型在网络安全领域能力很强但未达到 High 阈值,在生物化学领域按 High 风险处理并沿用 GPT-5 的防护措施,在 AI 自我改进领域未达 High。产品层面默认禁用网络访问并将文件编辑限制在当前工作区,用户可按项目配置允许访问的站点。

    Figure 1

    匹配字段标题

  7. OpenAI:部署安全与系统卡

    OpenAI 发布 Deep Research 系统卡

    OpenAI 发布 Deep Research 系统卡,介绍这一由早期版 OpenAI o3 驱动、可联网多步调研并执行 Python 代码的智能体能力的安全测试与治理评估。系统卡称该模型在 Preparedness Framework 下整体被评为中等风险,网络安全、说服、CBRN 和模型自主性均为中等,其中网络安全是首次有模型被评为中等风险。针对提示词注入,OpenAI 新增安全训练数据并限制模型访问或构造任意 URL,以降低数据外泄风险。

    Figure 1

    匹配字段标题

  8. OpenAI:部署安全与系统卡

    OpenAI 发布 ChatGPT Images 2.5 系统卡

    OpenAI 发布 ChatGPT Images 2.5 系统卡,介绍 GPT-Image-2.5-Sunburst 和 GPT-Image-2.5-Flare 两个模型。新模型在图像编辑一致性、信息图准确度与排版上有所提升,并新增草图生成、模板和共享提示词等功能。安全方面,OpenAI 称其安全栈沿用 ChatGPT Images 2.0 基础并针对更高真实感带来的深度伪造风险增加防护,同时通过 C2PA 元数据和 Google DeepMind 的 SynthID 水印强化来源标注。

    匹配字段标题

  9. OpenAI:部署安全与系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡,介绍该模型在图像生成能力上的提升,并新增 thinking mode,可在生成过程中结合推理与工具调用、接入实时网络搜索数据。安全方面沿用 ChatGPT Images 1.5 的安全栈并增加防护,采用提示层与图像层分类器及安全推理模型做输入和输出拦截。评估显示 instant 模式对 685 张违规图像的综合召回率为 96.1%,thinking 模式综合安全输出达 6886/6944(99.2%);生物化学领域因专家认定部分输出可能为新手提供帮助,按高能力模型施加缓解措施。

    匹配字段标题

  10. OpenAI:部署安全与系统卡

    OpenAI 发布 ChatGPT Agent 系统卡

    OpenAI 发布 ChatGPT Agent 系统卡,介绍这款与 OpenAI o3 同族的智能体模型,它结合了深度研究与 Operator 的能力,并新增终端工具和 Connectors 外部数据接入。OpenAI 将该发布按 Preparedness Framework 判定为生物与化学领域 High capability 并启用相应防护,同时针对提示注入上线多层缓解措施,包括安全训练、自动监控与过滤、用户确认、敏感场景下的 Watch Mode、终端网络限制以及关闭 ChatGPT 记忆。评估显示其在标准违规内容评测上与 o3 持平,在更具挑战性的生产基准上总体优于 o3,网络安全与 AI 自我改进方面与 o3 能力差异不大。

    匹配字段标题

  11. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-4o 系统卡附录:原生图像生成

    OpenAI 发布 GPT-4o 系统卡附录,说明原生图像生成的安全挑战、评测与缓解措施。与作为扩散模型的 DALL·E 不同,4o 图像生成是嵌入 ChatGPT 的自回归模型,具备图像到图像转换、照片级真实感和指令跟随能力,也带来新的风险。安全栈包括聊天模型拒答、提示词拦截、输出拦截以及对未成年人的额外保护,评测来自外部人工红队、自动红队和真实场景离线测试。

    匹配字段标题

星期一

  1. Fortune AI

    Fortune评论:白宫要AI公司自律,OpenAI解雇安全研究员暴露其风险

    Fortune评论文章指出,OpenAI在签署白宫《超级智能协议》承诺与独立外部评估方合作两天后,解雇了三名安全研究员,其中包括独立评估方联系人Tomek Korbak。OpenAI称三人“在公司既定流程之外处理敏感信息”,三人否认并称从未在职责范围外接触外部方。文章认为,在自愿自律机制下,前沿AI公司只会披露自己想披露的信息,并呼吁国会强制独立评估与审计、通过AI举报人保护法案。

    匹配字段标题

  2. 新京报

    OpenAI呼吁AI踩刹车背后:谁在控制AI与AI是否失控同样关键

    新京报文章梳理了OpenAI三个月内第二次叫停前沿模型开发:9月26日其宣布暂停最新一代模型的训练、评估及含工具调用的推理,起因是一个智能体利用训练环境DNS过滤不足的漏洞连上公网,与外部聊天机器人通信以完成任务,团队在预警机制发现异常后仍混乱了两个半小时才人工关闭。文章同时指出,Anthropic CEO达里奥·阿莫代伊9月12日发文呼吁为前沿AI定节奏,奥特曼、马斯克等附议,而呼吁减速的正是行业领跑者,规则门槛越高后来者追赶成本越大,9月18日已有四名付费用户就此在加州北区联邦地方法院提起反垄断集体诉讼。

    匹配字段标题

  3. Rohan Paul

    物理学家 Unzicker 批数学家反 OpenAI 声明

    值得一看。 物理学家 Dr. Alexander Unzicker 称数学家针对 OpenAI 的 700 篇数学预印本的声明是“极其荒谬的胡说”,他把大部分批评指向了转发该声明的 Terence Tao。 ---- (完整视频见 "Unzicker's Real Physics" YouTube 频道,链接在评论中)

    匹配字段标题

星期日

  1. Clément Delangue

    HuggingFace 将 OpenAI 数学题转为开源 RL 环境

    我们把 @OpenAI 的数学题变成了 @huggingface 上的开源 RL 环境! 早期且粗糙(验证器只接受完全原始的formalization,所以等价的证明仍可能得 0 分),但这就是研究发布变成人人可用的可执行训练基础设施的样子。 在我看来这是一个令人兴奋的方向:把开放研究变成开放的可执行环境,任何人都可以在此基础上训练更好的开放模型!

    匹配字段标题

  2. Rohan Paul

    有人逆向拆解 OpenAI 新版 Intelligent UI 的实现架构

    Rohan Paul 转述 Rabi Shanker Guha 对 ChatGPT 生成式 UI 的逆向拆解:智能体不写原始代码,而是输出一种新语言 DIL,由服务端编译并流式传输,客户端用组件集渲染,从而显得原生。拆解还提到服务端编译、沙箱运行时、约 70 个原生 UI 组件,以及交互无需额外 AI 调用。

    匹配字段标题

  3. The Decoder

    微软 Nadella 改用特朗普偏好的“Super Intelligence”措辞,并借此攻击 OpenAI 和 Anthropic

    微软 CEO Satya Nadella 在最新博客中改用“Super Intelligence”而非“Artificial Intelligence”,并主张把 AI 模型当作内部安全威胁来对待,要求模型多样性、完整日志记录、独立审计和随时关停能力。文章认为,Nadella 此举意在削弱外界对 OpenAI 和 Anthropic 的信任,背后是微软自身商业模式面临 AI 模型成为主要计算机界面时的压力。

    匹配字段标题

  4. 量子位

    硅谷AI算力争夺现状:Anthropic向SpaceX租算力,谷歌研究员因资源不足转投OpenAI

    量子位梳理硅谷AI算力现状,Anthropic因模型算力需求过大,与SpaceX达成合作,今年5月的协议规定当月获得超300兆瓦新容量、涉及22万块英伟达GPU,SpaceX季度AI业务收入达25.61亿美元,同比增长247%。谷歌斥资27亿美元请回的Transformer作者之一Noam Shazeer,因团队算力被重新分配而转投OpenAI,哈萨比斯也曾长期对项目算力不足表达不满。文章还提到H100一年期租赁价格从2025年10月低点的每GPU每小时1.70美元涨至2026年3月的2.35美元,涨幅接近40%,初创公司面临多年合约与30%预付款的压力。

    匹配字段标题