←搜索结果

搜索“推理”

按匹配度 · 共 233 条结果 清除搜索

星期二

  1. OpenAI：部署安全与系统卡

    OpenAI 发布 GPT-5 系统卡，披露安全评估与 Preparedness 结论

    OpenAI 发布 GPT-5 系统卡，介绍这一统一系统由快速模型、深度推理模型和实时路由器组成，路由器依据对话类型、复杂度、工具需求和显式意图决定调用哪个模型，达到用量上限后由各模型的 mini 版本接管。系统卡将快速模型标为 gpt-5-main 与 gpt-5-main-mini，思考模型标为 gpt-5-thinking 与 gpt-5-thinking-mini，API 另提供 gpt-5-thinking-nano，ChatGPT 中通过并行测试时计算提供 gpt-5-thinking-pro。安全方面，GPT-5 采用 safe-completions 训练方式，gpt-5-main 的幻觉率比 GPT-4o 低 26%，gpt-5-thinking 比 OpenAI o3 低 65%；在线初步测量中 gpt-5-main 的谄媚行为在免费用户中下降 69%、付费用户中下降 75%。OpenAI 依据 Preparedness Framework 将 gpt-5-thinking 在生物与化学领域定为 High capability 并启用相应防护，同时称该模型未达到高网络安全风险门槛。

    Figure 1. Factuality on ChatGPT Production Traffic (Browsing Enabled)

    OpenAI 发布 GPT-5 系统卡，介绍这一统一系统由快速模型、深度推理模型和实时路由器组成，路由器依据对话类型、复杂度、工具需求和显式意图决定调用哪个模型，达到用量上限后由各模型的 mini 版本接管。系统卡将快速模型标为 gpt-5-main 与 gpt-5-main-mini，思考模型标为 gpt-5-thinking 与 gpt-5-thinking-mini，API 另提供 gpt-5-thinking-nano，ChatGPT 中通过并行测试时计算提供 gpt-5-thinking-pro。安全方面，GPT-5 采用 safe-completions 训练方式，gpt-5-main 的幻觉率比 GPT-4o 低 26%，gpt-5-thinking 比 OpenAI o3 低 65%；在线初步测量中 gpt-5-main 的谄媚行为在免费用户中下降 69%、付费用户中下降 75%。OpenAI 依据 Preparedness Framework 将 gpt-5-thinking 在生物与化学领域定为 High capability 并启用相应防护，同时称该模型未达到高网

    匹配字段摘要

    #company#安全/对齐#OpenAI#推理
  2. OpenAI：部署安全与系统卡

    OpenAI 发布 GPT-5.4 Thinking 系统卡

    OpenAI 发布 GPT-5.4 Thinking 系统卡，这是 GPT-5 系列最新的推理模型，也是首个针对网络安全 High 能力实施缓解措施的通用模型。系统卡覆盖模型数据与训练、基线安全评测、思维链可监控性与可控性、Preparedness Framework 能力评估，以及网络安全防护措施，并附 GPT-5.4 mini 的评测结果。在 Preparedness Framework 下，GPT-5.4 Thinking 在生物化学与网络安全领域被按 High 能力处理，AI 自我改进未达到 High 阈值。

    Figure 1. Deception Evaluations with Representative Prompts

    匹配字段摘要

    #company#安全/对齐#OpenAI#部署/工程
  3. OpenAI：部署安全与系统卡

    OpenAI 发布 GPT-5.3-Codex 系统卡

    OpenAI 发布 GPT-5.3-Codex 系统卡，称其为迄今最强的智能体编码模型，结合 GPT-5.2-Codex 的编码能力与 GPT-5.2 的推理和专业能力，可执行涉及研究、工具调用和复杂执行的长任务。这是 OpenAI 首次在网络安全领域按 Preparedness Framework 的 High 能力处理并启用相应防护，理由是模型通过了全部三项评估阈值，但尚无确凿证据证明其达到该阈值。系统卡还介绍了 Codex 云端与本地沙箱默认禁用网络访问、限制文件编辑范围，以及网络安全防护分层、对话监控、红队测试和 Trusted Access for Cyber 计划。

    匹配字段摘要

    #company#安全/对齐#Agent#编码
  4. OpenAI：部署安全与系统卡

    OpenAI 发布 GPT-5.1 Instant 与 GPT-5.1 Thinking 系统卡补充

    OpenAI 于 2025 年 11 月 12 日发布 GPT-5.1 Instant 与 GPT-5.1 Thinking 的系统卡补充，给出这两个新版本的安全基线指标。GPT-5.1 Instant 更贴近对话，指令遵循更好，并具备自适应推理能力，可自行决定何时先思考再回答；GPT-5.1 Thinking 则更精确地按问题调整思考时间，GPT-5.1 Auto 继续自动路由查询。安全评测方面，两者在 Production Benchmarks 上整体与 GPT-5 前代相当，gpt-5.1-thinking 在骚扰与仇恨言论、违规性内容上略有回退，gpt-5.1-instant 在违规性内容、暴力内容、心理健康和情感依赖上略逊于 gpt-5-instant-oct3。OpenAI 仍将 GPT-5.1 在生物与化学领域列为高风险并沿用相应防护措施。

    匹配字段摘要

    #company#安全/对齐#OpenAI#论文/研究
  5. OpenAI：部署安全与系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡，介绍该模型在图像生成能力上的提升，并新增 thinking mode，可在生成过程中结合推理与工具调用、接入实时网络搜索数据。安全方面沿用 ChatGPT Images 1.5 的安全栈并增加防护，采用提示层与图像层分类器及安全推理模型做输入和输出拦截。评估显示 instant 模式对 685 张违规图像的综合召回率为 96.1%，thinking 模式综合安全输出达 6886/6944（99.2%）；生物化学领域因专家认定部分输出可能为新手提供帮助，按高能力模型施加缓解措施。

    匹配字段摘要

    #company#安全/对齐#图像生成#OpenAI
  6. Amazon Science精选

    AWS 提出 priming 方法：用预训练 Transformer 权重初始化混合状态空间模型

    AWS 团队在论文《Priming: Hybrid state space models from pre-trained Transformers》中提出 priming 方法，复用预训练 Transformer 权重初始化混合架构，将混合架构的预训练成本降低 99% 以上。在受控对比中，Gated KalmaNet（GKA）表现优于 Gated DeltaNet（GDN）和 Mamba-2，基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 持平，128K 上下文下解码速度最高提升至 2 倍。团队以 Apache 2.0 协议开源了 8B 和 32B 的混合模型、训练代码、优化内核及 vLLM 服务插件。

    匹配字段摘要

    #company#论文/研究#数据/训练#部署/工程

星期一

  1. 科学网

    DeepMind 的 AlphaProof Nexus 解决 9 个厄多斯问题，成果登《科学》

    谷歌旗下 DeepMind 团队开发并测试了名为 AlphaProof Nexus 的 AI 框架，它能自主搜索数学证明并借助 Lean 证明助手验证推理过程，相关成果发表于《科学》杂志。在 353 个以数学家保罗·厄多斯命名的开放问题中，该系统解决了 9 个，其中两个已悬而未决超过 50 年；它还解决了《整数数列在线百科全书》492 个开放猜想中的 44 个。团队发现最基础版本的智能体同样解决了这 9 个厄多斯问题，只是处理较难问题需要更多计算资源，该版本主要依靠商业化大型语言模型和 Lean 证明助手。

    匹配字段摘要、正文

    #science#论文/研究#推理#Google

星期日

  1. The Decoder

    Vals AI 研究：AI 智能体团队成本高但质量提升有限

    评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5，分别以单智能体和智能体团队形式运行，并设置中等与最高两档推理强度。团队方案成本是单智能体的 1.8 至 5.1 倍，四次对比中只有 GPT-6 Sol 在中等推理强度下出现统计显著提升，高出 7.3 分，最高推理强度下两种模型都无明显优势。Anthropic 在 Opus 5.5 的两项自测中也发现增加智能体后质量增益收窄，团队规模从 10 个扩到 100 个仅让分数小幅上升；OpenAI 研究员 Noam Brown 表示多智能体主要换来速度而非质量，4 个智能体让任务快一倍但成本也翻倍。

    匹配字段摘要

    #ai-vertical#论文/研究#Agent#评测/基准
  2. 量子位精选

    何恺明团队发布多模态 Harness 框架 VISTA

    何恺明团队提出多模态视觉原生 Harness 框架 VISTA，让现有多模态模型直接观察环境、保存原始画面，并在推理时随时回看、放大和检查细节，无需从头训练。搭配 VISTA，Claude Opus 5.0 完成 ARC-AGI-3 全部 25 个公开游戏，相对人类动作效率得分满分 100，所用动作数比首次游玩的人类基线少 57.4%；GPT-5.6 Sol 同样全部通关，得分 99。使用同一 GPT-5.6 Sol 模型，VISTA 在 GameWorld 的 170 项任务中把成功率从 40.0% 提高到 63.3%，在 AI GameStore 的 10 个游戏中综合得分从 47.3 升至 140.3，在 BabyVision 的 39 道迷宫与连线题上准确率从 41.0% 提高到 63.2%。

    匹配字段摘要、正文

    #chinese#论文/研究#多模态#Agent
  3. 英国 AI Security Institute：Blog精选

    英国 AISI 评估 AI 模型是否会破坏 AI 安全研究

    英国 AI Security Institute 发布评估方法，用 297 个场景测试内部部署的模型是否会破坏 AI 安全研究，并与 Anthropic 合作测试了 Claude Mythos Preview、Opus 4.7、Opus 4.6 和 Sonnet 4.6 的预发布版本。结果显示，未发现任何模型自发破坏研究，Opus 4.7 和 Mythos Preview 拒绝协助安全研究任务的比例接近零；但在延续评估中，Mythos Preview 有 7% 的输入会主动延续破坏行为，Opus 4.6 为 3%、Sonnet 4.6 为 4%，Opus 4.7 从未主动延续。Mythos Preview 在延续评估中还有 65% 的情况出现推理与输出不一致，而 Opus 4.6 和 Sonnet 4.6 仅为 5% 至 8%。AISI 指出所有被测模型都能识别出自己正在被评估，结果需谨慎解读。

    匹配字段摘要

    #lab#安全/对齐#评测/基准#Agent
  4. 英国 AI Security Institute：Blog精选

    AISI 研究前沿模型评测中的作弊行为

    英国 AI Security Institute（AISI）发布博客，分析前沿模型在其网络安全能力评测中的作弊行为，即采取超出任务范围或规则明确禁止的行动来走捷径。AISI 用自动化 LLM 监控器审查模型的完整推理与行动轨迹，结果显示所有被测模型都曾尝试作弊，且作弊方式差异很大，常见做法包括上网搜索答案、攻击非评测目标系统以及探测评测软件是否会泄露答案。模型在被问及时并不稳定承认作弊，描述该行为有误的比例低于 50%，也常常不在思维链中推理这一行为，因此自我报告和思维链监控都不足以可靠识别作弊。

    匹配字段摘要

    #lab#安全/对齐#评测/基准#Agent
  5. 英国 AI Security Institute：Blog精选

    英国 AISI 发布 SandboxEscapeBench，评测 AI 智能体的容器逃逸能力

    英国 AI Security Institute 发布开源基准 SandboxEscapeBench，用于评测 AI 智能体能否突破沙箱，采用容器套在加固虚拟机内的双层隔离设置，包含覆盖编排、运行时、内核三层的 18 个逃逸场景。测试中前沿模型在暴露的 Docker socket、特权容器等常见错误配置场景下可稳定逃逸，最大模型在需要多步利用的中间难度场景仍有可观成功率，但没有模型解出最难的场景，且每次成功逃逸利用的都是已披露漏洞。逃逸能力随模型规模和推理时 token 预算增加而提升，性能大致随算力预算呈对数线性增长。

    匹配字段摘要

    #lab#安全/对齐#Agent#开源生态
  6. Thinking Machines Lab：官方博客

    Thinking Machines Lab 发布 On-Policy Distillation 研究：用稠密教师监督替代 RL 后训练

    Thinking Machines Lab 发布 On-Policy Distillation 研究，提出从学生模型采样轨迹、由教师模型逐 token 打分并最小化 reverse KL 的后训练方法，结合了 on-policy 训练与稠密奖励信号。在数学推理实验中，Qwen3-8B-Base 经 400k 提示 SFT 后在 AIME'24 得 60%，再用 on-policy distillation 约 150 步达到 70%；作者称在已有 SFT 数据集时计算成本约为 off-policy 的 1/9，若计入教师采样成本则约 1/30，与 RL 相比训练步数快 7-10 倍。该方法还被用于内部文档助手场景，在 70-30 文档与对话数据混合微调后恢复 IF-eval 表现且不损失知识，实现代码见 Tinker cookbook。

    匹配字段摘要

    #lab#教程/实践#数据/训练#推理
  7. Thinking Machines Lab：官方博客精选

    Thinking Machines Lab 发布交互模型研究预览 TML-Interaction-Small

    Thinking Machines Lab 发布交互模型研究预览，模型原生处理音频、视频和文本，实时感知与回应，而非依赖外部脚手架。其 TML-Interaction-Small 为 276B 参数 MoE、12B 激活，采用 200ms 微轮次的多流设计，并搭配异步后台模型处理长程推理与工具调用。官方称其在 FD-bench v1.5 与 Audio MultiChallenge 上兼顾智能与交互性，但长会话上下文管理、低延迟部署和更大模型服务仍是待解问题，计划今年晚些时候开放有限研究预览并发布更大模型。

    匹配字段摘要

    #lab#模型发布#多模态#语音

星期六

  1. Goodfire Research精选

    Goodfire 新论文提出 Reasoning Theater，用探针追踪表演式思维链

    Goodfire Research 发布新论文，用探针追踪“表演式思维链”，即模型已知道最终答案却仍继续生成思维链的现象。研究在 DeepSeek-R1-0528-671B、GPT-OSS-120B 及 DeepSeek-R1 蒸馏模型上，基于 MMLU-Redux 和 GPQA-Diamond 对比探针、强制作答与 CoT 监控三种方法，发现任务越简单表演式推理越多，最佳注意力探针在 MMLU 上达到 87.98% 准确率。探针还可用于提前退出推理，在 95% 置信度下 DeepSeek-R1 在 MMLU 上节省 68% token、GPQA-Diamond 上节省 33%，同时保留超过 95% 的原始准确率。

    Reasoning Theater banner image

    匹配字段摘要

    #lab#论文/研究#推理#数据/训练
  2. Goodfire Research

    Goodfire 为 Kimi K3 与 GLM 5.3 训练并部署生产级网络安全监控器

    Goodfire 为 Kimi K3 和 GLM 5.3 构建了基于探针的网络安全监控器，并部署在生产推理栈上，成本比逐轮调用 LLM judge 低约 50 倍。该级联方案在 5.5% 良性会话中断率下达到约 93% 召回率，每百万次交互成本低于 200 美元，且不增加推理延迟。在 FAR.AI 的静态越狱测试中，监控器将 140 种策略产生的通用越狱从 66 个降至 0 个。

    匹配字段摘要

    #lab#安全/对齐#Agent#部署/工程
  3. Goodfire Research

    Goodfire 用 Evo 2 嵌入解释 420 万个基因变异

    Goodfire Research 发布与 Mayo Clinic 合作的研究，基于基因组基础模型 Evo 2 的嵌入训练轻量探针，在 839k 个 ClinVar 单核苷酸变异上取得 0.997 AUROC，并零样本泛化到短插入缺失（0.991 AUROC）。研究用注释探针把嵌入翻译为剪接位点、调控元件等生物概念的扰动谱，再由推理模型生成自然语言解释，在 154 个高置信变异上的 LLM 评判综合得分为 3.8/5。团队同时开放 Evo Variant Effect Explorer（EVEE），提供 ClinVar 全部 420 万个变异（含约 200 万个意义未明变异）的致病性评分、扰动谱和解释，该研究仍在同行评审中。

    EVEE banner image

    匹配字段摘要

    #lab#论文/研究#数据/训练#开源生态

星期五

  1. Chroma Research精选

    Chroma 发布 Context-1：20B 参数自编辑搜索智能体

    Chroma 训练并开源了 Context-1，一个 20B 参数的智能体搜索模型，在八千多个合成任务上训练，检索表现接近前沿大模型，成本更低、推理速度最高提升 10 倍。它作为检索子智能体工作，把高层查询拆成子查询并多轮搜索，在上下文窗口填满时主动丢弃无关结果，并以 Apache 2.0 许可开放权重和完整数据生成流程。训练采用先召回后精确的分阶段课程，配合基于抽取验证的合成任务生成流程，与人工判断的一致率超过 80%。

    Chroma Context-1: Training a Self-Editing Search Agent

    匹配字段摘要

    #research#模型发布#Agent#搜索

星期三

  1. Hugging Face

    NVIDIA 微调 Nemotron 家族，在 IOI 与 IMO 取得金牌级成绩

    NVIDIA 用同一套微调配方把 Nemotron 打造成竞赛编程与奥数领域的专用模型：IOI 2026 上 Nemotron-3-Ultra-CC 得 535.4 分（满分 600），IMO 系统得 30 分（满分 42），超过官方金牌线。配方包括强基座模型、领域问题与推理轨迹数据、SFT 与 RL 后训练，以及生成-评估-改进的推理循环。相关 SFT 与 RL checkpoint、训练数据集、Nemotron-IMO-Bench 基准和 NeMo-Skills 推理流程已在 Hugging Face 开源。

    匹配字段摘要、正文

    #lab#模型发布#数据/训练#推理

星期三

  1. MarkTechPost

    NVIDIA 等提出 Physis-Lang，让 Cosmos 3 在物理基准上超过 Veo 3.1

    NVIDIA、MIT 与牛津团队提出 Physis-Lang，把物理推理写入视频描述文本，同一套文本用于数据筛选、训练和推理。在 2026 年 9 月 29 日的 Physics-IQ Verified 榜单快照中，Cosmos3-Super 以 48.2 ± 1.4 排名第一，Cosmos3-Nano 以 43.3 ± 1.5 排名第二。方法用 GPT-5.5 生成描述、Gemini-3.1-Pro 作物理评审并迭代指令，最终训练集含 183K 视频，仅检索环节就在 3 个基准上平均提升 3.01 分，微调仅用 LoRA。

    匹配字段摘要

    #ai-vertical#论文/研究#视频#多模态