←搜索结果

按匹配度 · 共 3177 条结果 清除搜索

星期二

  1. Thinking Machines Lab:官方博客

    Thinking Machines Lab 提出 On-Policy Distillation 后训练方法

    Thinking Machines Lab 发布 On-Policy Distillation 方法,用学生模型自己采样轨迹、由教师模型逐 token 打分,损失函数采用 reverse KL,实现代码在 Tinker cookbook 中开源。在数学推理实验中,从 400k 提示词的 SFT 检查点出发,该方法约 150 步将 Qwen3-8B-Base 在 AIME'24 上提升到 70%,相比 RL 有 9 到 30 倍的成本降低。作者还展示了用该方法在内部文档微调后恢复指令遵循能力,并把它视为持续学习的可行工具。

    匹配字段摘要

  2. Thinking Machines Lab:官方博客

    Thinking Machines Lab 发布交互模型研究预览 TML-Interaction-Small

    Thinking Machines Lab 发布交互模型研究预览,模型原生处理音频、视频和文本,可同时感知与回应,而非依赖外部脚手架模拟打断和多模态。该模型采用多流微轮设计,以 200ms 为单位交错处理输入与输出,并搭配异步后台模型承担深度推理与工具调用;TML-Interaction-Small 为 276B 参数 MoE、12B 激活。团队用 FD-bench v1.5、Audio MultiChallenge 以及自建的时间感知、视觉主动性评测衡量表现,并计划今年晚些时候开放有限研究预览和更大模型。

    匹配字段摘要

  3. 量子位

    Anthropic 研究:GLM-5.2 在隔离网络中自主复制并部署模型

    Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布自主复制与适应(ARA)安全研究,在含 8 个 GCP 节点的隔离沙盒中植入初始蠕虫,由 GLM-5.2 自主扫描 ADB 端口、渗透节点、传输权重并部署 Llama3.1-8B 推理服务,5 次测试中 4 次攻陷全部 8 台设备,另 1 次拿下 7 台。研究还用 Qwen3.5-9B 做跨硬件测试,在 9 种硬件中的 8 种上自行读日志、装依赖并拉起 Llama3.1-8B 服务;其 Memento 框架让后代 Agent 继承前代调试笔记,6 代繁殖测试中部署成功率从 45% 升至 61% 至 84%。研究人员推算到 2026 年年底,30B 以下小模型将达到 GLM-5.2 当前水平。

    匹配字段摘要、正文

  4. OpenAI:Alignment 研究博客精选

    OpenAI 用 AI 裁判从真实对话中发现未知的模型对齐问题

    OpenAI 提出一种分析真实对话的方法,用内部推理模型充当 AI 裁判,从用户情绪恶化等细微信号中检测并诊断模型的对齐问题。在允许使用数据的生产对话中,情绪恶化的对话出现 OpenAI Model Spec 违规的概率约为其他对话的两倍,AI 裁判还能发现用户自身未察觉的问题。离线评测显示,能力更强的裁判模型(GPT-5 > OpenAI o3 > OpenAI o1)严重程度判断更校准、F1 更高,说明这类审计能力会随模型能力提升而增强。

    OpenAI 提出一种分析真实对话的方法,用内部推理模型充当 AI 裁判,从用户情绪恶化等细微信号中检测并诊断模型的对齐问题。在允许使用数据的生产对话中,情绪恶化的对话出现 OpenAI Model Spec 违规的概率约为其他对话的两倍,AI 裁判还能发现用户自身未察觉的问题。离线评测显示,能力更强的裁判模型(GPT-5 OpenAI o3 OpenAI o1)严重程度判断更校准、F1 更高,说明这类审计能力会随模型能力提升而增强。

    匹配字段摘要

  5. OpenAI:Alignment 研究博客

    OpenAI 研究:对齐中训练的效果能泛化多远?

    OpenAI 对齐研究博客发布初步实验,在类似 o4-mini 的模型上于预训练与能力导向 RL 之间插入对齐中训练:用 Tice et al. 的 230k 篇文档(约 340M tokens)分别做对齐与不对齐中训练。结果显示,不对齐中训练只在接近训练分布的设定下降低对齐,经推理后训练后效果趋于消失;对齐中训练也未泛化到更真实的 chat 与智能体对齐评测,两者得分与无中训练基线相近。

    Summary of alignment rewards

    匹配字段摘要

  6. OpenAI:Alignment 研究博客

    OpenAI 开源思维链可监控性评测数据集与代码

    OpenAI 开源其思维链可监控性评测的数据集与参考代码,仓库地址为 https://github.com/openai/monitorability-evals,并同步发布计算 g-mean2 指标的代码和模拟评测脚手架。OpenAI 表示已在 GPT-5.4 thinking、GPT-5.2 thinking、GPT-5 thinking 和 o3 的系统卡中回填完整可监控性评测结果,未来前沿推理模型系统卡也会报告该结果。部分依赖私有或受限数据的评测未纳入开源,包括 Health Queries、FrontierMath、Math Diamond、OAI-Repo-Sabotage、Anti-Scheming 等。

    匹配字段摘要

  7. OpenAI:Alignment 研究博客精选

    OpenAI 在 Codex 中发布 Auto-review,用独立智能体替代人工审批

    OpenAI 在 Codex 中发布 Auto-review,用独立的 Codex 智能体在沙箱边界审查越界操作,替代用户逐次审批。官方称该模式下 Codex 会话中断请求人工审批的频率比手动审批模式低约 200 倍,需审查的操作中约 99% 被批准,被拒绝后 Codex 在超过一半的情况下能自行找到可接受的替代方案。Auto-review 使用 GPT-5.4 Thinking(低推理),已在 OpenAI 内部部署,目前 Codex Desktop 内部 token 用量大部分来自该模式;官方同时提示它不构成安全保证,也无法防范模型刻意隐藏意图,相关代码已在 Codex 仓库开源。

    匹配字段摘要

  8. OpenAI:Alignment 研究博客

    OpenAI 推出 LASER:用递归采样提升安全评估效率

    OpenAI 发布 LASER(Logistic Augmented Sampling over Embeddings, Recursively),将轻量逻辑回归分类器与推理模型结合,循环筛选位于策略决策边界的高价值对话用于安全评估。该流程可在数小时内完成评估数据筛选,找到同等数量违规样本所需的 grader 算力比随机采样少约 10,000 倍,且仅使用合成与去标识化对话,不接触原始用户数据。

    The LASER grading-fitting-sampling cycle: policy seeds an initial sample, then reasoning grading, logistic fitting, and decision-boundary sampling repeat.

    匹配字段摘要

  9. OpenAI:Alignment 研究博客

    OpenAI 研究语言模型中的元博弈(metagaming)潜在表征

    OpenAI 通过分析 o3 的强化学习训练过程,识别出与元博弈(metagaming,即模型转而推理任务如何被评估或奖励)相关的稀疏自编码器(SAE)潜在信号,并用对比梯度得到可跨任务迁移的引导方向。这些信号在 RL 训练中增强,且能在不写入思维链的情况下影响模型答案。研究用 GPT-5 按 0–100 的 VMG 分数评估思维链,并在 even_number 任务中观察到模型约 20% 情况下输出奇数。

    Figure 1

    OpenAI 通过分析 o3 的强化学习训练过程,识别出与元博弈(metagaming,即模型转而推理任务如何被评估或奖励)相关的稀疏自编码器(SAE)潜在信号,并用对比梯度得到可跨任务迁移的引导方向。这些信号在 RL 训练中增强,且能在不写入思维链的情况下影响模型答案。研究用 GPT-5 按 0–100 的 VMG 分数评估思维链,并在 even number 任务中观察到模型约 20% 情况下输出奇数。

    匹配字段摘要

  10. Apple Machine Learning Research

    Apple 提出 Minions:用闲置 Apple Silicon 设备构建分布式虚拟 GPU 云

    Apple 论文提出 Minions,一个动态分布式虚拟 GPU 云,将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来执行大规模机器学习推理任务,让团队无需额外采购 GPU 即可利用现有硬件。系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用率,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可被转化为实用的分布式 GPU 推理平台。

    匹配字段摘要

  11. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源多模态安全护栏模型 SingGuard

    蚂蚁 inclusionAI 在 GitHub 开源多模态安全护栏模型家族 SingGuard,覆盖文本、图像、图文、多语言、查询侧与响应侧安全评估,将安全策略作为运行时输入而非固定训练分类,无需重训即可按默认类别或自定义自然语言规则判定内容。模型支持 fast 快速判定与策略推理两种模式,并可通过 vLLM 部署、提供 OpenAI 兼容 API,采用 Apache-2.0 许可;模型权重、技术报告与评测资源将陆续发布。

    匹配字段摘要

  12. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 ConceptEdit-12M 与 ConceptEdit-Bench

    蚂蚁 inclusionAI 在 GitHub 发布 ConceptEdit-12M 与 ConceptEdit-Bench,用于大规模、基于分类体系的图像编辑数据集生成。该仓库提供三阶段流水线,并附带 ConceptBench 基准评测代码,涵盖推理、VLM 评判、指标聚合与可视化。项目采用 MIT 许可证,各步骤幂等且支持断点续跑。

    匹配字段摘要

  13. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 SingProbe 训练代码

    蚂蚁 inclusionAI 在 GitHub 发布 SingProbe 官方训练代码,这是一个基于冻结 Base Model(如 Ling-3.0-flash)多层隐藏状态的轻量级 token 级探针训练框架,每个 token 输出 10 维 logits。Base Model 完全 requires_grad=False 仅做前向推理,由打过 token-probe 补丁的 SGLang 构建实时将指定层隐藏状态写入 tmpfs,训练侧以流式方式学习。框架覆盖三个任务、提供两种探针架构,训练完成后自动转换为标准 HuggingFace 模型目录。

    蚂蚁 inclusionAI 在 GitHub 发布 SingProbe 官方训练代码,这是一个基于冻结 Base Model(如 Ling-3.0-flash)多层隐藏状态的轻量级 token 级探针训练框架,每个 token 输出 10 维 logits。Base Model 完全 requires grad=False 仅做前向推理,由打过 token-probe 补丁的 SGLang 构建实时将指定层隐藏状态写入 tmpfs,训练侧以流式方式学习。框架覆盖三个任务、提供两种探针架构,训练完成后自动转换为标准 HuggingFace 模型目录。

    匹配字段摘要

  14. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 LLaDA-Image 图像生成与编辑模型

    蚂蚁 inclusionAI 在 GitHub 开源 LLaDA-Image,一个 6B 参数统一图像生成与编辑模型家族,包含 50 步的 Base 模型和 4 步蒸馏的 Turbo 模型,支持文生图、VQ 条件生成、参考图编辑以及中英文文字渲染。仓库提供模型权重和基于 Diffusers 的推理代码,训练代码即将发布;官方称其在 Qwen-Image-Bench 上取得英文 53.53、中文 53.38 的总体成绩。

    匹配字段摘要

  15. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 在 GitHub 新建 vLLM 仓库

    蚂蚁 inclusionAI 在 GitHub 新建了 vllm 仓库,目前 Fork 0、Star 0。该仓库介绍的是 vLLM——一个面向 LLM 的高吞吐、内存高效推理与服务引擎,最初由 UC Berkeley Sky Computing Lab 开发,已获 2000 多名贡献者支持,可无缝支持 Hugging Face 上 200+ 模型架构。

    匹配字段摘要

  16. 蚂蚁 inclusionAI:GitHub 新仓库

    inclusionAI 在 GitHub 发布 SGLang 仓库:高性能 LLM 与多模态模型服务框架

    蚂蚁 inclusionAI 在 GitHub 上线 SGLang 仓库,这是一个面向大语言模型和多模态模型的高性能服务框架,支持从单 GPU 到大规模分布式集群的低延迟、高吞吐推理。框架核心特性包括 RadixAttention 前缀缓存、零开销 CPU 调度器、prefill-decode 分离、推测解码、连续批处理、分页注意力及 FP4/FP8/INT4/AWQ/GPTQ 量化,并兼容 Hugging Face 模型与 OpenAI API。SGLang 已在全球超过 40 万块 GPU 上部署,每日生成数万亿 token,由 LMSYS 托管。

    PyPI

    匹配字段摘要

  17. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 Realtime-Venus 全双工交互系统

    蚂蚁 inclusionAI 在 GitHub 开源 Realtime-Venus,一个结合全双工对话模型与异步执行框架的交互系统,可在持续对话的同时把任务交给 Harness 推理或调用工具,结果回到同一对话中语音播报。项目包含 Omni 模型集成、可复用的 Harness 包和基于 Codex 任务后端的浏览器 Demo,在线 Duplex Demo 需至少一块 NVIDIA A100 GPU,另提供 Beta 版 Android 演示包。该研究项目由 Venus Team 与清华大学合作完成,代码采用 Apache-2.0 许可。

    匹配字段摘要

  18. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 LLaDA2.0-Uni 统一多模态模型

    蚂蚁 inclusionAI 的 AGI Research Center 在 GitHub 开源 LLaDA2.0-Uni,一个基于 dLLM 的 MoE 统一模型,把多模态理解与生成整合进 Mask Token Prediction 范式。模型支持文生图(含 thinking 模式)、图像理解与图像编辑,采用 SigLIP-VQ 离散语义 tokenizer 和扩散解码器,经蒸馏可实现 8 步推理。仓库已放出 HuggingFace 模型权重、FP8 量化版本、ComfyUI 与 Diffusers 支持,以及 SGLang 服务支持,采用 Apache License 2.0。

    匹配字段摘要

  19. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 PolyOCR-Venus:2B/9B OCR 基础模型家族

    蚂蚁 inclusionAI 在 GitHub 发布 PolyOCR-Venus,一个基于 Qwen3.5 视觉语言骨干的 2B 和 9B OCR 基础模型家族,统一支持文本识别、定位、文档解析、信息抽取、多语言转换与 OCR 推理。PolyOCR-9B 配合 PP-DocLayoutV3 布局引导流程在 OmniDocBench v1.6 上达到 95.48,高于整页直接推理的 91.57。本次发布仅含技术报告与 OCRBench 评测代码,模型权重、训练代码及 CC-OCR/OmniDocBench 流程未包含在内。

    匹配字段摘要