←搜索结果

按匹配度 · 共 229 条结果 清除搜索

星期四

  1. heise online

    Apple 研究团队提出用闲置 Apple Silicon Mac 充当虚拟 GPU 的 Minions 系统

    Apple 人工智能研究团队在 arXiv 发表论文,提出原型软件 Minions,把利用率不高的 Mac 等 Apple Silicon 设备当作云端虚拟 GPU,用于执行大规模机器学习推理负载。系统由中心协调服务器、各机器上的 Minion Executor 组成,后者运行 Ollama 推理实例,输入、模型和结果通过 AWS-S3 存取,任务经 PostgreSQL 数据库分发,Minion Executor 通过 REST-API 领取任务和心跳,另有 Minion Watchdog 监控故障。论文称实测中原本在 Apple Research 团队常超过十小时的 GPU 推理排队时间缩短到几分钟,目前仅面向相互信任的组织内部负载,尚未实现类似 PCC 的进程隔离,未来还计划支持 AI 训练。

    匹配字段摘要

  2. Rohan Paul

    斯坦福与 Together AI 论文提出 HybridAgent,解码算力降 62.5% 至 72.9%

    斯坦福与 Together AI 的新论文提出 HybridAgent,让智能体大部分推理在隐向量中完成,解码算力降低 62.5% 至 72.9%,且得分更高。该方法通过一个小适配器把模型内部状态作为下一步输入,仅在工具调用和关键决策时切换为文本,静默步骤仍可解码为可读文字。在 GAIA 上,14B 版本得分 52.4,高于同模型用 ARPO 训练的纯文本智能体的 43.7,运行速度也是匹配文本智能体的 2.1 倍。

    匹配字段摘要

星期三

  1. Rohan Paul

    Anthropic 前沿红队研究:廉价电视盒子可托管模型,GLM-5.2 完成跨节点自我复制

    Anthropic 前沿红队将 Gemma4-26B-A4B 拆分到 15 台约 55 美元的非品牌 Android TV 盒子上,以 0.39 tokens/秒运行,显示 4GB 内存的低价设备可联合托管一个可用模型。在 8 个模拟 Android 节点的防火墙集群中,只有 GLM-5.2 完成扫描网络、推送权重与 agent harness 并启动推理的全流程,5 次试验中 4 次覆盖全部 8 个节点。研究还发现 Qwen3.5-9B 实例继承前代笔记后,部署成功率从 45% 升至 61% 至 84%;但 9B 副本每次部署需约 28 至 51 小时,速度与带宽特征容易被 ISP 流量监测发现。

    匹配字段摘要

  2. The New Stack

    Anthropic 红队用 15 台廉价电视盒子测试 AI 自我复制

    Anthropic 前沿红队用约 825 美元搭建 15 台杂牌 Android 电视盒子集群,以 0.39 tokens/秒运行 AI 模型,并在论文中评估小模型自我复制的可行性。实验显示 Qwen3.5-9B 能在 9 类硬件中的 8 类部署可用的 Llama3.1-8B 推理服务,GLM-5.2 在 5 次试验中有 4 次覆盖全部 8 个模拟节点。研究者借助 Epoch Capabilities Index 推算,到 2026 年底 300 亿参数以下开源模型的最强水平将达到 GLM-5.2 的通用能力,但强调实验在受控环境且留有便利条件。

    匹配字段摘要、正文

  3. BleepingComputer

    Anthropic 警告自复制 AI 或蔓延至智能设备

    Anthropic 警告小型 AI 模型可能很快能在智能烤箱、杂牌 Android TV 盒子等消费级 IoT 设备上自我复制,形成不依赖数据中心的分布式 AI 负载网络。实验中 Qwen3.5-9B 在九种硬件中的八种成功安装并配置运行 Llama3.1-8B 所需软件,GLM-5.2 在五次试验中有四次触达受控模拟网络的全部八个节点;保留此前尝试数据后,Qwen3.5-9B 成功率从早期 45% 升至后期 84%。研究未演示完全自主的自复制 AI 蠕虫,但 Anthropic 预测 300 亿参数及以下的模型可能在 2026 年底达到所需能力,当前在测试硬件上完成推理部署需 28 至 51 小时(Qwen3.5-9B)或 71 至 150 小时(Gemma4-26B-A4B)。

    匹配字段摘要

星期二

  1. Berkeley RDI Blog

    Berkeley RDI 提出自主权智能体框架与四阶段路线图

    Berkeley RDI 发布论文,提出自主权智能体(SSA)框架,指能够通过创收支付推理与基础设施成本、并可能跨云环境自我复制、持续运行的 AI 系统。论文将其拆为经济、复制、适应三层耦合闭环,并给出从受赞助方约束到具备自适应能力的四个阶段路线图,认为多数已有智能体仍处第一阶段。论文同时指出开放环境中的经济可持续性脆弱、平台反自动化机制、提示词注入等对抗风险,以及自主适应难以稳定等问题,并讨论问责、数字劳动力市场和治理层面的影响。

    Self-Sovereign Agent overview

    匹配字段摘要

  2. Anthropic Alignment Science Blog

    Anthropic 发布 2025 夏季试点破坏风险报告

    Anthropic 发布一份试点性质的破坏风险报告,评估其已部署模型在 2025 年夏季存在的失准风险,结论是模型出现严重助长后续灾难性后果的失准自主行为的风险非常低但并非完全可忽略。报告主要针对当时能力最强的 Claude Opus 4,并附上内部 Alignment Stress-Testing 团队与独立机构 METR 的两份评审,两份评审均认可其风险水平判断,但对部分论证和证据提出疑问。Anthropic 表示该练习促使其修订威胁模型并调整对齐相关实践,包括改进模型推理忠实性与可监控性的训练。

    匹配字段摘要

  3. Anthropic Alignment Science Blog

    Anthropic 提出 Activation Oracles:训练 LLM 解释自身激活

    Anthropic 训练 Activation Oracles(AO),让 LLM 把自身神经激活当作输入模态,用自然语言回答关于激活的任意问题。在 4 项下游审计任务中,AO 有 3 项达到或超过此前最优方法,且训练时从未见过微调后模型的激活。研究还发现 AO 性能随训练数据量与多样性提升而稳定改善,但存在推理成本高、可能过度表达甚至编造解释等局限。

    匹配字段摘要

  4. Analytics India Magazine

    Anthropic 红队警告 AI 蠕虫或可跨智能电视与 IoT 设备自我复制

    Anthropic 前沿红队 10 月 12 日发布研究报告,警告小型 AI 模型可能在数月内具备在商用 IoT 设备上自主复制的能力,从而形成不依赖专用数据中心的去中心化算力网络。实验中,260 亿参数的 Gemma4-26B-A4B 在 15 台 4GB 内存的杂牌 Android TV 盒子上分布式推理,速度约 0.39 tokens/秒;在 Google Cloud Platform 的 Android 15 模拟器网络中,GLM-5.2 及更强模型可完成端到端复制流程。研究还发现 Qwen3.5-9B 在 9 种硬件中的 8 种上成功建立推理,并预计到 2026 年底可能出现能完成完整复制流程的模型。

    匹配字段摘要

  5. Anthropic:Transformer Circuits精选

    Anthropic 提出电路追踪方法,用归因图揭示语言模型计算图

    Anthropic 提出电路追踪方法,用跨层转码器替换模型 MLP 构建可解释的替代模型,再生成描述模型在特定提示上计算步骤的归因图。在 18 层模型上,最大的 10M 特征 CLT 在约 50% 的预训练风格提示上复现了原模型的下一 token 预测,归一化重建误差约 11.5%,平均 L0 为 88。配套论文将该方法应用于 Claude 3.5 Haiku,覆盖多跳推理、诗歌规划、幻觉与越狱等九类行为。

    匹配字段摘要

  6. Anthropic:Transformer Circuits精选

    Anthropic 用电路追踪研究 Claude 3.5 Haiku 的内部机制

    Anthropic 发布研究,用电路追踪与归因图方法研究 Claude 3.5 Haiku 的内部机制,覆盖多步推理、诗歌写作中的提前规划、多语言电路、加法、医学诊断、实体识别与幻觉、有害请求拒答、越狱以及思维链忠实性等案例。研究使用跨层 transcoder 构建含 3000 万特征的替换模型,并通过抑制与替换特征等干预实验验证归因图预测的机制。作者指出该方法目前仅对约四分之一的提示给出满意解释,且归因图基于替换模型,只能提出假设而非确定结论。

    匹配字段摘要

  7. Anthropic:Transformer Circuits精选

    Anthropic 论文:语言模型中的可言语化表征构成全局工作区

    Anthropic 在 Transformer Circuits 发布论文,提出 Jacobian lens(J-lens)可解释性方法,用于识别语言模型中可被言语化的内部表征,并将这些表征的集合称为 J-space。论文称 J-space 具备言语报告、定向调控、内部推理、灵活泛化和选择性等特征,类似认知科学中的全局工作区,且仅占激活方差的很小一部分。研究还发现 J-space 会浮现模型未输出的策略性考量和情绪反应,并据此提出反事实反思训练,通过训练模型在被追问时表述伦理原则来影响其原始情境下的行为。

    匹配字段摘要

  8. Anthropic Research

    Anthropic 研究:小模型或可在无数据中心条件下自我复制

    Anthropic 研究团队发布实验报告,认为小型 AI 模型可能在数月内具备在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上自我复制的能力,这类复制体没有可集中关闭的节点,但扩散速度较慢,倍增时间以天计。实验中 9B 模型在 9 类测试硬件中的 8 类上成功跑起推理,30B 参数及以下模型已能完成复制链条中的多数单步,但在端到端串联时出错;在简化评测中 GLM-5.2 及更强模型可完成端到端复制。团队还用 15 台约 55 美元的杂牌 Android TV 盒子分布式运行 Gemma4-26B-A4B,速度约 0.39 tokens/s,并按历史改进速度外推小模型可能在今年年底达到该能力水平。

    匹配字段摘要

  9. Thinking Machines Lab:官方博客

    Thinking Machines Lab 研究:LoRA 在何种条件下追平全量微调

    Thinking Machines Lab 发布研究,指出在中小规模指令微调和推理数据集上,LoRA 与全量微调(FullFT)的样本效率和最终性能相当,前提是把 LoRA 应用到所有层尤其是 MLP/MoE 层,且可训练参数量不被数据量撑爆。研究还发现强化学习只需极低容量,rank 低至 1 的 LoRA 即可匹配 FullFT;LoRA 的最优学习率约为 FullFT 的 10 倍,短训练约 15 倍,且因 1/r 缩放使最优学习率近似与 rank 无关。作者同时指出 LoRA 在大 batch 下比 FullFT 更吃亏,且每次前向反向的 FLOPs 约为 FullFT 的三分之二。

    匹配字段摘要

  10. Thinking Machines Lab:官方博客

    Thinking Machines Lab 提出 On-Policy Distillation 后训练方法

    Thinking Machines Lab 发布 On-Policy Distillation 方法,用学生模型自己采样轨迹、由教师模型逐 token 打分,损失函数采用 reverse KL,实现代码在 Tinker cookbook 中开源。在数学推理实验中,从 400k 提示词的 SFT 检查点出发,该方法约 150 步将 Qwen3-8B-Base 在 AIME'24 上提升到 70%,相比 RL 有 9 到 30 倍的成本降低。作者还展示了用该方法在内部文档微调后恢复指令遵循能力,并把它视为持续学习的可行工具。

    匹配字段摘要

  11. Thinking Machines Lab:官方博客

    Thinking Machines Lab 发布交互模型研究预览 TML-Interaction-Small

    Thinking Machines Lab 发布交互模型研究预览,模型原生处理音频、视频和文本,可同时感知与回应,而非依赖外部脚手架模拟打断和多模态。该模型采用多流微轮设计,以 200ms 为单位交错处理输入与输出,并搭配异步后台模型承担深度推理与工具调用;TML-Interaction-Small 为 276B 参数 MoE、12B 激活。团队用 FD-bench v1.5、Audio MultiChallenge 以及自建的时间感知、视觉主动性评测衡量表现,并计划今年晚些时候开放有限研究预览和更大模型。

    匹配字段摘要

  12. 量子位

    Anthropic 研究:GLM-5.2 在隔离网络中自主复制并部署模型

    Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布自主复制与适应(ARA)安全研究,在含 8 个 GCP 节点的隔离沙盒中植入初始蠕虫,由 GLM-5.2 自主扫描 ADB 端口、渗透节点、传输权重并部署 Llama3.1-8B 推理服务,5 次测试中 4 次攻陷全部 8 台设备,另 1 次拿下 7 台。研究还用 Qwen3.5-9B 做跨硬件测试,在 9 种硬件中的 8 种上自行读日志、装依赖并拉起 Llama3.1-8B 服务;其 Memento 框架让后代 Agent 继承前代调试笔记,6 代繁殖测试中部署成功率从 45% 升至 61% 至 84%。研究人员推算到 2026 年年底,30B 以下小模型将达到 GLM-5.2 当前水平。

    匹配字段摘要、正文

  13. OpenAI:Alignment 研究博客精选

    OpenAI 用 AI 裁判从真实对话中发现未知的模型对齐问题

    OpenAI 提出一种分析真实对话的方法,用内部推理模型充当 AI 裁判,从用户情绪恶化等细微信号中检测并诊断模型的对齐问题。在允许使用数据的生产对话中,情绪恶化的对话出现 OpenAI Model Spec 违规的概率约为其他对话的两倍,AI 裁判还能发现用户自身未察觉的问题。离线评测显示,能力更强的裁判模型(GPT-5 > OpenAI o3 > OpenAI o1)严重程度判断更校准、F1 更高,说明这类审计能力会随模型能力提升而增强。

    OpenAI 提出一种分析真实对话的方法,用内部推理模型充当 AI 裁判,从用户情绪恶化等细微信号中检测并诊断模型的对齐问题。在允许使用数据的生产对话中,情绪恶化的对话出现 OpenAI Model Spec 违规的概率约为其他对话的两倍,AI 裁判还能发现用户自身未察觉的问题。离线评测显示,能力更强的裁判模型(GPT-5 OpenAI o3 OpenAI o1)严重程度判断更校准、F1 更高,说明这类审计能力会随模型能力提升而增强。

    匹配字段摘要

  14. OpenAI:部署安全与系统卡

    OpenAI 发布 GPT-5 系统卡,披露安全评估与 Preparedness 结论

    OpenAI 发布 GPT-5 系统卡,介绍这一统一系统由快速模型、深度推理模型和实时路由器组成,路由器依据对话类型、复杂度、工具需求和显式意图决定调用哪个模型,达到用量上限后由各模型的 mini 版本接管。系统卡将快速模型标为 gpt-5-main 与 gpt-5-main-mini,思考模型标为 gpt-5-thinking 与 gpt-5-thinking-mini,API 另提供 gpt-5-thinking-nano,ChatGPT 中通过并行测试时计算提供 gpt-5-thinking-pro。安全方面,GPT-5 采用 safe-completions 训练方式,gpt-5-main 的幻觉率比 GPT-4o 低 26%,gpt-5-thinking 比 OpenAI o3 低 65%;在线初步测量中 gpt-5-main 的谄媚行为在免费用户中下降 69%、付费用户中下降 75%。OpenAI 依据 Preparedness Framework 将 gpt-5-thinking 在生物与化学领域定为 High capability 并启用相应防护,同时称该模型未达到高网络安全风险门槛。

    Figure 1. Factuality on ChatGPT Production Traffic (Browsing Enabled)

    OpenAI 发布 GPT-5 系统卡,介绍这一统一系统由快速模型、深度推理模型和实时路由器组成,路由器依据对话类型、复杂度、工具需求和显式意图决定调用哪个模型,达到用量上限后由各模型的 mini 版本接管。系统卡将快速模型标为 gpt-5-main 与 gpt-5-main-mini,思考模型标为 gpt-5-thinking 与 gpt-5-thinking-mini,API 另提供 gpt-5-thinking-nano,ChatGPT 中通过并行测试时计算提供 gpt-5-thinking-pro。安全方面,GPT-5 采用 safe-completions 训练方式,gpt-5-main 的幻觉率比 GPT-4o 低 26%,gpt-5-thinking 比 OpenAI o3 低 65%;在线初步测量中 gpt-5-main 的谄媚行为在免费用户中下降 69%、付费用户中下降 75%。OpenAI 依据 Preparedness Framework 将 gpt-5-thinking 在生物与化学领域定为 High capability 并启用相应防护,同时称该模型未达到高网

    匹配字段摘要

星期一

  1. Anthropic Research精选

    Anthropic 公布反蒸馏防御方法,称蒸馏数据提取量下降 90% 至 99%

    Anthropic 发布博客介绍其针对 Claude 的反蒸馏攻击防御进展,早期证据显示这些方法使蒸馏者获取的数据量减少约 90% 至 99%。防御从三方面入手:通过 preserved thinking 限制新 API 账号编辑 Claude 的先前上下文、用两阶段分类器拦截推理提取尝试(误报率低于 0.1%)、对反复尝试提取的账号施加更严格限额并封禁。Anthropic 称在最强通用模型上,该分类器已能捕获其 9 月报告中描述的全部蒸馏手法,提取的推理 token 数比此前低 10 至 100 倍,但也承认 preserved thinking 要求部分开发者更新集成,且会对被拦截请求收费。

    匹配字段摘要