←搜索结果

搜索“推理”

按匹配度 · 共 3177 条结果 清除搜索

星期二

  1. Hugging Face

    Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型

    Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重，只需在 from_pretrained 中传入 gguf_file 即可，无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示，transformers 的生成速度接近 llama.cpp，但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS，覆盖 Qwen3.5 稠密与 MoE 架构，填充批处理性能仍有待改进。

    Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重，只需在 from pretrained 中传入 gguf file 即可，无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示，transformers 的生成速度接近 llama.cpp，但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS，覆盖 Qwen3.5 稠密与 MoE 架构，填充批处理性能仍有待改进。

    匹配字段摘要

    #lab#产品更新#部署/工程#开源生态
  2. Black Forest Labs Blog精选

    Black Forest Labs 发布 FLUX 3 Action：7B 开源世界动作模型用于机器人控制

    Black Forest Labs 发布 FLUX 3 Action，一个从多模态 FLUX 3 主干衍生的 7B 开源权重世界动作模型，在 RoboLab-120 榜单上以不到此前最佳开源模型一半的参数量取得 38.3% ± 0.38 的成功率，速度最高提升 3.95 倍。该模型在图像、视频和音频数据上预训练，其中视频占训练 token 的 95% 以上，再通过联合视频-动作训练和针对目标本体的微调适配动作空间。报告还分析了将其与 GPT 6 Astra 等推理模型组合的混合方案，发现快速控制能让具身推理更省时省钱，每美元成功率最高提升 53.64%。

    匹配字段摘要

    #company#模型发布#具身智能#开源生态
  3. 小米 MiMo精选

    小米发布 MiMo-V2.6 Pro 与 Flash 全模态模型

    小米 MiMo 发布 MiMo-V2.6 Pro 与 Flash 两款全模态模型，结合 3D 空间推理、多模态感知与 computer use，可把文本、图像或视频转成可玩的 3D 世界，并支持 Blender 场景创建、仿真中控制 Franka Panda 机械臂以及桌面工具操作。官方称 Pro 在多数智能体基准上与 Claude Opus 5、GPT-5.6 Sol 相当，Artificial Analysis Intelligence Index 得分 46，为开源模型最高，API 定价与 V2.5 持平。团队同时开源 Pro、Flash、MiMo-V2.6-Distill-Qwen-9B、技术报告、7K+ RL 任务环境、端到端 RL 框架与可组合 mini-harness，并上线 MiMo Desktop 与订阅方案。

    匹配字段摘要

    #company#模型发布#多模态#Agent
  4. Thomas Wolf

    Thomas Wolf 列出约十周内三十余个开源模型发布，回应开源正在消亡的说法

    Hugging Face 的 Thomas Wolf 在 X 上列出 Dylan Patel 访谈之后约十周内发布的开源模型清单，包括 Moonshot Kimi K3、Qwen3.8-Max、DeepSeek V4-Pro、腾讯 Hy4、GLM-5.3 和上海 AI Lab Atria Dawn 等三十余项，并指出其中多个达到前沿规模，如 Kimi K3 的 2.8T、Qwen3.8-Max 的 2.4T、DeepSeek V4-Pro 的约 1.6T。该推文引用的访谈中，Dylan Patel 称有中国模型实验室告知推理厂商下一代模型将不再开源、改为授权，并称开源正在快速消亡。

    匹配字段摘要

    #editorial#现象/趋势#开源生态#DeepSeek
  5. Data Center Knowledge

    企业为何选择托管数据中心承载 AI 与混合云

    企业正越来越多地把 AI 推理计算放进托管数据中心，因为现代托管设施支持 35 kW 风冷机柜和 70-150 kW 液冷机柜，密度高于多数传统企业数据中心。Foundry 2026 云调研显示 74% 的企业去年加速了云迁移，而 VMware 报告称 83% 的企业已完成或计划从公有云迁回工作负载，转向混合云加托管或本地部署模式。

    匹配字段摘要、正文

    #hot-signal#行业动态#部署/工程#数据/训练
  6. NVIDIA Blog

    NVIDIA Halos：为什么物理 AI 需要在每一层都保证安全

    NVIDIA 推出 Halos，称其为物理 AI 领域首个也是唯一一个全栈安全系统，覆盖设计、验证与部署各层。面向自动驾驶，Halos 包含 DRIVE AGX Thor、Hyperion、基于 ASIL-D 认证 DriveOS 的 Halos OS、Alpamayo 推理视觉语言动作模型及安全评估框架；面向机器人则包含 IGX Thor、Holoscan Sensor Bridge、Isaac Lab 与 Omniverse。ABI Research 预计 2035 年 L3-5 自动驾驶汽车保有量达 4900 万辆，Omdia 估计 2026 至 2035 年间约 6000 万台工业机器人将部署。

    匹配字段摘要

    #lab#行业动态#部署/工程#具身智能

星期一

  1. ElevenLabs Blog

    什么是 agentic workflows？自动化实践指南

    Agentic workflow 让 AI 智能体在每一步自行推理并决定下一步动作，而非沿固定脚本执行。它由 LLM 推理层结合 RAG、记忆与 guardrails 构成，高风险步骤仍走固定审批，超出权限时转人工。ElevenLabs 的 ElevenAgents Workflows 编辑器可显式映射决策点，在专用子智能体或人工坐席之间路由。

    What are agentic workflows and how do they work image. Agentic workflow cycles through interpreting, retrieving, deciding, adapting, and executing a billing dispute.

    匹配字段摘要、正文

    #company#教程/实践#Agent#RAG

星期日

  1. 通义千问 / Qwen

    阿里 Qwen 发布 Qwen-Image-2.1 图像生成模型并开放权重

    Qwen 发布 Qwen-Image-2.1，这是 Qwen-Image 系列中兼顾均衡与成本效益的图像生成模型，现已开放权重。该模型为生成与编辑统一模型，采用 7B 轻量架构，支持原生生成和编辑 RGBA 透明图层，最多可输入 10 张参考图进行高保真局部编辑，并针对多图输入的推理速度做了大幅加速。官方同时给出 Blog、GitHub、Model Scope 和 Hugging Face 链接。

    匹配字段摘要

    #company#模型发布#图像生成#开源生态
  2. 通义千问 / Qwen

    Qwen 发布开源图像模型 Qwen-Image-2.1

    Qwen 发布 Qwen-Image-2.1，称其为 Qwen-Image 系列中最均衡、性价比最高的图像生成模型，并已开放权重。该模型统一支持生成与编辑，采用 7B 轻量架构，可原生生成和编辑 RGBA 透明图层，支持最多 10 张参考图与局部精确控制，在多图输入下推理速度大幅提升。官方同时给出博客、GitHub、Model Scope 和 Hugging Face 链接。

    匹配字段摘要

    #company#模型发布#图像生成#开源生态
  3. Qwen Blog精选

    Qwen 开源 Qwen-Image-2.1 图像模型

    Qwen 团队开源 Qwen-Image-2.1，将文生图与图像编辑统一到单一模型，视觉生成组件为 7B 参数、32 层 Single-Stream DiT，并原生支持透明图像生成与编辑。该版本支持最多 10 张参考图、圈选与掩码等局部编辑方式，并通过混合粒度注意力与 KV cache 复用降低多图编辑时的推理开销和显存占用。官方称其在 Qwen-Image-Bench 上与其他开源及闭源模型进行了对比，模型权重已在 GitHub、Hugging Face 和 ModelScope 发布。

    匹配字段摘要

    #company#模型发布#图像生成#多模态
  4. 极果

    智谱开源 GLM-5.3 Flash：3200 亿参数原生多模态，实测四轮生成

    智谱在 8 月 26 日晚公布匿名模型 Ox Alpha 就是旗下 GLM-5.3 Flash，已正式上线并开源，总参数 3200 亿，是 GLM-5 系列首个原生多模态模型，编程表现与 Claude Opus 4.8 持平，定价为 GLM-5.2 的十分之一。作者用四轮任务实测，3D 打印机、复刻 macOS 桌面加射击游戏、自由网站设计均完成，3D 街机赛车耗时 3 小时 46 分钟且方向键反向、撞护栏后无法移动。智谱同时发布 GLM-5.3-FlashX，推理速度最高 200 tokens/s，比 Flash 快 5 倍；官方称 Flash 推理服务全部由国产 AI 芯片集群承载。

    匹配字段摘要、正文

    #hot-signal#行业动态#模型发布#开源生态

星期六

  1. n8n Blog

    n8n 如何降低 AI 工作流延迟：并行执行、超时与缓存

    n8n 发布指南，介绍用并行执行、超时和缓存等内置控制降低 AI 工作流延迟。文章把延迟拆为模型推理、工具与 API 调用、编排开销三层，并给出参考延迟预算：实时工作流 500 毫秒以内、批处理 5 到 20 秒、后台工作流 30 秒以上。TTFT 建议保持在 300 到 500 毫秒或更低。

    匹配字段摘要

    #engineering#教程/实践#部署/工程#Agent
  2. Google AI for Developers

    Gemini 3.8 打造 cyberdeck 工作坊助手

    POV：零经验搭建你的第一个 cyberdeck ⚒️‼️ 看看这个 demo，用 Gemini 3.8 Live Extended Thinking 打造一个工作坊助手，它能分析你的工作区、与你出声推理，并引导你完成整个搭建过程。https://t.co/5VdVTygGn0

    POV：零经验搭建你的第一个 cyberdeck ⚒️‼️ 看看这个 demo，用 Gemini 3.8 Live Extended Thinking 打造一个工作坊助手，它能分析你的工作区、与你出声推理，并引导你完成整个搭建过程。https://t.co/5VdVTygGn0

    匹配字段摘要

    #engineering#教程/实践#多模态#语音

星期五

  1. 通义千问 / Qwen精选

    阿里千问发布全模态模型 Qwen3.8-Omni-Flash

    阿里千问发布首个围绕智能体能力构建的全模态模型 Qwen3.8-Omni-Flash，原生支持音视频理解、推理与工具调用。官方称其音视频能力接近 Gemini 3.8 Flash，在 WildClawBench-MM 与 UniClawBench 上智能体表现平均提升 19.5 分；支持 1M token 上下文，在 OmniVideoBench 上比静态理解少用 51.8% token。视频输入成本较 Qwen3.5-Omni-Plus 降低约 89%，同时开源 Qwen-MM-Plugins，Qwen-Live Harness 即将推出。

    匹配字段摘要

    #company#模型发布#多模态#Agent
  2. 通义千问 / Qwen

    阿里千问发布 Qwen3.8-Omni-Flash 全模态模型

    阿里千问发布 Qwen3.8-Omni-Flash，称其为 Qwen 首个围绕智能体能力构建的全模态模型，将原生音视频理解、推理与工具调用整合在一个模型中。官方称其在音视频能力上接近 Gemini 3.8 Flash，在 WildClawBench-MM 与 UniClawBench 上智能体性能平均提升 19.5 分；支持 1M token 上下文，在 OmniVideoBench 上比静态理解少用 51.8% token，视频输入成本较 Qwen3.5-Omni-Plus 降低约 89%。同时开源 Qwen-MM-Plugins，Qwen-Live Harness 即将发布。

    匹配字段摘要

    #company#模型发布#多模态#Agent

星期四

  1. 商汤 SenseTime

    商汤发布 SenseNova U1.5 技术报告，开源 8B-MoT 原生统一模型

    商汤发布 SenseNova U1.5 技术报告，推出开源的 8B-MoT 原生统一模型，通过共享注意力连接理解与生成，并公开 SFT、RL 与多专家 on-policy 蒸馏的完整训练配方。报告显示，加入 CoT 后 WISE 从 0.70 提升至 0.81，RealUnify-GEU 相比 U1-SFT 从 47.5 升至 56.3，视觉推理在 VBVR-Pro-Bench 上达 68.2%，高于 Nano-Banana-Pro 的 56.4% 和 GPT-Image-2 的 50.7%。模型采用 Pixel Shuffle 加 3×3 空间卷积实现原生 4K 生成，并通过多专家 on-policy 蒸馏整合美学、OCR、信息图与编辑能力。

    匹配字段摘要

    #editorial#模型发布#多模态#开源生态
  2. Exponential View

    Azeem Azhar：我不希望你的大脑退化

    Exponential View 作者 Azeem Azhar 在给团队的邮件中表达了对使用 AI 影响思考能力的担忧，并区分了“认知卸载”与“认知投降”：前者是有策略的委托，后者是对推理本身不加批判的放弃。他引用一篇未经同行评审的论文指出，人类认知实践在 AI 之前就已下滑，先进 AI 正促使人们把越来越简单的任务也委托出去，从而削弱维持认知能力的行为。

    匹配字段摘要

    #newsletter#现象/趋势#论文/研究
  3. gihyo.jp

    Google DeepMind 研究者发起成立 DeepMind Institute，探讨 AGI 时代安全与社会制度

    Google 与 Google DeepMind 的研究者于 9 月 16 日宣布成立 DeepMind Institute（DMI），由 Shane Legg、James Manyika、Demis Hassabis 三人担任总监，Legg 兼任编辑责任者，并声明所刊文章仅代表作者观点、非 Google 官方立场。官网同步发布 4 篇文章，涵盖 AGI 经济政策（评估失业 insurance、基本收入等 11 项政策）、Chain of Thought 推理透明度、新乌托邦主义原则，以及 Hassabis 提出的前沿 AI 评估框架——拟设受联邦监督的官民合作组织，对达到一定能力基准的模型开展网络安全与生物威胁测试。

    匹配字段摘要

    #hot-signal#行业动态#安全/对齐#Google
  4. Baseten 工程博客

    Baseten 发布 Hosted Tools，首推网页搜索 Grounded Inference

    Baseten 发布 Hosted Tools，首个工具为网页搜索 Baseten Grounded Inference，首批接入 Exa、Keenable、Parallel 和 You.com 四家搜索服务商。开发者只需在 Messages、Chat Completions 或 Responses 请求中加一项配置即可启用，搜索在 Baseten 推理栈内服务端执行，模型按原生工具调用能力自行决定是否检索并迭代。Baseten 称其基准测试中端到端延迟比客户端工具方案降低 15%，该功能目前以 playground 预览形式开放，限速 25 RPM 并赠送 2 美元额度。

    Baseten hosted tools

    匹配字段摘要

    #editorial#产品更新#Agent#搜索
  5. IEEE Spectrum

    AI 时代重新思考机器人安全：VicOne 解析物理 AI 的三层攻击面

    VicOne 指出，物理 AI 让机器人安全面临新问题：攻击者无需直接控制，只要篡改机器人看到、听到或理解的内容，就能改变其行为。文章梳理三层攻击面：BadVLA 等后门攻击可让 VLA 模型在隐藏触发下偏离动作轨迹，GoBA 用咖啡杯等普通物体作触发，报告 97% 攻击成功率；UniPwn 蓝牙漏洞链可 root 级控制机器狗与人形机器人，且具蠕虫式传播能力；RoboPAIR、VLAttack、FreezeVLA 则显示提示词与对抗图像可在运行时操纵感知与推理。

    匹配字段摘要

    #hot-signal#安全/对齐#具身智能#多模态