Exa 发布 Exa 3.0,Search Index 得分 80 与 Perplexity Search 并列第一
#产品更新#搜索#评测/基准
#产品更新#搜索#评测/基准
#现象/趋势#端侧#多模态
#开源/仓库#部署/工程#DeepSeek
Run @AntLingAGI speech models locally 🎙️ Ming-3.0 is 5 open models that talk, listen and write down what you say Its voice model now ranks #1 among open models on Artificial Analysis starting at just 0.5B Run AI models locally -> https://t.co/RbcCOIgVkj https://t.co/vbqafAAd2x
#产品更新#开源生态#语音
Day-0 support for Ming-3.0 in vLLM-Omni @AntLingAGI just open-sourced 5 speech models spanning TTS, audio understanding, and ASR — ranging from 0.5B to 126B total parameters (6.5B active). Serve them today with vLLM-Omni. Congrats to the @AntLingAGI team!
#产品更新#部署/工程#开源生态
面壁智能的 MiniCPM-V 4.7 可在本地以 100 tok/s 运行,内存占用约 3 GB,定位为让端侧 AI 更实用。官方提到 llama.cpp 生态让该模型更容易上手试用。
MiniCPM-V 4.7 running locally at 100 tokens/second! New multimodal models from @OpenBMB using only ~3 GB of memory. Below, I showcase how to run it with @llama_cpp's web UI 🧵 https://t.co/tItzIAD77q
#产品更新#端侧#多模态
AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改一行配置就能运行在亚马逊自研芯片 Trainium 上,无需重写代码。亚马逊称约 85% 的 AI 应用用 PyTorch 编写,并计划把移除框架与特定芯片绑定代码的改动提交到 PyTorch 上游。AWS Annapurna Labs 技术软件副总裁 Colin Brace 称,语音应用厂商 Deepgram 迁移到 Trainium 后每美元处理的音频量提升 70%。
#产品更新#部署/工程#开源生态
微软发布 Guardian Agents 等新安全功能,用于监控企业内部的 AI 智能体;该功能属于 6 月推出的 Project Perception。微软安全业务负责人 Hayete Gallot 称前沿模型无论来自哪里都不可信任,原因是其行为不可预测。微软还在 Microsoft Defender 中加入智能体检测,可发现 Claude Code、Codex、OpenClaw 等最多 60 种员工带入的智能体,并新增限制数据访问、按任务动态调整权限、高风险决策需人工批准等能力。
#产品更新#安全/对齐#Agent
蚂蚁 inclusionAI 在 GitHub 发布 vLLM-Omni 仓库,这是一个在 vLLM 基础上扩展全模态模型推理与服务的框架,支持文本、图像、音频、视频和动作数据处理,并支持 DiT 等非自回归架构。README 显示其已迭代至 0.30.0,对齐 vLLM 0.30.0,新增 MiniCPM-o 4.5 与 AURA 的全双工会话服务、Mooncake AR-to-DiT 跨阶段 KV 与多模态传输,以及在 NVIDIA Blackwell 和昇腾 950 上的 MiniMax H3 Turbo 实时推理。框架提供 OpenAI 兼容 API 服务、流式输出和分布式并行推理,并列出 Qwen3-Omni、MiniMax H3、Wan2.2、π0.5 等已支持模型。

#开源/仓库#部署/工程#多模态
PyTorch 宣布开源原生后端 TorchNeuron,让 Trainium 成为标准 PyTorch 设备,模型代码只需改为 .to('neuron') 即可运行,10 月 20 日以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 开放公测。该后端基于 PrivateUse1 和 torch.accelerator 扩展点,支持 eager、自适应 eager 与 torch.compile,并覆盖 DDP、FSDP2、张量并行等分布式 API 以及 NKI 自定义算子。官方称已在 10 万个 Hugging Face 模型上做覆盖测试,Hugging Face Transformers v5、Diffusers、vLLM Neuron 等可直接在 Trainium 上使用。

#产品更新#开源生态#部署/工程
Amp 现已作为智能体接入 Linear,把 issue 指派给 Amp 即可在 Linear 中开启新的 Agent Session 并生成一个 orb,也可以用 @Amp 提及来启动会话。Amp 的回复会回到同一会话并回应过程中的消息,该 Agent Session 同时出现在 Amp 侧边栏,可在 Amp 中完整查看。

#产品更新#Agent#MCP/工具调用
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可在本地或 Ollama 云端运行。Clef 由 Qwen3.8-27B 微调而来,采用 Apache 2.0 许可,支持文本与图像输入,兼容 Jev 和 System One API,可一次读取输入并同时为所有问题打分。官方称其在 Cloudflare Decision Index 上居首,并在多数基准上超过 Jev。
#产品更新#多模态#部署/工程
Kling AI 发布 4.0 版本,单次可生成最长 30 秒视频,支持最多 10 张关键帧图像输入,提示词理解扩展到 8,000 tokens。升级后的 Omni Reference 单次生成最多接受 15 个参考素材,包括 10 张图像、总时长不超过 30 秒的 5 段视频和 7 个元素。新版本加入双声道立体声音频和覆盖德语、英语、日语、韩语、西班牙语等十余种语言的口型同步,同时推出最高 720p、20 秒的轻量版 Kling 4.0 Flash,并可通过 MCP 和 CLI 接入自动化工作流。
#模型发布#视频#多模态
NVIDIA 将完整的 Run:ai 平台以 Apache 2.0 协议在 GitHub 开源,包含控制平面、集群服务、安装器、CLI 和 MCP server,平台团队可自行审查、fork 和自托管,无需付费订阅。发布拆为 KAI Scheduler、GPU Fractioning Operator、KAI Resource Management 和 Workload Map 四个可独立采用的组件,其中 GPU 切分改用 CUDA 13.4 原生显存硬限制。本地开发通过 local-dev.sh 在 5 节点 Kind 集群(Kubernetes v1.32.5)上模拟 8 块 Tesla-A10 GPU,无需真实 GPU;社区版不含 NVIDIA 企业支持。
#开源/仓库#部署/工程#Agent
Exa 发布面向 AI 智能体的搜索 API Exa 3.0,新增更便宜的搜索类型 Exa Lite,每 1000 次请求 4 美元,与 Auto 共用同一索引;Dynamic Highlights 转为正式可用,官方称比整页文本少用 95% token 且不额外收费。Exa 称 Exa 3.0 Auto 在 8 项基准上均领先 Perplexity、Brave 和 Parallel,其中 BrowseComp 为 91.8%,ATLAS 为 42.0% 对 Perplexity 的 37.2%,但这些基准均由 Exa 自行运行,ATLAS 也是 Exa 自己发布的基准。Auto 每 1000 次请求标价 7 美元,高于三家竞品的 5 美元。
#产品更新#搜索#Agent
Hugging Face 发布 PyTorch 插件 TorchNeuron,把 Neuron 变成原生设备,支持 eager 模式、torch.compile 以及 FSDP2、DTensor 等分布式接口,2026 年 10 月 20 日起以公开 beta 形式提供,可通过 pip install torch-neuronx 安装。Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接在 Trainium 上运行,无需再经过 Optimum Neuron;官方建议 Neuron 用户改用这些库。文本生成方面,前 100 个最常用架构中有 89% 开箱支持,Optimum Neuron v0.4.5 为 46%,只需传入 device_map=neuron。
#产品更新#部署/工程#开源生态
Google 发布 LiteRT Tensor API,让开发者在 C++ 中逐算子构建计算图,同一份代码可经 LiteRT 跑在 CPU、GPU(ML Drift)和 NPU 上,或不经模型文件直接通过 XNNPACK 在 CPU 运行。官方用该 API 手写 SAM 2 并部署到浏览器 WebGPU,在 MacBook Pro 上比 Apple MLX 快约 1.5 倍,输出掩码与 Meta PyTorch 参考逐像素一致。该 API 还支持从 .safetensors 直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传 CPU。

#产品更新#端侧#部署/工程
微软推出 Guardian Agents 等安全功能,用于监控企业内部使用的各类 AI 智能体,该功能隶属于 6 月推出的感知项目(Project Perception)。微软安全业务负责人海耶特·加洛表示,前沿模型无论来源都无法完全信任,原因是其行为不可预测且往往握有高权限。Microsoft Defender 同时新增智能体检测功能,最多可识别员工带入工作环境的 60 种智能体,包括 Claude Code、Codex 和 OpenClaw,并可限制权限、在高风险操作前要求人工审批。
#产品更新#安全/对齐#Agent
OpenAI 在 ChatGPT 中上线 Slides 幻灯片工具,用户可基于对话内容、上传文件或大纲生成演示文稿,也可选用内置模板创建。生成后文稿可分享给团队实时协同编辑、修改内容并留下评论,还能按反馈让 ChatGPT 自动调整,并支持在 PowerPoint、Google Slides 中打开或导出 PDF、PowerPoint 文件。该功能面向 Pro、Business 和 Enterprise 套餐用户开放,Plus 用户暂无法使用。
#产品更新#OpenAI#Agent
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,目标是帮助开发者与企业优化大规模推理的吞吐与延迟、降低算力成本。DeepInfer 集成高性能算子与推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出,兼容英伟达与华为昇腾平台。同步开源的还有生产级 Token 编解码组件 deepseek-recipe,与官方 API 处理逻辑完整对齐;DeepSeek 已基于 DeepInfer 提供 DeepSeek V4.1 Flash 的大规模推理服务。
#开源/仓库#推理#部署/工程