搜索“Hugging Face”

Hugging Face升级Kernels项目

Hugging Face推出实时语音AI栈

Hugging Face升级Kernels项目

Hugging Face 升级 Kernels项目及Hub内核仓库能力

查看事件：Hugging Face升级Kernels项目

Hugging Face推出实时语音AI栈

Hugging Face与Cerebras 推出 基于Gemma 4的开源实时语音AI栈

查看事件：Hugging Face推出实时语音AI栈

Hao AI Lab开源JetSpec++模型、代码与推理引擎

2026年10月31日,UCSD Hao AI Lab宣布将JetSpec++的模型、代码和推理引擎全部开源,并附上论文、代码与Hugging Face链接。该投机解码框架通过因果并行草稿、隐藏状态预测器和锚点token解码器,把草稿生成与验证流水线化。据其公布的数据,在Qwen3-8B上,JetSpec++实现1,361 TPS,相对DSpark最高1.54倍、相对自回归解码7.45倍端到端加速,且保持无损;结合NVFP4与kernel优化后,在两块GB200 GPU上Qwen3-8B超过4,000 TPS、Qwen3.8-27B超过900 TPS。目前尚无后续进展。

OpenAI公布扩展后的多层错位行为监测系统

2026年10月29日,OpenAI公布扩展后的前沿模型错位行为监测系统,覆盖训练、评估、内部使用和部分外部部署。OpenAI:Alignment研究博客称,该系统采用激活探针、模型审查、调查智能体和自动调查四层架构;另一篇OpenAI文章则称系统由激活探针、审查模型和调查智能体三层组成,并已覆盖全部前沿强化学习训练与评测以及内部所有Codex使用。回放Hugging Face事件时,强化后的监控在智能体逃出沙箱约30分钟后告警,比实际入侵提前30多小时。真实事件中,安全L2立即升级召回率为79.6%,对齐L2队列召回率为91.4%。

Tripo AI发布并开源实时生成式渲染器EdenLive

Tripo AI推出面向交互式场景的实时生成式渲染器EdenLive,隶属其交互式环境世界模型Project Eden,目前已向开发者开源。据VR陀螺报道,EdenLive将场景演化逻辑与视觉渲染解耦,只需2D/3D场景或参考视频、目标首帧与文本指令即可启动渲染,支持480p与720p两种分辨率;50亿参数版本在单张消费级RTX 5090上可实现720p下24帧/秒以上的实时生成。开源内容包括50亿与140亿参数模型权重、实时视频生成代码、文本转简易游戏的EdenGolem v0.1技能及完整提示词到游戏前端工具链,代码以Apache 2.0协议发布于GitHub,权重可在Hugging Face获取。目前尚无后续进展披露。

腾讯混元开源中英同传模型Hy-SimulMT

2026年10月26日,腾讯混元开源实时中英同声传译模型Hy-SimulMT,延迟约3秒,支持实时语音克隆,模型已在Hugging Face、ModelScope和GitHub发布。腾讯混元官方称其表现优于多数开源模型和商业API。次日IT之家报道,该模型支持中英语音到语音实时翻译,已在腾讯Hy翻译App免费上线;官方称响应时间实测约3秒,人类专业译员平均为4至5秒。在长音频开源评测集RealSI上,该模型在最低延迟下取得开源模型最佳效果,并称超过大多数商用同传API;在与6位CATTI持证同传专家的对比中,其翻译质量得分更高、时延更低。

Ollama上线语音模型Phonon,支持文本转语音

Ollama 于 2026 年 10 月 24 日上线语音模型 Phonon,开始支持文本转语音。据 Ollama Blog 介绍,Phonon 是来自 Gradium 的系列小型文本转语音模型,目前已在 macOS 上线,Windows 和 Linux 支持即将推出。在搭载 M5 Max 的 MacBook Pro 上,Ollama 借助 MLX 加速,速度比 Gradium 自家运行时快 35%,词错误率与 Hugging Face Transformers 参考实现持平。Phonon 兼容 OpenAI 的 /v1/audio/speech 接口,现有 OpenAI SDK 代码只需更换 base URL。许可方面,phonon 以 Apache 2.0 发布,40M 模型采用 CC BY-NC 4.0 许可,仅限非商业使用。目前尚无后续发展事实。

Hao AI Lab宣布FastH3 Omni可在DGX Spark、RTX GPU和Apple MLX本地运行

Hao AI Lab宣布,FastVideo FastH3 Omni可在NVIDIA DGX Spark、RTX GPU和Apple MLX上本地运行。该实验室给出的运行数据包括:用一张照片和一段提示词生成5秒480p视频约需3分钟,在两张Spark上约需2分钟;FastH3 T2AV在单张Spark上耗时52.6秒,在两张Spark上为30.7秒。演示视频中的片段均由DGX Spark以8步NVFP4 checkpoint生成。该实验室同时提供了博客、Cookbook和Hugging Face链接。目前尚无后续发展事实。

Modal推出LLM训练库Modal Dojo

Modal于2026年10月21日发布LLM训练库Modal Dojo。据Modal官方工程博客介绍,该库提供调好的默认配方、可改参数和开箱即用的指标观测面板,支持从5亿到数万亿参数的模型;它基于Miles、Slime等开源框架构建,可从Hugging Face加载数据集,并通过CLI让智能体查询运行状态、日志和轨迹。同一来源还称,Axiom Bio已用它启动64k上下文的DeepSeek V4.1 Flash训练,运行在64张B300上。目前尚无后续独立发展事实。

Recursive发布开放权重本地编码模型Flint

2026年10月21日,Recursive Superintelligence 发布开放权重本地编码模型 Flint。据相关报道,Flint 是 40B 混合专家模型,每 token 激活约 2.5B 参数,采用 Apache 2.0 许可,权重已在 Hugging Face 开放,由自动化研究系统 Eureka Machine 在不到 4 个月内从零构建。10月22日,Hugging Face 联合创始人 Thomas Wolf 评价称,Recursive 研究者把通常建议保持高精度的 lm_head 量化到 4 位,结果与 bf16 仅差 0.7 个百分点。同日,OpenRouter 上线 Flint,称其面向编码智能体,支持 262K 上下文、推理和工具调用,上线期间免费使用;Unsloth 则发布 Flint 的 Dynamic GGUF 量化版本,称可在 24GB 内存设备上本地运行。目前该模型已通过开放权重、托管平台和量化版本形成多种使用途径。

Google开源TorchTPU原生PyTorch栈

Google与Meta的PyTorch团队合作推出开源项目TorchTPU,为Google TPU提供原生PyTorch后端,迁移只需把model.to("cuda")改为model.to("tpu")。项目支持eager与torch.compile两种模式,新增DeferAndFuse eager模式,覆盖约450个Aten算子,并已在4,917个Hugging Face模型上验证开箱运行,其中Tier 1通过率98%、Tier 2相对GPU数值一致性97%。官方称其已用于部分Google Cloud大客户的推理与训练生产负载,并集成vLLM、SGLang、TorchTitan、Ray和TorchRec。后续报道称,在PyTorch Conference North America 2026上,Google开源了TorchTPU,运行时不再依赖JAX,现有负载只需少量代码改动即可迁移;PyTorch方面指出,TorchTPU默认的Skinny Collectives方案在分布式负载下相比优化方案约有30–40%的端到端性能损失,追求峰值性能仍需Pallas kernel及vLLM-T

MiniCPM-V 4.7在iPhone 18 Pro Max上实现20.51 tokens/s解码

面壁智能的 MiniCPM-V 4.7 在 iPhone 18 Pro Max(12GB)上实现 20.51 tokens/sec 的平均解码速度,相比同一设备未优化的 SSD 专家加载基线提速 6.07 倍。该速度来自 Lookahead Expert Scheduling(LES)、优化的专家加载、细粒度量化和 DSpark 投机解码。后续报道进一步说明,该方案通过跨层路由预测预取下一层可能需要的专家、并行加载剩余专家,并对专家权重做连续存储重排和逐层混合精度量化,同时配合 DSpark 投机采样;模型为 35B 总参数、每 token 激活 3B 的 MoE 架构,原始模型架构与专家路由保持不变,无需额外训练。模型已在 GitHub 和 Hugging Face 开放。

NVIDIA宣布扩展Isaac开放机器人开发平台

2026年10月21日,NVIDIA在GTC Berlin宣布扩展Isaac开放机器人开发平台,新增参考人形机器人、数据集与运行时,并更新机器人学习框架。同日,Isaac Lab 3.0正式可用,SimReady Central Library与Human 1M数据集上线Hugging Face。Agile Robots发布的Agile ONE SN基于Isaac GR00T与Jetson Thor,身高1.40米、31个自由度,计划2027年初上市。另据同日报道,NVIDIA在Hugging Face上线SimReady Central开放3D资产库,资产为带质量、碰撞几何、摩擦等仿真属性的OpenUSD格式,开发者与AI智能体可通过NVIDIA USD Search用自然语言检索资产并组装成Isaac Sim场景。目前该平台扩展已随上述发布落地。

Amazon推出TorchNeuron开源工具包

2026年10月19日,Amazon推出TorchNeuron开源工具包,使AWS Trainium成为标准PyTorch设备。据PyTorch博客,该原生后端让模型代码只需改为 .to('neuron') 即可运行,基于PrivateUse1和torch.accelerator扩展点,支持eager、自适应eager与torch.compile,并覆盖DDP、FSDP2、张量并行等分布式API及NKI自定义算子;官方称已在10万个Hugging Face模型上做覆盖测试,计划10月20日以Apache 2.0协议在github.com/aws-neuron/torch-neuronx开放公测。Hugging Face同日发布介绍称,该插件支持eager模式、torch.compile及FSDP2、DTensor等分布式接口,10月20日起公开beta,可通过 pip install torch-neuronx 安装,Transformers、Diffusers、Accelerate、PEFT和TRL可直接在Trainium上运行,无需再经Optimum Neuron;文本生成方面前1

Bria发布8B开源权重图像模型Fibo 2.0

2026年10月20日,Bria发布8B参数开源权重图像模型Fibo 2.0。据Artificial Analysis报道,该模型在AA-Image-Editing v2.1上位列开源权重模型第一,在AA-Image-T2I v2.1上与Qwen-Image-2.1统计并列领先。此次共发布两套权重:Fibo 2.0 Dev用于文生图,蒸馏版Fibo 2.0 Edit Turbo用于图像编辑。模型以非商业许可开放权重,商用需与Bria另行签约;权重已在Hugging Face开放,可通过Bria API和fal使用。Bria API价格为每1k张图像32美元。同日fal平台信息显示,该模型支持最多四张输入图像,可进行背景替换、产品重摆与光照调整,并称仅用授权数据训练。

Nvidia发布Nemotron 3.5 Super VL与Bolt模型

Nvidia于2026年10月15日宣布推出Nemotron 3.5 Super VL与面向端侧的3.5 Bolt模型。据Nvidia官方介绍,Super VL为120B参数开放模型,面向常驻智能体任务,官方称其在同类开放模型中吞吐最高,比次优模型快5倍;同时推出Bolt 74B-A9B 24GB与Bolt E4B 4GB两款端侧模型,前者可在RTX/DGX Spark本地运行智能体任务,后者面向GeForce RTX、Jetson上的语音与对话智能体。Super VL与Bolt 74B-A9B已上线Hugging Face,Bolt E4B计划于10月23日发布。同日,SGLang宣布为Super VL提供Day-0支持,在单张RTX 6000 PRO上借助MTP达到243.9 tok/s;Prime Intellect与Nvidia用GRPO在128张GB200 GPU上后训练约11小时,使其在AutomationBench-AA公开集上从34.0%提升到57.7%。当晚OpenRouter上线该模型,次日Perplexity宣布Pro和Max订阅用户及Agent API可使用。

SGLang原生支持并驱动Beam生产API

LMSYS于2026年10月16日宣布,SGLang已原生支持Reflection的Beam模型,并用于支撑其生产API。Beam是501B参数、每token激活23B的MoE模型,原生1M token上下文窗口,计划以Apache 2.0发布;SGLang为其提供BF16、NVFP4和动态FP8支持、DFlash2投机解码与混合注意力前缀缓存。在4张NVIDIA GB300 GPU上以NVFP4运行OpenHands多轮智能体编码回放,并发32时达到每GPU 127.6K tokens/sec、每用户185.87 tokens/sec(p50)。同日,Reflection发布Beam模型权重,Ollama作为day-zero合作方限时免费提供并采用零数据保留;Beam总参数量约5010亿、每token激活约230亿,上下文窗口100万token,以Apache 2.0许可发布。后续AWS方面信息称,Beam权重已在Hugging Face发布,提供BF16、FP8和NVFP4三种checkpoint,并已在Amazon SageMaker JumpStart上线,也可通过SageMa

StepFun 将 Step Code 更新至 v0.1.4

2026年10月15日,阶跃星辰(StepFun)将围绕 Step 5 Preview 构建的开源 agent harness Step Code 更新至 v0.1.4,帮助智能体在长而复杂的任务中跟踪目标、持续推进,并对照可验证结果检查任务是否真正完成。官方称,Step Code 开源以来已发布四个版本,约每 3 个工作日一次,主要由社区反馈驱动。同日,阶跃星辰正式开放 Step 5 Preview 模型权重,BF16、FP8 两个版本同步上线 Hugging Face 和 ModelScope;该模型采用稀疏 MoE 架构,总参数量 600B、激活参数 27B,支持 100 万 Token 上下文窗口。