←搜索结果

按匹配度 · 共 174 条结果 清除搜索

星期二

  1. Berkeley RDI Blog精选

    Berkeley RDI 发布开源计算机使用智能体平台 CUA-Lite

    Berkeley RDI 发布开源平台 CUA-Lite,用于开发 computer-use agents,围绕 Lite.Gym 环境接口、Lite.Sample 监督数据格式和每个模型一套 harness 三层抽象构建,已接入 15+ 个 benchmark、10+ 个数据集和 30k+ 可验证任务。Lite.Gym 以 Gym 风格的 reset/step/close 循环统一观察格式与 GUI 动作空间,并提供无需 /dev/kvm 的免虚拟机 Docker 桌面沙箱,Lite.OSWorld 可原样运行 OSWorld 的任务与评测器。Lite.Sample 在 Hugging Face 免费提供,harness 已覆盖 14 个模型家族,同一套 harness 同时用于评测、SFT 和基于 Slime 的 GRPO 等 RL 训练。

    匹配字段摘要、正文

  2. NVIDIA Blog精选

    NVIDIA 为 RTX Spark 笔记本铺开本地 AI 软件与模型生态

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴推出配套软件与性能优化,覆盖 GitHub Copilot、Hermes、OpenClaw、Perplexity 等智能体应用。专为本地智能体打造的 Nemotron 3.5 Bolt 74B-A9B 24GB 模型于 10 月 15 日发布,采用 74B 参数、9B 激活参数的 MoE 架构和 2-bit 量化,可通过 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio 运行。个人 AI 路由器 NVIDIA PAIR 正式结束 beta,新增 llama.cpp 支持与 Hugging Face 直接下载模型,并支持 Windows、Linux 和 macOS。

    匹配字段摘要、正文

星期四

  1. MarkTechPost

    Unsloth Studio 公布四道加载前安全检查机制

    Unsloth 发布 Unsloth Studio 与 Unsloth Desktop 的安全概览,说明模型从下载转入执行时会触发四道检查:代码指纹绑定审批、独立的权重文件拦截、操作系统沙箱探测和包内容扫描。代码指纹变化后需重新授权,Hugging Face 的恶意扫描结论会拦截加载路径中被标记的权重文件,工具则在 bubblewrap、Seatbelt、MXC 等系统级沙箱中运行。文中提到 deepseek-ai/deepseek-ocr 与 moonshotai/Kimi-VL-A3B-Instruct 在加载时会弹出审批并列出发现项,Unsloth 也在其适配仓库中移除了 eval 调用等问题代码。

    匹配字段摘要、正文

星期二

  1. AWS Machine Learning

    GLM 5.3 上线 Amazon Bedrock,753B MoE 模型面向编码与长程智能体任务

    Z.ai(智谱)的 GLM 5.3 已在 Amazon Bedrock 上线,据 Hugging Face Hub 发布信息,这是一个 753B 参数的 MoE 模型,面向编码和长程智能体任务优化。Bedrock 提供全托管 API,支持跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。相比 GLM 5,官方称其在 DeepSWE、Terminal Bench 3.0、FrontierSWE 等编码基准上有竞争力,并在 CyberGym 基准上测得 84.5 分。

    [Amazon Bedrock Playground screenshot showing chat interface with GLM 5.3 model explaining symmetric vs asymmetric encryption. Response includes detailed comparison with checkmarks and X marks highlighting key differences, examples like AES and RSA, a]

    匹配字段摘要、正文

星期二

  1. gihyo.jp

    NVIDIA 发布 Open Agent Safety Platform

    NVIDIA 于 9 月 28 日发布 Open Agent Safety Platform,由在隔离沙箱中控制文件、网络与进程访问的 OpenShell,以及运行在 BlueField-4 DPU 上、独立于主机软件进行监控与毫秒级隔离的 Sentry 组成。OpenShell 以 Apache License 2.0 开源,已发布 0.1.0 版本,可在本地、本地部署、云和 Kubernetes 环境使用,官方指南给出用 Docker 运行 OpenCode 并经 OpenRouter 调用模型的示例。NVIDIA 称参与该平台技术开发与使用的企业及组织超过 100 家,包括 Anthropic、Microsoft、Hugging Face、CrowdStrike、SAP,Canonical、SUSE、Red Hat 也在推进将其集成到操作系统与 AI 基础设施。

    匹配字段摘要、正文

星期一

  1. Wired AI

    Nvidia 将智能体安全沙箱 OpenShell 正式发布,并推出 Sentry 平台

    Nvidia 将面向 AI 智能体的安全沙箱 OpenShell 从 GTC 大会首次公布推进到面向所有用户正式发布,该框架把智能体活动隔离在操作系统内核中。Nvidia 同时推出新软件平台 Sentry,作为芯片上的隔离安全域持续监控长时间运行的智能体,可隔离试图越界的智能体,并计划与 Arm、Intel 合作使其支持 x86 架构。两者被纳入开源框架 Open Agent Safety Platform,Nvidia 称 Anthropic、Microsoft、Mistral、Hugging Face 等数十家公司参与合作,Salesforce、Scale AI、SAP 确认不同程度集成 OpenShell,但 OpenAI 未出现在名单中。

    匹配字段摘要、正文

星期三

  1. A6 a6-047 · Baseten 工程博客

    Baseten 上线 NVIDIA Nemotron 3 Diarization,单卡可跑 500 路实时说话人分离

    Baseten 在 Model Library 上线 NVIDIA Nemotron 3 Diarization,提供预录、流式和实时转写三种预设,单次推理即可标注最多 8 位说话人,间隔最低 320ms。该模型约 100M 参数,基于 NVIDIA Streaming Sortformer,同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟;在 RTX PRO 6000 上可维持 500 路以上并发分离流,加入转写后为 190 路。AISHELL-4 低延迟档 DER 为 9.8%,对比 Streaming Sortformer v2.1 的 27.2%,模型已在 Hugging Face 和 Baseten Model Library 开放。

    匹配字段摘要、正文

  2. Baseten 工程博客

    NVIDIA Nemotron 3 Diarization 上线 Baseten,实时说话人标注每小时一美分

    NVIDIA Nemotron 3 Diarization 已在 Hugging Face 和 Baseten Model Library 上线,提供批量、流式和实时说话人标注转写三种预设。该模型基于 NVIDIA Streaming Sortformer,约 100M 参数,单次前向即可输出说话人活动,最多标注 8 位说话人,同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟。Baseten 在 RTX PRO 6000 上优化后,单卡可维持超过 500 路并发小时级分离流,加入转写后为 190 路,批量吞吐比 NVIDIA 参考部署高约 1.35 倍。

    Nemotron 3 diarization

    匹配字段摘要、正文

星期二

  1. Hugging Face

    Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型

    Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重,只需在 from_pretrained 中传入 gguf_file 即可,无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示,transformers 的生成速度接近 llama.cpp,但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS,覆盖 Qwen3.5 稠密与 MoE 架构,填充批处理性能仍有待改进。

    Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重,只需在 from pretrained 中传入 gguf file 即可,无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示,transformers 的生成速度接近 llama.cpp,但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS,覆盖 Qwen3.5 稠密与 MoE 架构,填充批处理性能仍有待改进。

    匹配字段摘要、正文

星期日

  1. Comfy Blog精选

    Qwen-Image-2.1 在 ComfyUI 原生支持:开源图像生成与编辑,新增透明通道

    Qwen-Image-2.1 已在 ComfyUI 中原生支持,这是阿里 Qwen 团队最新的开源图像模型,7B 参数,基于优化的 MMDiT 架构。它可直接输出带 alpha 通道的 RGBA 图像,原生生成 2048×2048 分辨率,并支持最多 10 张参考图输入,生成与编辑共用同一个 checkpoint。用户更新 ComfyUI 或使用 Comfy Cloud,从 Hugging Face 下载权重并加载模板即可使用。

    Rob's avatar

    匹配字段摘要、正文

星期二

星期六

  1. 腾讯混元

    腾讯混元将 Hy4-preview 压缩至约 200GiB GGUF,发布 MIX-STQ1_0 量化方案

    腾讯混元把 Hy4-preview 从 1.5TB 压缩到约 200GiB 的 GGUF,并称仍能良好运行。其 MIX-STQ1_0 方案用校准数据为每层选择位宽,部分低至 1.31-bit STQ1_0,部分高至 2.06-bit IQ2_XXS。相比 BF16,MCP Atlas 从 83.7 降至 83.2,SWE-Bench multi 从 82.9 降至 81.3,MRCR 从 81.3 降至 81.1,IFBench 从 73.5 降至 72.5。权重与低比特 GGUF 已发布在 Hugging Face 的 AngelSlim/Hy4-preview-GGUF。

    腾讯混元把 Hy4-preview 从 1.5TB 压缩到约 200GiB 的 GGUF,并称仍能良好运行。其 MIX-STQ1 0 方案用校准数据为每层选择位宽,部分低至 1.31-bit STQ1 0,部分高至 2.06-bit IQ2 XXS。相比 BF16,MCP Atlas 从 83.7 降至 83.2,SWE-Bench multi 从 82.9 降至 81.3,MRCR 从 81.3 降至 81.1,IFBench 从 73.5 降至 72.5。权重与低比特 GGUF 已发布在 Hugging Face 的 AngelSlim/Hy4-preview-GGUF。

    匹配字段摘要

星期五

  1. The Rundown AI

    Anthropic 推出 Model Hardware Standard,让 AI 智能体操控现实设备

    Anthropic 在研究预览中推出 Model Hardware Standard(MHS),让 AI 智能体通过自然语言生成的参考文件学习并操作显微镜、机械臂等设备。Anthropic 称其可将设备接入时间从数周缩短至数小时或数分钟,并计划日后开源;Tecan、QIAGEN、AWS、Hugging Face 和 Raspberry Pi 将参与合作或设备适配。

    Anthropic 在研究预览中推出 Model Hardware Standard(MHS),让 AI 智能体通过自然语言生成的参考文件学习并操作显微镜、机械臂等设备。Anthropic 称其可将设备接入时间从数周缩短至数小时或数分钟,并计划日后开源;Tecan、QIAGEN、AWS、Hugging Face 和 Raspberry Pi 将参与合作或设备适配。 · Anthropic introduced the Model Hardware Standard (MHS) in research preview, enabling AI agents to learn and operate equipment such as microscopes and robotic arms from natural-language-generated reference files. Anthropic says MHS can reduce setup time from weeks to hours or minutes and plans to open-source it la

    匹配字段摘要、正文

星期四

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 在 GB300 NVL72 上实测 Qwen3.8-Flash-Next 智能体编码

    阿里发布 Qwen3.8-Flash-Next 权重,作为 Qwen4 架构预览供开发者实验评估,这是一个 125B 参数、每 token 激活 6B 的多模态 MoE 模型,原生上下文窗口 262,144 token,借助 YaRN 可扩展至 1M token。NVIDIA 提供 SGLang、vLLM 和 TensorRT LLM 的 Day 0 功能支持,并在 GB300 NVL72 上验证推理,单 GPU 吞吐超过 16K token/秒、单用户超过 200 token/秒。开发者可用 NVIDIA NeMo AutoModel 微调、用 NeMo RL 做强化学习,权重可从 Hugging Face 或 ModelScope 下载。

    Decorative image.

    匹配字段摘要、正文

星期五

  1. Hugging Face

    Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍

    Liquid AI 发布 LFM2.5-DSpark 系列草稿模型,用于 LFM2.5 的推测解码,在 H100 与 M4 Max MacBook 上最高带来 3.2 倍推理提速。草稿模型约 300M 参数,采用 5 层注意力结构、block size 为 9,在多工具场景下将 LFM2.5-2.6B 的延迟平均降低 57%。模型已以 Safetensors 和 GGUF 格式在 Hugging Face 开放,并支持 llama.cpp 与 SGLang,文中给出了对应的启动命令。

    匹配字段摘要、正文

星期二

  1. LMSYS Blog精选

    SGLang 为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持

    SGLang 宣布为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,开发者可通过其 OpenAI 兼容推理栈部署该模型。Nemotron 3.5 Lightning 是从 Nemotron 3 Ultra 蒸馏而来的 30B 混合 MoE 模型,每 token 仅激活 3B 参数,支持 MTP、DFlash、DSpark 三种投机解码,并可通过 enable_thinking 与 thinking_budget 控制推理开关和深度。模型权重已在 Hugging Face 提供 BF16 和 NVFP4 版本,官方称其在相近准确率下完成智能体任务最多快 30%。

    SGLang 宣布为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,开发者可通过其 OpenAI 兼容推理栈部署该模型。Nemotron 3.5 Lightning 是从 Nemotron 3 Ultra 蒸馏而来的 30B 混合 MoE 模型,每 token 仅激活 3B 参数,支持 MTP、DFlash、DSpark 三种投机解码,并可通过 enable thinking 与 thinking budget 控制推理开关和深度。模型权重已在 Hugging Face 提供 BF16 和 NVFP4 版本,官方称其在相近准确率下完成智能体任务最多快 30%。

    匹配字段摘要、正文

星期四

  1. Hugging Face精选

    将 Nunchaku 4-bit 扩散推理引入 Diffusers

    Hugging Face 在 Diffusers 中原生支持 Nunchaku Lite,可直接加载采用 SVDQuant 的 4-bit 扩散模型,无需自定义管线、独立推理引擎或本地编译。在 RTX 5090 上,示例模型生成 1024x1024 图像约需 1.7 秒,峰值显存约 12 GB,而 BF16 管线约为 24 GB。NVFP4 检查点要求 NVIDIA Blackwell GPU,早期架构可使用 INT4,但 Volta 和 Hopper 目前不受支持。

    Hugging Face 在 Diffusers 中原生支持 Nunchaku Lite,可直接加载采用 SVDQuant 的 4-bit 扩散模型,无需自定义管线、独立推理引擎或本地编译。在 RTX 5090 上,示例模型生成 1024x1024 图像约需 1.7 秒,峰值显存约 12 GB,而 BF16 管线约为 24 GB。NVFP4 检查点要求 NVIDIA Blackwell GPU,早期架构可使用 INT4,但 Volta 和 Hopper 目前不受支持。 · Hugging Face added native Nunchaku Lite support to Diffusers, allowing SVDQuant-based 4-bit diffusion models to load without a custom pipeline, separate inference engine, or local compilation. On an RTX 5090, the example model generates a 1024x1024 image in abo

    匹配字段摘要、正文

星期二

  1. Hugging Face精选

    Grabette:用于记录机器人操作数据的开放系统

    Pollen Robotics 发布开放低成本系统 Grabette,无需机器人即可用手持夹爪、双摄像头和 IMU 记录操作,并生成含局部 6-DoF 轨迹与夹爪状态的 LeRobot 数据集。其物料成本约 490€,数据可通过浏览器管线完成 SLAM 验证、格式转换并上传 Hugging Face Hub;配套电动夹爪 Gripette 约 120€。

    Pollen Robotics 发布开放低成本系统 Grabette,无需机器人即可用手持夹爪、双摄像头和 IMU 记录操作,并生成含局部 6-DoF 轨迹与夹爪状态的 LeRobot 数据集。其物料成本约 490€,数据可通过浏览器管线完成 SLAM 验证、格式转换并上传 Hugging Face Hub;配套电动夹爪 Gripette 约 120€。 · Pollen Robotics released Grabette, an open, low-cost system that records manipulation with a handheld gripper, two cameras, and an IMU—without requiring a robot—and produces LeRobot datasets containing camera-local 6-DoF trajectories and gripper states. Grabette has a bill-of-materials cost of about 490€, while its co

    匹配字段摘要、正文

星期三

  1. Hugging Face精选

    vLLM 的原生速度 Transformers 建模后端

    Hugging Face 更新了 vLLM 的 Transformers 建模后端,使兼容架构无需编写定制推理代码即可达到原生 vLLM 速度。该后端通过 torch.fx 分析模型图,并用 ast 重写操作、应用融合内核,已对 Qwen3 4B、32B 和 235B FP8 MoE 模型进行对比测试。目前尚不支持线性注意力,代码位于 Hub 仓库的自定义模型也可能无法运行。

    Hugging Face 更新了 vLLM 的 Transformers 建模后端,使兼容架构无需编写定制推理代码即可达到原生 vLLM 速度。该后端通过 torch.fx 分析模型图,并用 ast 重写操作、应用融合内核,已对 Qwen3 4B、32B 和 235B FP8 MoE 模型进行对比测试。目前尚不支持线性注意力,代码位于 Hub 仓库的自定义模型也可能无法运行。 · Hugging Face updated vLLM’s Transformers modeling backend so compatible architectures can reach native vLLM inference speed without custom inference code. The backend analyzes model graphs with torch.fx and uses ast to rewrite operations and apply fused kernels, with comparisons covering Qwen3 4B, 32B, and

    匹配字段摘要、正文

星期二

  1. Hugging Face精选

    LeRobot v0.6.0:想象、评估、改进

    Hugging Face 发布 LeRobot v0.6.0,引入三种世界模型策略、多款新 VLA、统一奖励模型 API,以及由 lerobot-eval 支持的六个新仿真基准。新版还增加支持 DAgger 人工纠正的 lerobot-rollout、FSDP 与 HF Jobs 云训练,并为数据集加入深度数据、自动语言标注、自定义视频编码及最高约 2 倍的加载提速。

    Hugging Face 发布 LeRobot v0.6.0,引入三种世界模型策略、多款新 VLA、统一奖励模型 API,以及由 lerobot-eval 支持的六个新仿真基准。新版还增加支持 DAgger 人工纠正的 lerobot-rollout、FSDP 与 HF Jobs 云训练,并为数据集加入深度数据、自动语言标注、自定义视频编码及最高约 2 倍的加载提速。 · Hugging Face released LeRobot v0.6.0 with three world-model policies, several new VLAs, a unified reward-model API, and six new simulation benchmarks supported by lerobot-eval. It also adds lerobot-rollout with DAgger-style human corrections, FSDP and cloud training through HF Jobs, plus dataset support for dep

    匹配字段摘要