←开源/仓库
← 全部主题

开源/仓库

与“开源/仓库”标签匹配的公开内容。

公开阅读组
86
近 30 天
34
目录状态
兼容主题

最新Unsloth 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 版本

最新阅读组

同一事实的重复报道已合并

  1. Unsloth一手产品发布
    AI 评分72

    Unsloth 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 版本

    Unsloth 发布 DeepSeek-V4.1-Flash-1017 的新 GGUF 版本,称其在基准测试中排名最高。其称 Dynamic V3.1 在 GPQA Diamond、AIME25、LiveCodeBench v6、MMLU-Pro、Aider 等几乎全部基准上领先,运行需要 64GB 以上内存,并附上 GGUF 与博客链接。

    推荐理由Unsloth 放出 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,并给出 64GB 内存的运行门槛,方便本地部署者评估。

  1. Unsloth一手产品发布
    AI 评分62

    Unsloth 让 MiniMax-M3.1-Flash 可在本地运行

    Unsloth 发布了 MiniMax-M3.1-Flash 的 2-bit GGUF 量化版本,在体积缩小 45% 的情况下保留 91.5% 的 top 1 准确率,可在 150GB 内存上运行。Unsloth 称该模型是同尺寸开源模型中最强的,并提供了 GGUF 下载链接和使用指南。MiniMax 官方此前介绍 M3.1 Flash 在 Automation-Bench 上达 62%、DeepSWE 上达 74%、BabyVision 上达 91%,API 定价为每 1M 输入/输出 token 0.15/0.60 美元。

    推荐理由原文给出了量化压缩后的精度保留比例和内存门槛,读者可据此判断本地部署的可行性。

  2. InfoQ AI产品发布
    AI 评分76

    Google 与 Meta 在 PyTorch Conference 2026 开源 TorchTPU

    Google 和 Meta 在 PyTorch Conference North America 2026 上开源 TorchTPU,这是面向 Google TPU 的原生 PyTorch 后端,取代 2020 年的 PyTorch/XLA,模型迁移只需把 model.to("cuda") 改为 model.to("tpu")。官方同时开源 TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 四个仓库,Hugging Face 模型可直接运行,vLLM 与 SGLang 推理引擎原生支持。Google 公布的结果包括在 8192 块 TPU v7x 上运行 Qwen3 235B MoE 模型、达到 28% 模型 FLOPs 利用率,但公告也说明一行改动只能让模型跑起来,要达到峰值性能仍需调整形状、分片和算子。

    推荐理由原文交代了 TorchTPU 的接入方式、已开源仓库和实测规模,也点明一行改动只是起点、调优仍需投入。

  1. MarkTechPost产品发布
    AI 评分80

    Microsoft Research 开源 Agensh 多智能体框架,最多支持 1024 个编码智能体

    Microsoft Research 开源 Agensh,一个去掉中心编排器的多智能体框架,每个 worker 自行认领子任务、共享发现并合并代码到同一个 Git 仓库。团队在 ProgramBench 上把规模从 1 个智能体扩展到 1024 个,5 个最难任务的平均通过率从 19.31% 升到 28.78%(128 个智能体),pandoc 单任务在 GPT-6.1-sol 配 32 个智能体时达到 79.59%。代码以 MIT 协议开放,默认单节点 8 个 worker,1024 智能体运行使用 16 个节点、每节点 64 个智能体。

    推荐理由原文给出无中心编排器的多智能体协作机制与 1 到 1024 个智能体的扩展数据,可观察规模扩大后涌现的分工行为。

  1. Testing Catalog模型发布
    AI 评分85

    MiniMax 在 Hugging Face 公开 M3.1 Flash 权重

    MiniMax 已在 Hugging Face 公开 MiniMax M3.1 Flash 权重,该模型总参数 428B,每 token 激活 23B。官方称其在智能体任务、编码和网络安全上有代际提升,BankerToolBench 得分 76.2、DeepSWE v1.1 为 73.7%、OSWorld V2 为 61.7、Agents' Last Exam 为 29.6、CyberGym 为 82.2。该模型即 OpenRouter 上的 stealth 模型 Space Bunny,10 月 19 日发布,现已在 MiniMax 平台和 API 上线。

    推荐理由原文给出了总参数与激活参数,并列出智能体、编码等基准分数,便于判断这一开源模型的定位。

  2. Modal 官方工程博客一手产品发布
    AI 评分71

    Modal 发布开源训练服务器 Spindle,兼容 Tinker API

    Modal 发布开源训练服务器 Spindle,可在自家 Modal workspace 中运行,兼容 Tinker API,按 GPU 时长而非 token 计费。部署只需执行 spindle deploy,支持全参数训练和多 LoRA,覆盖多种开源模型。官方给出的对比中,DAPO-math 单轮任务在 8 卡 H200 训练、8 卡 H200 推理、8 个客户端共享时价格为每百万输出 token 1.99 美元,较 Tinker 降低 80%。

    The Modal post-training stack: Modal Dojo for hands-off training, Spindle for writing your own loop, and Modal primitives for full control

    推荐理由原文给出了与 Tinker 兼容的开源训练服务器及多组成本对比,读者可据此判断自托管训练在规模化实验中的取舍。

  1. Unsloth一手产品发布
    AI 评分63

    Unsloth 发布 Flint 的 Dynamic GGUF 量化版,可在 24GB 内存本地运行

    Unsloth 发布 Flint 的 Dynamic GGUF 量化版本,可在 24GB 内存设备上本地运行,并附有运行指南。Flint 是 Recursive 的 Apache-2.0 模型,39.8B 参数、2.5B 激活,Unsloth 称其为 50B 参数以下最强的 MoE 模型,在 Mac 上可达 125 t/s、在 RTX Spark 上可达 150 t/s。Recursive 联合创始人 Richard Socher 此前介绍,该模型由自动化研究系统 Eureka Machine 在不到 4 个月内从零构建,权重已在 Hugging Face 开放。

    推荐理由Unsloth 给出 Flint 的 GGUF 量化版本与本地运行指南,读者可据此在 24GB 内存设备上实际部署这个 39.8B 参数的 MoE 模型。

  1. UCSD Hao AI Lab一手产品发布
    AI 评分64

    FastVideo 开源 MiniMax FastH3 Omni 并附训练代码

    Hao AI Lab 的 FastVideo 开源了 MiniMax FastH3 Omni,并一并放出训练代码。官方称在 NVIDIA Blackwell 上实时生成速度提升 12 倍,Spark 与 RTX 支持 NVFP4/FP8,ComfyUI 首日支持。该项目与 NVIDIA AI、Nuva Lab 和 Reactor 合作完成。

    推荐理由FastVideo 开源了 MiniMax FastH3 Omni 并附训练代码,读者可据此了解实时视频生成在 Blackwell 上的加速与量化方案。

  2. LMSYS Blog一手产品发布
    AI 评分75

    SGLang-TorchTPU 开源:把 SGLang 服务栈带到 TPU

    SGLang 团队联合 Google 和 Meta 开源 SGLang-TorchTPU,这是一个基于 PyTorch 的原生后端,把 SGLang 的完整服务栈带到 Google Cloud TPU,并已在 Meta 大规模生产环境使用。首发支持 Muse Spark Open、GLM-5.3、Kimi K3、DeepSeek V4、Qwen3.8、Gemma 4 等模型,覆盖投机解码、KV cache 卸载、PD 分离和 FP8 KV cache 等功能。团队还用 TorchTitan 与 Miles 在单台 4 芯片 TPU v7x 上完成 Qwen3-4B 的 GRPO 训练,奖励曲线与 6 张 H200 基线在随机波动范围内一致。

    SGLang-TorchTPU

    推荐理由原文给出插件架构、支持模型与 CI 覆盖范围,可据此判断 TPU 上跑 SGLang 的部署边界。

  3. Tripo一手产品发布
    AI 评分71

    VASTAIResearch 开源实时生成渲染器 EdenLive

    VASTAIResearch 开源实时生成渲染器 EdenLive,可将 3D 白模、游戏引擎画面、2D 卡通和真实视频转换为写实或风格化视频。该模型为 5B 参数,在单张 RTX 5090 上以 720p 分辨率达到 24+ FPS。

    推荐理由这条内容给出了开源实时渲染器的输入类型、帧率和单卡部署规格,便于读者判断其可用性。

  1. 邵猛产品发布
    AI 评分84

    阿里通义 MAI-UI 团队开源通用计算机使用智能体技术栈 OpenGCUA

    阿里通义 MAI-UI 团队开源通用计算机使用智能体完整技术栈 OpenGCUA,包含 harness、跨设备 SDK、原生 macOS 应用、评测轨迹和参考 agent 实现。其核心设计是代码执行与决策从 harness 转移到模型,模型按需截图、编写带循环和条件判断的 Python 程序编排 GUI 操作、API 调用和 shell 命令,并自行维护 todo 列表。在 OSWorld-v2 上对 8 个前沿模型的评测中,平均 partial score 从 45.3 升至 64.9,每任务步数平均减少 53%;真机 macOS 测试中,同一 harness 下 Qwen3.8-Max 的推理 token 消耗是 GPT-6 Astra 的 19.4 倍,4 个任务完成 3 个。

    推荐理由原文给出完整技术栈与 OSWorld-v2 对比数据,可看清代码执行范式如何改变计算机使用智能体的效率与门槛。

  2. Latent Space产品发布
    AI 评分85

    DeepSeek 开源推理框架 DeepInfer,单集群日处理 155 万亿 token

    DeepSeek 开源了支撑 DeepSeek-V4.1-Flash 的自研推理框架 DeepInfer,并公布单集群每天处理 155 万亿 token、96% 输入缓存命中、首 token 延迟 400ms、生成速度 230 tokens/s 的生产数据。该框架基于 vLLM 定制,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,目标平台为 NVIDIA SM100 与华为昇腾 950。DeepSeek 同时说明 KV cache 管理和负载均衡等组件尚未完全开源,vLLM 团队则称在 GB200 匹配配置下解码吞吐与 DeepInfer 公布结果相差 6% 以内。

    推荐理由原文把 DeepInfer 的生产数据、缓存分层和 vLLM 复现对比放在一起,便于判断这套推理栈的可迁移边界。

  3. Unsloth一手产品发布
    AI 评分79

    Unsloth 让 DeepSeek V4.1-Flash-1017 可在本地运行

    Unsloth 宣布 DeepSeek V4.1-Flash-1017 现已支持本地运行,其 1-bit 量化版本保留约 88.2% 的准确率,体积从 508GB 缩小到 250GB,减少 52%。该版本需要 128GB 以上内存的设备,Unsloth 同时提供了使用指南和 GGUF 文件。DeepSeek 此前表示 V4.1-Flash-1017 在基准表现、任务完成速度和输出长度上较上一版本均有改进。

    推荐理由Unsloth 给出了 1-bit 量化后的精度保留比例和体积变化,读者可据此判断本地部署门槛。

  4. 蚂蚁 inclusionAI:GitHub 新仓库一手产品发布
    AI 评分70

    蚂蚁 inclusionAI 开源 vLLM-Omni 全模态模型推理服务框架

    蚂蚁 inclusionAI 在 GitHub 发布 vLLM-Omni 仓库,这是一个在 vLLM 基础上扩展全模态模型推理与服务的框架,支持文本、图像、音频、视频和动作数据处理,并支持 DiT 等非自回归架构。README 显示其已迭代至 0.30.0,对齐 vLLM 0.30.0,新增 MiniCPM-o 4.5 与 AURA 的全双工会话服务、Mooncake AR-to-DiT 跨阶段 KV 与多模态传输,以及在 NVIDIA Blackwell 和昇腾 950 上的 MiniMax H3 Turbo 实时推理。框架提供 OpenAI 兼容 API 服务、流式输出和分布式并行推理,并列出 Qwen3-Omni、MiniMax H3、Wan2.2、π0.5 等已支持模型。

    vllm-omni

    推荐理由原文列出 vLLM-Omni 从 0.14.0 到 0.30.0 的版本节奏与模型覆盖范围,可据此判断全模态推理服务的工程成熟度。

  1. 量子位产品发布
    AI 评分77

    清华THUNLP联合面壁智能开源智能体操作系统PilotDeck 2.0

    清华大学THUNLP实验室联合面壁智能、OpenBMB等团队开源智能体操作系统PilotDeck 2.0,以WorkSpace工作舱隔离不同任务的记忆与检索空间,并把记忆做成可查看、可修改、可删除的白盒链路。在Workbuddy Bench上,PilotDeck使用Qwen3.6-35B-A3B得分79.1,高于Claude Code的77.3;其Smart Routing让强模型负责规划、轻量模型执行杂活,在7个复杂任务测试中用主Sonnet 4.6加子MiniMax-M2.7得分70.6、成本$3.15,而单体Sonnet 4.6得分69.1、成本$18.36。系统还提供Dream模式回滚、Always-on常驻执行,原生支持MCP,采用AGPL-3.0许可证,支持macOS、Linux、Windows及Docker部署。

    推荐理由原文给出白盒记忆、常驻执行和智能路由的具体机制与成本对比,可据此判断多智能体任务编排的省钱路径。

  2. MarkTechPost产品发布
    AI 评分78

    Perplexity 开源 SPACE 智能体沙箱,每个任务独立 Firecracker microVM

    Perplexity 开源了支撑 Perplexity Computer 全部任务的沙箱平台 SPACE,代码以 Apache 2.0 协议发布在 GitHub,每个智能体任务运行在独立的 Firecracker microVM 中,凭证与出站流量在 VM 之外管控。该平台为 Rust 代码库,版本 0.8.0,需 Linux x86_64 主机并支持 KVM,生产环境中创建延迟中位数从 185 ms 降至 60 ms,90 分位从 447 ms 降至 89 ms。红队测试中 108 次 VM 逃逸尝试均未触及宿主机密钥,但修复前 54 次部分联网运行中有 11 次绕过出站策略,涉及 Claude Opus 5.0、GPT-5.6 Sol、GPT-5.6 Cyber 和 Kimi K3,修复后复测未出现已验证的绕过。

    推荐理由原文给出生产环境延迟数据与红队测试结果,可据此判断自托管智能体沙箱的隔离边界。

  1. Hugging Face一手模型发布
    AI 评分78

    Hugging Face 发布 Beam:501B 开源模型,支持 1M 上下文与自托管

    Hugging Face 发布 Beam,一个 501B 参数的稀疏 MoE 开源模型,面向 1M 上下文的长文本推理与智能体任务,每个 token 仅激活约 23B 参数。模型采用 52 层混合注意力,43 层为 512 token 滑动窗口、9 层为全局注意力,KV cache 每 token 增长 36 KiB,约为全注意力方案的六分之一。官方提供 BF16、FP8 和 NVFP4 三种 checkpoint,NVFP4 可将权重从约 1 TB 压缩到约 280 GB,并已获 transformers、vLLM 和 SGLang 的 day-0 支持。

    推荐理由原文给出 501B 稀疏 MoE 模型的架构取舍与多精度部署方案,可据此判断自托管长上下文推理的硬件门槛。

  2. 阶跃星辰 StepFun一手产品发布
    AI 评分74

    阶跃星辰将开源 agent harness Step Code 更新至 v0.1.4

    阶跃星辰将围绕 Step 5 Preview 构建的开源 agent harness Step Code 更新至 v0.1.4,帮助智能体在长而复杂的任务中跟踪目标、持续推进,并对照可验证结果检查任务是否真正完成。官方称开源以来已发布四个版本,约每 3 个工作日一次,主要由社区反馈驱动。

    推荐理由官方给出 Step Code 在长任务中跟踪目标与校验结果的能力,可据此判断开源 agent harness 的迭代节奏。

  3. UCSD Hao AI Lab一手产品发布
    AI 评分69

    Hao AI Lab 发布 ORA 开源机器人智能体框架,由 DeepSeek-V4.1-Flash 驱动

    Hao AI Lab 发布 ORA(Open Robot-Use Agents)开源框架,由 DeepSeek-V4.1-Flash 驱动,从视觉输入零样本操作机器人,无需 VLA,可与前沿模型智能体竞争。ORA 在 RoboTwin 上取得 69.2%、在 LIBERO-Pro 上取得 81.4%;对比 RPent 在 RoboTwin 上为 62.4%/58.4%(GPT-5.5/Opus-4.7),在 LIBERO-Pro 上为 82.4%(Opus-4.7)。其工作方式类似编码智能体,通过提示词、感知与动作工具及上下文管理完成闭环,同一框架可运行 ARX X5、ALOHA 和 Franka,每解决一个案例的模型成本约 0.30–0.35 美元。初步真机测试中,DeepSeek-V4.1-Flash 用低成本机械臂、固定 RGB-D 相机和腕部相机完成了拉开抽屉把手并把糖果放进盒子。

    推荐理由开源权重模型驱动的机器人智能体框架,给出了基准成绩、成本与真机初步结果,可对照前沿模型智能体方案。

  4. Spirit AI 千寻智能:原创开源项目一手产品发布
    AI 评分69

    Physical Intelligence 开源 openpi:π₀ 与 π₀-FAST 两类 VLA 模型

    Physical Intelligence 团队开源 openpi 仓库,包含基于流式扩散的视觉语言动作模型 π₀ 和基于 FAST 动作分词器的自回归 VLA 模型 π₀-FAST,均提供在 10k+ 小时机器人数据上预训练的 base checkpoint。仓库同时给出 DROID、ALOHA 等平台的微调与推理示例,推理需 8GB 以上显存,LoRA 微调需 22.5GB 以上,全量微调需 70GB 以上,目前仅测试过 Ubuntu 22.04,训练脚本尚不支持多节点训练。

    推荐理由原文给出两类 VLA 模型的开源权重、显存门槛与微调流程,读者可据此判断能否在自己的机器人平台上复现。