N全部新闻

星期二14 条

  1. gihyo.jp产品发布
    AI 评分64

    White Circle 发布后训练框架 Halo,为 Hugging Face 模型加入分布式训练

    White Circle 于 9 月 21 日发布后训练框架 Halo,可在 Hugging Face 既有模型上加入多 GPU 分布式训练,无需重写模型实现,新模型系列适配代码约 100 行,权重仍以 SafeTensors 格式保存。在 8 基 NVIDIA B300 上对 gpt-oss-20b 的实测中,Halo 的吞吐最高达到 TRL 的 2.8 倍,峰值显存随配置变化,约 26GB 至 60GB。用 Halo 对 GLM-4.7-Flash 做监督微调后,GLM-4.7-Flash-Coder 在 SWE-rebench-V2 上的单次尝试解决率从 33.15% 提升到 41.65%。

    #开源/仓库#数据/训练#部署/工程

  2. Hugging Face一手产品发布
    AI 评分55

    Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型

    Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重,只需在 from_pretrained 中传入 gguf_file 即可,无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示,transformers 的生成速度接近 llama.cpp,但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS,覆盖 Qwen3.5 稠密与 MoE 架构,填充批处理性能仍有待改进。

    #产品更新#部署/工程#开源生态

  3. Fireworks AI一手产品发布
    AI 评分57

    Fireworks AI 推出专业智能指数 SII,首批覆盖七个领域基准

    Fireworks AI 发布 Specialized Intelligence Index(SII),汇集开放、闭源与专用模型在领域专属基准上的表现,首批覆盖医疗、法律、网络安全、金融、客服、生产力与软件七个领域。各基准由领域从业者设计,例如 Harvey 的 Legal Agent Benchmark、Sierra 的 τ-Banking 与 τ-Voice、Datacurve 的 DeepSWE v1.1。SII 不对跨领域结果做加权或平均,只保留基准与领域层面的分数,并提供分数对成本、分数对时长的对比视图。

    同一事件 · 3 条报道

    #评测/基准#行业动态#产品更新

  4. Fireworks AI一手产品发布
    AI 评分55

    Fireworks AI 推出 Specialized Intelligence Index 专业领域基准索引

    Fireworks AI 发布 Specialized Intelligence Index(SII),汇集开放、闭源与专用模型在医疗、法律、网络安全、金融、客服、生产力、软件七个领域的真实任务基准。该索引不做跨领域加权汇总,只保留基准与领域层面的结果,并提供分数对成本、分数对耗时的视图;每个基准标注可复现范围,新前沿模型需通过生产可部署性筛选后才会进入。Fireworks 同时开放合作提交,伙伴按 Harbor 兼容格式提供任务与数据,评测由 Fireworks 免费运行并在伙伴同意后公布分数。

    同一事件 · 3 条报道

    #评测/基准#开源生态#产品更新

  5. OpenRouter:Announcements一手产品发布
    AI 评分61

    OpenRouter 推出 Batch API,批量请求可享半价推理

    OpenRouter 上线 Batch API,把请求打包提交后由服务商在 24 小时窗口内自行安排完成时间,价格通常为正常每 token 单价的 50%,部分模型更低,目前支持 70 多个模型。两周 beta 期间完成的 23 万多个批次中,中位完成时间为 7 分钟,90% 在一小时内完成;太平洋时间 5 点至中午提交的批次明显更慢。该接口为异步设计,支持 chat completions、responses、messages 和 embeddings 等请求形态,输入与结果保留 30 天。

    Batch API: half-price inference by bundling requests

    同一事件 · 2 条报道

    #产品更新#部署/工程#OpenAI

  6. OpenRouter:Announcements一手产品发布
    AI 评分64

    OpenRouter 推出 Batch API,批量请求按半价计费

    OpenRouter 发布 Batch API,提交批量请求后由服务商在 24 小时窗口内自行选择完成时间,按每 token 价格通常收取 50% 甚至更低费用,目前支持 70 多个模型。两周 beta 期间完成的 23 万多个批次中,中位完成时间为 7 分钟,90% 在一小时内完成;支持 chat completions、responses、messages 和 embeddings 等请求形态,输入与结果保留 30 天。

    同一事件 · 2 条报道

    #产品更新#部署/工程#OpenAI

  7. Together AI Blog一手产品发布
    AI 评分54

    Together AI 推出金丝雀发布,支持生产环境无停机升级模型

    Together AI 发布金丝雀发布(canary rollout)功能,可在同一 endpoint 上按 10%、50%、100% 等步骤把流量从当前模型迁移到新 checkpoint,并在每步后运行健康检查与指标门禁。官方用 Qwen2.5-7B 升级到 Qwen3.5-9B 的实测中,10% 流量时门禁发现 p95 延迟回退 137%,随即取消并反向回滚,全程 6800 次请求无失败。该功能通过 together Python 包 2.34.0 及以上的 tg CLI、REST API 和 Python SDK 提供,支持暂停、恢复、提升和取消四种控制。

    #教程/实践#部署/工程#开源生态

  8. Simon Willison产品发布
    AI 评分73

    TypeSafe AI 发布 Jev:只输出概率决策的 System One 模型

    TypeSafe AI 上周发布 Jev,这是其称为 System One 模型的新类别,输入文本后不返回文本,而是返回对应分类、是非题、评分及置信度的浮点数。Jev 只按输入计费,输出免费,首个模型输入价格为每百万 token 0.042 美元,低于 OpenAI GPT-5 Nano 的 0.05 美元。作者 Simon Willison 实测后认为它适合分类、垃圾信息检测、标签建议、排序和搜索重排,但指出它不擅长数字、日期和对抗性内容,且只返回浮点数会加剧黑箱与偏见问题。

    同一事件 · 2 条报道

    #产品更新#推理#部署/工程

  9. NVIDIA Developer · Generative AI一手产品发布
    AI 评分55

    NVIDIA Dynamo-Triton 26.07 集成 TensorRT 多设备推理

    NVIDIA Dynamo-Triton 26.07 启用 TensorRT 后端的多设备推理能力,一个 KIND_MODEL 实例可占用多块 GPU 并通过单个 gRPC 端点对外提供分布式推理服务,TensorRT 11.0 起完整支持该能力。以 Cosmos 3 Nano 视频生成为例,Ulysses 上下文并行把 44,160 个视频 token 分配到最多八块 GPU,端到端生成延迟从单 GPU 的 156.6 秒降至八 GPU 的 34.2 秒,transformer RPC 加速比达 6.09 倍。CP2、CP4、CP8 的输出通过 MAE ≤ 25 与 PSNR ≥ 18 dB 的质量阈值校验,但该基准未测量并发吞吐、单视频成本或 TCO。

    #产品更新#部署/工程#推理

星期一1 条

  1. ElevenLabs Blog一手产品发布
    AI 评分55

    ElevenLabs 发布 Studio 4.0 AI 原生视频编辑器

    ElevenLabs 发布 Studio 4.0,这是 ElevenCreative 中 AI 原生视频编辑器的重大升级,可在项目内直接生成视频、图像、配音、音乐和音效,并在同一处完成剪辑、字幕和导出。新版本重建了时间线,支持帧级缩放、片段吸附和同步移动,字幕可像普通片段一样拆分合并。内置的 Studio Agent 能根据描述在时间线上生成初剪、配音并同步音效,用户可随时接管手动编辑再交还控制权。

    #产品更新#视频#多模态

星期日1 条

  1. Comfy Blog一手产品发布
    AI 评分70

    Qwen-Image-2.1 在 ComfyUI 原生支持:开源图像生成与编辑,新增透明通道

    Qwen-Image-2.1 已在 ComfyUI 中原生支持,这是阿里 Qwen 团队最新的开源图像模型,7B 参数,基于优化的 MMDiT 架构。它可直接输出带 alpha 通道的 RGBA 图像,原生生成 2048×2048 分辨率,并支持最多 10 张参考图输入,生成与编辑共用同一个 checkpoint。用户更新 ComfyUI 或使用 Comfy Cloud,从 Hugging Face 下载权重并加载模板即可使用。

    Rob's avatar

    同一事件 · 2 条报道

    #产品更新#图像生成#开源生态

星期六1 条

星期五6 条

  1. gihyo.jp产品发布
    AI 评分67

    GPU 上运行的高级语言 Bend 2 发布,用数学证明校验 AI 生成的代码

    开发者 Victor Taelin 于 9 月 17 日发布可在 CPU、GPU 上并行执行的高级语言 Bend 2,它用类似 Python 的语法,让开发者把程序需满足的条件写成 law,再通过证明检查验证 AI 生成的代码是否满足这些条件。Bend 2 改变了初代的执行方式,不再使用 HVM2 的相互作用网络,初代程序无法直接迁移;Taelin 称执行速度最高提升 100 倍,运行时内存上限从 2GB 扩大到 8TB。源码以 Apache License 2.0 在 GitHub 公开,支持 Linux 和 macOS,GPU 执行分别使用 CUDA 12 和 Metal,Windows 需通过 WSL 使用;当前数值类型仅限 Nat、U32、F32,F32 浮点运算无法用证明功能校验,编译器中也残留大量未经审计的 AI 生成代码。

    #产品更新#开源生态#编码

  2. gihyo.jp产品发布
    AI 评分75

    Anthropic 刷新 Claude Projects,可从单一对话分发任务并在云端并行执行

    Anthropic 于 9 月 17 日刷新 Claude 的 Projects 功能,并在 Claude Code 桌面版和 Web 版面向部分用户开启 beta。用户在一个主对话中提出多项请求后,Claude 会把任务分配到多个线程,各线程以云端 Claude Code 会话并行推进,关闭电脑后仍继续处理。各线程共享项目记忆与文件库,代码任务使用独立分支和仓库副本,冲突需按常规拉取请求方式解决;目前仅面向部分 Pro 和 Max 用户,暂不支持本地文件与内网工具。

    #产品更新#Agent#Anthropic

  3. gihyo.jp产品发布
    AI 评分61

    OpenAI 发布 Microsoft Word 用 ChatGPT 插件

    OpenAI 于 2026 年 9 月 17 日宣布,Microsoft Office 用 ChatGPT 插件新增对 Word 的支持,此前该插件已支持 Excel 和 PowerPoint。安装后可从 Word 侧边栏调用 ChatGPT,在不离开文档的情况下完成初稿撰写、段落梳理、校对、修改建议和格式问题识别,并可引入 Outlook、SharePoint、Google Workspace、Dropbox 等关联应用中的邮件、文件和团队知识,还能用技能为合同审阅、文档格式化、经营资料与调研文档等重复性工作套用统一指令和标准。该插件版本为 2.0.0.1 及以上,可从 Microsoft 市场获取,面向全球所有 ChatGPT 套餐开放;9 月 17 日至 30 日期间,Business 和 Enterprise 套餐用户可在 Word 中免费预览 GPT-5.6 Sol。

    同一事件 · 2 条报道

    #产品更新#OpenAI#Microsoft

  4. Anthropic产品发布
    AI 评分67

    Anthropic 用 Claude 优化 30 多个开源模型推理,平均提速 4 倍并开源代码

    Anthropic 在最新 Science Blog 中介绍,Claude 为 30 多个生物领域开源模型优化推理,平均提速 4 倍,部分工作是为 GPU 编写定制软件。这些模型原本用于分子系统结构建模、类药分子设计和基因突变效应预测,但运行成本高,限制了实际影响。Anthropic 表示将开源全部优化代码。

    #开源/仓库#数据/训练#部署/工程

  5. Lydia Hallie产品发布
    AI 评分66

    Claude Code 在桌面端和网页端上线 Projects

    Anthropic 的 ClaudeDevs 宣布 Claude Code 在桌面端和网页端推出 Projects,一个 project 即一次与 Claude 的对话,它会自行把工作拆成多个线程,以并行云会话运行,在线程间传递上下文,并在用户离开后继续执行,目前面向部分用户开放 beta。Lydia Hallie 表示 Projects 是她过去几个月最喜欢的 Claude Code 使用方式,由 Claude 处理所有会话让她更容易保持心流。

    Today we're rolling out Projects in Claude Code on desktop and web. A project is one conversation with Claude. It splits the work into threads itself, runs them as parallel cloud sessions, passes context between them, and keeps going when you leave. In beta for select users. https://t.co/j4k7rludhV

    #产品更新#Agent#MCP/工具调用