←搜索结果

按匹配度 · 共 3162 条结果 清除搜索

星期五

  1. Cohere 产品与研究博客

    Cohere Model Vault 上线机密计算公测

    Cohere 宣布 Model Vault 的机密计算功能进入公开测试,基于 Microsoft Azure 上的 NVIDIA H100 GPU 机密计算能力,为托管模型推理提供硬件级隔离。该功能把加密范围从静态存储和传输中的数据扩展到推理运行中的提示词、文档、响应和模型执行,应用负载端到端加密后只能在通过远程证明的机密环境中解密。客户可在发送敏感数据前用密码学方式核验硬件、固件和软件配置,不符合安全策略时客户端会拒绝发送请求,现有 Model Vault API 和请求格式保持不变。

    Rerank 5 logo

    匹配字段摘要、正文

星期四

  1. LMSYS Blog

    LMSYS 发布 SGLang AWS Trainium 插件 Beta

    LMSYS 与 AWS 合作发布 SGLang Trainium 插件 Beta,基于新发布的 TorchNeuron 构建,在 Trainium2 和 Trainium3 上支持 LLM 推理服务与 RL rollout 生成。初始覆盖 Qwen3(dense)、Qwen3-MoE-30B-A3B、DeepSeek-V2-Lite、GLM-4 和 GLM-5.2/5.3,并支持数据并行、张量并行、专家并行、Radix Cache、BF16/FP8 和异步调度。首次端到端异构 RL 运行中,SGLang 在 Trainium3 上为 Qwen3-MoE-30B-A3B 生成 rollout,Miles 在单台 H200 节点上用 Megatron 训练 GRPO 策略。Beta 目前仅限少量团队参与。

    匹配字段摘要

  2. 蚂蚁百灵

    蚂蚁百灵开源医疗增强模型 Ling-3.0-flash-Sante

    蚂蚁百灵宣布正式开源 Ling-3.0-flash-Sante,这是一个医疗增强的 MoE 模型,总参数 124B,每个 token 仅激活 5.1B 参数,官方称其在专业医疗任务和复杂医学推理上性能领先同规模模型。除医疗问答外,该模型还针对深度研究、多智能体协作和工具调用做了能力强化,模型权重现已开放下载。

    匹配字段摘要、正文

  3. Data Center Knowledge

    Infosys:数据中心可推迟但无法回避电力短缺

    Infosys 分析认为,数据中心可通过提升能效和调度灵活负载为 AI 腾出近期容量,但这更可能推迟而非消除新增发电、输电和电网升级的需求。模型训练、重训练和批处理可围绕电网状况调度,实时推理和面向客户的应用通常不能。报告建议采用分阶段模块化建设,并配合量化、剪枝、知识蒸馏降低算力需求;公用事业公司则需历史表现、实时监控和合同承诺等可验证证据。

    匹配字段摘要、正文

  4. Artificial Analysis

    DeepSeek Search 登榜 Artificial Analysis 搜索指数第 17 名

    DeepSeek Search 在 Artificial Analysis 搜索指数上得分 69,在 27 个搜索产品中排第 17,是榜单上价格最低的付费搜索 API。其每 1k 次搜索收费 $0.75,单任务成本约 $0.032,在 27 个产品中排第 5 便宜。AA-Omniscience 上准确率 70% 排第 10,但需要多跳推理的 BrowseComp 仅 63%,排第 25;每次搜索返回约 7k token,使模型成本升至榜单第 2 高。

    匹配字段摘要

  5. MiniMax

    MiniMax M3.1 Flash 上线 Runware,调用串为 minimax:m3.1@flash

    MiniMax 官方表示 M3.1 Flash 已上线 Runware,调用时使用模型串 "minimax:m3.1@flash"。据 Runware 介绍,该模型支持文本、图像和视频输入,上下文窗口 1M、最多 524K 输出 token,推理深度可调,在 Artificial Analysis Intelligence Index 上得 42 分,AutomationBench-AA 为 72.5%,DeepSWE 为 73.7%,单 token 价格低于 MiniMax M3。

    匹配字段摘要

  6. OpenRouter

    Recursive 首个开源模型 Flint 上线 OpenRouter,40B MoE 专为编码智能体打造

    Recursive 的首个模型 Flint 已上线 OpenRouter,这是一个开放权重的 40B MoE 模型(约 2.5B 激活参数),由该公司的自动研究系统 Eureka Machine 打造,面向编码智能体,支持 262K 上下文、推理和工具调用。Recursive 报告其在 Terminal-Bench 2.1 上得分 54.9%,SWE-bench Pro v2 上 89.7%,SWE-bench Verified 上 74.2%,上线期间免费使用。

    匹配字段摘要、正文

  7. MiniMax

    MiniMax 宣布 Inferact 成为 M3.1 Flash 的 API 发布合作伙伴

    MiniMax 宣布 Inferact 成为 M3.1 Flash 的 API 发布合作伙伴,后者将提供 vLLM 工程能力和 Inferact Platform 支持该模型的生产推理。双方表示将继续为复杂智能体负载共建服务基础设施。Inferact 在引用帖中称 M3.1 Flash 面向多步自动化、真实代码库工程和视觉推理,在 Agents' Last Exam(ALE)上得分 29.6,AutomationBench-AA 为 72.5%,DeepSWE 为 73.67%。

    匹配字段摘要

  8. SiliconANGLE

    成立一年的 AI 研究实验室 Flapping Airplanes 融资 10 亿美元,估值传 60 亿美元

    AI 研究实验室 Flapping Airplanes 宣布完成 10 亿美元新融资,彭博报道其估值达 60 亿美元,公司成立约一年且尚无商业产品。该公司首年主要投入 GPU 新原语研发,称其 megakernel 框架可在单个 kernel 内同时完成完整训练、推理和运行游戏,让受内存限制的推理与受算力限制的训练在同一芯片上重叠。本轮 A 轮由 Index Ventures 和 Lux Capital 联合领投,1 月 1.8 亿美元种子轮的 Sequoia Capital、GV 继续跟投,Nvidia 等也在机构投资方名单中。

    匹配字段摘要、正文

  9. LMSYS Blog

    LMSYS 用 Miles 在 MI355X 上训练 SWE 智能体,SWE-bench Verified…

    LMSYS 用 Miles、SGLang、Megatron-LM 和 Harbor 在 AMD Instinct MI355X 上对 Qwen3-30B-A3B-Instruct 做全异步智能体强化学习,在 SWE-bench Verified 的 100 任务分层子集上把 pass@1 从 7.3% 提升到 27.5%。训练分两阶段,先在约 4,000 条 Open-SWE-Traces 公开轨迹上做 SFT,再在约 1,350 个 SWE-smith 任务上跑 GRPO。固定模型和 RL 配方后,推理从 1 个节点扩到 3 个 8 卡节点、改用 E2B 云沙箱并解除并发上限,rollout 吞吐从约 860 提升到约 3,480 条轨迹/小时;在同一 8 卡节点上限制轨迹长度则让单步训练时间从 850 秒降到 284 秒。

    Agentic RL loop: SGLang generates actions, a CPU sandbox executes and grades them, and Megatron-LM trains on the resulting trajectories.

    匹配字段摘要、正文

  10. TechCrunch AI

    成立一年的 AI 实验室 Flapping Airplanes 以 60 亿美元估值完成 10 亿美元 A 轮融资

    成立一年的 AI 实验室 Flapping Airplanes 宣布完成 10 亿美元 A 轮融资,由 Index 和 Lux 联合领投,据报道估值达 60 亿美元。这距离其以 1.5 亿美元估值完成的 1.8 亿美元种子轮仅过去九个月,估值翻了两番。创始团队称其 megakernel 框架可在单个 kernel 中完成训练、推理和运行游戏,目标是让模型以更少数据完成训练。

    匹配字段摘要、正文

  11. PyTorch Blog

    TorchTitan 更新:新增多款 SOTA 模型支持、TitanRL 与大规模性能提升

    PyTorch 原生训练平台 TorchTitan 发布更新,新增 Muse Spark Open、Muse Glimmer、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3 和 DeepSeek-V4 的完整训练栈支持,并引入强化学习组件 TitanRL。TitanRL 让预训练、后训练到 vLLM 推理共用同一份模型代码,支持异步 rollout 和长上下文、代码执行等智能体任务训练。性能方面,FlexShard 在 256 张 H100 上把 DeepSeekV3 的优化器耗时最多降低 79%,在 Llama3 405B 上把端到端训练步时最多降低 20%。

    匹配字段摘要

星期三

  1. Artificial Analysis

    MLCR-AA 医疗长上下文榜单更新:Claude Sonnet 5.5 与 GPT-6 Astra 并列第一

    Artificial Analysis 更新 MLCR-AA 医疗长上下文推理榜单,Claude Sonnet 5.5(max with fallback)与 GPT-6 Astra(max)以 41.7% 并列第一,GPT-6.1 Sol(max)以 38.3% 紧随其后,Qwen3.8 2.4T A95B 以 30.6% 领跑开源权重模型。此次更新将提示词改为病历审阅者角色并要求结论与证据同段作答,评分改用三模型评审团,并复核 60 份专家参考答案、修订其中 15 份。榜单显示病历审阅远未解决:无模型通过率超过 42%,中位模型不足 15%;Anthropic 模型包揽完整性前 18 名,Claude Sonnet 5.5 以 64.8% 居首,OpenAI 模型包揽准确性前 27 名,GPT-6.1 Sol 以 96.7% 居首。

    匹配字段摘要

  2. 集微网

    西安电子科技大学在第三届中国研究生操作系统开源创新大赛获9项奖,并将承办第四届

    西安电子科技大学9支团队在第三届中国研究生操作系统开源创新大赛全国总决赛中获一等奖1项、二等奖5项、三等奖3项,获奖数量并列全国第一。其中一支团队基于vLLM构建容器化PD分离推理系统,恢复测试中首Token时延降低约36%、总恢复耗时缩短约25%,混合负载并发测试吞吐量提升6.1%、首Token时延P99降低15.7%。第四届赛事将由西电承办。

    匹配字段摘要、正文

  3. Databricks Blog

    Databricks AI Runtime 正式 GA:在无服务器 NVIDIA GPU 上微调开放模型

    Databricks AI Runtime(AIR)已正式 GA,开发者可在无服务器 NVIDIA GPU 上训练和微调开放模型,无需自行管理 GPU 基础设施。AIR 支持 NVIDIA NeMo、NGC 容器和 Nemotron cookbooks,并支持多节点分布式训练,底层由 Databricks 管理集群与网络。训练完成的模型可通过 Databricks Model Serving 部署用于实时推理,训练数据访问由 Unity Catalog 治理。

    匹配字段摘要、正文

  4. Unite.AI

    Google Cloud 首批 NVIDIA Vera Rubin A5X 实例上线

    NVIDIA 与 Google Cloud 在 GTC Berlin 宣布,首批搭载 NVIDIA Vera Rubin NVL72 的 A5X 实例已在一个客户处运行,计划 2026 年 11 月正式可用并扩展至欧洲。A5X 结合 ConnectX-9 SuperNICs、Google Cloud Virgo 网络与第四代液冷,面向大规模智能体推理和强化学习负载,Google Cloud 称计划将这套基础设施扩展到多达 960,000 块 Rubin GPU。首个客户为 David Silver 创办的伦敦公司 Ineffable Intelligence,用于大规模强化学习;WPP 也在 A5X 上演示了基于 NVIDIA Nemotron 模型和 OpenShell 的创意智能体架构。

    匹配字段摘要

  5. heise online

    Nvidia 推出 DSX Pod 参考设计,用预制集装箱加速 AI 数据中心建设

    Nvidia 在柏林 GTC 上发布 DSX Pod 参考设计,让合作伙伴在工厂内把 Vera Rubin 服务器、网络、配电和液冷装进集装箱,目标是把大型 AI 数据中心安装时间从平均六个月缩短到数周,首批系统计划 2027 年初可用。Nvidia 同时推出 DSX Flex 和 DSX MaxLPS 软件,前者可在电网紧张时自动降低功耗,后者动态分配电力预算;据 Nvidia 数据,Nscale 在 GB300 NVL72 系统上以 264 千瓦不变电力实现 49% 更高的推理吞吐。Foxconn 将在捷克生产测试系统,Bull 在法国昂热组装,Nvidia 称制造与集成伙伴分布在十多个欧洲国家。

    匹配字段摘要

  6. Computerworld

    Microsoft 扩展主权云服务,新增安全、治理与 AI 能力

    Microsoft 扩展主权云服务,新增 Sovereign Control Panel、Azure Managed HSM 外部密钥管理正式可用、Azure Confidential Clean Rooms 有限预览,以及 Foundry Local 将在 Ignite 上正式可用并支持本地推理与智能体检索。面向欧盟和 EFTA 客户,Microsoft 推出 Data Guardian,由区域合作伙伴独立监督远程访问请求。分析师指出,美国三大超大规模云厂商仍占欧洲云市场约 70%,本地部署无法消除法律与技术依赖。

    匹配字段摘要

  7. cnBeta

    Synaptics发布Astra SR200边缘AI处理器,最高400 GOPS并集成Google Coral NPU

    Synaptics发布Astra SR200系列多模态边缘AI处理器,最高算力400 GOPS,并集成Google Research第二代Coral NPU架构。三款引脚兼容型号SR210、SR230、SR250采用Arm Cortex-M85与Cortex-M52双核,面向智能眼镜、可穿戴设备和工业视觉等本地推理场景。芯片封装内整合最多8MB SRAM与可扩展至数百MB的定制DRAM,官方未公布售价和终端产品上市时间。

    匹配字段摘要、正文

  8. 邵猛

    MIT 6.S950 更新第五讲 Harness 讲义:用 300 行教学 Agent 拆解 Agent 工程

    MIT 公开课 6.S950 Agency with AI 更新了第五讲 The Harness 讲义,用一个约 300 行 Python、仅含 search 和 read_lines 两个工具、本地跑 Ollama 的教学 Agent Baby Anigans 拆解 Harness 的工作方式。讲义把 Agent 概括为 LLM 加 Harness,讨论可观测性上厂商把上下文摘要、推理过程加密封装到 API 后的透明度取舍,并把上下文管理、强制拦截、最小权限等做法追溯到 1965 至 1975 年的系统原则。讲义还指出没有通用最优解,5 个模型里有 4 个在不同基准上的最佳 Harness 不同。

    MIT 公开课 6.S950 Agency with AI 更新了第五讲 The Harness 讲义,用一个约 300 行 Python、仅含 search 和 read lines 两个工具、本地跑 Ollama 的教学 Agent Baby Anigans 拆解 Harness 的工作方式。讲义把 Agent 概括为 LLM 加 Harness,讨论可观测性上厂商把上下文摘要、推理过程加密封装到 API 后的透明度取舍,并把上下文管理、强制拦截、最小权限等做法追溯到 1965 至 1975 年的系统原则。讲义还指出没有通用最优解,5 个模型里有 4 个在不同基准上的最佳 Harness 不同。

    匹配字段摘要、正文