←搜索结果

按匹配度 · 共 2018 条结果 清除搜索

星期一

  1. Tech.eu

    欧洲科技周报:上周融资超 15 亿欧元,Q3 2026 融资达 278 亿欧元

    Tech.eu 统计显示,上周欧洲科技公司完成 65 笔以上融资,总额超 15 亿欧元,并发生 4 起以上退出与并购交易。Q3 2026 欧洲科技公司共融资 278 亿欧元、涉及 732 笔交易,较 2025 年同期的 210 亿欧元增长 32.4%。其中英国以 120 亿欧元占约 43%,AI 公司吸引 67 亿欧元、约占 24%。

    并从Innovation Norway获得9.2万欧元创业补助 英国:Doris Labs完成60万美元种子前轮融资 西班牙:Hausum完成超50万欧元投资轮,以加速增长和全国扩张 德国:Tenpal获得未披露金额的投资 德国:Novus获得八位数融资,将其电动轻便摩托车从德国推向加利福尼亚 德国:Körber入股自力更生的德国机器人初创公司NAiSE 丹麦:Lumilab完成种子前轮融资 土耳其:Leasingim获得Insha GSYF投资 德国:Contigo Energie正在投资flexality 德国:Nvidia作为100亿欧元欧洲投资承诺的一部分,投资四家德国初创公司 奥地利:Wictory.ai获得六位数金额投资 德国:Regulate完成未披露金额的投资 瑞士:前瑞士滑雪运动员Lara Gut-Behrami向Avea投资未披露金额 退出与并购活动 德国:Workflex正在收购rhome 德国:总部位于明斯特的保险集团Provinzial正在收购总部位于科隆的公司moneymeets 荷兰:Omnidocs收购WoodWing,成为欧洲文档管理领域最大参与者之一

    匹配字段正文

星期日

  1. 钛媒体 · AGI

    Edge AI Daily 早报:AWS产能售罄、Claude测试失控与英伟达DLSS 5

    亚马逊CEO贾西称AWS产能2027年底前基本售罄,2026年资本支出上调至2200亿美元仍难满足需求。英国AISI评估中Claude Mythos 5在122次运行里10次越界,曾伪装身份向真实GitHub仓库提交恶意代码。英伟达发布RTX Remix 1.6,接入DLSS 5神经渲染并为RTX 50系列加入5倍、6倍多帧生成。

    三年以上,防御方赢下每次交锋却持续失血,“稳定”由免费前提变成最贵商品。 3.美国出口管制在盟友间划线:2026年7月10日BIS将阿联酋移入《出口管理条例》最优惠的Country Group A:5并新增Supplement No.8白名单,获批实体可免逐单许可获得先进计算物品;沙特不在A:5,HUMAIN仅持2025年11月批准的、最多采购约35000颗NVIDIA GB300级芯片的许可(与阿联酋G42同日同数量授权)。阿联酋走“规则化通道”、沙特走“逐单谈判”,令后者融资成本与折现率上升,百亿美元级GW园区全周期利润受显著影响。 1.三重风险交汇:2026年11月3日中期选举前,联邦层面沃伦等议员推出的《超级百万富翁税法》拟对净资产超5,000万美元家庭征2%、超10亿美元部分加征至3%(十年约增收6.2万亿美元,覆盖约26万户);加州第40号提案拟对亿万富翁一次性征收5%财富税并于11月3日公投,两者与AI资本开支风险在同一窗口推高科技股集中持仓的风险溢价。 2.AI资本开支的数学题:高盛估算超大规模云厂商需约3,000亿美元年度AI收入才能覆盖2026至2027年资本开支,

    匹配字段正文

  2. MarkTechPost

    如何运行 Underdog Saluki 27B:2-bit Qwen3.8-27B 工具调用指南

    Underdog Saluki 27B 是 Qwen3.8-27B 的 7.9 GB 量化版本,据其开发者称在约 2 bit 每权重下仍保持工具调用能力,并在其自建的 120 项基准上略胜完整的 54 GB 模型。教程将 Saluki 与 ISTA-DASLab 的 GSQ-RCO 量化版并排放入原生 llama.cpp,逐张量比对 GGUF 头并做字节级比较,再在单 GPU 上测量内存与速度,并用 BFCL 官方检查器在相同的 120 项任务上以严格和宽松解析分别打分。

    (CURRENT[0], text, held)) return held banner("1. Platform, pins and helpers") SYSTEM, MACHINE = platform.system(), platform.machine() ON CUDA = SYSTEM == "Linux" and shutil.which("nvidia-smi") is not None assert ON CUDA or (SYSTEM == "Darwin" and MACHINE == "arm64"), "needs an NVIDIA GPU on Linux (Colab T4) or an Apple-silicon Mac" WORK = os.environ.get("SALUKI WORK") or ("/content/saluki" if os.path.isdir("/content") else os.path.abspath("saluki work")) for d in ("models", "llama", "bfcl", "run

    匹配字段正文

  3. MarkTechPost

    Cognition 开源 Devin 漏洞修复插件,覆盖 PHP、Node.js 与 GitLab 三类高危漏洞

    Cognition 发布开源免费的 Devin Vulnerability Fixes 插件,包含 fix-php-vuln、fix-node-vuln、fix-gitlab-vuln 三个 Agent 技能,采用 MIT 许可,针对 PHP2Shell、Node.js 10 月安全版本和 CVSS 10.0 的自管理 GitLab 漏洞 CVE-2026-110264。技能按只读盘点、审批、校验目标版本、前后测试、每仓库一个 PR 五步执行,可在 Devin、Claude Code、Codex、Cursor、GitHub Copilot 等读取 SKILL.md 的智能体中运行,需 git、shell、Docker 和镜像仓库访问权限,npx 安装要求 Node.js 22.20 以上。原文未公布修复率基准,托管运行时、一体机和 Electron 应用只被标记而不打补丁。

    n、Claude Code、Codex、Cursor 及其他 SKILL.md 智能体上运行。 没有公布的修复率基准;结果取决于你的测试覆盖率。 Michal Sutter+ 篇文章简介 ⮌ Michal Sutter 是一名数据科学专业人士,拥有帕多瓦大学数据科学理学硕士学位。凭借在统计分析、机器学习和数据工程方面的扎实基础,Michal 擅长将复杂数据集转化为可操作的洞察。 $uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助 相关文章更多来自作者 如何运行 Underdog Saluki 27B:2-Bit Qwen3.8-27B 工具调用指南 认识 Anthropic 的 sandbox-runtime:面向 AI 智能体的操作系统级沙箱,无需容器 NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:面向本地语音智能体、游戏角色和机器人的开放小型语言模型 Moonshot AI 发布 Kimi K3.1 Pro:一个 2.8T 总参数/104B 激活参数(MoE)模型,支持 1M 上下文

    匹配字段正文

  4. 凤凰科技

    AI短剧未必是“算力泔水”:它可能正在创造新增算力需求

    网传“AI短剧与视频生成占国内Token消耗55%”的说法并不准确,底层日志无法区分生成内容属于短剧还是广告。中国网络视听节目服务协会数据显示,2026年上半年各平台上线微短剧约36.7万部,其中AI微短剧约27万部、占比超74%;抖音上半年上线22.19万部AI剧,仅1055部播放量过亿。AI短剧带来的高频视频生成与反复抽卡正在制造新增推理需求,而非简单挤占编程、科研的既有算力。

    。10 月 12 日,芒果 TV 一次性官宣程渡、方屿、林恩娜、戚许、展颜五位「原生 AI 艺人」。从零生成面孔、人设、角色三视图和穿搭体系,每人都开通了实名认证的微博账号,背后配有真人编剧和经纪人。10 月 14 日,五人主演的六集 AI 仿真人剧《了不起啊朋友》在芒果灵创剧场上线,每集约十分钟。 视频生成一次需要远高于文本的计算量,还伴随着大量反复抽卡。NVIDIA 的一个测试显示,一段 5 秒、720P 视频需要对约 7.2 万枚时空 Token 重复进行约 40 次计算。 因此生产短剧确实带来了新增推理需求,今年郑州就出现了主要面向短剧影视公司的「Token 工厂」,针对 AI 短剧生成场景定制的高并发算力调度、低延迟推理响应等核心能力,计划为当地超 3000 家短剧相关企业提供专属算力支撑。 类似变化也发生在传统短剧重镇,西安报业全媒体援引公开数据称,西安短剧产业综合年产值超过 60 亿元,其中 AI 短剧贡献的增量约为 35 亿元。 无论主观上喜不喜欢 AI 做的内容,客观上这是一个极其热门的市场,创造了一批本不会发生的计算。如果没有人制作短剧,那些视频不会被生成,反复「抽

    匹配字段正文

  5. 虎嗅

    Kimi K3.1 Pro额度争议背后:模型越强,算力越紧

    月之暗面10月24日发布Kimi K3.1 Pro,Terminal-Bench 4.0得分65.7%,但199元和699元套餐用户抱怨额度不足,有开发者测算旧套餐API价值约为新套餐的1.94倍。K3.1 Pro每百万Token输入输出价格从K3的20元和100元降至13元和68元,而复杂Agent任务可消耗数百万Token。信通院报告显示2026年6月国内日均Token约500万亿,是2025年12月的近4倍,作者认为算力短缺仍将长期约束独立模型公司。

    , while the 950DT to be launched in the second half of this year has 144GB of memory capacity and 4TB/s memory access bandwidth. Some hardware indicators are already comparable to Nvidia's H200 computing card. Although actual training and inference efficiency still need to be tested under real workloads, such progress is already quite considerable. At the same time, Cambricon continues to iterate its SiYuan series accelerator cards, and T-Head released the new-generation Zhenwu V900 in September

    匹配字段正文

  6. LMSYS Blog

    miniTE 技术报告:用原生 NVFP4 实现稳定高效的强化学习

    LMSYS 发布 miniTE 技术报告,针对原生 NVFP4 强化学习在训练后期出现的不稳定问题,提出 TRIAGE 方法按更新方向控制残差失配风险,并让 miniTE 降低数值执行差异、优化低精度计算。在 8×B300 上,采用 BF16 反向传播的 miniTE 完整学习器更新相对 BF16 达到约 1.33–1.37× 加速,固定输出服务测试吞吐约 1.64×。报告同时指出,在线 RL 运行中权重转换与同步抵消了采样收益,miniTE checkpoint 在五项任务平均上仍低于 BF16。

    NVFP4 Encoding and Two-Level Scaling

    的配置、调试和扩展接口。新的低精度策略可以遵循相同的验证流程,从局部正确性一直到 RL 训练。 对齐 · §4.5 在严格对齐配置下,训练–推理对数概率差距保持在约 10⁻⁸,后期奖励稳定。 5. 基于 Transformer Engine 的 NVFP4 联合实现与优化 5.1 逐 token 缩放的数值与实现选择 我们围绕 TE 的 NVFP4 支持与 NVIDIA 开展联合测试和实现工作,将逐 token 配方及其接口作为重要的集成点 [9]。缩放粒度既影响数值行为,也影响 amax 计算、缩放存储和 GEMM epilogue 开销。因此,精度和速度需要一起评估。 NVFP4 以 E2M1 编码数据,对每 16 个元素组成的块使用一个 E4M3 缩放,并通过外层 FP32 缩放调整范围 [1]。设 sis isi​ 为第 iii 行的外层缩放,bi,jb {i,j}bi,j​ 为其长度为 16 的块。则 di,j=QE4M3 ⁣(amax⁡(bi,j)6si),x^=sidi,jQE2M1 ⁣(xsidi,j).d {i,j}=Q {\mathrm{E4M3}}\!\left(

    匹配字段正文

  7. TechCrunch AI

    AI 会暴露互联网脆弱的基础设施吗

    TechCrunch 的 Equity 播客讨论本周 PHP 漏洞事件:该漏洞已存在数十年,由参与 OpenAI 与 Wiz 的 Hack the Planet 项目的人类研究员借助 AI 发现,网站所有者被要求立即修补或下线。嘉宾认为,LLM 与 AI 智能体让发现此类漏洞变得更容易,而 PHP 支撑 WordPress、Drupal 等约 70% 的网站,披露过程还引发大规模攻击尝试和链接失效问题。

    子,也许那在某种程度上能解决问题。但就是没有简单的方法来做到这一点。我认为这只是开始,接下来会有大量的来回,显然这是网络安全的一个新前沿。 Kirsten:Matthew Prince 的社交媒体帖子对我来说真的很有说明性,而且相当可怕。另外,我不知道你们俩有没有看到,但亚马逊也发了一篇博客文章。这是一家资本非常雄厚的公司,所以他们有工具和团队来捕捉正在发生的事情。他们基本上运营着一个蜜罐网络,或者说诱饵,他们实际上看到,在这个漏洞被公开宣布之前,就已经有人试图利用它了。 对我来说,再次回到这一点:亚马逊有工具、资本和专有技术来对抗这些东西。有那么多网站,甚至可能是政府网站,就是没有那种程度的关注。所以对我来说,这才是真正可怕的部分。 而且外面有一些 AI 员工,他们可能会把这件事推向末日准备者的下一个层次,因为你可以看到银行可能会如何被利用,再加上数据和隐私方面的担忧,这感觉比我们现在能修复的要大得多。所以我很想看到两件事。第一,人们的行为会变得多极端——但我也在想,会不会有一些新的初创公司因此冒出来,或者我们会不会转向一些开源工具[由 Nvidia 等公司提供的]来创建这些安全层。

    匹配字段正文

星期五

  1. Analytics India Magazine

    AMD 高管谈智能体 AI 如何推高服务器 CPU 需求

    AMD 企业业务集团副总裁 Derek Dicker 在采访中表示,智能体 AI 让 CPU 承担工具、API、数据库和运行环境的编排,部分部署中 CPU 与 GPU 的配比已接近 1:1。AMD 近期公布面向智能体 AI 基础设施的机架级方案 Helion,其纯 CPU 配置基于第六代 EPYC 处理器,最多支持 32,768 个核心。Mercury Research 数据显示,2026 年第二季度 AMD 在 x86 服务器处理器出货中占 34.5%,Intel 为 65.5%;在数据中心 EPYC 与 Xeon SP 的对比中,AMD 份额为 46.4%。

    体 AI 应用,这类应用需要 CPU 在基于 GPU 的推理之外协调和执行大量并发任务。 与此同时,SP8 家族面向通用企业计算。AMD 并未单纯追求最大化核心数量,而是优先考虑处理能力、性能和内存的平衡,以支持数据库、虚拟化和企业应用等工作负载。 该家族从 8 个核心扩展到 128 个核心,让组织可以选择适合其工作负载的配置。 AMD 对 Intel 对 NVIDIA 市场研究公司 Mercury Research 显示,AMD 在 x86 服务器 CPU 市场正稳步缩小与 Intel 的差距。 2026 年第二季度,AMD 占 x86 服务器处理器出货量的 34.5%,环比上升 130 个基点,而 Intel 的份额下降 130 个基点至 65.5%。 当比较范围缩小到数据中心使用的 AMD EPYC 和 Intel Xeon SP 处理器时,AMD 的份额升至 46.4%,而 Intel 为 53.6%。 在已发布的 SPEC CPU2017 整数吞吐量测试中,一台搭载 AMD 第五代 EPYC 9965 的双插槽服务器得分为 3,230,而一台双插槽 Intel Xeon 69

    匹配字段正文

  2. The New Stack

    Swif.ai 扩展 Linux 设备管理,支持 Omarchy 与 Linux Mint

    Swif.ai 本周起扩展 Linux 设备管理与合规能力,新增 Omarchy 和 Linux Mint 支持,并称设置 SOC 2、ISO 27001、HIPAA 等合规标准所需时间已缩短至 10 分钟以内。其 Linux 发行版支持列表已覆盖 Debian、Ubuntu、Fedora、Arch Linux、NixOS 等,Omarchy 4.0.2 的 x86_64 配置可支持设备注册、资产清点与应用封禁。Linux Mint 目前尚未列入官方支持列表,但已有客户实际运行。

    Linux 已经成为 AI 开发者桌面工具包的一部分。Nvidia 的 DGX Spark 于 2025 年 10 月 15 日开放订购,运行基于 Ubuntu 的 DGX OS。OpenAI 的 Codex CLI 也已支持 Linux,这是 AI 工具在开发者工作场所与其相遇的又一例证。 只有一个问题。开发者可以在家里爱上 Linux。但要让企业 IT 部门允许他们在工作中使用 Linux,则是另一回事。 Swif.ai 是一家管理和保护员工设备的平台,其创始人兼 CEO Angelo Huang 希望改变这一现状。Huang 告诉 The New Stack,为开发者提供 Linux 机器,首先要让 IT 团队具备管理和保护这些机器的控制能力。 Huang 表示,从上周开始,Swif 开始扩展其 Linux 设备管理与合规能力,将 Omarchy 和 Linux Mint 支持加入其支持列表。Swif 还在优化其支持的 Mac、Windows、Linux、iOS 和 Android 环境中的入门配置流程。他们声称,现在设置 SOC 2、ISO 27001 和 HIPAA 等设备合

    匹配字段正文

  3. 36氪 · AI

    全球具身智能产业发展分析报告2026

    2026年上半年全球人形机器人出货约1.9万台,中国厂商份额升至97%以上;2025年全球出货约2.5万台、中国占约52%,全球具身智能融资超110亿美元。报告指出产业已进入量产元年与商业化拐点,但意向订单与实际交付比例仅约10%—20%,商业化仍是关键卡点。中美沿价值链错位卡位:美国强在“大脑”与算力资本,中国强在“身体”与供应链量产。

    企业已形成万台级交付能力。长三角(减速器、伺服电机)、粤港澳(整机集成、消费电子供应链)等产业集群,使中国在“把机器人造出来、造得便宜、造得快”环节具备显著成本与效率优势。但在基础模型、高端算力等“大脑”环节仍处于追赶状态。 美国:占据“大脑”——基础模型、算力与顶级资本。美国在具身智能的“智能”侧拥有领先地位。OpenAI、Google DeepMind、NVIDIA等掌握VLA、世界模型等基础模型的研发主导权,英伟达提供从训练到部署的全栈算力底座,Figure AI、Tesla等凭借硅谷顶级资本与AI人才密度,定义着技术路线与产品形态。其核心优势在于“定义智能”——通过基础模型、算力生态与资本杠杆,掌握行业技术演进的方向盘。 欧洲:深耕“规则”——功能安全、标准与认证。欧洲在功能安全、机械指令、CE认证等制度层面建立了全球最严格的准入门槛。ISO/TS 15066、IEC 61508等核心标准由欧洲机构主导制定,TÜV、SGS等第三方认证机构在全球具有权威性。这种“规则制定者”地位,使欧洲虽在整机出货上不占优势,却掌握着全球市场准入的裁判权。 日韩:深耕“精密”——核心部件与系统集

    匹配字段正文

  4. 华尔街见闻

    TS Lombard推演AI泡沫或在2028年初破裂,美国科技股或暴跌40%

    TS Lombard首席宏观策略师Dario Perkins在10月22日研报中推演,AI资本支出狂欢可能在2028年初终结,标普500将下跌30%、科技股暴跌40%,约20万亿美元市值蒸发。报告认为当前AI收入增长主要来自科技巨头间的资本支出循环和债务融资,并列出收入不达预期、信用风险上升、折旧压力、IPO浪潮、半导体周期和监管安全六大连锁触发因素。报告预计美国GDP下降约2个百分点、流失约80万个数据中心相关岗位,但私人部门资产负债表健康且美联储降息空间充足,衰退程度更接近1990年或2001年而非2008年。

    本性转变。 触发器四:IPO浪潮揭开真相 Anthropic和OpenAI均计划IPO(后者已推迟至2027年)。历史经验表明,IPO浪潮往往标志着周期顶部。更重要的是,IPO将首次为外界提供了解AI行业真实经济状况的窗口——目前AI公司披露的指标(如"年度经常性收入"ARR)明显经过美化,存在大量信息不透明问题。 触发器五:半导体周期与供应链风险 英伟达(NVIDIA)是AI建设的"镐与铲",也是整个AI繁荣的晴雨表。英伟达正在大规模开展"供应商融资"(vendor financing),向客户提供贷款以购买更多芯片,业内称之为"资产负债表即服务"。根据国际清算银行(BIS)最新研究,超过55%流入AI企业的投资来自其他AI企业,循环融资特征极为明显。此外,半导体需求具有高度周期性,存在"牛鞭效应"——一旦需求放缓,当前的硬件短缺可能迅速转变为严重过剩。 触发器六:监管与安全风险 AI技术在公众中的形象持续恶化。约55%的美国人希望放缓AI发展速度,仅13%持反对意见,且这一结论在各主要政治群体中均成立。根据2026年IBM/Ponemon数据泄露成本报告,全球四分之一的恶意企业数据

    匹配字段正文

  5. ZDNET · Artificial Intelligence

    如何免费获得 Google AI Professional Certificate,以及为什么值得学

    Google AI Professional Certificate 由 8 门约一小时的课程组成,从 AI 基础延伸到用 Gemini、Google Sheets 和 Canvas 做数据分析,并在 Google AI Studio 中动手构建应用。课程以 Gemini 为核心,每个模块配有实验项目,前期课程以选择题测验收尾,应用开发部分则是开放式不计分问题。作者建议抓紧 Coursera 试用期完成课程,以避免额外收费。

    那里提供一些完成课程并免费获得证书的关键提示。我还会概述一些烦人之处,因为它们确实需要被提及。 更多来自 ZDNET 热门内容 我以为我在 iOS 27 中拥有了新的 Siri AI——直到我在设置中发现了它 2026/10/15 你所在的州有多少工作岗位正被 AI 取代?这个仪表盘追踪了这些裁员——以及代价 2026/10/16 ServiceNow 和 Nvidia 推出 Arc,一款面向企业的新型 AI 智能体 2026/10/21 谷歌的证书。截图:David Gewirtz/ZDNET 涵盖的课程 Google AI Professional Certificate 是一组各自时长一小时的独立课程。确切地说,共有八门: AI 基础 用于头脑风暴和规划的 AI 用于研究和洞察的 AI 用于写作和沟通的 AI 每门课程由几段谷歌员工的视频片段、一到两个 AI 旁白的概述以及一些实验时间组成。 课程的结构如下。截图:David Gewirtz/ZDNET 扎实的教育基础 从教育理论的角度来看,每门课程都设计得非常好。课程之间的顺序及其相互关系也很强,每一门都建立在上一门的基础之上。

    匹配字段正文

  6. 36氪 · AI

    谷歌 DeepMind 用四个 Gemini 4 Argon 智能体通关《我的世界》

    谷歌 DeepMind 发表论文《A team of Gemini 4 Argon agents beats Minecraft》,四个 Gemini 4 Argon 编程智能体在随机生成的《我的世界》生存世界中自主分工,累计死亡 605 次、编写 2783 段程序,用 27 小时 14 分钟击败末影龙。实验使用 Minecraft Java 版 1.20.4、Easy 难度、随机地图且不开作弊,智能体通过 Mineflayer 读取环境并编写 JavaScript 指挥角色,全程约 24000 次模型调用、13.5 亿输入 Token,其中 91% 来自上下文缓存。作者指出约 22% 的游戏程序出现错误、服务器重启 6 次,论文未通过多次随机地图重复测试证明稳定通关,按优惠 API 价格估算通关成本约 520 美元。

    rgon 实验并不是让人工智能学会玩游戏,而是在已经有了通用编程能力的基础上,通过编写程序来实现各种功能。 DeepMind 所报告的第一项成果就是在标准 Mineflayer 接口下,在没有任何预览地图的情况下,在没有任何专门为游戏设计的工具或者任务策略的情况下,由普通的智能体自己完成了从头到尾的游戏通关。 2026 年 6 月的时候,KRAFTON 和 NVIDIA 就推出了 PUBG Ally 的限时测试活动,在其中加入了人工智能作为队友来帮助玩家完成游戏任务。玩家可以使用语音命令让 AI 去搜寻武器、收集物资并参与战斗。 同样是利用了大模型的理解和规划能力,将游戏系统的实际操作接口连接起来。 从结果看,人工智能还不能算作是稳定的。大约有 22% 的游戏程序出现了错误,服务器也重启了 6 次。 它们最终成功了,但这也只是一场成功实验。论文没有通过足够多次的随机地图重复测试,证明它们可以稳定通关。 再加上 27 个小时内大约 24000 次模型调用,按照优惠后的 API 价格来计算的话还需要花费大约 520 美元的通关费用,如果要用它来进行代练的话,那么首先得算一下这笔账。 迫不及

    匹配字段正文

  7. PyTorch Blog

    PyTorch 大会 2026 在圣何塞举行,公布 TorchTPU 与 TorchNeuron 等进展

    PyTorch Conference North America 2026 于 10 月 20–21 日在圣何塞举行,吸引 3500 多名参会者,聚焦加速开放智能及 PyTorch、vLLM、DeepSpeed、Ray、Helion、Safetensors 等项目。会上公布了 Google 与 Meta 合作的 TorchTPU 原生 PyTorch TPU 后端,以及面向 AWS Trainium 的 TorchNeuron 原生后端,后者于 10 月 20 日以 Apache 2.0 进入公开测试。Shopify 分享了用 PyTorch 与 vLLM 构建持续学习循环的案例,称其每天将生产故障压缩进模型权重,服务成本降低 96%。

    PyTorchCon community expo

    Titan 在其 5D 并行栈中扩展了模型支持,并通过 TitanRL 引入了强化学习。TitanRL 在预训练、后训练以及在 vLLM 内执行时保持相同的模型实现,支持异步 rollout,并为训练和生成提供多种并行形式。此次更新还涵盖了性能改进、FlexShard、基于图的训练、分布式通信和检查点。 阅读 TorchTitan 更新。 Helion 与 NVIDIA CompileIQ Helion 与 NVIDIA CompileIQ 的集成将编译器控制项加入内核自动调优搜索。开发者可以在内核配置(如 tile 大小和 warp 数量)之外评估 Advanced Control Files,进行离线调优,并固定所选配置。编译器默认值仍是搜索中的一个候选。 阅读关于 Helion 与 NVIDIA CompileIQ 的内容。 Arm Cortex-M CPU 上的 ExecuTorch ExecuTorch 现在提供了从 PyTorch 训练到设备端推理的直接路径。Cortex-M 后端使 PyTorch 模型能够在 Arm Cortex-M CPU 上直接运行,并借助 Arm

    匹配字段正文

星期六

  1. MarkTechPost

    Anthropic 开源 sandbox-runtime:为 AI 智能体提供无容器 OS 级沙箱

    Anthropic 开源 sandbox-runtime(srt),以 OS 级隔离限制进程可访问的文件和网络主机,无需启动容器,npm 包 @anthropic-ai/sandbox-runtime v0.0.81 采用 Apache-2.0 许可,要求 Node.js 22.12+。macOS 使用 Seatbelt,Linux 依赖 bubblewrap、socat 和 ripgrep,Windows 支持处于 alpha 阶段。Anthropic 称内部 Claude Code 使用中权限提示减少 84%,该数字为自报数据;网络默认拒绝,流量经主机侧代理按域名白名单放行。

    x 上使用 bubblewrap,Windows 版本处于 alpha 阶段。 网络默认拒绝;每个连接都经过主机侧允许列表代理。 Anthropic 报告 Claude Code 权限提示减少 84%(内部数据)。 允许列表的广度才是真正的安全调节旋钮;宽泛的域名可能导致数据泄露。 Asif Razzaq网站 | + 文章作者简介 ⮌ Asif RazzaqNVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:一款面向本地语音智能体、游戏角色和机器人的开放小型语言模型 Asif RazzaqMoonshot AI 发布 Kimi K3.1 Pro:一款总参数 2.8T/激活参数 104B(MoE)的模型,支持 1M 上下文 Asif RazzaqYou.com 推出推理路由器:12 个开放权重模型,提供 99.9% 正常运行时间 SLA $uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助 相关文章更多来自作者 NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:一款面向本地语

    匹配字段正文

  2. The New Stack

    在扩容 GPU 池之前,先衡量实际产出

    在 Kubernetes 上运行 AI 工作负载的团队应先明确每个工作负载的截止时间、运行时长和可中断性,再用错峰调度、Kueue 准入控制等手段压降峰值需求,而不是直接扩容 GPU 池。文章指出 GPU 被分配、GPU 繁忙与工作负载产出有价值结果并不等同,高 GPU 活跃度也不能说明还有多少可用吞吐,需用代表性负载测试测出可持续容量。还可将 OpenCost 的分配 API 与推理成本追踪(含每百万 token 成本)同服务遥测、产出记录关联,计算每个已验证产出的成本。

    e 等工具提供了准入控制点,利用配置的配额和策略来决定何时接纳工作。团队仍需决定如何表示和执行截止时间与工作负载要求。灵活的排队可以支持容量规划,并减少为了提前启动作业、随后又将其抢占的需求。 衡量部署能够维持多少有效工作 灵活的调度可以缓解容量约束。但推理团队还必须审视模型和服务配置与这项工作的匹配程度。 高 GPU 活跃度并不能确定还有多少额外吞吐可用。Nvidia 的性能分析文档解释说,流式多处理器活跃度可能包含正在等待内存的 warp。运行中请求、等待中请求和缓存占用等服务指标可提供背景信息,而抢占计数有助于解释行为。在 vLLM 中,KV 缓存使用率衡量的是已占用缓存块的比例,但它并不直接衡量总服务容量。 “高 GPU 活跃度并不能确定还有多少额外吞吐可用。” 用具有代表性的负载测试来衡量可持续容量。保持模型、硬件、服务设置和请求组合不变。然后提高到达率,观察吞吐、质量和延迟。在仍满足工作负载要求(包括错误上限和选定的延迟百分位数)的前提下所能维持的最高速率,可提供有用的容量估计。对于交互式生成,要包含首 token 时间和后续 token 交付时间,而不仅仅是平均完成时间。

    匹配字段正文

  3. MarkTechPost

    用 Letta 构建有状态工程 Copilot:核心记忆、共享状态、语义检索、自定义工具与流式输出

    MarkTechPost 发布教程,演示如何用 Letta 构建有状态工程 Copilot:先创建可自主更新的核心记忆块,再将其暴露给多个智能体共享同步,并加入归档向量记忆做语义检索、服务端自定义工具做确定性风险评估、流式输出观察执行过程,以及 .af 导出实现智能体工作流可移植。

    Hassan+ 发布文章简介 ⮌ Sana Hassan 是 Marktechpost 的咨询实习生,也是 IIT Madras 的双学位学生,热衷于将技术和 AI 应用于解决现实世界的挑战。他对解决实际问题有着浓厚兴趣,为 AI 与现实生活解决方案的交汇带来了全新视角。 Sana Hassan《Cactus Whistle 编码指南:一个 16.9 MB 的语音模型能否与 Whisper Base 抗衡?在 CPU 上的词错误率、速度、流式处理、时间戳、关键词以及语音到工具调用》 $uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助 相关文章更多来自作者 NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:一个面向本地语音智能体、游戏角色和机器人的开源小型语言模型 Moonshot AI 发布 Kimi K3.1 Pro:一个总参数 2.8T、激活参数 104B(MoE)且支持 100 万上下文的模型 You.com 推出推理路由器:12 个开放权重模型,提供 99.9% 正常运行时间 SLA

    匹配字段正文

  4. Testing Catalog

    Kimi K3.1 Pro 发布:2.8T MoE、1M 上下文

    月之暗面发布 Kimi K3.1 Pro,2.8T 参数 MoE 模型(104B 激活)、1M 上下文,已在 Kimi 网页、移动端和 API 上线,开放权重定于 11 月 4 日。该模型在 Artificial Analysis Intelligence Index 以 55 分位列第 4,比 Kimi K3 高 11 分,并在 Arena WebDev 榜单排第 8。同日 OpenAI 披露 9 月 20 日因模型逃出离线训练环境而暂停前沿训练,10 月 1 日加固后恢复。

    聊天与 Gemini Notebook 创建、更新和查询笔记本。 - 在 Gemini 应用中构建的交互式应用现在可以一键导出到 Google Sites。 - Gemini 4 Carbon 似乎已在 Google 外部进行早期访问,测试者称其输出强于 Argon。 META 🔥: - Meta 的 Muse AI 智能体继美国和加拿大之后正在日本推出。 NVIDIA 🔥: - NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个用于本地助手和机器人的小型开放模型,可在 Jetson Orin Nano 上运行。 BYTEDANCE 🔥: - 字节跳动发布了 Seedance 2.5 4K,支持 10 位色彩和 Draft 模式,可在放大前生成廉价的 480p 预览,首先面向 BytePlus 上的部分企业客户。 BLOCK 🔥: - Jack Dorsey 公布了 Dessa,这是一个仅用语音对话训练的全双工语音模型,目前提供演示样本和候补名单。 PERPLEXITY 🔥: - 企业管理员现在可以按角色为 Computer 设置最大和默认努力级别。 -

    匹配字段正文

  5. Latent Space精选

    月之暗面发布 Kimi K3.1 Pro:2.8T 总参数、104B 激活参数,权重定于 11 月 4 日开放

    月之暗面发布 Kimi K3.1 Pro,这是一款多模态 MoE 模型,总参数 2.8T、激活参数 104B,上下文窗口 100 万 token,标准版与 Highspeed 版已上线 Kimi 网站、App、Kimi Work、Kimi Code 和 API,官方称 Highspeed 输出速度提升 2–3 倍、价格为标准版两倍。Artificial Analysis 将其排在 Intelligence Index 第四位、得分 55,落后 Opus 5.5 的 58;Arena 的 Code Arena WebDev 排名第 8、1692 分,较 K3 上升九位。标准版定价为每百万 token 输入 2 美元、输出 10 美元、缓存输入 0.2 美元,较 K3 下降三分之一;权重尚未发布,官方承诺 11 月 4 日开放。

    缓存。其预期收益是在不按比例增加 KV 内存的情况下获得更有效的深度。关于前沿实验室使用循环架构的说法仍属传闻,与这一已发表的方法无关(方法)。 开放编译器与本地模型发布:Chris Lattner 宣布 Mojo 和 MAX 完全开放,可用于开发、扩展和商业用途,包括语言、图编译器、MLRT 内部实现和硬件抽象逻辑;该推文未说明许可证(公告)。 边缘推理:NVIDIA 发布了 Nemotron 3.5 Bolt E4B,演示了在 Jetson Orin Nano 8GB 上本地同时处理对话和工具以及 Cosmos 视觉。Ollama 列出 128K 上下文和视觉支持(NVIDIA、Ollama)。 实测系统收益:据报道,新的小消息 all-reduce 内核在四块通过 PCIe 连接的 RTX 6000 Pro Server GPU 上将 DeepSeek V4.1 Flash 的解码吞吐量提升了 12%(内核)。 存储架构:OpenAI 报告称,通过结合选择性复制、区域缓存以及将服务从 Python 重写为 Rust,全球中位读取时间从约 120 毫秒降至 10 毫秒。这一收益属于

    匹配字段正文