←搜索结果

按匹配度 · 共 356 条结果 清除搜索

星期二

  1. Together AI Blog

    Together AI 详解 GPU 集群自动修复:从 GPU 故障到健康节点

    Together AI 介绍其 GPU 集群自动修复系统,已正式提供被动健康检查、修复建议、自动修复策略(含按故障和按节点授权)、等待空闲控制、升级阶梯、安全护栏以及 API 与控制台修复,基于节点标签的自定义检测接入仍为预览。系统分检测、决策、修复、复验四阶段,前三个阶段在用户集群内运行,复验在 Together 侧对腾出的物理机执行。平台按信号映射最轻修复动作,用户可决定是否自动执行及等待时长,同一故障同一动作重复两次后自动升一级。

    Auto repair pipeline: signals from inside the VM and from the host feed Detect, Decide and Repair inside your cluster; migrated hosts go to Re-validate on Together infrastructure.

    反复重启 在 Slurm 上,导出器会报告被标记为 DOWN 或 DRAIN 的节点。 在主机上, 我们监控 InfiniBand 通道状态和链路抖动,并将其归因于拥有这些通道的 VM。我们还监控主机可达性,因此死掉的主机会在您的节点上显示为问题,而不是一片沉默。 每个告警都附带稳定的摘要、通俗语言的描述和机器可读的证据载荷。对于 Xid,就是每个代码及其 NVIDIA 助记符。对于热降频,就是峰值温度和降频次数。控制平面原样传递这些字符串,因此控制台、API(作为 linked alerts)和您的通知始终表达相同的内容。 我们将观测与可操作区分开来。每个与修复相关的告警都会被记录,并将您的节点标记为 Degraded. 只有具有操作映射的信号才会创建修复。例如,磁盘压力会显示出来,但不会触发重启,因为重启无法解决它。没有映射的告警会被计数并记录,绝不会被静默丢弃,并会转交我们的支持团队进行调查。 2. 策略:我们决定做什么,您决定是否以及何时做 做什么 由平台负责。每个信号都映射到能修复它的最轻量操作,因此您无需知道哪个 Xid 意味着什么: 是否 由您决定。在“修复”选项卡中,

    匹配字段正文

星期日

  1. MarkTechPost

    Cognition 开源 Devin 漏洞修复插件,覆盖 PHP、Node.js 与 GitLab 三类高危漏洞

    Cognition 发布开源免费的 Devin Vulnerability Fixes 插件,包含 fix-php-vuln、fix-node-vuln、fix-gitlab-vuln 三个 Agent 技能,采用 MIT 许可,针对 PHP2Shell、Node.js 10 月安全版本和 CVSS 10.0 的自管理 GitLab 漏洞 CVE-2026-110264。技能按只读盘点、审批、校验目标版本、前后测试、每仓库一个 PR 五步执行,可在 Devin、Claude Code、Codex、Cursor、GitHub Copilot 等读取 SKILL.md 的智能体中运行,需 git、shell、Docker 和镜像仓库访问权限,npx 安装要求 Node.js 22.20 以上。原文未公布修复率基准,托管运行时、一体机和 Electron 应用只被标记而不打补丁。

    n、Claude Code、Codex、Cursor 及其他 SKILL.md 智能体上运行。 没有公布的修复率基准;结果取决于你的测试覆盖率。 Michal Sutter+ 篇文章简介 ⮌ Michal Sutter 是一名数据科学专业人士,拥有帕多瓦大学数据科学理学硕士学位。凭借在统计分析、机器学习和数据工程方面的扎实基础,Michal 擅长将复杂数据集转化为可操作的洞察。 $uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助 相关文章更多来自作者 如何运行 Underdog Saluki 27B:2-Bit Qwen3.8-27B 工具调用指南 认识 Anthropic 的 sandbox-runtime:面向 AI 智能体的操作系统级沙箱,无需容器 NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:面向本地语音智能体、游戏角色和机器人的开放小型语言模型 Moonshot AI 发布 Kimi K3.1 Pro:一个 2.8T 总参数/104B 激活参数(MoE)模型,支持 1M 上下文

    匹配字段正文

星期六

  1. MarkTechPost

    Anthropic 开源 sandbox-runtime:为 AI 智能体提供无容器 OS 级沙箱

    Anthropic 开源 sandbox-runtime(srt),以 OS 级隔离限制进程可访问的文件和网络主机,无需启动容器,npm 包 @anthropic-ai/sandbox-runtime v0.0.81 采用 Apache-2.0 许可,要求 Node.js 22.12+。macOS 使用 Seatbelt,Linux 依赖 bubblewrap、socat 和 ripgrep,Windows 支持处于 alpha 阶段。Anthropic 称内部 Claude Code 使用中权限提示减少 84%,该数字为自报数据;网络默认拒绝,流量经主机侧代理按域名白名单放行。

    x 上使用 bubblewrap,Windows 版本处于 alpha 阶段。 网络默认拒绝;每个连接都经过主机侧允许列表代理。 Anthropic 报告 Claude Code 权限提示减少 84%(内部数据)。 允许列表的广度才是真正的安全调节旋钮;宽泛的域名可能导致数据泄露。 Asif Razzaq网站 | + 文章作者简介 ⮌ Asif RazzaqNVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:一款面向本地语音智能体、游戏角色和机器人的开放小型语言模型 Asif RazzaqMoonshot AI 发布 Kimi K3.1 Pro:一款总参数 2.8T/激活参数 104B(MoE)的模型,支持 1M 上下文 Asif RazzaqYou.com 推出推理路由器:12 个开放权重模型,提供 99.9% 正常运行时间 SLA $uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助 相关文章更多来自作者 NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB:一款面向本地语

    匹配字段正文

星期四

  1. PyTorch Blog

    TorchTitan 更新:新增多款 SOTA 模型支持、TitanRL 与大规模性能提升

    PyTorch 原生训练平台 TorchTitan 发布更新,新增 Muse Spark Open、Muse Glimmer、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3 和 DeepSeek-V4 的完整训练栈支持,并引入强化学习组件 TitanRL。TitanRL 让预训练、后训练到 vLLM 推理共用同一份模型代码,支持异步 rollout 和长上下文、代码执行等智能体任务训练。性能方面,FlexShard 在 256 张 H100 上把 DeepSeekV3 的优化器耗时最多降低 79%,在 Llama3 405B 上把端到端训练步时最多降低 20%。

    l over recomputed regions, avoiding CPU overhead and custom op wrapper requirements. For distributed compute and scaling, Dist-MoE provides fused communication-compute kernels for NVIDIA SM100+ GPUs with activation packing for dynamic tensors to remain fully CUDA-graphable. Meanwhile, a fully revamped pipeline parallel package provides CUDA-graphable, deterministic execution with user control knobs to maximize overlap when composing FSDP and pipeline parallelism. Finally, TorchTitan overrides en

    匹配字段正文

星期三

  1. Cohere 产品与研究博客精选

    Cohere 发布 Rerank 5 Pro 与 Fast 检索模型

    Cohere 发布企业检索模型 Rerank 5,分 Pro 和 Fast 两档,已在 Cohere API、Model Vault、Microsoft Foundry 和 Amazon SageMaker 上线,Pro 定价为每 1M tokens 0.05 美元、Fast 为 0.02 美元。Cohere 称 Rerank 5 Pro 在 ViDoRe V3、nanoMTEB、BRIGHT 和 BEIR 四项公开基准上领先所有被测模型,在 46 个复合数据集中有 39 个排名第一。新功能 Context Focus 可在单次调用中返回文档内最相关的文本片段,官方测试中移除一半上下文仅损失 2 个百分点答案质量。

    Abstract image

    ng Gemini 1.5 Flash. Latency + Throughput Rerank 5 Fast is built for volume. Under sustained load, Fast reranks about 187 standard-length documents (1,000 tokens) per second on an NVIDIA A100 GPU - delivering 2.9x the throughput of Pro. Fast also delivers nearly 3x faster response times than Pro, making it ideal for latency-sensitive applications and agents that run many searches per task. Pro remains best suited for applications where ranking quality takes priority over speed. Document throughp

    匹配字段正文

  2. TechSpot

    AMD 将 FSR 4.1 超分下放到 Radeon 6000 与 Ryzen AI Max

    AMD 在显卡驱动 26.10.1 版本中把 FSR 4.1 超分开放给 Radeon RX 6000 系列桌面 GPU、Ryzen AI Max APU 以及搭载 Ryzen AI 9 的笔记本,用户无需再借助 Optiscaler 等第三方模组。FSR 4 去年发布时仅支持 RX 9000 系列,2026 年 6 月扩展到 RX 7000 系列。搭载 Ryzen Z2 Extreme、Ryzen AI Z2 Extreme 和 Z2 A 的掌机也在支持范围内,但需等待设备厂商推送驱动。AMD 表示 Xbox Series 主机的支持即将到来,但未提及 Steam Deck。

    Cs can now enable FSR 4.1 upscaling without mods like Optiscaler. The update, included in version 26.10.1 of AMD's graphics driver, aims to bring upscaling image quality closer to Nvidia's DLSS. FSR 4 supported only RX 9000 cards when it launched last year, but AMD extended support to the RX 7000 series in June 2026. This week's update brings the feature to all RX 6000 desktop GPUs, Ryzen AI Max APUs, and laptops with Ryzen AI 9 chips. Handhelds with Ryzen Z2 Extreme, Ryzen AI Z2 Extreme, and Z2

    匹配字段正文

  3. Unite.AI

    Databricks 正式发布 AI Runtime 托管 GPU 训练平台

    Databricks 于 2026 年 10 月 21 日宣布 AI Runtime(AIR)正式可用,这是内置于 Databricks Lakehouse 的全托管无服务器 GPU 平台,用于在企业数据上训练和微调深度学习模型。Databricks 称已有数百家公司使用 AIR,平台经过超过 10 万 GPU 小时的训练运行,并支持通过一条 CLI 命令启动首个工作负载、用自然语言提示迁移 Kubernetes 或 SLURM 上的工作负载。Superhuman 的 Kostia Omelianchuk 表示,团队把训练从单节点 8 块 A100 扩展到多节点 16 块 H100,训练时间从约 7 天降到 48 小时。

    so described built-in priority and pre-emption controls that minimize idle GPU time and monitoring through tools such as Genie ZeroOps. The AI Runtime product page lists on-demand NVIDIA GPUs with multi-region capacity, distributed training across multiple GPUs and nodes with managed RDMA networking, optimized checkpointing for long-running jobs, and support for custom Docker containers, including NVIDIA NGC containers. Kostia Omelianchuk, an applied research scientist and area tech lead at Supe

    匹配字段正文

  4. SiliconANGLE

    Google 发布 TorchTPU,让 PyTorch 应用可直接运行在 TPU 上

    Google 发布 TorchTPU,这是 PyTorch 的一个专用版本,让开发者无需重写底层代码、只需调整少量配置,就能把现有模型和应用迁移到 TPU 上运行。Google 称与 Meta、Hugging Face 以及 vLLM、SGLang 的开发者合作,确保相关代码库兼容;同时推出 TPU agent suite 协助迁移并自动修复错误,并更新端侧工具 LiteRT 以兼容 PyTorch 应用。此前 AWS 也发布了面向自家 Trainium 芯片的 TorchNeuron。

    UPDATED 21:29 EDT / OCTOBER 20 2026 Google unveils TorchTPU in a push to break Nvidia’s stranglehold on AI compute by Mike Wheatley Google LLC is striving to pry open Nvidia Corp.’s grip on the artificial intelligence computing industry with the launch of a specialized version of the open-source PyTorch framework, called TorchTPU, which is designed to eliminate a key advantage of its rival. One of the reasons why Nvidia and its graphics processing units remain so dominant in the AI industry is t

    匹配字段正文

星期二

  1. MarkTechPost

    Google 开源 TorchTPU,为 Cloud TPU 提供原生 PyTorch 后端

    Google 开源 TorchTPU,这是与 Meta 的 PyTorch 团队共同开发的 Cloud TPU 原生 PyTorch 后端,在 PyTorch Conference 2026 上宣布,现有代码通过 torch.device("tpu") 即可指向 TPU。Google 团队称 TorchTPU 取代 PyTorch/XLA,建议所有新工作负载使用;它基于 PrivateUse1 接口,提供 Strict、Debug、DeferAndFuse 三种 eager 模式,torch.compile(backend="tpu") 经 StableHLO 和 OpenXLA 编译。TorchTPU 在 PyPI 上为 v0.2.0,要求 Python 3.11+,Apache 2.0 许可,配套 vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 仓库;Google 自报 TorchTitan 在 Ironwood 上训练 Qwen 3 8B 达到 52% MFU,可扩展至 8,192 颗芯片。

    DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash Asif RazzaqMiniMax Just Launched M3.1 Flash: 428B MoE Agentic Model at $0.15/M Input Asif RazzaqNVIDIA Open Sources Run:ai Under Apache 2.0 for Kubernetes GPU Orchestration RELATED ARTICLESMORE FROM AUTHOR DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash Exa 3.0 Search API Tops Perplexity, Brave and Parallel on 8 Benchmarks Meet Drex Max: Nace AI’s Multimodal Decision Model for

    匹配字段正文

  2. 车东西

    特斯拉向英特尔芯片版Model S和Model X推送FSD v14 Lite

    特斯拉宣布FSD(监督版)v14 Lite开始向搭载英特尔芯片的Model S和Model X推送,该版本通过知识蒸馏把HW4车型的FSD v14能力迁移到HW3硬件。更新提升了导航处理、匝道汇入、行人交互、红绿灯识别和车辆加塞等场景的预判与应急响应,并优化了行驶平顺性。相比其他获得该版本的车型,这批车缺少目的地停车位置选择、驻车状态直接启动FSD和自动倒车功能。

    迁移至HW3(特斯拉的第三代自动驾驶硬件)硬件,该方案让搭载HW3的车型也能获得HW4车型FSD迭代带来的提升,包含强化学习(RL)以及离线模型能力。 那么为什么特斯拉此次更新中强调向搭载英特尔芯片的Model S和Model X推送?因为Model S和Model X随着时间发展拥有搭载多个不同车机芯片的版本。 初代特斯拉Model S和Model X采用NVIDIA Tegra车机芯片。2018年起,特斯拉为Model S和Model X换用了英特尔Atom车机芯片,2021年起又换为AMD Ryzen车机芯片。 要注意的是,这里的芯片指的是车机芯片,这些车型的自动驾驶硬件还是HW3,不然是收不到FSD v14 Lite的升级的,特斯拉是用“英特尔芯片的Model S和Model X”代指这些老车型。 FSD v14 Lite在今年发布时仅面向使用HW3的特斯拉Model 3 和Model Y,后来确认会对Model S、Model X推送,而搭载AMD Ryzen车机芯片的HW3版Model S、Model X已经在今年9月下旬获得了推送。 在目前,已经有多位车主在社交媒体平台上

    匹配字段正文

  3. SiliconANGLE

    IBM 等维护方发布 llm-d 1.0,为自建模型推理增加运维控制

    IBM、Red Hat 与 Google 等 llm-d 项目贡献者发布分布式 AI 推理框架 1.0 版本,新增多租户服务质量、零停机升级和面向 AI 智能体的服务模式。框架基于 Kubernetes,可与 vLLM、SGLang 等推理引擎配合,通过路由把请求导向已缓存相关上下文的副本,并在 GPU 内存、CPU 内存和存储之间迁移缓存。IBM 称在一项智能体编码测试中路由器捕获了 97% 的可用缓存复用,IBM 与 Red Hat 还在自建基础设施上并发运行 3000 个软件工程智能体,成本比通过托管服务运行同一开源模型低 5 到 10 倍。

    s model serving across computing infrastructure. IBM, its Red Hat subsidiary and Google LLC are its lead maintainers. They co-founded the project last year with CoreWeave Inc. and Nvidia Corp. Other contributors include Advanced Micro Devices Inc., Cisco Systems Inc., Hugging Face Inc., Intel Corp. and Mistral AI SAS. The project offers organizations seeking more control over inference costs and infrastructure choices a way to reduce dependence on a single model provider, cloud or hardware platf

    匹配字段正文

  4. 邵猛

    Viggle 发布 3D 原生世界模型 JST-2

    Viggle 发布 JST-2,将整套模型栈构建在 3D 空间,用携带 xyz 坐标、属性向量和动力学向量的 Physics-Native Token 表示世界,而非从视频像素中隐式推断物理规律。架构分为 JST encoder、JST generator 和 JST decoder 三部分,单次前向推理约 1 秒生成完整 3D 场景,成本低于 $0.01(B200),并支持最多 64 个输入视角作为空间上下文窗口。Viggle 公布的盲测人类偏好显示,角色生成对 Meshy 7.1 胜率 58.4%、对 Tripo H3.1 胜率 73.2%,视频生成运动对 DeepMotion 胜率 89.1%。JST-3 计划把学习到的动力学推广到物体交互。

    JST-2 胜率): · 角色生成:胜 Meshy 7.1(58.4%)、Tripo H3.1(73.2%) · 动画就绪度:胜 Meshy 73.8%、Tripo 88.9%,优势集中在手部绑定与变形质量 · 文本生成运动:胜 Cartwheel Swing 74.8%、HY-Motion-1.0(应该是 Hyper3D)80.0% · 视频生成运动:胜 Cartwheel 58.1%、DeepMotion 89.1%,手部追踪胜率高达 95% JST-3 的未来路线图:从“会动的 3D”到“学出来的物理” JST-2 中,角色的运动是学习到的动力学驱动的(这是它跳过绑定/蒙皮的原因),但物体之间的交互仍是规则模拟。JST-3 的目标是把学习动力学推广到物体交互,用学习到的物理替代基于规则的仿真。 最终愿景表述得很明确:为物理 AI 服务的“体验引擎”,智能体在模拟世界中通过行动和观察后果来学习。这本质上是对“机器人训练数据从哪来”这个问题的回答,与 NVIDIA Cosmos、Genesis、Google 的世界模型研究瞄准的是同一个终局,但入场角度是 3D 原生表示而非视频生成。

    匹配字段正文

  5. TechCrunch AI

    AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置跑上 Trainium

    AWS 发布 TorchNeuron 开发工具,让用 PyTorch 编写的 AI 应用只需改一行配置就能运行在亚马逊自研芯片 Trainium 上,无需重写代码。亚马逊称约 85% 的 AI 应用用 PyTorch 编写,并计划把移除框架与特定芯片绑定代码的改动提交到 PyTorch 上游。AWS Annapurna Labs 技术软件副总裁 Colin Brace 称,语音应用厂商 Deepgram 迁移到 Trainium 后每美元处理的音频量提升 70%。

    hNeuron that lets AI startups easily move their AI apps onto Amazon’s AI chip, Trainium. In doing so, Amazon is also taking a direct stab at the software advantage that has helped Nvidia become the default hardware choice for AI apps and spurred its rise as AI hardware provider of choice. TorchNeuron works with PyTorch, a free, open source toolkit that developers use to build, train, and run AI models. It lets AI apps written with PyTorch run on Trainium by changing just one line of configuratio

    匹配字段正文

  6. TechCrunch AI

    微软推出 Guardian Agents 等安全功能,称前沿模型不可信任

    微软发布 Guardian Agents 等新安全功能,用于监控企业内部的 AI 智能体;该功能属于 6 月推出的 Project Perception。微软安全业务负责人 Hayete Gallot 称前沿模型无论来自哪里都不可信任,原因是其行为不可预测。微软还在 Microsoft Defender 中加入智能体检测,可发现 Claude Code、Codex、OpenClaw 等最多 60 种员工带入的智能体,并新增限制数据访问、按任务动态调整权限、高风险决策需人工批准等能力。

    an agent appears to be making risky decisions. This idea of agents as untrustworthy insiders is taking hold across the broader industry, too. Microsoft was an inaugural member of Nvidia’s new Open Agent Safety Platform, which garnered the support of more than 100 other tech companies . The platform isolates agents in secure environments and can monitor and stop behavior through hardware, functioning something like a kill switch. This follows Microsoft’s announcement of the new Surface Laptop Ul

    匹配字段正文

  7. MarkTechPost

    Exa 发布 3.0 搜索 API,新增 Lite 类型并称 8 项基准领先

    Exa 发布面向 AI 智能体的搜索 API Exa 3.0,新增更便宜的搜索类型 Exa Lite,每 1000 次请求 4 美元,与 Auto 共用同一索引;Dynamic Highlights 转为正式可用,官方称比整页文本少用 95% token 且不额外收费。Exa 称 Exa 3.0 Auto 在 8 项基准上均领先 Perplexity、Brave 和 Parallel,其中 BrowseComp 为 91.8%,ATLAS 为 42.0% 对 Perplexity 的 37.2%,但这些基准均由 Exa 自行运行,ATLAS 也是 Exa 自己发布的基准。Auto 每 1000 次请求标价 7 美元,高于三家竞品的 5 美元。

    to actionable insights. Michal SutterMeet Drex Max: Nace AI’s Multimodal Decision Model for Computer-Use Agents with a Score 67.59 Michal SutterMeet Grok Voice 3.0: SpaceXAI Voice Agent Model Ranks 1 on Artificial Analysis RELATED ARTICLESMORE FROM AUTHOR Meet Drex Max: Nace AI’s Multimodal Decision Model for Computer-Use Agents with a Score 67.59 MiniMax Just Launched M3.1 Flash: 428B MoE Agentic Model at $0.15/M Input NVIDIA Open Sources Run:ai Under Apache 2.0 for Kubernetes GPU Orchestration

    匹配字段正文

  8. SiliconANGLE

    微软推出面向失控 AI 智能体的安全管控功能

    微软发布针对失控 AI 智能体的安全管控功能,智能体风险评分升高时会逐步削减其权限。其发现工具可识别员工设备上的 60 类本地智能体,包括 Claude Code、Codex 和 GitHub Copilot,并通过 Entra Agent ID 为智能体分配独立身份。Dynamic Agent Risk 依据身份、终端、云和网络信号持续更新风险分,Dynamic Conditional Access 据此先收回写权限、再要求人工审批,最高等级直接隔离或停止运行时。这些功能被归入 Project Perception 和 Microsoft 365 E7,微软未公布可用时间和定价。

    AI work assistant startup Town secures unicorn status after raising $108M just weeks after launching Amazon introduces toolkit for running PyTorch workloads on AWS Trainium chips Nvidia, Dell back $200M round for AI model developer doubleAI MiniMax launches M3.1 Flash model, says it cuts AI agent costs by 70% LATEST STORIES Dream Labs raises $90M to help build more intelligent robots with simple video feeds EMERGING TECH - BY MIKE WHEATLEY . 8 HOURS AGO Trump administration orders ban on DeepSe

    匹配字段正文

星期一

  1. CTech

    Shashua 新公司 doubleAI 发布 Maxwell 代码执行模型

    Amnon Shashua 的新公司 doubleAI 发布首个产品 Maxwell,称其属于名为 Code Execution Models(CEM)的新类别,在代码与芯片之间优化软件执行效率,且不修改源代码。doubleAI 称 Maxwell 会持续分析运行中的程序、硬件与数据并优化底层机器指令,同时用形式化数学验证每次优化不改变程序原有行为,支持 CPU 和 GPU。公司称 Maxwell 在真实负载上让数据管道提速超过 38 倍、AI 推理 kernel 提速超过 4.5 倍,这些数字未经独立验证;Maxwell 现已通过官网开放早期访问,doubleAI 计划按节省的算力成本向客户收费。

    在通过提升软件执行效率来降低计算成本。公司计划根据其为客户带来的计算成本节省来收费。doubleAI 此前一直处于隐身模式,直到最近才公开。该公司在 A 轮融资中筹集了 2 亿美元,由 Lightspeed Venture Partners 和 Bessemer Venture Partners 联合领投,Dell Technologies Capital、NVIDIA、Greenfield、Pitango 和 BRM 参投。公司约有 40 名员工。据 Calcalist 此前报道,此轮融资对 doubleAI 的估值超过 10 亿美元。 1 查看图库 doubleAI 团队。(doubleAI)该公司将其技术称为“代码执行模型”(Code Execution Models,简称 CEM)。它将这些模型描述为运行在“代码与芯片之间”,即软件与其运行所依赖的硬件之间。与帮助开发者编写和修改代码的大语言模型和编码智能体不同,CEM 旨在优化软件的执方式,在不更改原始源代码的情况下找出提升性能的方法。doubleAI 表示,其首个模型 Maxwell 会持续分析正在运行的程序、其运行所依赖的

    匹配字段正文

星期五

  1. AWS Machine Learning精选

    Reflection AI 开源智能体编码模型 Beam,并在 AWS 上提供部署方案

    Reflection AI 推出开源权重模型 Beam,面向智能体编码和长周期任务,如维护代码、调用工具、解读结果并完成多步工作流。Beam 是稀疏 MoE 模型,总参数 5010 亿、激活参数 230 亿,Reflection 称有效上下文长度为 100 万 token,权重以 Apache 2.0 许可在 Hugging Face 发布,提供 BF16、FP8 和 NVFP4 三种 checkpoint。发布时 Beam 已在 Amazon SageMaker JumpStart 上线,覆盖美国东部(弗吉尼亚北部)和(俄亥俄)区域,也可通过 SageMaker HyperPod Inference 搭配 JumpStart、SGLang 或 vLLM 部署。

    Architecture diagram showing Beam sourced from SageMaker JumpStart, Hugging Face Hub, or an optional Amazon S3 mirror into Amazon SageMaker HyperPod Inference, with the Inference Operator managing local model and image caching and the Inference Gateway and Endpoint Picker routing requests to distributed JumpStart, SGLang, or vLLM workers monitored by Amazon CloudWatch.

    s the largest weight-memory requirement, so plan a multi-node configuration with enough aggregate GPU memory for the weights and runtime overhead. For FP8, use ml.p5.48xlarge with NVIDIA H100 GPUs or ml.p5e.48xlarge and ml.p5en.48xlarge with H200 GPUs. For NVFP4, use ml.p6-b200.48xlarge with NVIDIA B200 GPUs. Confirm that the released checkpoint, runtime, and parallel layout support the selected instance type. Calculate memory for weights, KV cache, and runtime overhead for one replica, then con

    匹配字段正文

  2. SiliconANGLE

    Perplexity 开源智能体安全沙箱 SPACE

    Perplexity AI 将其智能体安全沙箱 SPACE 开源,开发者可用它隔离运行 AI 智能体,CoreWeave、Akamai 和 Crusoe 等合作伙伴已开始部署。SPACE 为每个智能体提供独立虚拟机,具备隔离代码执行、暂停与恢复、会话分支以及沙箱外管理网络访问和平台凭证等能力。Perplexity 工程师 Zibi Braniecki 称,团队用 9 个前沿模型在 SPACE 中做了 118 次越狱尝试,均未成功,而同样的测试在其他专有沙箱中出现了逃逸。

    security systems needed to enable secure browning and online commerce. Perplexity isn’t the only company pursuing an open-source approach to AI agent sandboxes. One alternative is Nvidia Corp.’s OpenShell project, which was released last month as part of a broader Open Agent Safety Platform. So far, there have been no reported escapes from OpenShell. Perplexity is not new to open-source security. Besides SPACE, it has also developed open source innovations such as BrowseSafe, which is used to de

    匹配字段正文

星期四

  1. Hugging Face

    Hugging Face 在 Diffusers 中接入 FLUX.3 Image Klein

    Hugging Face 在 Diffusers 中接入 Black Forest Labs 的 FLUX.3 Image Klein,一个模型同时支持文生图、多参考图生图和边界框布局控制。蒸馏版 checkpoint 在 H100 上约 2 秒生成一张 1024 × 1024 图像,默认 16 步;NVFP4 与 FP8 权重可通过 from_single_file 加载以适配更小显存。该模型以 Modular Diffusers pipeline 形式发布,并提供文生图与图像编辑的 LoRA 训练脚本。

    omponent to the GPU only while it runs (we didn't benchmark this) Speed End-to-end timings for the distilled checkpoint (16 steps), averaged over three runs after a warmup: Single NVIDIA H100 80GB, no offloading, default attention backend. A reference image roughly doubles the time. Reference tokens join the same sequence as the text and the image being generated, so a 1024 × 1024 reference adds 4,096 tokens to every transformer call The architecture Let's open the model up, one piece at a time.

    匹配字段正文