←搜索结果

按匹配度 · 共 384 条结果 清除搜索

星期日

  1. 事件1 条新闻 · 1 个事实

    Unsloth发布桌面应用并实测2-bit模型

    2026年8月11日,Unsloth发布Unsloth Desktop,称其为首个可在本地运行和训练模型的桌面应用,已上线官网和GitHub。该应用开源,支持Mac、Windows和Linux,覆盖MLX、扩散图像/视频、音频、GGUF,可将Claude Code和Codex接入本地LLM,并支持CPU与多GPU环境(NVIDIA、AMD、Intel、Mac)。官方称训练速度提升2倍、显存占用减少70%,工具调用准确率提高50%并支持自愈与沙箱化代码执行,同时提供私有网页搜索、深度研究、RAG、MCP以及NVFP4、GGUF导出。次日,Unsloth公布2-bit NVIDIA Nemotron 3.5 Lightning工具调用实测结果:仅用22GB显存连续运行10分钟工具调用,引用80多个网站,执行了代码,并搜索了10个真实地点,可通过Unsloth Desktop运行和训练。

    匹配字段摘要

星期二

星期三

  1. 事件1 条新闻 · 1 个事实

    SGLang 集成 DSpark 投机解码,支持 Qwen3 与 DeepSeek-V4

    2026年7月6日,LMSYS 在 SGLang 中集成 DSpark 投机解码,支持 Qwen3 等稠密模型和 DeepSeek-V4 等稀疏模型,相关实现见 sgl-project/sglang#30261。据 LMSYS Blog 介绍,DSpark 采用半自回归块草稿器加置信度头,按每个请求的置信度动态决定验证长度,避免验证不太可能被接受的 token。官方在 DeepSeek-V4-Flash、H200、DP4 上对比非投机与 MTP 基线,并给出 ragged verify 下的完整 CUDA graph、零开销调度和成本表分析等工程细节。目前该集成已随官方博客公开,尚无后续发展事实。

    2026年7月6日,LMSYS 在 SGLang 中集成 DSpark 投机解码,支持 Qwen3 等稠密模型和 DeepSeek-V4 等稀疏模型,相关实现见 sgl-project/sglang 30261。据 LMSYS Blog 介绍,DSpark 采用半自回归块草稿器加置信度头,按每个请求的置信度动态决定验证长度,避免验证不太可能被接受的 token。官方在 DeepSeek-V4-Flash、H200、DP4 上对比非投机与 MTP 基线,并给出 ragged verify 下的完整 CUDA graph、零开销调度和成本表分析等工程细节。目前该集成已随官方博客公开,尚无后续发展事实。

    匹配字段摘要

星期五

  1. gihyo.jp

    GitHub 在 Universe 2026 上正式提供 Copilot Fusion,并公测 Copilot…

    GitHub 在 2026 年 10 月 28 至 29 日举行的 GitHub Universe 2026 上宣布,整合自动模型选择与多模型协作的 Copilot Fusion 正式提供,可在 VS Code、GitHub Copilot 应用、CLI 和 JetBrains IDE 中使用,按 Standard、High、Max 三档处理级别自动决定所用模型与 Single、Cascade、Critique 三种执行方式。桌面版 GitHub Copilot 应用同时开始公测 Projects,把资料、仓库、会话与成果物集中到一处管理。GitHub 称 Fusion Max 在 Artificial Analysis Coding Agent Index 上得分 60,与使用 Opus 5.5 Max 的 Claude Code 相差 2 分以内,单任务平均 API 费用约为其一半、耗时约少 40%。

    。 Building Git infrastructure for agent-scale development - The GitHub Blog 据该文章介绍,此前是将仓库的完整副本放在多台服务器上,同时用于存储和读取处理。增加读取用副本时,写入时需要协调的对象也会增加,因此难以同时增强读取和写入。 因此,新设计将存储分离到Azure Blob Storage,并让负责读取的worker可以独立增减。写入时,仅在更新分支等引用目标的部分进行协调,以确保更新内容不冲突。使数据的存储和检查能够与其他写入并行推进,并将繁重的数据整理从处理常规Git请求的服务器中分离出来[16]。 GitHub正在将运行基础设施迁移到Azure的多个区域,并在Universe上表示,这一迁移预计于2027年初完成。 Actions将目标Linux作业分散到Azure和AWS 除Git基础设施的变更外,还宣布了将GitHub Actions的托管运行器扩展到多个云端的变更。GitHub Actions会将目标Linux作业自动分配到可用的Azure或AWS执行环境。通过增加执行目标,减少拥堵时的等待时间和

    匹配字段正文

星期四

  1. The Decoder精选

    Google 在 Android Dev Summit 开放 Android Studio 接入第三方…

    Google 在 Android Dev Summit 上为 Android Studio Rabbit 2 推出 Bring Your Own Agent 功能,开发者可通过开放 Agent Client Protocol 在 IDE 内同时运行 Claude Agent、Codex、Google Antigravity 等 40 多个编码智能体,并直接访问项目结构、模拟器和 Logcat。Google 称内部测试中智能体在终端渲染 Compose 预览后完成 UI 任务快 77%、token 用量最多降至三分之一;使用 Claude Opus 5.5 的 A/B 测试中,内置 LeakCanary 的 CLI 查找并修复内存泄漏快近一倍、token 减少约 25%。面向端侧,Google 在 ML Kit 中加入由 Gemini Nano 4 驱动的 Agentic API alpha,并推出基于 MCP 的 AppFunctions API beta 与 Agent-to-UI 接口;同时与 XREAL 合作发布 Android XR 智能眼镜 XREAL AURA,售价 1,099 美元,11 月中旬发货。

    屏幕,扩展现实(XR)开发环境也走出了测试阶段。Jetpack XR SDK、Android Studio 中的 XR 模拟器,以及面向 Unity、Godot 和 Unreal 的 Engine Hub 现已作为稳定版本提供。 除了软件更新外,Google 还与硬件制造商 XREAL 合作发布了 XREAL AURA。XR 负责人 Shahram Izadi 表示,这是首款运行 Android XR 的有线智能眼镜。这款眼镜重量不到 95 克,配备透明、可调光的镜片,视场角为 70 度。计算单元和电池位于一个外置 puck 中,该 puck 同时兼作触控板,并搭载高通全新的 Snapdragon Reality Elite 芯片。 用户最多可同时将五个 Android 应用置于视野中,或插入 USB-C 线缆以镜像笔记本电脑屏幕。Gemini 也内置于此。该 AI 既能通过眼镜看到现实环境,也能看到虚拟屏幕,从而能够整理窗口、提供电子游戏提示,或在视觉上高亮房间中的实体物体。XREAL AURA 现已在美国、加拿大和韩国开放订购,售价 1,099 美元,预计于 11 月中旬开始发货。

    匹配字段正文

  2. PyTorch Blog

    PyTorch 2.15 发布:重写 NCCL 后端成为默认,Apple Silicon 支持 FP8

    PyTorch 基金会发布 PyTorch 2.15,所有使用 nccl 的进程组默认改用重写后的 NCCL 后端,并附带在集合通信挂起时转储现场信息的 flight recorder,可通过 TORCH_DIST_USE_NCCL2=0 或 nccl-legacy 回退。该版本还为 Apple Silicon 加入 float8_e4m3fn 与 _scaled_mm 支持,新的 grouped_mm 在 M3 Ultra 上让 MoE 解码吞吐提升 1.32–1.34 倍。默认 wheel 升级到 CUDA 13.2,同时提供 CUDA 13.4 wheel 并实验性支持 NVIDIA Rubin GPU,另新增 ROCm 10.0 wheel,且不再支持 Python 3.10 和 macOS 14。

    chael Lazos,Meta; 194364 作者:Masaki Kozuki,NVIDIA) ROCm gfx950 上的 FlyDSL 内核与 gfx1250 上的张量数据搬运器 FlyDSL 与 CuTeDSL、Triton 和 Helion 一样,成为 PyTorch 可使用的内核 DSL。在 gfx950 上,Inductor 会为 GEMM、ragged F.grouped mm 以及 MXFP4/MXFP8 scaled mm 与 Triton 和 ATen 并列,并且在 eager 模式下 FlyDSL 可以覆盖 RMSNorm 和 topk。FlyDSL 是可选的,需要 FlyDSL 0.3.x。 在 gfx1250(MI450)上,Inductor 使用张量数据搬运器(Tensor Data Mover)来生成稠密 mm/addmm、逐点运算和归约代码,以及 FlexAttention 的前向和解码。gfx1250 已被加入 nightly wheel 架构列表。 API 不稳定 (PRs 192877, 190903, 194032, 191446 以及 19

    匹配字段正文

星期日

  1. 凤凰科技

    特斯拉确认正自研 AI 地图,将随 FSD v15 逐步推送

    特斯拉副总裁阿肖克·埃卢斯瓦米在财报电话会议上确认,特斯拉正在自研一套基于 AI 的地图导航系统,将随 FSD v15 上线,融合车队采集数据、个性化路线规划并支持 FSD 语音控制。他称这是全新架构而非另一版地图,车队会自动采集街道信息并标注通行速度、停车标识、红绿灯、停车场等数据,用于解决限速识别、泊车和路线规划问题。新地图预计先在 FSD v15 的行程出发和到达阶段使用,之后数月内逐步覆盖泊车和语音控制等剩余导航能力。

    的 Grok 能力相呼应。 特斯拉在 2026 夏季更新里已经推出“偏好路线”功能,规划路线时优先选择用户之前开过的路线。同一版更新中,自动导航新增能力,除家、公司和日历行程外,还能自动导航到其他常去地点。 而偏好路线是在 2022 年上线的备选路线功能基础上迭代而来,旧功能最多提供三条路线备选。 埃卢斯瓦米预计,这套新地图会最先在 FSD v15 里用于行程的出发和到达阶段,之后数月内逐步覆盖剩余导航能力,包括泊车和语音控制。 “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

    匹配字段正文

  2. 凤凰科技

    阿里千问Go!上线“我的应用”功能,可无代码搭建并分享专属应用

    阿里宣布旗下 AI 智能体“千问 Go!”上线“我的应用”功能,用户无需编程,说出需求即可搭建用于生活、工作和学习场景的应用,生成的应用支持对外分享和持续更新数据。该功能接入阿里云 AI 应用生产平台 Meoo(秒悟),可自动完成应用搭建、数据库配置和部署上线;结合云端 Pro 能力,授权后可调用用户在淘宝、高德、大麦、夸克网盘等平台的个人数据。目前“我的应用”及支持操作云手机、云电脑的云端 Pro 均处于邀测阶段,用户可在千问 App 内邀测页面排队申请。

    库配置和部署上线。结合千问 Go 的云端 Pro 能力,还能在授权后调用用户在淘宝、高德、大麦、夸克网盘等平台的个人数据,让新搭建的应用直接利用已有的购物、出行、学习等生活记录,生成更个性化的专属工具。例如,用户可以调用自己在大麦的历史订单,将其打造为一本电子票根册,将过去看过的演出整理成可随时翻阅的个人回忆。 目前,“我的应用”及支持操作云手机、云电脑的云端 Pro 均处于邀测阶段,用户可前往千问 App 内邀测页面排队申请。 “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

    匹配字段正文

星期五

  1. 半导体产业纵横

    微星发布EdgeMesa N AI+迷你主机,1.3L机身本地运行120B大模型

    微星发布EdgeMesa N AI+迷你主机,体积1.3升,搭载NVIDIA RTX Spark N1X超级芯片和最高128GB LPDDR5X统一内存,把本地运行120B参数大模型作为首要设计目标。该芯片集成20核Grace CPU与6144 CUDA核心的Blackwell GPU,统一内存池让模型权重和KV缓存共享同一物理内存。参考同平台DGX Spark实测,120B级模型生成速度约15至59 tokens/s,受273GB/s内存带宽限制;官方尚未公布售价,文章估计可能落在3至4万元人民币区间。

    禁区,变成了“塞进一台仅1.3L的紧凑型小主机就能流畅跑通”的日常操作。按照NVIDIA官方的技术口径,这块统一内存池在理论上,经过合理量化后最高可承载2000亿参数级别的大模型。当然,这是硬件极限场景下的上限表现。 具体到真实场景,这个量级意味着什么?你可以把一个经过良好量化的开源120B模型整个装进这台机器,再叠加上几十万到上百万token的本地知识库做RAG检索,一边跑推理,一边开IDE、开浏览器、挂着四屏显示器,而不用把任何一份涉密文档送出本机。对于开发者来说,这是一个可以离线调试、随时改prompt、不用担心API调用账单的“私人模型实验室”。对于中小企业和对数据敏感的行业客户来说,它更像一个装在桌下的“迷你私有化部署节点”。 能装下是一回事,能跑多快是另一回事。我们可以借同平台的DGX Spark(同样128GB统一内存、273GB/s带宽)实测数据来给EdgeMesa N AI+画一条速度坐标。 根据NVIDIA开发者社区的实测数据显示,在GB10平台上跑Nemotron-3-Super 120B,用GGUF量化版本,生成速度大约在17 tokens/s上下;优化编译后的

    匹配字段正文

  2. 凤凰科技

    微软推出 AI 诊断系统 MAI-DxO,复杂病例准确率达 83%

    微软宣布推出 AI 诊断系统 Microsoft AI Diagnostic Orchestrator(MAI-DxO),通过编排多个 AI 智能体模拟医生专家联合会诊。在基于 MIMIC-IV-ED 数据集的美国急诊科常见病例评估中,其诊断准确率为人类医生的 1.7 倍;在基于《新英格兰医学杂志》复杂病例的模拟评估中准确率达 83%,而可独立查阅资料的基层全科医生及普通内科医生为 36%,专科医生未纳入对照。官方称该系统所需成本仅为医生的一半甚至三分之一,研究成果已发表在《科学》期刊。

    临床中通常交由专科专家或多学科医疗团队协作诊治,而这部分专科医生并未纳入本次对照实验。 官方表示,该系统所需的成本仅为医生的一半甚至三分之一,能以更少的化验与诊疗操作精准锁定正确诊断。该项研究成果已正式发表在《科学》期刊。 微软针对 OpenAI、谷歌、Anthropic、Meta 以及 DeepSeek 等多家机构的模型对 MAI-DxO 进行了测试,其中表现最亮眼的当属 OpenAI 旗下的 GPT-5 及 GPT-5.5。 “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

    匹配字段正文

  3. 凤凰科技

    OpenAI 基于 GPT-6 Luna 全面开放决策 API

    OpenAI 宣布全面开放基于 GPT-6 Luna 构建的决策 API(Decisions API),面向具有限定答案的问题,响应速度比通过 Responses API 调用 GPT-6 Luna 提升高达 10 倍。该 API 输入每百万 token 收费 0.10 美元,命中缓存的输入每百万 token 收费 0.01 美元,仅按输入 token 计费、输出 token 免费。公测以来新增原生 GPT-Live 集成、Prompt 缓存和美国及欧盟的推理数据驻留支持,单次请求最多可提交 400 个问题。

    n 免费。在整个 OpenAI,团队正在将决策 API 应用于产品和业务工作流。 OpenAI 表示,自公测以来,该功能新增了原生的 GPT‑Live 集成、针对复用上下文的 Prompt 缓存,以及在美国和欧盟的推理数据驻留支持。 此外,开发者现已支持传入原生 JSON 输入、在问题指令中包含图像,并在单次请求中最多提交 400 个问题(为此前上限的两倍)。OpenAI 称持续优化了延迟表现,包括在亚洲多个地区扩充了服务容量。 “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

    匹配字段正文

  4. AWS Machine Learning

    Amazon SageMaker AI 推出训练会话 API,可自写训练循环而无需管理 GPU

    Amazon SageMaker AI 在无服务器模型定制中新增训练会话 API,把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,模型在 GPU 上保持加载,用户只需在本地 Python 进程里编写训练循环,GPU 分配、分布式执行、故障恢复和检查点存储由服务负责。该 API 按处理的 token 计费,本地奖励计算等环节不计 GPU 时间。随附的 cookbook 提供 SFT 与 RL 配方,示例中 GPT-OSS 20B 的 GRPO 循环在 GSM8K 上训练 10 步,留出集准确率从 56% 升至 75%;Code RL 配方训练 50 步后测试准确率从 40% 升至 50.5%。

    SageMaker Python SDK client hierarchy: ServiceClient creates a TrainingClient, which in turn creates a SamplingClient

    ns such as forward backward(), optim step(), and sample() for the steps that need GPUs GPU allocation, model and LoRA loading, distributed execution, fault recovery, checkpoint storage, security The API is organized around three clients in the SageMaker Python SDK, created in sequence. A ServiceClient holds the platform-level settings (execution role, model package group, Amazon Simple Storage Service (Amazon S3) output location, and optionally an AWS Key Management Service (AWS KMS) key and vir

    匹配字段正文

  5. AWS Machine Learning精选

    AWS 为 SageMaker AI 无服务器模型定制推出训练会话正式版

    AWS 宣布 SageMaker AI 无服务器模型定制的训练会话正式可用,用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。该功能支持 SFT、DPO、RLVR、RLAIF 和多轮 RL,可选择 LoRA 或全量微调,目前支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 和 Qwen3.8-27B。计费按 SageMaker AI 处理的 token 计,奖励函数在用户环境打分时停止计费,且无需预留容量。

    and coordinate the training loop, including custom loss functions or reward signals. SageMaker AI handles GPU allocation, distributed execution, fault recovery, and checkpoint storage. Customize without the hassles of infrastructure management With SageMaker AI serverless model customization, you don’t choose instance types, manage clusters, or write distributed training configuration. We didn’t want to limit you. You can use techniques such as SFT, DPO, RLVR, RLAIF, or multi-turn RL. You can c

    匹配字段正文

星期四

  1. LMSYS Blog

    LMSYS 发布 SGLang AWS Trainium 插件 Beta

    LMSYS 与 AWS 合作发布 SGLang Trainium 插件 Beta,基于新发布的 TorchNeuron 构建,在 Trainium2 和 Trainium3 上支持 LLM 推理服务与 RL rollout 生成。初始覆盖 Qwen3(dense)、Qwen3-MoE-30B-A3B、DeepSeek-V2-Lite、GLM-4 和 GLM-5.2/5.3,并支持数据并行、张量并行、专家并行、Radix Cache、BF16/FP8 和异步调度。首次端到端异构 RL 运行中,SGLang 在 Trainium3 上为 Qwen3-MoE-30B-A3B 生成 rollout,Miles 在单台 H200 节点上用 Megatron 训练 GRPO 策略。Beta 目前仅限少量团队参与。

    ance requires it. What's in the beta The beta supports two workloads on AWS Trainium2 and Trainium3: LLM inference serving and RL rollout generation for post-training. Initial coverage includes: Models: Qwen3 (dense), Qwen3-MoE-30B-A3B, DeepSeek-V2-Lite, GLM-4, and GLM-5.2/5.3, with support for more large frontier models in progress. Features: Data Parallel / Tensor Parallel / Expert Parallel, Radix Cache, BF16 / FP8, Async scheduler. RL rollouts: SGLang on Trainium as the rollout engine for het

    匹配字段正文

  2. MiniMax Blog精选

    MiniMax Code 桌面端上线 Mini App

    MiniMax 在 MiniMax Code 桌面应用(macOS / Windows)的本地会话中推出 Mini App,它是一种带前端和 Node.js 后端、以插件形式安装的常驻应用,可与 Agent 互相调用,让工作留在持续存活的页面上而非散落在对话里。此次发布包含 Mini App 运行时(持久数据目录、托管 MCP、Agent API、Host Connectors 和页面内工具审批)、用一句话生成页面的 /miniapp-creator,以及插件市场的官方 Mini App 和开源社区仓库 MiniMax-Code-MiniApps。官方称账号凭证由宿主保管,插件和页面无法访问,页面传给 Agent 的内容会先进入输入框供审阅。

    Cover: a hand places a card into a cluster of Mini Apps, including a stock dashboard, a 3D model, a map, and a chat, connected by a line to the Agent

    期和模型展示 token 用量的仪表盘、用于以泳道图浏览 Git 历史的 Git Commit Tree,以及用于回放对话模型轨迹的 Session Trajectory。有些则偏向日常生活和创意工作,比如用于记录心情并抽取每日灵感卡的 Xinyu Island,以及由 Agent 创建和编辑交互式图表的 Anatomy Gallery。 “从早期工作流到 RAG 和 Agentic Search,再到受我们在 MiniMax 的工作启发,我发现专业工作需要的不仅仅是花哨的 Agent:而是一个原生、紧密集成的环境,让 Agent 和人紧密协作。作为一名金融分析师,我过去大部分时间都花在拼凑零散的信息上。现在 Mini App 把这些信息带进我的工作区,我可以专注于思考和判断,把整理、分析和梳理信息的工作完全交给 Mini App。” —— MiniMax 产品经理 关于安全:账号凭证由宿主保管,插件和页面都无法访问。连接器和 Agent 权限必须在 manifest 中声明后才能使用。Mini App 的服务器端口仅对其自身页面和 Agent 开放。当页面想要向 Agent 传递内容

    匹配字段正文

  3. PyTorch Blog

    TorchTitan 更新:新增多款 SOTA 模型支持、TitanRL 与大规模性能提升

    PyTorch 原生训练平台 TorchTitan 发布更新,新增 Muse Spark Open、Muse Glimmer、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3 和 DeepSeek-V4 的完整训练栈支持,并引入强化学习组件 TitanRL。TitanRL 让预训练、后训练到 vLLM 推理共用同一份模型代码,支持异步 rollout 和长上下文、代码执行等智能体任务训练。性能方面,FlexShard 在 256 张 H100 上把 DeepSeekV3 的优化器耗时最多降低 79%,在 Llama3 405B 上把端到端训练步时最多降低 20%。

    added to Miles (readme, post) TorchTitan is the default training backend for Meshy, and inspires the core implementation of Areal’s training engine Archon FlexShard TorchTitan leverages FSDP2 for row-wise or column-wise sharding model state (parameters, gradients, and optimizer). However, newer features such as distributed Muon optimizer and blockwise quantization of parameters warrant or benefit from more esoteric sharding policies that are not possible with FSDP2. To address this, TorchTitan n

    匹配字段正文

  4. PyTorch Blog精选

    PyTorch 在 AMD GPU 上接入 FlyDSL 后端

    PyTorch 官方博客介绍,AMD MI350 系列 GPU 用户现可通过现有算子 API 使用 FlyDSL,覆盖 dense 与 grouped GEMM、MXFP8/MXFP4 缩放 GEMM、RMSNorm、TopK 以及经 AOTriton 0.14b 系列提供的注意力内核,无需调用自定义内核。在 MI355X 上,BF16 dense GEMM 相对 ATen 与 Triton 中较快的基线取得 1.10x 几何平均加速,MXFP8 和 MXFP4 相对 ATen 分别为 1.58x 和 1.68x,grouped GEMM 相对 Triton 为 1.20x。vLLM 端到端 A/B 测试中整请求加速为 BF16 1.13x、MXFP8 2.04x、MXFP4 3.01x,具体取决于模型与并发度。

    N/NT/TN/TT Same dtype MXFP scaled GEMM Compile F.scaled mm MXFP8, MXFP4 Static 2D; A row-major, B column-major FP16/BF16; block scales Grouped GEMM Compile F.grouped mm FP16, BF16 Ragged 2D A; grouped 3D B Uneven/empty groups RMSNorm Eager F.rms norm FP16, BF16, FP32 Contiguous; 1-D norm shape Forward TopK Eager torch.topk FP32 Contiguous; last dimension Largest, sorted; functional/out= Attention (via AOTriton) Eager, compile F.scaled dot product attention FP16, BF16 D innermost; head dim 32–512

    匹配字段正文

星期三

  1. Claude Blog

    Claude Security 更新:持续扫描代码并追踪修复状态

    Anthropic 为 Claude Security 推出新版本,可随代码变更持续扫描仓库、在修复上线后自动标记问题已修复,并通过 API 和 MCP 接入现有工具,目前面向 Claude Enterprise 客户公测。新版本为每个项目提供知识库和可编辑的威胁模型,扫描会据此判断哪些风险值得标记,并为每条发现给出严重程度评级和攻击路径说明。Claude Security 自 4 月公测以来已有数千家机构使用,累计发现超过 100 万个漏洞;企业客户每月可获得 25,000 美元免费额度,为期两个月,适用于截至 2026 年 12 月 31 日的用量。

    6. You can view full terms in the Help Center . Continuous monitoring keeps up with your code A scan captures one moment, and code changes every day. Teams told us they wanted coverage that stays current without anyone having to schedule it. Create a project, connect your repositories through the Claude GitHub app (including GitHub Enterprise Server) or with an access token from GitLab and other Git providers, and choose the branch and scope for each. Claude runs a deep baseline scan, then scans

    匹配字段正文

  2. Trail of Bits Blog

    Trail of Bits 发布 patching-bugs 和 regression-hunt 两个智能体插件

    Trail of Bits 发布 patching-bugs 和 regression-hunt 两个插件,让工程师把补丁开发和回归检查交给智能体。regression-hunt 在初步评测中产生的误报比提示为“审查 PR 回归”的基线 Codex 智能体少 25%,95% 置信区间为 14% 至 38%,但严格证据要求也让部分已知回归只能判为边界情况。两个插件源自该公司与 OpenAI 的 Patch the Planet 计划,支持项目自带 THREAT_MODEL.md 和 PATCHING_GUIDELINES.md。

    “Figure showing the feedback loop for generating and evaluating patches.”

    -bugs already reads a project’s own patching guidelines (more on that in a bit). Next, we want maintainers to be able to choose whether to minimize patch sets—or, when broader coverage is worth more false positives, to loosen regression-hunt’s rules to surface more candidates. These plugins encode best practices we’ve found for an agent to patch a bug properly, and they improve when you tell them how your project works. The plugins work best when you input two kinds of project knowledge: A THREA

    匹配字段正文

  3. Cohere 产品与研究博客精选

    Cohere 发布 Rerank 5 Pro 与 Fast 检索模型

    Cohere 发布企业检索模型 Rerank 5,分 Pro 和 Fast 两档,已在 Cohere API、Model Vault、Microsoft Foundry 和 Amazon SageMaker 上线,Pro 定价为每 1M tokens 0.05 美元、Fast 为 0.02 美元。Cohere 称 Rerank 5 Pro 在 ViDoRe V3、nanoMTEB、BRIGHT 和 BEIR 四项公开基准上领先所有被测模型,在 46 个复合数据集中有 39 个排名第一。新功能 Context Focus 可在单次调用中返回文档内最相关的文本片段,官方测试中移除一半上下文仅损失 2 个百分点答案质量。

    Abstract image

    n 43. Models are evaluated using RCP-nDCG@10, a Cohere-developed methodology designed to address limitations in traditional nDCG caused by incomplete relevance judgments (qrel coverage). The advantage is particularly pronounced on BRIGHT, a benchmark testing reasoning-intensive retrieval, where identifying relevant documents requires deeper understanding beyond keyword or semantic similarity. Rerank 5 Pro scores 82.2, outperforming Voyage AI Rerank 3 by 5.8 points and Rerank 4 Pro by 12.4 points

    匹配字段正文