←engineering
← 全部主题

engineering

“engineering”分类下的公开内容。

公开阅读组
36
近 30 天
14
目录状态
兼容主题

最新Google A2UI 团队与 CopilotKit 介绍如何构建生成式 UI 应用

最新阅读组

同一事实的重复报道已合并

  1. Google Developers Blog一手解读
    AI 评分70

    Google A2UI 团队与 CopilotKit 介绍如何构建生成式 UI 应用

    Google A2UI 团队与 CopilotKit CEO Atai Barkai 介绍如何用 A2UI 开放标准和 CopilotKit 构建生成式 UI 应用。A2UI 以声明式 JSON 描述界面,客户端只渲染可信组件目录中的组件,同一份响应可渲染到 React、Angular、SwiftUI、Jetpack Compose 和 Flutter。文中给出用 Google ADK 接入 CopilotKit 的代码示例,并说明通过 AG-UI 协议实现用户操作回传、智能体重新生成界面的双向流程。

    推荐理由原文给出 A2UI 与 CopilotKit 的完整接入步骤和双向交互示例,可据此评估生成式 UI 的落地方式。

  1. PyTorch Blog一手产品发布
    AI 评分60

    PyTorch 在 AMD GPU 上接入 FlyDSL 后端

    PyTorch 官方博客介绍,AMD MI350 系列 GPU 用户现可通过现有算子 API 使用 FlyDSL,覆盖 dense 与 grouped GEMM、MXFP8/MXFP4 缩放 GEMM、RMSNorm、TopK 以及经 AOTriton 0.14b 系列提供的注意力内核,无需调用自定义内核。在 MI355X 上,BF16 dense GEMM 相对 ATen 与 Triton 中较快的基线取得 1.10x 几何平均加速,MXFP8 和 MXFP4 相对 ATen 分别为 1.58x 和 1.68x,grouped GEMM 相对 Triton 为 1.20x。vLLM 端到端 A/B 测试中整请求加速为 BF16 1.13x、MXFP8 2.04x、MXFP4 3.01x,具体取决于模型与并发度。

    推荐理由原文给出各算子与 vLLM 端到端的实测倍数和启用方式,可据此判断 AMD GPU 上低精度推理的收益边界。

  1. PyTorch Blog一手产品发布
    AI 评分87

    Google 与 Meta 联合推出 TorchTPU,让 PyTorch 原生运行在 TPU 上

    Google 与 Meta 的 PyTorch 团队合作推出开源项目 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,迁移只需把 model.to("cuda") 改为 model.to("tpu")。项目支持 eager 与 torch.compile 两种模式,新增 DeferAndFuse eager 模式,覆盖约 450 个 Aten 算子,并已在 4,917 个 Hugging Face 模型上验证开箱运行,其中 Tier 1 通过率 98%、Tier 2 相对 GPU 数值一致性 97%。官方称其已用于部分 Google Cloud 大客户的推理与训练生产负载,并集成 vLLM、SGLang、TorchTitan、Ray 和 TorchRec。

    推荐理由原文给出 TorchTPU 的设计原则、架构细节与多组实测数据,可据此判断 PyTorch 工作负载迁移到 TPU 的实际成本。

  1. 蚂蚁 inclusionAI:GitHub 新仓库一手模型发布
    AI 评分69

    蚂蚁 inclusionAI 开源 Ming-3.0-tts 语音合成模型,含 0.5b 稠密版与 tiny MoE 版

    蚂蚁 inclusionAI 在 GitHub 开源 Ming-3.0-tts 语音合成模型,包含 0.5b 稠密模型和基于 Ling V3 的 tiny MoE 模型(7.9B 总参数、1.3B 激活参数),提供推理代码、任务 Cookbook 和评测表。模型支持声音克隆、文本设计音色、100+ 中文与 5 种英文内置音色、自然语言自由控制、14 种副语言标签,可合成中英德西法韩日及川渝话、广粤话。官方称在 Artificial Analysis 榜单上,Controlled Voice 开源模型第 1、Pronunciation Robustness 总榜第 1(93.2%)、Provider Voice 开源模型第 3。

    Ming-3.0-tts Logo

    推荐理由蚂蚁开源两款 TTS 模型,附完整推理代码与多语言、方言、副语言控制评测表,可对照选型。

  2. 蚂蚁 inclusionAI:GitHub 新仓库一手产品发布
    AI 评分70

    蚂蚁 inclusionAI 开源 vLLM-Omni 全模态模型推理服务框架

    蚂蚁 inclusionAI 在 GitHub 发布 vLLM-Omni 仓库,这是一个在 vLLM 基础上扩展全模态模型推理与服务的框架,支持文本、图像、音频、视频和动作数据处理,并支持 DiT 等非自回归架构。README 显示其已迭代至 0.30.0,对齐 vLLM 0.30.0,新增 MiniCPM-o 4.5 与 AURA 的全双工会话服务、Mooncake AR-to-DiT 跨阶段 KV 与多模态传输,以及在 NVIDIA Blackwell 和昇腾 950 上的 MiniMax H3 Turbo 实时推理。框架提供 OpenAI 兼容 API 服务、流式输出和分布式并行推理,并列出 Qwen3-Omni、MiniMax H3、Wan2.2、π0.5 等已支持模型。

    vllm-omni

    推荐理由原文列出 vLLM-Omni 从 0.14.0 到 0.30.0 的版本节奏与模型覆盖范围,可据此判断全模态推理服务的工程成熟度。

  3. PyTorch Blog一手产品发布
    AI 评分68

    PyTorch 发布 TorchNeuron:面向 AWS Trainium 的原生后端

    PyTorch 宣布开源原生后端 TorchNeuron,让 Trainium 成为标准 PyTorch 设备,模型代码只需改为 .to('neuron') 即可运行,10 月 20 日以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 开放公测。该后端基于 PrivateUse1 和 torch.accelerator 扩展点,支持 eager、自适应 eager 与 torch.compile,并覆盖 DDP、FSDP2、张量并行等分布式 API 以及 NKI 自定义算子。官方称已在 10 万个 Hugging Face 模型上做覆盖测试,Hugging Face Transformers v5、Diffusers、vLLM Neuron 等可直接在 Trainium 上使用。

    推荐理由原文给出了设备切换方式、执行模式和分布式支持,读者可据此判断现有 PyTorch 代码迁移到 Trainium 的改动量。

  1. PyTorch Blog一手模型发布
    AI 评分88

    Meta 开源 Muse Spark Open 模型,816B 总参数、1M 上下文

    Meta 发布 Muse Spark Open 的开放权重,采用 Muse Model License 在 Hugging Face 上线,为 816B 总参数、42B 激活参数、1M token 上下文窗口的模型,原生多模态并面向编码与智能体任务。该版本在 Muse Spark 基础上增加安全后训练,可在 SGLang 和 vLLM 上运行,并针对 NVIDIA、AMD、Intel 优化。PyTorch 侧集成 Helion 内核,在 NVIDIA GB300 上相比 CUDA、CuTe DSL 自定义内核取得 1.03–3.95x 加速,AMD Mi350 端到端吞吐提升 3%;TorchTitan 已支持其 SFT、LoRA 与 TitanRL 微调。

    Helion logo

    推荐理由Meta 开源 816B 总参数模型并给出 Helion 内核与 TorchTitan 微调路径,读者可据此判断开源大模型的部署与二次训练成本。

  1. 蚂蚁百灵:Developer Blog一手模型发布
    AI 评分73

    蚂蚁百灵开源 Ling-3.1-flash 模型

    蚂蚁百灵正式开源 Ling-3.1-flash,总参数约 560B、每 Token 激活约 25B,最高支持 1M 上下文,权重可在 Hugging Face 或 ModelScope 获取。团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB,在 Hopper GPU 测试配置中服务部署由 8 卡降至 4 卡。Artificial Analysis 公开评测中其智能指数为 41、输出速度约每秒 210 Token,混合调用价格约每百万 Token 0.19 美元。

    图

    推荐理由原文给出量化后的权重体积与部署卡数变化,读者可据此估算自有算力下运行 560B 级模型的成本。

  1. Google Developers Blog一手解读
    AI 评分76

    Google 用 Gemini 4 Argon 一夜优化 20 万行 Python 代码库

    Google 在 Gemini 4 Argon 发布时做了一次无人值守实验,让模型在 11 小时内优化开源框架 google/adk-python,该仓库约 20.5 万行代码、近 800 个源文件和近 1.7 万个单元测试。模型提出 6 项优化,经人工评审后 2 项合入主干,长会话的内存会话准备时间减少约 40%,冷启动导入提速 21%。文章公开了所用提示词、.agents/skills 规则文件和被拒的 4 项改动原因,并说明如何在自有代码库复现这一夜间工作流。

    banner_option_1_no_four

    推荐理由Google 用自家 ADK 仓库做了一次 11 小时无人值守优化实验,公开了提示词、skills 规则与人工评审取舍,可迁移到自有代码库。

  1. 蚂蚁 inclusionAI:GitHub 新仓库一手产品发布
    AI 评分72

    蚂蚁 inclusionAI 开源多智能体协调平台 Avernet

    蚂蚁 inclusionAI 在 GitHub 开源多智能体协调平台 Avernet,定位为构建和运行持久化、可协调的多智能体系统的基础设施层,采用 Apache-2.0 许可。据 README,截至 2026 年 7 月初,Avernet 已在蚂蚁内部 12 个业务群支持多智能体部署,实测多智能体工作流任务完成率超过 90%。近期更新包括 DeepSeek Harness 的 DSH Bots 通过 channel 插件接入、Agency Agents 启动器引入 agency-agents 角色,以及重做的 Web UI 和 AgentEvolve 诊断与优化能力。

    推荐理由蚂蚁 inclusionAI 开源多智能体协调平台,并给出内部 12 个业务群的部署数据,可据此判断其工程成熟度。

  1. OpenAI Developers一手产品发布
    AI 评分72

    OpenAI 发布 Rosalind Workbench 生命科学工作台

    OpenAI 发布 Rosalind Workbench,为生命科学用户提供统一环境,可调用科研工具、探索专业生物学模型并定义常用数据分析流程,目前以研究预览形式在 ChatGPT 应用中开放。该工作台基于生命科学专用模型 GPT-Rosalind,覆盖药物化学、基因组学、湿实验辅助等场景,其 NGS Workbench 可从 FASTQ 输入走到质控、bulk RNA-seq 或单细胞分析,并输出可追溯结果。工作台提供 Explore 和 Research 两种模式,Research 模式需经认证机构成员代表组织申请访问,个人访问即将开放。

    推荐理由OpenAI 把生命科学模型与工具编排收进 ChatGPT 内的统一工作台,读者可了解科研工作流的整合方式与开放范围。

  2. OpenAI Developers一手解读
    AI 评分64

    OpenAI 开发者分享如何用 Astra 在 Codex 中构建游戏

    OpenAI 开发者撰文介绍如何用 Astra 在 Codex 中构建游戏,并以太空探索游戏 Void Explorer 为例,展示从概念图、架构设计到地形流式加载与性能测试的完整流程。Void Explorer 包含 2,048 个恒星系和超过 10,000 颗程序化生成的行星,行星最大可与地球相当。作者还提到用同一方式开发了水面渲染的 Sunwake 和 2D 动作 RPG Hollowflux,并可通过 Sites 插件发布为浏览器游戏。

    推荐理由作者以三款自研游戏为例,展示如何用 Astra 在 Codex 中完成从概念图到渲染与测试的完整开发流程。

  1. LlamaIndex 产品、工程与评测一手产品发布
    AI 评分68

    LlamaIndex 为 LlamaParse Index 推出 Retrieval Harness

    LlamaIndex 为 LlamaParse Index 推出 Retrieval Harness,把语料库暴露为智能体可直接调用的文件系统式工具,包括 Hybrid Retrieve、List Files、File Grep 和 File Read。该功能在解析时保存页面截图并关联到对应 chunk,用于表格和多栏文档等布局承载语义的场景。Retrieval Harness 及其他更新已在所有付费档位开放 beta,文件系统工具以轻量 API schema 形式提供,可接入现有 LLM 编排框架或工具调用循环。

    ExtractBench Pro: common patterns give way to exceptional cases in a dotted long-tail distribution.

    推荐理由原文给出了文件系统式检索工具与视觉布局保留的具体设计,读者可据此判断智能体检索流程的改造方向。

  1. Google Developers Blog一手产品发布
    AI 评分74

    Google 开源端侧 GPU 推理引擎 ML Drift

    Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift,它抽象 OpenGL ES、OpenCL、Metal 和 WebGPU,是 LiteRT 的核心 GPU 加速引擎,也可作为独立库使用。相比旧版 TFLite GPU delegate,它引入张量虚拟化统一 shader、可扩展自定义算子框架、5D 张量支持和针对 LLM 的阶段性优化,并新增 Windows 和 Linux 桌面预览。官方称 Gemma 基准中内存开销最多降低 12%,YouTube Shorts 平均帧延迟最多降低 40%,Google Photos 提速最多 2 秒,Adobe Lightroom 与 Photoshop 端侧性能最多提升 30%,Snapchat 镜头模型延迟改善 30%。旧版 TFLite GPU delegate 将不再获得新功能更新。

    ML Drift banner

    推荐理由Google 开源端侧 GPU 推理引擎 ML Drift,并给出 YouTube Shorts、Photos、Adobe 等迁移后的延迟与内存数据,可据此判断端侧推理栈的换代节奏。

  1. 蚂蚁百灵:Developer Blog一手模型发布
    AI 评分71

    百灵发布 Ling-3.1-flash:约560B总参数、1M上下文,面向真实世界任务升级

    百灵推出 Ling-3.1-flash,模型约 560B 总参数、每个 Token 激活约 25B,上下文窗口上限 1M,延续 Ling-3.0-flash 的混合线性架构并提高线性 Attention 层比例,按 7 层 KDA 配 1 层 Gated MLA 组成混合结构。官方称其在办公、医疗、软件研发和终端操作等任务上做了优化,并给出 GDPVal-AA V2.1、HealthBench Professional、FrontierSWE、Terminal-Bench 4.0 等评测结果。模型将开放为期两周的免费体验,期间服务长度为 256K,转付费后计划开放 1M 上下文并同步开源。

    图

    推荐理由官方给出约560B总参数、1M上下文与多类真实任务评测结果,可据此判断长流程任务的落地边界。

  1. 蚂蚁百灵:Developer Blog一手模型发布
    AI 评分69

    蚂蚁百灵开源 Ming-Image-0.1-Design 系列两个 6B 模型

    蚂蚁百灵开源 Ming-Image-0.1-Design 系列,包含两个 6B 模型:Design 从文字需求生成 UI、信息图、海报等完整视觉设计,Layer 将设计图拆成 2—9 个语义独立的 RGBA 图层,同时开源 Design Skill 和 PPT Skill。在 Artificial Analysis 2026 年 9 月 18 日更新的 UI/UX Design 评测中,Design 位列开源模型第 1,Elo 得分 1082;Layer 在 Crello-Test 的 12 项指标中全部最优,单次推理时间从 795 秒降至 183 秒。蚂蚁内部画眉接入 Layer 后,首次获得可编辑图层从 5 分钟以上降至约 40 秒。

    图

    推荐理由两个 6B 模型把设计生成与图层拆解串成可编辑链路,并给出榜单排名和业务落地数据。

  2. Google Developers Blog一手产品发布
    AI 评分70

    Google Antigravity SDK 支持本地 AI 模型,首发适配 Gemma 4 26B A4B

    Google 宣布 Antigravity SDK 支持本地模型与多种执行方式,首发通过 Google AI Edge 的 LiteRT 支持 Gemma 4 26B A4B,可完全离线运行智能体。官方给出的混合示例中,云端 Gemini 3.8 Flash 负责规划,本地 Gemma 4 26B 实例执行审计与修复,97.2% 的 token(3,322 个)在本地离线完成,云端仅消耗 95 个 token 且不上传源码。该 SDK 还通过 LocalOpenAIAgentConfig 支持 Ollama、LM Studio、vLLM 等 OpenAI 兼容服务。

    推荐理由官方给出本地模型跑智能体的接入方式与混合架构示例,可据此判断离线与隐私场景的落地路径。

  1. Google Developers Blog一手产品发布
    AI 评分62

    Google 与 Speakeasy 将 OpenAPI 客户端生成套件开源

    Google 宣布与 Speakeasy 合作,将其 OpenAPI 代码生成套件以 AGPLv3 协议开源。该套件包含支持 Python、TypeScript、Go、Java、C#、PHP、Ruby 7 种语言的 SDK 生成器,以及 agent 原生 CLI 生成器和文档 MCP server 生成器。此前 Google 使用的 SDK 生成供应商在 2026 年 5 月被收购并突然宣布关停,促使 Google 与 Speakeasy 合作迁移客户端库并推动生成器开源。Google 表示该方案目前支撑其覆盖 6 个目标的客户端流水线,维护人力约为 1 名工程师。

    Copy of why client SDK generation belongs in the open

    推荐理由Google 与 Speakeasy 把 OpenAPI 客户端生成套件开源,读者可了解 SDK 生成工具链从闭源转向开放基础设施的动因。

  1. Google Developers Blog一手产品发布
    AI 评分60

    Google 在 Gemini Enterprise Agent Platform 上线 Agent Anomaly Detection 私密预览

    Google 在 Gemini Enterprise Agent Platform 上推出 Agent Anomaly Detection 私密预览,通过分析智能体的推理轨迹、工具调用和执行流程来识别越界行为、可疑意图与策略违规。该功能异步运行不增加请求延迟,检测结果带严重等级、说明和处置建议并同步到 Security Command Center,内置检测器覆盖 OWASP Agentic Top 10 中的工具滥用、身份与权限滥用、级联失败和失控智能体等风险。用户还可通过 API 读取会话异常,在 ADK 回调或插件中按严重等级和概率阈值拦截后续工具调用。

    Blog_Banner_3

    推荐理由原文给出了检测分层、OWASP 风险映射和 API 拦截方式,读者可据此判断智能体行为审计如何接入现有平台。

  1. Google Developers Blog一手解读
    AI 评分60

    Google 用 Tunix 在 TPU 上实现自主 LLM 后训练

    Google Developers Blog 介绍 autofinetune 项目,把自主研究循环用于 LLM 后训练,基于 Tunix、Gemma 和 Cloud TPU,由 Antigravity CLI 与 Gemini Flash 3.7 编排。第一个实验中智能体在 Cloud TPU v5e-1 上对 functiongemma-270m-it 自动调整 LoRA rank/alpha、优化器和学习率等,几小时内完成 20 次实验;第二个实验基于 Tunix 官方 GRPO 示例训练 Gemma 3 1B 做数学推理,在 Cloud TPU v6e-1 上跑 40 次实验,总奖励提升约 10%。代码、示例运行和 program.md 模板已放在 autofinetune GitHub 仓库。

    Ai-1-banner (9)

    推荐理由原文给出自主后训练循环的完整搭建方式与两组真实实验轨迹,可迁移到自己的微调流程。