←搜索结果

按匹配度 · 共 356 条结果 清除搜索

星期五

  1. LMSYS Blog

    SGLang 原生支持 Reflection Beam 并支撑其生产 API

    LMSYS 宣布 SGLang 已原生支持 Reflection 的 Beam 模型,并用于支撑其生产 API。Beam 是 501B 参数、每 token 激活 23B 的 MoE 模型,原生 1M token 上下文窗口,计划以 Apache 2.0 发布,SGLang 为其提供 BF16、NVFP4 和动态 FP8 支持、DFlash2 投机解码与混合注意力前缀缓存。在 4 张 NVIDIA GB300 GPU 上以 NVFP4 运行 OpenHands 多轮智能体编码回放,并发 32 时达到每 GPU 127.6K tokens/sec、每用户 185.87 tokens/sec(p50)。

    Beam's embedding and decoder stack, with an expanded decoder layer showing attention, feed-forward work, sandwich normalization and depth-scaled residual paths.

    匹配字段摘要、正文

  2. Thurrott

    Brave Leo 上线端到端加密聊天,与 NEAR AI 合作

    Brave 与 NEAR AI 合作,为隐私优先的 Leo AI 助手带来端到端加密聊天。该功能下,浏览器在设备端用 Oblivious HTTP(OHTTP)加密提示词,只有经过认证的 TEE 才能解密并运行机密 LLM 推理,IP 地址全程隐藏,GLM 5.3 Flash 模型运行在 NEAR AI 运营的 Nvidia 硬件隔离区中,提示词与回复对 Brave、NEAR AI 及基础设施运营方均不可见。该功能已在 Brave Release、Beta 和 Nightly 上线,需在 Leo 中选择 GLM 5.3 Flash 使用;Brave 表示后续会把认证检查移入浏览器并扩展到其他开源权重模型。

    匹配字段摘要、正文

星期四

  1. Thurrott

    Hugging Face 发布 Llama Windows 本地推理桌面应用

    Hugging Face 发布免费开源的 Windows 11 桌面应用 Llama Windows,把 llama.cpp 本地推理库带到 Windows,类似 Mac 上的 llama.app。用户可从 Hugging Face Hub 一键下载模型并在本地运行,无需终端、构建步骤或管理员权限,应用以系统托盘形式运行,也可用 Alt + Space 打开助手窗口。该应用原生支持 Windows 11 on Arm 和新的 Nvidia RTX Spark 平台,使用 WinUI3 编写,并内置 llama.cpp 服务器、Hugging Face Hub 客户端和模型目录的 .NET 库。

    匹配字段摘要、正文

  2. LMSYS Blog

    SGLang 与 Miles 为 Muse Spark Open 提供 Day-0 支持

    LMSYS 发布博客称,SGLang 与 Miles 为 Meta 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持。该模型采用 816B 参数文本 Transformer 主干、每 token 约 42B 激活参数,支持文本、图像、视频和音频输入以及 1M token 上下文窗口,checkpoint 提供 NVFP4 与 BF16 版本。在 8 张 NVIDIA B300 GPU 上以 NVFP4 checkpoint 跑 OpenHands 多轮智能体编码回放,并发 1 时单 GPU 吞吐 14.8K tokens/sec、单用户 543 tokens/sec(p50),并发 128 时为 80.3K tokens/sec、单用户 61 tokens/sec(p50)。支持平台包括 NVIDIA Blackwell(GB300、B300、GB200、B200)、H200、AMD MI350X 与 MI355X,以及 Intel Xeon 6 P-core,并首次通过 SGLang-TorchTPU 为开源权重模型提供 Day-0 TPU 支持。

    Muse Spark Open maps text, image/video and audio inputs into a shared decoder with GQA and sliding-window/global attention; its MoE block routes full-width inputs while pooling expert features, normalizing each expert output before the weighted sum and restoring the model width with an unpooler.

    匹配字段摘要、正文

星期二

  1. The New Stack

    Workday 将 Trusted Agent Platform 无头化,向外部 AI 智能体开放 HR 与财务数据

    Workday 在拉斯维加斯 Workday Rising 大会上宣布其 Trusted Agent Platform 实现无头化,MCP 服务器、对实时 Workday 数据的 SQL 访问和智能体共享运行时正式可用,客户可在 Anthropic、Google、Meta、Mistral、Nvidia 和 OpenAI 的模型上运行自有智能体。其 MCP 服务器 Agent-Ready Tools 随 Workday Extend AI 提供,目前有 275 个读取工具和 54 个写入或删除工具,用户以本人 Workday 凭证登录,智能体无法访问其账号权限之外的数据。Workday 称过去四个月客户已用 Developer Agent 和 Agent-Ready Tools 构建了 500 多个智能体和 6000 多个应用。

    匹配字段摘要、正文

  2. World Labs Blog精选

    World Labs 发布 World API,用文本、图像和视频生成可探索 3D 世界

    World Labs 发布 World API,开发者可通过该公开接口调用其多模态世界模型 Marble,从文本、单图、多图、360° 全景和视频生成可导航的 3D 世界。世界生成以异步方式运行,无需专有工具,生成结果可在浏览器渲染、导出到其他工具或接入交互系统与仿真管线。该 API 已用于游戏与沉浸式媒体、机器人仿真(可接入 NVIDIA Isaac Sim、MuJoCo、RoboSuite)以及建筑设计等场景,并通过 World Labs Platform 提供 API key 管理、用量计费和文档。

    匹配字段摘要、正文

  3. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 Realtime-Venus 全双工交互系统

    蚂蚁 inclusionAI 在 GitHub 开源 Realtime-Venus,一个结合全双工对话模型与异步执行框架的交互系统,可在持续对话的同时把任务交给 Harness 推理或调用工具,结果回到同一对话中语音播报。项目包含 Omni 模型集成、可复用的 Harness 包和基于 Codex 任务后端的浏览器 Demo,在线 Duplex Demo 需至少一块 NVIDIA A100 GPU,另提供 Beta 版 Android 演示包。该研究项目由 Venus Team 与清华大学合作完成,代码采用 Apache-2.0 许可。

    匹配字段摘要、正文

星期五

  1. Moonshot AI · Kimi Blog

    月之暗面开源 Kimi Vendor Verifier,用于校验开源模型推理实现准确性

    月之暗面随 Kimi K2.6 模型发布开源 Kimi Vendor Verifier(KVV)项目,帮助开源模型用户校验推理实现的准确性。KVV 包含六项基准测试,覆盖 API 参数约束预校验、OCRBench、MMMU Pro、AIME2025、K2VV ToolCall 与 SWE-Bench,其中 SWE-Bench 因依赖沙箱未开源。官方称在 Two NVIDIA H20 8-GPU 服务器上完成全流程验证,顺序执行约需 15 小时,并已针对流式推理、自动重试和断点续跑优化脚本。

    匹配字段摘要、正文

星期四

  1. gihyo.jp

    Microsoft 为 Windows ML 加入 llama.cpp 与 GGUF 模型实验性支持

    Microsoft 于 2026 年 10 月 7 日宣布,在 Windows 本地 AI 推理基座 Windows ML 中实验性集成推理引擎 llama.cpp,开发者可通过 Windows ML 在 PC 上运行 GGUF 格式语言模型。同时新增 Text Generation API,让应用以统一流程调用 GGUF 与 ONNX 模型,Windows ML 会自动为 GGUF 选择 llama.cpp、为 ONNX 选择 ONNX Runtime。目前 llama.cpp 在 Windows ML 上仅验证了 CPU 与 CUDA 的 NVIDIA GPU 执行,GGUF 模型不支持 NPU,Text Generation API 也只提供贪心解码,不支持采样、temperature、投机解码与结构化输出,相关 API 为实验性、暂不支持生产使用。

    匹配字段摘要、正文

  2. gihyo.jp

    Google 向公众开放 SynthID Detector 检测站点

    Google 于 10 月 7 日将图像、视频、音频电子透水印检测网站 SynthID Detector 的适用范围扩大到普通用户,除 Google 外还支持 OpenAI、NVIDIA、Kakao 的 AI 生成内容,并计划近期支持 Apple 的生成内容。用户需登录后上传文件检测是否含有 SynthID 透水印,视频和音频还能看到检出透水印的区段,目前不支持文本检测。Google 说明未检出透水印也不能否定 AI 生成,因为非 SynthID 模型或透水印推出前的内容本就不带该信号,大幅加工也可能削弱信号。

    匹配字段摘要、正文

  3. Satya Nadella精选

    微软为 Windows 引入本地智能体能力,发布 137B 参数编码模型 MAI-Code-1.1 Flash

    微软宣布为 Windows 带来不计量智能,让每台 PC 成为智能体可安全工作的场所。其中 MAI-Code-1.1 Flash 是 137B 参数、256K 上下文窗口的编码模型,已针对 PC 本地运行优化;GitHub Copilot 可将工作交接给该本地模型以降低成本。微软还推出 Hybrid Intelligence 让 Copilot 直接在 PC 上执行操作并保留敏感数据在本地,并通过 Code in Copilot 在桌面构建软件而无需云端 token 消耗;Windows 与 Agent 365 结合,提供 MXC 本地沙箱供智能体执行。相关能力将随搭载 NVIDIA RTX Spark 的 Surface Laptop Ultra 等新设备落地。

    匹配字段摘要、正文

  4. The Decoder

    Google 向公众开放 SynthID 检测器,称已有 1800 亿图片和视频带水印

    Google 将 SynthID Detector 开放给公众,任何人都可以检测图片、视频或音频是否由 Google 及其合作伙伴的 AI 生成,支持 JPG、PNG、MP4 和 MP3 格式。该工具只能识别带有 SynthID 水印的内容,并非通用 AI 检测器,其他检测系统通常也只验证自家水印。OpenAI、Nvidia 和 Kakao 也在媒体中使用 SynthID,Google 称 Apple 预计很快加入;SynthID 检测已内置于 Google 搜索、Gemini 应用和 Chrome,每天收到 100 万次验证请求,累计带水印图片和视频超过 1800 亿。

    匹配字段摘要、正文

星期三

  1. 9to5Google

    Google 的 SynthID AI 图像检测器全球上线,将支持 Apple 模型

    Google 的 AI 图像与视频检测工具 SynthID 从有限早期访问升级为全球可用的英文工具,未来还将继续扩展。新版 SynthID 除支持 Google 自家 Gemini 生成的内容外,还兼容 OpenAI、Nvidia、Kakao 以及 Apple 等合作方的模型,这些模型生成的内容会带有肉眼不可见的水印。Google 表示,Apple Intelligence 生成的图像将“很快”带有 SynthID 水印。

    匹配字段摘要、正文

  2. TechCrunch AI

    Google 上线 SynthID 网站,向所有人开放 AI 生成媒体检测

    Google 周二上线新网站,任何人都可以验证图片、视频或音频是否由 AI 生成。该工具此前在 Google I/O 上仅向部分记者、媒体从业者和研究人员开放测试,现面向所有人开放。网站支持 JPG、PNG、GIF 等图片格式,MP4、MOV、WEBM 视频格式,以及 WAV、MP3、FLAC 等音频格式,检测基于 Google 2023 年推出的 SynthID。Nano Banana、Veo、Lyria 以及 Gemini、Flow、ProducerAI、Vids 等生成工具都会用 SynthID 为生成内容加水印,OpenAI、Nvidia、Kakao 也支持 SynthID,Apple 据称将很快加入。Google 已将 SynthID 验证嵌入 Gemini 应用和 Chrome,目前每天有 100 万次内容验证请求。

    匹配字段摘要、正文

  3. Google Blog

    Google 面向全球英文用户开放 SynthID Detector

    Google 将 SynthID Detector 从面向媒体从业者的早期版本扩展至全球英文用户,任何人可检查图像、视频或音频是否由 Google 及其合作伙伴的 AI 生成,合作方包括 OpenAI、NVIDIA、Kakao,Apple 也将加入。Google 称自 2023 年推出 SynthID 以来已为超过 1800 亿张图像和视频、24 万年时长的音频添加水印,Search、Gemini 应用和 Chrome 中的验证功能每天处理超过 100 万次请求。

    匹配字段摘要、正文

  4. Google AI

    Google 开放 SynthID 水印在线验证入口

    Google 宣布扩大 SynthID 的访问范围,任何人现在都可以通过新上线的网页入口检查图片、视频或音频文件是否带有 SynthID 水印,这些文件既可能由 Google 生成,也可能来自 OpenAI、NVIDIA、Kakao 等合作方,Apple 也将加入。Google 称目前已为 1800 亿张图片和视频以及超过 24 万年的音频内容添加水印,每天处理约 100 万次验证请求。该门户与 Search、Gemini App 和 Chrome 中已有的内置验证功能并列。

    匹配字段摘要、正文

  5. UCSD Hao AI Lab精选

    Hao AI Lab 发布 FastVideo FastH3,可在单张消费级显卡本地生成带音频视频

    Hao AI Lab 发布 FastVideo FastH3,可在单台消费级设备上运行,支持 NVIDIA RTX GPU、DGX Spark 和 Apple Silicon。FastH3 V2 在 8 步内超过 MiniMax H3 基座模型,单张 RTX 5090 生成 5 秒 480p 带音频片段耗时 15 秒,768p 约 35–39 秒。同时发布 FastH3 Trim,体积比基座 H3 小 4.2 倍,最低 8 GB 显存即可运行,并已开放模型、Cookbook 与代码。

    匹配字段摘要、正文

星期二

  1. The Decoder

    Cohere 发布 North 2 企业 AI 控制中心,支持任意模型

    Cohere 将企业平台升级为 North 2,用于统一管理 AI 智能体,可自主处理多步骤工作流并跨会话保留上下文。新编排系统让智能体调用共享知识库和可复用技能,并连接 Slack、SharePoint、Jira 等工具,还能从聊天提示词直接生成演示文稿、仪表盘和简单应用。North 2 不绑定模型,除 Command A+ 外可接入企业自有模型,支持本地、云端或完全气隙部署;管理员通过 North Admin 管理 token 用量、用户配额和细到单个智能体的访问权限,智能体执行关键操作前需人工批准。Cohere 称其模型在 Nvidia Blackwell 和 Hopper 硬件上所需 token 更少,LG CNS 和 Bell Cyber 已在生产环境运行 North。

    匹配字段摘要、正文

  2. UCSD Hao AI Lab

    Hao AI Lab 开源 Minecraft 智能体 Jev,提示词进化无需训练

    Hao AI Lab 开源了能在 Minecraft 中与真人对抗的智能体 Jev,通过 SOTA LLM 智能体加人工监督从机器人自身日志中进化提示词,全程不做训练。在 1,795 轮对局后,Jev 在与真人玩家的 Block UHC 对战中赢下 70% 的回合;与满技能脚本对手对战时,v1 每轮皆负,不到两小时后 v9 每轮皆胜。其决策基于 DiffusionGemma 上的 DJev 单次前向传播,不生成任何 token,开源推理引擎 DJev-serve 在 NVIDIA GB200 NVL72 与 B200 上以单张 CUDA graph 运行,每次决策 24 ms,比某主流推理引擎快 2.5 倍。

    匹配字段摘要

  3. UCSD Hao AI Lab精选

    UCSD Hao AI Lab 开源 Minecraft 智能体 Jev,提示词进化无需训练

    UCSD Hao AI Lab 开源了 Minecraft 智能体 Jev,在 1,795 轮对局后公布其工作方式。它不训练模型,而是由 SOTA LLM 智能体在人工监督下从机器人自身日志中进化提示词;在 Block UHC 对真人玩家赢下 70% 的回合。每次决策在 NVIDIA Blackwell 上耗时 24 ms,团队称比某主流推理引擎快 2.5 倍,并开源了推理引擎 DJev-serve,在 GB200 NVL72 和 B200 上以单次 CUDA graph 完成每个决策。

    匹配字段摘要