←搜索结果

按匹配度 · 共 1346 条结果 清除搜索

星期二

  1. Prime Intellect精选

    Prime Intellect 开源 renderers:面向智能体 RL 的 Token 级模板库

    Prime Intellect 开源 renderers,一个独立的 Python 库,让开发者完全控制 RL 和多轮推理中的对话格式化。它把聊天模板变成可编程对象,暴露渲染消息为 token id、解析补全为结构化助手消息、为损失掩码归属 token、以及在不重新渲染模型采样历史的情况下扩展多轮 rollout 等操作。该库已用于其 Lab 产品、verifiers 和 prime-rl,内置 Qwen3、Qwen3.5、GLM-4.5、GLM-5、MiniMax-M2、DeepSeek-V3、Kimi K2 / K2.5、Nemotron-3 和 GPT-OSS 的渲染器,并已在 PyPI 发布,代码托管于 github.com/PrimeIntellect-ai/renderers。

    renderers: Token-Level Templating for Agentic RL

    匹配字段摘要、正文

星期五

  1. Zyphra Research

    Zyphra 发布视觉语言模型 ZAYA1-VL-8B

    Zyphra 发布其首个视觉语言模型 ZAYA1-VL-8B,基于 ZAYA1-8B 构建,采用 MoE 架构,700M 激活参数、8B 总参数,以 Apache 2.0 许可开源权重。该模型在视觉理解、定位和 OCR 类任务上表现突出,官方称其性能超过 Deepseek-VL2、Qwen3-VL 和 MolmoE 等同类模型,而训练仅用约 140B 视觉语言 token。架构上引入仅对视觉 token 激活的视觉专用 LoRA 参数,并对图像 token 采用双向注意力。

    匹配字段摘要、正文

星期一

  1. Zyphra Research

    Zyphra 与 AMD 合作,基于 AMD Instinct MI355X GPU 推出 Zyphra Cloud

    Zyphra 发布 Zyphra Cloud,一个运行在 AMD 基础设施上、由 Tensorwave 提供算力的全栈 AI 平台,首发服务为无服务器推理服务 Zyphra Inference,可访问 DeepSeek V3.2、Kimi K2.6 和 GLM 5.1 等前沿开放权重模型。该服务面向智能体编程、深度研究和长周期工作流自动化等长周期智能体场景,结合定制 kernel、长上下文推理算法与并行方案实现高吞吐低延迟。平台后续将扩展至强化学习与微调等分布式后训练服务、基于 AMD EPYC CPU 的沙箱智能体与开发环境,以及专用 GPU 集群和裸金属基础设施,现已可用。

    匹配字段摘要、正文

  2. Zyphra Research

    Zyphra 推出 AMD 优先的 Zyphra Inference 云推理服务

    Zyphra 发布 Zyphra Cloud 平台的首个组件 Zyphra Inference,这是一项 AMD 优先的推理服务,基于 AMD MI355X GPU 并与 TensorWave 合作,面向长上下文智能体工作负载,托管 Kimi K2.6、DeepSeek V3.2 和 GLM 5.1 等开放模型。以 Kimi K2.6 为例,单台 8x-MI355X 节点提供 2,304GB HBM,可容纳约 184 个 256K 上下文的活跃智能体,而 8x-B200 节点约为 100 个。平台后续将扩展至后训练、强化学习环境和智能体原生基础设施。

    匹配字段摘要、正文

星期一

  1. Sakana AI:Blog

    Sakana AI 提出 String Seed of Thought:让 LLM 输出更忠实于概率分布且更多样

    Sakana AI 提出提示技术 String Seed of Thought(SSoT):让 LLM 在输出中先生成随机字符串,再据此推导答案,无需外部随机数生成器。该方法在开源与闭源 LLM 上显著降低输出偏差,在 DeepSeek-R1 等推理模型上准确率接近真实随机采样,并可从二选一推广到 n 选一和任意概率分布。在 NoveltyBench 多样性基准的六个类别上,SSoT 均优于其他方法且保持输出质量,该工作将在 ICLR2026 展示。

    匹配字段摘要、正文

星期五

  1. LMSYS Blog

    LMSYS 发布 HiSparse:用分层内存加速稀疏注意力

    LMSYS 发布 HiSparse,一个面向稀疏注意力的分层内存系统,将不活跃的 KV cache 卸载到主机内存,并在 GPU HBM 保留热缓冲区,从而支持更大的解码 batch size。在 8×H200 部署上跑 GLM-5.1-FP8、32k 输入 8k 输出时,256 并发请求下吞吐超过基线 3 倍,长上下文场景最高提升 5 倍。目前支持 DeepSeek Sparse Attention(DSA)系列模型,包括 DeepSeek-V3.2 和 GLM-5.1,属实验性功能。

    匹配字段摘要、正文

星期一

  1. Sakana AI:Blog精选

    Sakana AI 发布日本适配模型系列 Namazu α 版并上线 Sakana Chat

    Sakana AI 发布事后学习技术试作模型系列 Namazu(α版),将 DeepSeek-V3.1-Terminus、Llama-3.1-405B、gpt-oss-120B 等开源基座适配为日本规格,并同步公开搭载该模型的聊天服务 Sakana Chat。官方称 Namazu 在 AIME'25、MMLU-Redux、GPQA Diamond、LiveCodeBench、IFEval 等基准上保持与基座相当的性能,在自建的中立性与事实准确性评测中明显改善,其中基座 DeepSeek-V3.1-Terminus 对相关政治历史话题的拒答率为 72%,经事后学习后降至接近 0%。日语基准 Nejumi Leaderboard4、Swallow LLM LeaderBoard v2、JamC-QA 上,Namazu-DeepSeek-V3.1-Terminus 与基座及同规模他社模型相当,技术报告与部分模型权重将后续公开。

    匹配字段摘要、正文

星期日

  1. Ahead of AI

    现代大语言模型注意力变体可视化指南

    文章梳理现代开放权重大语言模型采用的注意力变体,包括 MHA、GQA、MLA、滑动窗口注意力、DeepSeek Sparse Attention、门控注意力与混合注意力。作者结合 DeepSeek、Qwen、Gemma、Kimi 等架构,比较各方案在 KV cache、长上下文成本、建模表现和实现复杂度上的差异。文章还介绍了一个包含 45 个条目的大语言模型架构图库。

    匹配字段摘要、正文

星期五

  1. LMSYS Blog

    SGLang 在 NVIDIA GB300 NVL72 上实现最高 25 倍推理性能提升

    SGLang 与 NVIDIA 合作,在 InferenceXv2 基准上于 GB300 NVL72 运行 DeepSeek R1 时相比 H200 实现最高 25 倍性能提升,该对比基于 50 TPS/user 的低延迟场景。借助 NVFP4 GEMM、计算通信重叠和 NVIDIA Dynamo 等优化,SGLang 在 GB200 NVL72 上的性能也在不到 4 个月内提升最高 8 倍。后续将推进 GB300 NVL72 的 MTP 支持及 Qwen 3.5 等模型的调优。

    匹配字段摘要、正文

星期一

  1. 蚂蚁百灵:Developer Blog

    蚂蚁百灵发布并开源 Ling-2.5-1T 即时模型

    蚂蚁百灵发布并开源旗舰级即时模型 Ling-2.5-1T,总参数 1T、激活 63B,预训练语料从前代 20T 扩展至 29T,支持最高 1M token 上下文。模型采用 1:7 的 MLA + Lightning Linear 混合线性注意力架构,引入正确性与过程冗余复合奖励机制,在 AIME 2026 上平均输出约 5890 token 即接近消耗 15k–23K token 的前沿思考模型水平。官方称其在复杂推理与指令遵循上优于 DeepSeek V3.2、Kimi K2.5、GPT 5.2,可适配 Claude Code、OpenCode 等智能体产品,但在复杂智能体交互和长程任务上仍落后于前沿模型。

    匹配字段摘要、正文

星期六

  1. ZDNET · Artificial Intelligence

    2026 年最佳 AI 聊天机器人:ZDNET 实测 ChatGPT、Copilot、Grok 等八款免费产品

    ZDNET 对 ChatGPT、Copilot、Grok、Gemini、Perplexity、Claude、DeepSeek 和 Meta AI 八款免费 AI 聊天机器人进行了 112 项实测,ChatGPT 以综合最高分成为整体最佳。测试涵盖摘要与联网、学术概念解释、数学分析、文化讨论、文学分析、旅行规划、情感支持、翻译、编程和长文故事等文本任务,以及四类图像生成任务。

    匹配字段摘要、正文

星期五

  1. Manus:Blog

    2026 年 7 款最佳 ChatGPT 替代品

    Manus 博客列出 2026 年 7 款最佳 ChatGPT 替代品:Manus AI 主打自主任务与工作流自动化,Claude AI 擅长写作与自然对话,Google Gemini 适合 Google 用户与实时信息,Perplexity AI 适合研究与带来源的准确回答,Microsoft Copilot 面向商业生产力与 Microsoft 365 用户,DeepSeek 是免费且编程与推理较强的选择,Grok 主打实时信息与幽默风格。文章还从主要用途、预算和集成需求三方面给出选择建议。

    匹配字段摘要、正文

星期四

  1. LMSYS Blog

    SGLang 流水线并行:扩展至百万 token 上下文

    SGLang 发布高度优化的流水线并行(PP)实现,通过分块流水线并行、异步 P2P 通信和动态分块机制应对超长上下文推理。在 H20 集群上,PP4 TP8 部署使 DeepSeek-V3.1 的 Prefill 吞吐量达到 TP8 的 3.31 倍,比 TP32 方案高出 30.5%,同时 TTFT 最多降低 67.9%,强扩展效率达 82.8%。该实现兼容 PD 分离与 HiCache。

    匹配字段摘要、正文

星期一

  1. Ollama Blog

    Ollama 与 NVIDIA 合作,在 DGX Spark 上开箱即用运行本地模型

    Ollama 与 NVIDIA 合作,确保最新 NVIDIA DGX Spark 开箱即用、快速高效运行。该设备搭载 NVIDIA GB10 Grace Blackwell Superchip,提供 1 petaFLOP 性能,配备 128GB 内存,可运行 Qwen、DeepSeek、Llama、Mistral、Gemma、Gpt-oss 等模型,也支持上传自定义或微调模型。双方正针对聊天、文档处理、代码任务和多模态工作流优化 Ollama 性能。

    Ollama NVIDIA DGX Spark

    匹配字段摘要、正文

星期五

  1. Ollama Blog

    Ollama 推出云端模型预览,可运行 480B 等大模型

    Ollama 上线云端模型预览,让用户在本地工具中运行个人电脑放不下的大模型,云端不保留用户数据。首批可用模型包括 qwen3-coder:480b-cloud、gpt-oss:120b-cloud、gpt-oss:20b-cloud 和 deepseek-v3.1:671b-cloud,需下载 Ollama v0.12 并登录 ollama.com。云端模型用法与普通模型一致,支持 ls、run、pull、cp,并可通过 Ollama 的 OpenAI 兼容 API 以及 JavaScript、Python、cURL 调用。

    匹配字段摘要、正文

星期一

  1. Vapi Blog

    什么是 Gemma 3?Google 开源权重模型的能力与部署解析

    Vapi 博客介绍 Google 于 2025 年发布的开源权重模型 Gemma 3,它基于 Gemini 2.0 研究,支持文本、图像和视觉输入,可在单 GPU/TPU 上运行,支持 140+ 语言和最高 128k token 上下文,并提供 1B、4B、12B、27B 四种尺寸。文章称 Gemma 3 在人类偏好评测中优于 Llama3-405B 和 DeepSeek-V3,27B 版本在 LMArena Elo 榜得 1338 分,高于 DeepSeek-V3 的 1318 和 o3-mini 的 1304。经量化感知训练后,1B 模型显存占用最低 861 MB(INT4),27B 为 19.9 GB(INT4);该模型已内置在 Vapi 控制台的 LLM 下拉菜单中。

    匹配字段摘要、正文

星期四

  1. Lilian Weng:Lil'Log

    我们为何思考:Lilian Weng 解析测试时计算与 CoT 推理

    Lilian Weng 在 Lil'Log 发文梳理测试时计算与思维链(CoT)推理的近期进展,解释让模型“思考更久”为何有效。文章从心理学双过程理论、计算资源视角和隐变量建模三条路径展开,指出 CoT 让模型按问题难度灵活分配算力,并回顾从 GSM 数据集到 o1-preview、o3 与 DeepSeek R1 技术报告的 RL 训练路线。

    匹配字段摘要、正文

星期二

  1. Prime Intellect精选

    Prime Intellect 发布 INTELLECT-2:首个全球分布式强化学习训练的 32B 参数模型

    Prime Intellect 发布 INTELLECT-2,称其为首个 32B 参数全球去中心化强化学习训练,任何人都可无许可贡献异构算力。该训练以 QwQ-32B 为基座模型,沿用 DeepSeek-R1 的 GRPO 与可验证奖励方法,并配套开源 prime-RL 异步分布式 RL 库、Shardcast 权重分发库和 TOPLOC 可验证推理方案。推理节点可用消费级 GPU,例如 4×RTX 3090 即可参与训练,训练数据已发布在 Hugging Face。

    INTELLECT-2: The First Globally Distributed Reinforcement Learning Training of a 32B Parameter Model

    匹配字段摘要、正文

星期四

  1. Zyphra Research

    Zyphra 推出 ZR1-1.5B:面向数学与代码的小型推理模型

    Zyphra 发布 ZR1-1.5B,一个基于 DeepSeek-R1-Distill-Qwen-1.5B、用强化学习在代码与数学题上训练的小型推理模型。它在 LCB_Generation 上与 Claude3-Opus、Gemma2-27B 持平,在竞赛数学上超过 Qwen2.5-72B,且推理 token 比 R1-Distill-1.5B 少 60%、比 DeepScaleR 少 53.5%。截断到 2048 token 时,其数学评测平均 pass@1 达 40.39%,高于 Qwen-2.5-Math-7B-Instruct 的 37.01%。

    Zyphra 发布 ZR1-1.5B,一个基于 DeepSeek-R1-Distill-Qwen-1.5B、用强化学习在代码与数学题上训练的小型推理模型。它在 LCB Generation 上与 Claude3-Opus、Gemma2-27B 持平,在竞赛数学上超过 Qwen2.5-72B,且推理 token 比 R1-Distill-1.5B 少 60%、比 DeepScaleR 少 53.5%。截断到 2048 token 时,其数学评测平均 pass@1 达 40.39%,高于 Qwen-2.5-Math-7B-Instruct 的 37.01%。

    匹配字段摘要、正文

星期日

  1. antirez 原创博客

    antirez:大语言模型权重是一段历史

    antirez 认为,网页内容正逐年消失,而 DeepSeek V3 等大型模型已是互联网的一种公开、有损压缩视图,虽不精确、有幻觉和缺失,但聊胜于无。他主张在支持 Internet Archive 的同时,应确保公开释放的 LLM 权重不丢失,并让 Archive 进入预训练数据集。

    匹配字段摘要、正文