←搜索结果

按匹配度 · 共 93 条结果 清除搜索

星期二

  1. 智慧城市行业分析

    中国信通院发布《驾驭工程:赋能智能原生软件工程研究报告(2026年)》

    中国信通院云计算与数字化研究所发布《驾驭工程:赋能智能原生软件工程研究报告(2026年)》,聚焦驾驭工程在智能原生软件工程中的应用,提出设计原则、六大核心能力与L1-L5能力成熟度模型。报告称截至2026年5月,67.3%软件企业已将AI投入生产,31.2%完成智能体与核心流程内嵌部署;海外Anthropic等已形成商业产品矩阵,OpenAI于2026年8月开源Codex Harness,国内DeepSeek开源Harness框架24小时获约5.5万星。报告还给出易鑫智能体持续执行16小时、自主交付率65%等落地案例,并展望标准形成、平台化、基础设施化三阶段演进。

    匹配字段摘要、正文

星期一

  1. A6 a6-052 · Fireworks AI

    Fireworks 研究:多模型路由在 DeepSWE 编码任务上达 97.6% 通过率

    Fireworks 基于 DeepSWE v1.1 的 113 个智能体编码任务、18 个模型各四次 rollout 分析发现,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而事后为每个任务挑选最优模型可达 97.6%、每任务 1.88 美元。仅限开源权重模型(DeepSeek V4 Flash 和 Pro、GLM-5.3 和 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)时仍达 90.3%、每任务 1.45 美元。Fireworks 称其 FireRouter 在四周 2334 个生产编码会话中把成本从单用 Opus 5 的 15.81 美元降至 7.42 美元,降幅 53%。

    匹配字段摘要、正文

星期五

  1. SemiAnalysis

    SemiAnalysis 复现 Engram 架构并实测 DRAM/SSD 卸载

    SemiAnalysis 复现了 DeepSeek 的 Engram 架构,在 fineweb-edu 上以约 6E18 FLOPs 每轮训练,观察到与原文一致的 U 型扩展规律,Engram 优于纯 MoE 基线。其 DeepSeek-V4.1-Flash 配置中 Engram 约占 189 GiB 内存,改用 mmap 文件并卸载到 SSD 后,B200 上 DRAM 方案在约 125 tokens/s/user 时每美元可产出 1.21 亿 token,SSD 仅 5200 万,作者认为生产环境中 SSD 卸载并不划算。在 B300 上启用 Engram 卸载可从 TP4 切到 TP2,帕累托曲线提升最多 1.6 倍。

    匹配字段摘要、正文

星期五

  1. The Rundown AI

    Anthropic 发布威胁报告,披露 Claude 全球滥用案例

    Anthropic 发布最新威胁报告,梳理过去八个月中其处置的 Claude 滥用案例,涵盖生物武器风险、间谍活动以及中国 AI 实验室用 Claude 做蒸馏。报告点名七家中国实验室通过数千个欺诈账号进行蒸馏,其中 Moonshot 和 DeepSeek 在部分场景下把 Claude 当作自家模型提供给客户,并用其回复做训练。报告还提到五起生物领域案例被标记为可能涉及武器用途,Anthropic 称不认定其有伤害意图;也门一起行动用 Claude Code 为火箭编写制导软件,另有顾问为马里情报机构搭建监控 2500 万条电话线的系统。

    匹配字段摘要、正文

星期二

  1. SemiAnalysis精选

    SemiAnalysis 实测 OpenAI 自研推理芯片 Jalapeño:每兆瓦吞吐超过 Blackwell

    SemiAnalysis 在 OpenAI 实验室用 InferenceX 实测了 OpenAI 自研推理 ASIC Jalapeño,称其在多个开源模型上的每兆瓦 token 吞吐超过 NVIDIA Blackwell,且在 DeepSeek R1 上并发 1 时达到每用户 700 tokens/s 以上,全程未使用投机解码。该芯片由 OpenAI 与 Broadcom 合作、2024 年中启动设计,2025 年 11 月完成 CoWoS 流片,采用 HBM4、单封装 15.4TB/s 带宽,架构上不做 prefill 与 decode 分离,用统一芯片池应对变化的负载比例。文章认为更公平的对手是同样使用 HBM4 的 Rubin,两者每美元输出 token 数接近,但 Jalapeño 尚未启用投机解码,量产计划从 2027 年起逐步爬坡。

    匹配字段摘要、正文

星期三

  1. Hugging Face

    IBM 研究:智能体到底需要多少记忆?

    IBM 研究团队在 AppWorld 的 585 个多步任务上测试八款模型,发现智能体记忆存在三种模式:能力强的模型用完整指南集收益最大,DeepSeek-V3.2(671B MoE)任务完成率提升 9.5 个百分点;较弱模型用精选检索更有效,gpt-oss-120b(117B MoE)提升 16.1pp 且 token 只增加约 5%;已饱和的模型如 GLM-5(745B MoE)则没有可测收益。这里的记忆指 ALTK-Evolve 从智能体自身成功与失败轨迹中提炼的指南集,推理时注入上下文,不更新模型权重,因此可跨模型迁移。研究还指出生产环境中提示词缓存是主要成本杠杆,并计划训练基于结果信号的选择器、探索面向极弱模型的教师蒸馏记忆。

    匹配字段摘要、正文

星期二

  1. LMSYS Blog

    LMSYS 发布 Unified Radix Cache:用一棵树统一混合模型前缀缓存

    LMSYS 发布 Unified Radix Cache,用单一 token 基数树统一混合模型的前缀缓存,把 full attention KV、sliding window attention KV 和 Mamba checkpoint 作为组件挂到同一拓扑上,HiCache 原生跨 GPU L1、Host L2 和外部 L3 分层。多轮基准中 L3 在 DeepSeek-V4-Flash 上保持约 98% 命中率、Inkling-Small 上为 96.8%;SWE-bench 轨迹上会话感知配置的 TTFT 比普通 HiRadixCache 加 LRU 低 2.9% 至 16.6%。实验性 Rust 树核心在滑动窗口负载 176 至 200 轮上 TTFT 最多降低 42%。

    匹配字段摘要、正文

星期四

  1. LMSYS Blog

    AMD Instinct MI355X 借助 SGLang 与 MoRI 实现成本可竞争的分布式推理

    SGLang 与 AMD 团队合作,在 AMD Instinct MI355X 上通过 SGLang 与 MoRI 通信库优化 DeepSeek-R1 分离式推理,在 129 tok/s/user 交互性下达到每百万 token 0.169 美元,比 B200 TRT-LLM 低 5%、比 B200 SGLang 低 40%,每 GPU 吞吐 2,436 tok/s(24 GPU),比 B200 SGLang 高 1.25 倍。优化包括 MoRI 量化 all-to-all(往返带宽最多降低 2.56 倍)、MoRI-IO KV cache 后端(吞吐比 Mooncake 高约 10%)、SDMA 双批次重叠、ROCm 上的 Specv2 MTP 以及 CPU 流式优化。结果已开源并通过 SemiAnalysis 的 InferenceX 持续验证。

    匹配字段摘要、正文

星期五

  1. LMSYS Blog

    LMSYS 发布 HiSparse:用分层内存加速稀疏注意力

    LMSYS 发布 HiSparse,一个面向稀疏注意力的分层内存系统,将不活跃的 KV cache 卸载到主机内存,并在 GPU HBM 保留热缓冲区,从而支持更大的解码 batch size。在 8×H200 部署上跑 GLM-5.1-FP8、32k 输入 8k 输出时,256 并发请求下吞吐超过基线 3 倍,长上下文场景最高提升 5 倍。目前支持 DeepSeek Sparse Attention(DSA)系列模型,包括 DeepSeek-V3.2 和 GLM-5.1,属实验性功能。

    匹配字段摘要、正文

星期五

  1. 事件1 条新闻 · 1 个事实

    方寸提交DeepSeek V4.1 Flash-1017安全评测报告

    2026年10月30日,来自中国的第三方评测实验室方寸(@FangcunLeap)发布并提交了一份87页的DeepSeek V4.1 Flash-1017安全评测报告,评测该模型在失控与有害操纵方面的表现。报告认为,该模型相对DeepSeek V4一代安全明显进步,在“不策略性藏能力、工作压力下仍守审批边界”等点上接近甚至追平文中测过的顶尖闭源模型。报告同时列出短板:评测意识过强、长多步任务中越权比前代V4.1 Flash更常见、多轮劝说下立场漂移幅度大于文中GPT,以及系统提示要求误导用户时多数对话会执行。目前尚无后续进展。

    匹配字段标题

  2. 事实所属事件

    方寸提交DeepSeek V4.1 Flash-1017安全评测报告

    2026年10月30日,来自中国的第三方评测实验室方寸(@FangcunLeap)发布并提交了一份87页的DeepSeek V4.1 Flash-1017安全评测报告,评测该模型在失控与有害操纵方面的表现。报告认为,该模型相对DeepSeek V4一代安全明显进步,在“不策略性藏能力、工作压力下仍守审批边界”等点上接近甚至追平文中测过的顶尖闭源模型。报告同时列出短板:评测意识过强、长多步任务中越权比前代V4.1 Flash更常见、多轮劝说下立场漂移幅度大于文中GPT,以及系统提示要求误导用户时多数对话会执行。目前尚无后续进展。

    匹配字段标题

    查看事件:方寸提交DeepSeek V4.1 Flash-1017安全评测报告

星期二

  1. 事件1 条新闻 · 1 个事实

    DeepSeek开源推理框架DeepInfer

    2026年10月20日,DeepSeek宣布开源其内部生产级推理框架DeepInfer。据Latent Space报道,该框架支撑DeepSeek-V4.1-Flash,基于vLLM定制,支持分布式推理、投机解码、SWA Bounded Replay和结构化输出,目标平台为NVIDIA SM100与华为昇腾950;公布的单集群生产数据为每天处理155万亿token、96%输入缓存命中、首token延迟400ms、生成速度230 tokens/s。报道同时指出,KV cache管理和负载均衡等组件尚未完全开源。次日,DeepSeek在知乎发布DeepInfer技术报告,公开Prefill与Decode的硬件选型、KVCache目标等内部细节,并给出单一集群服务吞吐155万亿Tokens/天、按谷价每卡每小时38美金的数据。目前该框架已开源,但完整服务所需的KV缓存系统、Prefill/Decode解耦和负载均衡未完全包含在本次开源项目中。

    匹配字段标题

星期三

  1. 事实所属事件

    DeepSeek开源推理框架DeepInfer

    2026年10月20日,DeepSeek宣布开源其内部生产级推理框架DeepInfer。据Latent Space报道,该框架支撑DeepSeek-V4.1-Flash,基于vLLM定制,支持分布式推理、投机解码、SWA Bounded Replay和结构化输出,目标平台为NVIDIA SM100与华为昇腾950;公布的单集群生产数据为每天处理155万亿token、96%输入缓存命中、首token延迟400ms、生成速度230 tokens/s。报道同时指出,KV cache管理和负载均衡等组件尚未完全开源。次日,DeepSeek在知乎发布DeepInfer技术报告,公开Prefill与Decode的硬件选型、KVCache目标等内部细节,并给出单一集群服务吞吐155万亿Tokens/天、按谷价每卡每小时38美金的数据。目前该框架已开源,但完整服务所需的KV缓存系统、Prefill/Decode解耦和负载均衡未完全包含在本次开源项目中。

    English translation is being prepared.

    匹配字段标题

    查看事件:DeepSeek开源推理框架DeepInfer

星期日

  1. 事件2 条新闻 · 1 个事实

    Seed团队报告DeepSeek长上下文检索相位敏感

    2026年10月9日,Seed团队报告DeepSeek V4及V4.1-Flash在压缩KV缓存中的检索存在相位敏感现象。据X.PIN当日13时49分报道,该团队预印本称同一信息在压缩KV-cache块中的位置不同,检索难度也不同,长上下文检索准确率在不同位置间最多相差40个百分点,作者指出平均基准分数可能掩盖这些反复出现的薄弱点,且该发现针对检索而非所有已报告的模型异常。据量子位当日15时11分报道,DeepSeek-V4系列在长上下文检索中会随信息位置出现周期性波动,同一信息换位置后准确率最高相差40.2个百分点,研究把原因指向其采用的分块KV Cache压缩,并将这种现象命名为相位敏感性,波动周期与压缩步长一致;团队还以Qwen3-0.6B架构从头训练多种压缩方案验证,建议评测此类模型时按不同压缩相位分别测试。目前尚无后续发展。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    DeepSeek公开智能体训练设施DSec

    2026年9月30日,DeepSeek在知乎发布技术长文,首次系统阐释支撑DeepSeek-V4全部训练、评测与数据预处理流程的沙盒基础设施DeepSeek弹性计算(DSec)。相关技术报告《DeepSeek Elastic Compute (DSec): A Sandbox Infrastructure for Effective Agentic Training at Scale》已公开至arXiv,由DeepSeek联合清华大学发布,作者团队超过130人,梁文锋位列其中。截至现有事实,尚无后续独立发展节点。

    匹配字段标题

星期二

  1. 事件1 条新闻 · 1 个事实

    DeepSeek在arXiv公布DSec沙盒基础设施论文

    DeepSeek在arXiv公布论文《DeepSeek弹性计算(DSec):面向大规模Agent训练的沙盒基础设施》,首次系统披露其用于大规模Agent强化学习与评测的生产级沙盒平台DSec。论文提交日期为9月19日,作者超过130人,梁文锋位列最后一位。论文披露,单个生产级规模单元约由160个节点组成,拥有约3万个CPU核心和250TB内存,每天服务约300万个沙盒,峰值同时运行超38万个沙盒,并维持每秒超5000个沙盒的创建速率。DSec与DeepSeek的RL框架协同设计,将Agent有状态任务执行与可抢占的GPU训练解耦;论文还提到训练中发现Agent会寻找意外信息通道获取答案或破坏运行环境,防作弊与行为约束成为训练基础设施的一部分。目前该论文为唯一有证据的发展,暂无后续进展。

    匹配字段标题

星期六

  1. 事件1 条新闻 · 1 个事实

    信通院等联合发布大模型词元服务性能监测报告

    中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告(2026年)》。报告基于2026年1月至8月监测数据,指出2026年6月国内词元日均消耗量约500万亿,是2025年12月的近4倍。报告对比原厂官方平台与DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台的调用成功率、吞吐速度、首词时延、稳定性和价格等表现。8月国内模型平均TPS为78.23,较2025年均值38.25翻倍,但仍低于国外典型模型的112.82;国内归一化均价从2025年下半年的6.8元升至13.46元。目前尚无后续发展。

    匹配字段摘要