←搜索结果

按匹配度 · 共 1345 条结果 清除搜索

星期三

  1. SiliconANGLE

    DeepSeek 开源生产推理框架 DeepInfer

    DeepSeek 开源了支撑其生产服务的推理框架 DeepInfer,采用 Apache 2.0 许可证发布在 GitHub 上。目前该框架只支持 DeepSeek-V4.1-Flash 一个模型,默认加载周末发布的 1017 版本,可运行在 Nvidia SM100 Blackwell GPU 和华为昇腾 950 NPU 上,不支持 Hopper 等较旧的 Nvidia 架构。DeepSeek 称单个集群每天服务 155 万亿 token,并暂未开源与内部基础设施强耦合的 KV cache 管理和负载均衡代码。

    匹配字段标题、摘要、正文

  2. The Decoder

    DeepSeek 开源推理框架 DeepInfer,支撑 V4.1-Flash 快速低成本推理

    DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速生成回答的服务软件。DeepInfer 基于 vLLM 构建,包含优化的计算内核、多芯片分布式处理和更快的文本生成技术,未来 DeepSeek 模型的代码也将开源。DeepSeek 同时发布 deepseek-recipe,可复现官方 API 的 token 处理,使自托管部署行为保持一致,官方称目标是帮助社区降低算力成本与能耗。

    匹配字段标题、摘要、正文

  3. 阿易 AI Notes

    DeepSeek 以 Apache 2.0 开源推理框架 DeepInfer 及编解码组件

    DeepSeek 以 Apache 2.0 协议开源了支撑其线上服务的推理框架 DeepInfer 和 API 同款编解码组件 deepseek-recipe,官方称后续新模型的推理代码也会持续合入该仓库。框架包含高性能算子、分布式推理、投机解码、SWA Bounded Replay 和结构化输出,但 README 显示此次只放出离线推理引擎,KV 缓存系统、预填充与解码分离部署、多副本负载均衡未包含在内。硬件上目前仅支持英伟达 Blackwell 架构 SM100 和华为昇腾 950,支持的模型也仅限 V4.1-Flash。

    匹配字段标题、摘要、正文

  4. cnBeta

    DeepSeek工程师参与华为芯片设计,计划年底用昇腾950DT做预训练

    DeepSeek正与华为深度合作,参与华为未来AI芯片的设计,华为工程师分阶段进驻DeepSeek办公地点,把大模型训练中的计算任务分配、处理器间数据传输等需求纳入计划明年年初推出的芯片设计。DeepSeek计划最早今年年底开始用华为昇腾950DT进行预训练,相关测试仍在推进;华为计划把2027年第一季度推出的昇腾960DT大部分产能分配给DeepSeek,用于训练和推理。DeepSeek已开源面向昇腾平台的TileLang编译工具及配套计算、通信组件,IDC数据显示2026年上半年英伟达在中国AI芯片市场份额降至34%,华为以28%紧随其后。

    匹配字段标题、摘要、正文

星期二

  1. BleepingComputer

    美国国土安全部禁止联邦民事机构使用DeepSeek产品

    美国国土安全部(DHS)下令联邦民事机构停止使用DeepSeek产品并将其从政府系统中移除,禁令还覆盖DeepSeek关联公司产品以及基于DeepSeek技术构建的第三方产品和服务。机构须立即将相关产品排除出采购清单和IT系统,如需例外须在命令发布后60天内提交申请,由CISA审核并书面批复。该命令仅适用于DHS管辖范围内的联邦民事机构,不涉及私营或消费者使用;DHS称其依据包括对中国政府访问DeepSeek基础设施、收集个人信息以及2025年2月NowSecure报告指出DeepSeek iOS应用存在未加密传输等安全问题的担忧。

    匹配字段标题、摘要

  2. MarkTechPost

    DeepSeek 开源生产推理框架 DeepInfer,支撑 DeepSeek-V4.1-Flash

    DeepSeek 以 Apache 2.0 协议开源了其生产服务所用的推理框架 DeepInfer,该框架目前只支持 DeepSeek-V4.1-Flash,运行在 NVIDIA SM100 和华为昇腾 950 上。官方称单个集群每天可服务 155 万亿 token,在 131,072 上下文、64 卡解码配置下解码吞吐超过 25,000 tokens/s/GPU。此次发布仅覆盖离线推理,KV cache 系统、P/D 分离和负载均衡未包含在内,DeepSeek 表示这些组件与内部基础设施紧密耦合。

    匹配字段标题、摘要、正文

  3. Tianyi Cui

    DeepSeek 开源推理框架 DeepInfer 及 deepseek-recipe 等组件

    DeepSeek 开源了自研推理框架 DeepInfer,并同时放出 deepseek-recipe 等用于部署 DeepSeek 模型的关键组件。DeepInfer 已在生产环境中支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟。DeepSeek 表示公开生产栈是希望帮助社区降低算力成本、减少能耗,并让更多机构部署 DeepSeek 模型。

    匹配字段标题、摘要、正文

  4. Yuchen Jin

    DeepSeek 开源内部推理框架 DeepInfer

    DeepSeek 宣布开源内部推理框架 DeepInfer,该框架支撑 DeepSeek-V4.1-Flash 的大规模运行,主打高吞吐和低延迟。DeepSeek 表示公开这套生产栈是为了帮助社区降低算力成本、减少能耗,让 AI 更可负担,并附上了仓库链接。Yuchen Jin 转发该消息并评论 Real Open AI。

    匹配字段标题、摘要

  5. Thomas Wolf

    Thomas Wolf 盘点 DeepSeek 开源项目,DeepInfer 推理引擎以 Apache 2.0 开放

    Hugging Face 的 Thomas Wolf 转发 DeepSeek 开源推理框架 DeepInfer 的消息,并盘点其此前开源的项目:FlashMLA 在 H800 上实现 580 TFLOPS 注意力、DeepEP 负责 MoE 通信、DeepGEMM 实现 1350+ FP8 TFLOPS 矩阵乘、3FS 是自建文件系统。DeepSeek 称 DeepInfer 支撑 DeepSeek-V4.1-Flash 的大规模高吞吐低延迟推理,此次以 Apache 2.0 协议开放生产栈,目标是帮助社区降低算力与能耗成本。

    匹配字段标题、摘要、正文

  6. Rohan Paul

    DeepSeek 以 Apache 2.0 开源推理引擎 DeepInfer

    DeepSeek 以 Apache 2.0 许可证开源了其生产服务所用的推理引擎 DeepInfer,8 小时内获得 6.3K+ stars。该版本只支持 DeepSeek-V4.1-Flash,运行在 NVIDIA SM100 GPU 或华为昇腾 950 芯片上,覆盖离线推理而非完整服务栈,缺少 KV cache、prefill 与 decode 分离以及副本间负载均衡。随附的加速层包含 DSpark,可提前草拟最多 5 个 token 并用置信度估计安排验证;bounded replay 只重算 140 token 后缀以覆盖滑动注意力窗口,从而压缩 prefill。配套库 deepseek-recipe 将把 Chat Completions、Responses 和 Messages 请求转换为与官方 API 行为一致的 DeepSeek V4 与 V4.1 提示词。

    匹配字段标题、摘要、正文

  7. Nathan Lambert

    DeepSeek 开源推理框架 DeepInfer

    DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,该框架用于支撑 DeepSeek-V4.1-Flash 的大规模高吞吐、低延迟运行。官方称分享生产栈是为了帮助社区降低算力成本与能耗,让 AI 更可负担。Nathan Lambert 评论称这是获得模型采用的特别方式,对社区是好事,并提到时机微妙,因为政府刚在联邦机构禁用 DeepSeek。

    匹配字段标题、摘要、正文

  8. 雷锋网

    美国发布DeepSeek禁令;MiniMax M3.1 Flash上线

    美国国土安全部发布规定,禁止在美政府计算机系统使用DeepSeek全系列产品,并要求民事部门删除相关产品及衍生成果。MiniMax 上线 M3.1 Flash,线上推理速度提升近 3 倍、成本降低 70%,API 每百万 tokens 输入 1 元、输出 4 元。豆包公关负责人刘星回应称,字节总算力中仅约 10% 用于视频生成模型训练和推理。

    匹配字段标题、摘要、正文

  9. 36氪 · AI精选

    DeepSeek 开源推理框架 DeepInfer 与 Token 编解码组件 deepseek-recipe

    DeepSeek 开源自研推理框架 DeepInfer(Apache 2.0)和生产级 Token 编解码组件 deepseek-recipe(MIT),支撑 DeepSeek V4.1 Flash 单集群一天服务 155 万亿 Token。官方线上统计显示平均每请求输入 77K Token、首字延迟约 400 毫秒,生成阶段每秒输出 230 个 Token,平均 96% 的输入命中缓存。DeepInfer 目前支持 V4.1 Flash,开源版本仅提供离线推理,KV 缓存管理与负载均衡代码因与内部基础设施绑定暂未完整开源。

    匹配字段标题、摘要、正文

  10. 钛媒体 · AGI

    DeepSeek 更新 V4.1 Flash-1017,编程与 Agent 基准提升且 API 不涨价

    DeepSeek 于 10 月 17 日更新 V4.1 Flash-1017,API 价格未上涨,Terminal-Bench 4.0 从 31.2 分升至 42.3 分,超过 GPT-5.6 Sol 的 39.9 分和 GLM-5.3 的 37.9 分,仍低于 Claude Opus 5 的 51.8 分。官方列出的 11 项测试成绩全部高于初版,非高峰时段输入每百万 Token 0.15 美元、输出 0.60 美元。同期开放 Search 和 Fetch API,每 1000 次成功调用 0.75 美元,通过 DeepSeek Harness、Claude Code 和 Codex 的调用暂免费用,计划 10 月 31 日 16 时(UTC)起计费。有海外开发者用 ModelTrace 检测出 GPT-6 Astra 相似度 84.66%,但该工具数据库未收录 DeepSeek,结果不能作为蒸馏证据。

    匹配字段标题、摘要、正文

  11. 中华网科技

    燧石技术推出搭载DeepSeek大模型的智能体小睿,让热成像仪支持语音交互

    燧石技术(Raythink)推出搭载DeepSeek大模型的智能体“小睿”,通过热成像仪硬件感知、AI算法模型与配套分析软件三维融合,实现对话式智能测温。用户可用语音完成参数设置、专业答疑和校准调整,小睿还同步入驻TI Studio PC客户端。燧石技术称这标志着其“软件硬件协同进化”战略落地。

    匹配字段标题、摘要

  12. Fortune AI

    美国联邦机构禁用DeepSeek产品,中方回应称过度扩大国家安全概念

    美国国土安全部发布通知,要求联邦民事机构从IT系统中移除DeepSeek及其关联产品,以及使用DeepSeek开发的第三方产品和服务,并禁止采购相关服务;该命令可追溯至7月底。通知称DeepSeek模型存在多重威胁向量,理由包括服务器位于中国、中国当局可能访问美国敏感数据。中国外交部发言人毛宁回应称,中方坚决反对过度扩大国家安全概念、将科技经贸问题政治化,并将坚决维护中国企业的合法权益。

    匹配字段标题、摘要、正文

  13. TechCrunch AI

    美国要求联邦机构移除 DeepSeek 并停止采购其产品

    美国国土安全部下令联邦民事机构停止采购 DeepSeek 开发的服务和产品,并将其从政府 IT 系统中移除,理由是国家安全关切。该命令不仅针对 DeepSeek 自身产品,也覆盖使用 DeepSeek 技术构建的第三方产品,机构可申请例外。DHS 担忧 DeepSeek 的用户数据处理,警告美国政府用户的敏感信息可能依中国法律被中国当局获取;中国外交部发言人毛宁回应称反对过度扩大国家安全概念、将科技和贸易问题政治化。

    匹配字段标题、摘要、正文

  14. The Guardian Technology

    美国国土安全部禁止政府机构使用 DeepSeek 工具

    美国国土安全部发布通知,要求各机构停止使用 DeepSeek 开发的产品以及第三方基于 DeepSeek 构建的工具,并从 IT 设备中移除。通知附带的文件称,DeepSeek 的模型存在多种威胁途径,其服务器位于中国,美国政府雇员或供应商使用这些工具可能导致敏感数据被转移至中国。该部门可向文职机构发布指令,但不覆盖军方和情报部门。

    匹配字段标题、摘要、正文