←搜索结果

搜索“DeepSeek”

按匹配度 · 共 1346 条结果 清除搜索

星期日

  1. Interconnects

    最新开源模型盘点第23期：Laguna S2.1、Inkling 与 Kimi K3 展现开源模型的帕累托前沿价值

    Interconnects 发布第23期开源模型盘点，涵盖 Thinking Machines 的 Inkling、腾讯 Hy3、Poolside 的 Laguna-S-2.1 与 Laguna-XS-2.1、DeepSeek-V4-Flash-0731、月之暗面 Kimi-K3、美团 LongCat-2.0、Motif-3-Beta、Swiss AI 的 Apertus-v1.5-70B 以及 AMD 的 Instella-MoE-16B-A3B-Think。作者认为此前关于模型实验室将走向整合的预测并未成真，反而有更多公司在训练强模型并公开释出，token 需求高涨让更多机构把构建 token 机器视为价值路径。其中 Thinking Machines 的 Inkling 是 975B-A41B 多模态 MoE，支持文本、图像和音频输入，并同步发布 276B-A12B 小版本；美团 LongCat-2.0 为 1.6T 参数 MoE，完全在昇腾 910 上训练。

    匹配字段摘要、正文

    #newsletter#开源/仓库#模型发布#数据/训练

星期四

  1. LMSYS Blog

    RadixArk 与 Google 合作将完整 SGLang 功能带到 TPU

    SGLang 维护方 RadixArk 与 Google Cloud 达成合作，把 SGLang 推理框架带到 TPU 上。目前开发者可通过 SGL-JAX 在最新几代 TPU 上运行 SGLang，支持 Gemma、Qwen、DeepSeek、GLM、Kimi、MiniMax、Grok 等模型以及 Wan、Flux 等视频图像扩散模型。今年晚些时候 RadixArk 还将推出 PyTorch 原生的 SGL-torchtpu 后端，支持 eager 执行、PyTorch 生态兼容与 MPMD，并计划让新开源模型在 TPU 与 GPU 上同日可用。

    匹配字段摘要、正文

    #company#开源/仓库#部署/工程#Google

星期二

  1. The Register

    研究：主流 AI 模型政治倾向普遍偏自由意志左翼，Grok 结果摇摆

    Unslop.run 对 16 个模型进行政治罗盘测试，包括 GPT、Claude Fable/Opus/Sonnet/Haiku、Gemini Flash、Llama 4 Maverick、Grok 4.5、DeepSeek V3、Qwen3 235B、Kimi K2、GLM 4.5 和 Mistral，每个模型跑 30 次以上。除 Grok 外，其余 15 个模型全部落在自由意志左翼象限，且跨测试结果高度一致。Grok 平均经济得分略偏左，但一半运行偏右、一半偏左，是唯一结果摇摆的模型。

    匹配字段摘要、正文

    #hot-signal#论文/研究#评测/基准#OpenAI

星期五

  1. Andrew Ng精选

    Andrew Ng 发布开源智能体 OpenWorker

    Andrew Ng 与 Rohit Prasad 发布开源智能体 OpenWorker，它不只对话，还能交付成品，例如生成文档、发送 Slack 消息或更新日历条目，可处理客户简报、整理日历、起草报告和分诊 Slack 告警，并在执行重要操作前先确认。OpenWorker 运行在 Mac 上，Windows 支持即将推出，不绑定单一模型，用户自带 API key 即可搭配 GPT 5.6 Sol、Claude Fable、Gemini 3.6、Kimi、GLM、DeepSeek、Inkling 等开源权重模型或 Ollama 本地运行，数据除经用户选择的 LLM 服务商和集成外不离开本机。

    匹配字段摘要、正文

    #analysis#开源/仓库#Agent#端侧

星期三

  1. Interconnects

    开放模型盘点：Kimi K3、Qwen 3.8、蒸馏争议与开源闭源差距

    Interconnects 播客围绕上周发布的 Kimi K3 展开开放模型季度盘点，讨论其与闭源前沿的差距、GLM 5.2 的持续作用，以及 Qwen、DeepSeek、MiniMax 等中国厂商的进展。节目还涉及蒸馏争议、美国开放模型生态、前沿与近前沿模型之分，以及针对禁令的网络安全论据。

    匹配字段摘要、正文

    #newsletter#行业动态#开源生态#Agent

星期一

  1. Recode China AI

    习近平首次出席 WAIC、Kimi K3 冲击市场与 $8.5B 存储芯片 IPO

    Recode China AI 汇总了 7 月 11 日至 18 日追踪的 334 篇报道，重点涵盖习近平首次现场出席 WAIC、月之暗面发布 Kimi K3，以及多项融资与芯片动态。Kimi K3 被称为全球最大的开放权重模型，其发布伴随美国科技股因竞争担忧而下跌。周报还提到 DeepSeek 寻求新融资、Apple Intelligence 在中国接入千问与文心一言，以及智能体和具身智能合作持续增加。

    Tony Peng's avatar

    匹配字段摘要、正文

    #ai-news#现象/趋势#Agent#具身智能

星期六

  1. Ahead of AI

    如何控制大语言模型的推理力度

    文章解释了大语言模型如何通过不同推理力度，在回答质量、token 消耗、成本和延迟之间进行权衡。其实现通常结合混合 SFT 数据、按模式调整的 RL 奖励、长度惩罚、独立专家模型或硬性 token 预算；DeepSeek V4、Nemotron 3 Ultra、Kimi K3、GLM-5、Qwen3 和 Inkling 采用了不同组合。模型规模与推理力度是两套独立控制方式，较小模型提高推理力度有时可达到与较大模型降低推理力度相近的基准成绩。

    匹配字段摘要、正文

    #newsletter#教程/实践#推理#数据/训练

星期一

  1. antirez 原创博客

    antirez：控制想法，而非代码

    Redis 作者 antirez 主张，AI 编程时代程序员应把精力放在控制软件的想法与设计上，而非逐行阅读代码。他称自己仍会审查 AI 为 Redis 生成的代码，但认为这已基本无意义，尤其自 GPT 5.5 发布、以及 Fable 和 GPT 5.6 Sol 出现之后。他用 DwarfStar 为 DeepSeek v4 和 GLM 5.2 实现推理，指出本地推理领域充满细微错误，AI 在设计严谨性与测试上远胜手写 GPU kernel。

    匹配字段摘要、正文

    #analysis#大佬观点#编码#Agent

星期五

  1. DeepLearning.AI · Andrew Ng 来信精选

    吴恩达分享用产品规格驱动编码智能体的实践方法

    吴恩达在 DeepLearning.AI 来信中提出，AI token 便宜、人类 token 珍贵，做 0 到 1 原型时不必先花大量时间写完美规格，可先让编码智能体快速搭出原型，再根据实际结果迭代规格。他还建议让智能体把关键决策记录在 SPEC.md 等文件中，并在修正问题时同步更新规格和测试计划，避免重复消耗人的输入。本期还报道了 Claude Fable 5 恢复上线、Google 发布 Nano Banana 2 Lite 与 Gemini Omni Flash，以及 DeepSeek 开源 DSpark 投机解码方法。

    匹配字段摘要

    #hot-signal#行业动态#Anthropic#OpenAI

星期三

  1. Together AI Blog

    Together AI 完成 8 亿美元 C 轮融资，加速开源 AI 转型

    Together AI 宣布完成 8 亿美元 C 轮融资，投资方包括 NVIDIA、Aramco Ventures、Vista Equity、General Catalyst 等，并额外锁定超过 500 MW 算力容量。其平台客户涵盖 Cursor、Eleven Labs、Suno、Cognition、Decagon 等，使用 DeepSeek、Nemotron、MiniMax、Kimi、GLM 等开源权重模型可实现 6x 至 20x 的成本降低，Decagon 迁移后推理成本下降六倍。

    匹配字段摘要、正文

    #company#行业动态#数据/训练#部署/工程

星期五

  1. LMSYS Blog

    LMSYS 用 Waterfill 与 LPLB 改进 SGLang 中 DeepEP MoE 负载均衡

    LMSYS 在 SGLang 中为 DeepEP MoE 推理引入两种调度期负载均衡方案：面向共享专家路径的 Waterfill 和基于线性规划、面向冗余专家副本的 LPLB。在两台 Hopper GPU 节点上，Waterfill 在 MMLU、GPQA、GSM8K 上把总吞吐提升 1.48% 至 4.66%，DeepSeek V4 上最佳点从 49,253 tok/s 升至 51,677 tok/s（+4.92%）；LPLB 在冗余 EPLB 部署下提升 0.84% 至 7.34%。

    Waterfill timeline before and after shared-expert balancing

    匹配字段摘要、正文

    #company#教程/实践#部署/工程#开源生态

星期五

  1. OpenRouter：Announcements

    OpenRouter 发布 Fusion：多模型融合在 DRACO 深度研究基准上超越前沿模型

    OpenRouter 发布 Fusion，一次 API 调用即可把多个模型的结果交给裁判模型融合，在 DRACO 的 100 项深度研究任务上，Fable 5 与 GPT-5.5 融合得分 69.0%，超过 Fable 5 单独运行的 65.3%。由 Gemini 3 Flash、Kimi K2.6 和 DeepSeek V4 Pro 组成的低成本组合也超过了 GPT-5.5 和 Opus 4.8，成本仅为 Fable 5 的一半。Fusion 可通过 chatroom、model slug、server tool 和 plugin 四种方式使用，调用时耗时通常是普通请求的 2-3 倍。

    Surpassing Frontier Performance with Fusion

    匹配字段摘要、正文

    #company#产品更新#Agent#推理
  2. OpenRouter：Announcements精选

    OpenRouter 发布 Fusion：多模型融合超越前沿模型

    OpenRouter 发布 Fusion，可将多个模型的结果融合后输出，调用方式与单个模型相同。在 DRACO 的 100 个深度研究任务上，Fable 5 与 GPT-5.5 融合得分 69.0%，高于 Fable 5 单独的 65.3%；由 Gemini 3 Flash、Kimi K2.6 和 DeepSeek V4 Pro 组成的低成本组合超过 GPT-5.5 和 Opus 4.8，成本仅为 Fable 5 的一半。Fusion 可通过 chatroom、模型 slug、server tool 或 plugin 四种方式使用。

    匹配字段摘要、正文

    #company#产品更新#Agent#部署/工程

星期四

  1. 小米 MiMo精选

    小米 MiMo 开源终端编码助手 MiMo Code V0.1

    小米 MiMo 发布并开源终端编码助手 MiMo Code V0.1，采用 MIT 许可，附带限时免费的 MiMo V2.5 多模态模型，支持百万 token 上下文窗口。该工具提供无限上下文、Agent 与模型协同、Compose Mode、自进化系统以及基于 MiMo-V2.5-ASR 的语音输入，并兼容 Claude Code，可自动加载已有的 skills、MCP 服务器和命令并复用 API 配置。Mac 与 Linux 可用一行 curl 命令安装，Windows 通过 npm install -g @mimo-ai/cli 安装，同时支持 Anthropic、OpenAI、DeepSeek、Kimi、GLM 等模型提供方。

    匹配字段摘要、正文

    #company#开源/仓库#编码#Agent

星期四

  1. LMSYS Blog

    AMD Instinct MI355X 借助 SGLang 与 MoRI 实现成本可竞争的分布式推理

    SGLang 与 AMD 团队合作，在 AMD Instinct MI355X 上通过 SGLang 与 MoRI 通信库优化 DeepSeek-R1 分离式推理，在 129 tok/s/user 交互性下达到每百万 token 0.169 美元，比 B200 TRT-LLM 低 5%、比 B200 SGLang 低 40%，每 GPU 吞吐 2,436 tok/s（24 GPU），比 B200 SGLang 高 1.25 倍。优化包括 MoRI 量化 all-to-all（往返带宽最多降低 2.56 倍）、MoRI-IO KV cache 后端（吞吐比 Mooncake 高约 10%）、SDMA 双批次重叠、ROCm 上的 Specv2 MTP 以及 CPU 流式优化。结果已开源并通过 SemiAnalysis 的 InferenceX 持续验证。

    匹配字段摘要、正文

    #company#行业动态#部署/工程#推理

星期一

  1. antirez 原创博客

    antirez 谈 DwarfStar 中的 LLM 分布式推理

    antirez 在 DwarfStar 项目中探讨本地 LLM 推理的分布式方案：Mac Studio M3 Ultra 512GB 可跑 DeepSeek v4 PRO，约 150 t/s prefill、10-13 t/s 解码；M5 Max 128GB 跑 2-bit 量化的 DeepSeek v4 Flash 和 Mimo V2.5 可达约 500 t/s prefill、35-40 t/s 解码。他提出层切分、基于 Apple RDMA 的专家并行，以及共享无关的 LLM ensemble 三种思路，认为 ensemble 是被低估的第三方向。

    匹配字段摘要、正文

    #analysis#现象/趋势#部署/工程#推理

星期二

  1. antirez 原创博客

    antirez 为 LLM 智能体重新设计基于标签的 EDIT 工具

    antirez 为 DS4 项目的本地智能体重新设计了基于标签的 EDIT 工具，用 4 字符校验和标签替代逐字重写旧文本，以节省 token 并提升编辑可靠性。READ 和 SEARCH 工具返回“行号:标签”格式，编辑时只需指定行号、标签和新内容，DeepSeek v4 Flash 能高效使用该工具。另一种方案是仅返回整个文件的 CRC32，token 更少但无关改动也会导致编辑失败。

    匹配字段摘要、正文

    #analysis#教程/实践#Agent#编码

星期一

  1. Zyphra Research

    Zyphra 在 AMD MI355X 上推理性能基准测试：对比 B200

    Zyphra 发布 Zyphra Inference 在单节点 AMD Instinct MI355X GPU 上的首批端到端基准，覆盖 Kimi K2.6、GLM-5.1 和 DeepSeek V3.2，并与 AMD MI355X 与 Nvidia B200 基线配置对比。MI355X 每卡提供 288 GB HBM3E（B200 为 180 GB），两者 HBM 带宽均约 8 TB/s，但 MI355X 采用全连接 xGMI 点对点互联，8 路集合通信峰值 537.6 GB/s。测试使用 ShareGPT 与 LMSYS-Chat-1M，仅限 vLLM 框架、单节点且无真实流量。

    匹配字段摘要、正文

    #lab#评测/基准#部署/工程#推理

星期六

  1. Ahead of AI

    近期大语言模型架构进展解析：KV 共享、mHC 与压缩注意力

    文章解析 Gemma 4、Laguna XS.2、ZAYA1-8B 和 DeepSeek V4 如何通过 KV 共享、分层注意力预算、mHC 与压缩注意力降低长上下文成本。Gemma 4 E2B 在 128K 上下文中可节省 2.7 GB KV cache，DeepSeek V4-Pro 在 1M-token 上下文下的单 token 推理 FLOPs 和 KV cache 分别降至 DeepSeek V3.2 的 27% 和 10%。这些设计显示 Transformer 架构正以更复杂但更具针对性的改动提升长上下文推理效率。

    匹配字段摘要、正文

    #newsletter#教程/实践#部署/工程#推理

星期五

  1. antirez 原创博客

    antirez 谈 DS4：本地推理为何突然变得可用

    Redis 作者 antirez 发文谈 DwarfStar 4（DS4）项目意外走红的原因，认为准前沿模型的发布加上 2/8 bit 非对称量化方案，让 96 或 128GB 内存足以在本地运行，同时 GPT 5.5 也加快了开发。他表示这是自己第一次把本地模型用于原本会交给 Claude 或 GPT 的正式工作，并称 DeepSeek v4 Flash 表现令人印象深刻。后续项目将聚焦质量基准、内置编码智能体、本地 CI 硬件、更多移植以及串行与并行分布式推理。

    匹配字段摘要、正文

    #analysis#开源/仓库#端侧#开源生态