←搜索结果

按匹配度 · 共 1346 条结果 清除搜索

星期四

  1. A6 a6-051 · Cerebras:Blog

    智谱 GLM-4.7 上线 Cerebras,推理速度约 1000 tokens/秒

    Cerebras 宣布智谱最新 GLM 系列模型 GLM-4.7 已在其 Inference Cloud 上线,代码生成速度约 1000 tokens/秒,部分场景可达 1700 TPS。该模型在 SWEbench、τ²bench、LiveCodeBench 等开发者基准上领先 DeepSeek-V3.2,并引入交错思考与保留思考机制,支持跨轮次保留推理上下文。GLM-4.7 与 GLM-4.6 的 chat completions 工作流完全兼容,迁移通常只需更新模型名,Cerebras 称其性价比约为 Claude Sonnet 4.5 的 10 倍。

    匹配字段摘要、正文

  2. A6 a6-051 · Cerebras:Blog

    Gemma 4 在 Cerebras 上跑出约 2300 tok/s:三个多模态应用实测

    Google 开源多模态模型 Gemma 4 31B 在 Cerebras 上以约 2300 tok/s 运行,首次让开源多模态模型突破 2000 tok/s。实测中,60 页 DeepSeek-V4 技术报告解析仅用 1.79 秒,比 GPU 提供商快 17 倍;基于 17 帧视频的租车损伤检测应用 5 秒内完成全部标注。

    匹配字段摘要、正文

  3. A6 a6-051 · Cerebras:Blog

    Cerebras:快速推理找到节奏

    Cerebras 回顾 2025 年:DeepSeek R1 Llama 70B 在其芯片上以超过 1500 tokens/秒运行,约为 GPU 的 57 倍;Artificial Analysis 独立测试显示其推理性能超过 NVIDIA Blackwell 的纪录。Cognition 的 SWE-1.5 与 SWE-grep 系列实现前沿级编码性能,速度最高达通用模型的 13 倍。Cerebras 在俄克拉荷马州启用 40+ exaflop 数据中心,并在北美和欧洲布局超过 7 个数据中心。

    匹配字段摘要、正文

  4. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客:模型性能优化实践汇总

    Baseten 工程博客的模型性能栏目汇总了多项推理优化工作,包括让 pyannote 的说话人分离(diarization)模型提速 9.6x、让 Kimi K3 的 tokenization 在百万 token 智能体负载下提速 18x,以及为 DeepSeek V4 Pro 0813 做推理工程优化。该栏目还涵盖托管 RL rollout 的 delta 权重同步优化、Coval 语音 AI 基准测试,以及为 Kimi K3 和 GLM-5.2 构建 API 的实践。

    匹配字段摘要、正文

  5. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客 AI 模型文章列表

    Baseten 工程博客的 AI 模型栏目汇集多篇模型与推理工程文章,包括 NVIDIA Nemotron 3 Diarization 实现每音频小时一美分的实时说话人标注、DeepSeek-V4.1-Flash 面向编码智能体的更高效 prefill,以及 NVIDIA Nemotron 3.5 Lightning、Nemotron 3.5 ASR Streaming、Nemotron 3 Embed 等新模型介绍。此外还涵盖 GLM-5.3 后训练扩展、GLM 5.2 视觉能力、Laguna S 2.1 与开源后训练模型推荐等主题。

    匹配字段摘要、正文

星期二

  1. 智慧城市行业分析

    中国信通院发布《驾驭工程:赋能智能原生软件工程研究报告(2026年)》

    中国信通院云计算与数字化研究所发布《驾驭工程:赋能智能原生软件工程研究报告(2026年)》,聚焦驾驭工程在智能原生软件工程中的应用,提出设计原则、六大核心能力与L1-L5能力成熟度模型。报告称截至2026年5月,67.3%软件企业已将AI投入生产,31.2%完成智能体与核心流程内嵌部署;海外Anthropic等已形成商业产品矩阵,OpenAI于2026年8月开源Codex Harness,国内DeepSeek开源Harness框架24小时获约5.5万星。报告还给出易鑫智能体持续执行16小时、自主交付率65%等落地案例,并展望标准形成、平台化、基础设施化三阶段演进。

    匹配字段摘要、正文

  2. Inception Labs Blog

    Inception 公布 Mercury 2 在 PinchBench 上的评测结果

    Inception Labs 公布 Mercury 2 在 PinchBench 上的评测结果:任务成功率 78%,高于 GPT-5 Mini 的 75%、Gemini 2.5 Flash 的 71%、DeepSeek Chat 的 72% 和 GPT-4o 的 71%,并在同准确率档位中执行时间最快。定价为每 100 万 token 输入 0.25 美元、输出 0.75 美元,约为 Claude 4.5 Haiku 输入输出的四分之一。PinchBench 基于 OpenClaw 构建,考察工具调用、多步推理和真实任务完成情况,Mercury 2 的速度来自并行细化而非逐 token 生成。

    匹配字段摘要、正文

星期六

  1. 虎嗅

    英伟达芯片难买后,中国大模型靠什么继续跑

    虎嗅分析指出,国产算力已能兜底大模型运行,智谱国产芯片推理集群达10万卡规模,美团LongCat-2.0也在国产算力上完成训练,但昇腾910C在万亿参数后训练中MFU约30%-35%,低于H100的40%-50%。文章把算力效率拆成芯片、软件、模型三个变量,并对比智谱、MiniMax、DeepSeek、Kimi四条路径,认为短期确定性最高的是智谱,中期弹性最大的是DeepSeek。作者提出产能、效率、成本三项跟踪指标,三者同时改善时国产算力才可能从备份选项转为成本优势。

    匹配字段摘要、正文

  2. 量子位

    纯C推理框架Colibrì走红GitHub:25GB笔记本跑744B GLM-5.2,SSD当显存用

    GitHub 开源项目 Colibrì 用纯 C 实现分层推理,把 MoE 模型不常用的路由专家放在 NVMe SSD 上按需读取,让 744B 的 GLM-5.2 在最低 16GB、推荐 24GB 左右 RAM 的机器上运行,GPU 不是必需品,项目已获 32k Star。作者最初的开发机只有 12 核 CPU 加 25GB RAM,冷缓存时速度约 0.05~0.1 token/s,靠 LRU 缓存、专家使用频次统计和提前一层预测专家(可预测性 71.6%)把速度提上来,128GB RAM 纯 CPU 桌面机约 1.8 token/s,6 张 RTX 5090 可达 5.8~6.8 token/s。目前它已覆盖 9 个模型家族,从 GLM-5.2/5.3、DeepSeek V4 Flash、Qwen 到 975B 的 Inkling 和 2.8T 参数的 Kimi K3,后者约需 1.6TB 存储、RAM 32GB 起步。

    匹配字段摘要、正文

星期五

  1. 量子位

    平头哥公布 T-Head SAIL 软件栈开源进展,扩大真武芯片框架与加速库开放范围

    平头哥在云栖大会公布 AI 软件栈 T-Head SAIL 的最新开源进展,已开源 PyTorch-for-sail 框架适配、sailify 源码迁移工具、Triton-for-sail 算子开发工具,以及 DeepGEMM-for-sail、FlashAttention-for-sail 等计算加速项目。SAIL 是围绕真武 AI 芯片打造的类 CUDA 软件栈,连接 PyTorch 等上层框架与底层硬件,负责模型迁移、编译执行、计算加速和开发调试。据现场披露,真武 AI 芯片已服务 20 多个行业的 650 多家客户,截至 2026 年 9 月在 ModelScope 上提供 39 个量化模型,覆盖 Qwen、DeepSeek、Kimi 等系列,累计下载超过 34.8 万次。

    匹配字段摘要、正文

  2. BBC 中文

    中美AI竞赛:世界变得更危险还是更安全?

    Anthropic 一名顶尖 AI 安全研究人员警告,AI 技术正以惊人速度发展,未来十年内“可能导致全人类灭绝”的概率高达 10%。这引发美国是否应放缓 AI 发展、设置监管“护栏”的争论,特朗普认为放慢步伐可能把主导地位让给竞争对手。DeepSeek、月之暗面等中国 AI 服务显示,中国竞争者能力可能已与美国前沿 AI 实验室相当。

    匹配字段摘要、正文

  3. gihyo.jp

    Debian 推出免费 AI 推理门户 Debian Inference Portal

    Debian 项目在 Scaleway 赞助下推出 Debian Inference Portal,持有 Salsa 账号的 DD 和 DM 可免费通过 API 调用 DeepSeek V4 Flash 与 GLM-5.2 两个模型。默认预算为 DD 每周 25 美元、DM 每周 10 美元,支持任何兼容 OpenAI API 格式的编辑器或工具接入,用途限于打包、缺陷分类修复、工具开发与文档撰写等贡献工作。

    匹配字段摘要、正文

星期三

  1. 德国之声中文网

    德语媒体:莫把AI比核弹

    《法兰克福汇报》评论认为,将中美人工智能对话与美俄核武谈判相提并论看似合理实则荒谬,因为管控核武器的一直是国家领导人,而AI风险来自大大小小的高科技企业。评论指出,真正的挑战是如何把地缘政治层面的协定转化为各国运作机制,有效控制Anthropic、OpenAI、Meta、Alphabet等巨头以及DeepSeek、Moonshot AI、Minimax、Zhipu AI等中国初创企业的研发进度。

    匹配字段摘要、正文

  2. BBC 中文

    特朗普与习近平会面在即,中国的AI雄心正在乌兰察布高歌猛进

    在特朗普与习近平会面讨论人工智能安全之际,中国正于乌兰察布、宁夏、甘肃和贵州等地兴建数以百计的数据中心,服务华为、字节跳动和 DeepSeek 等企业,目标是到 2030 年把人工智能融入 90% 的行业和社会领域。北京鼓励企业开发更具成本效益的开源模型,以应对无法取得先进晶片的挑战,同时中国每年培养约 500 万名科学与技术领域毕业生,而美国约为 50 万名。

    匹配字段摘要、正文

  3. NVIDIA Developer · Generative AI

    NVIDIA 机密计算如何让 TensorRT LLM 在 Blackwell 上保持生产级推理性能

    NVIDIA 机密计算(CC)通过内存加密的机密虚拟机、机密 GPU 和加密 NVLink,让生产级 AI 推理运行在可信硬件上。在 8 块 NVIDIA B200 GPU 上运行 DeepSeek-R1 的受控对比中,CC 开启后保留了基线 96.1%–98.2% 的输出 token 吞吐,单 token 延迟(TPOT)仅增加 1.2%–4.3%(并发 1–16)。TensorRT LLM 为此改用可分页内存、异步 token 回读,并以 GPU %globaltimer 替代 CUDA events 做内核自动调优。

    匹配字段摘要、正文

星期二

  1. Thomas Wolf

    Thomas Wolf 列出约十周内三十余个开源模型发布,回应开源正在消亡的说法

    Hugging Face 的 Thomas Wolf 在 X 上列出 Dylan Patel 访谈之后约十周内发布的开源模型清单,包括 Moonshot Kimi K3、Qwen3.8-Max、DeepSeek V4-Pro、腾讯 Hy4、GLM-5.3 和上海 AI Lab Atria Dawn 等三十余项,并指出其中多个达到前沿规模,如 Kimi K3 的 2.8T、Qwen3.8-Max 的 2.4T、DeepSeek V4-Pro 的约 1.6T。该推文引用的访谈中,Dylan Patel 称有中国模型实验室告知推理厂商下一代模型将不再开源、改为授权,并称开源正在快速消亡。

    匹配字段摘要、正文

星期一

  1. Fireworks AI

    Fireworks 分析:按任务路由模型可让编码智能体从 74.1% 升至 97.6%

    Fireworks AI 在 DeepSWE v1.1 的 113 个编码任务上测试 18 个模型,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而按任务事后挑选最优模型可达 97.6%、每任务 1.88 美元。仅用开源模型池(DeepSeek V4 Flash 与 Pro、GLM-5.3 与 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)也能达到 90.3%、每任务 1.45 美元。作者指出该结果是事后视角的上限,真实路由需在任务开始前预测模型,并称 FireRouter 在其四周生产编码流量中把 2334 个会话的成本从 15.81 美元降至 7.42 美元。

    匹配字段摘要、正文

  2. A6 a6-052 · Fireworks AI

    Fireworks 研究:多模型路由在 DeepSWE 编码任务上达 97.6% 通过率

    Fireworks 基于 DeepSWE v1.1 的 113 个智能体编码任务、18 个模型各四次 rollout 分析发现,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而事后为每个任务挑选最优模型可达 97.6%、每任务 1.88 美元。仅限开源权重模型(DeepSeek V4 Flash 和 Pro、GLM-5.3 和 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)时仍达 90.3%、每任务 1.45 美元。Fireworks 称其 FireRouter 在四周 2334 个生产编码会话中把成本从单用 Opus 5 的 15.81 美元降至 7.42 美元,降幅 53%。

    匹配字段摘要、正文

星期日

  1. Recode China AI

    华为加速追赶 Nvidia 至 2027,北京称 Amodei 的 AI 减速论是“散布恐慌”,Manus 估值翻倍

    华为在 HUAWEI CONNECT 2026 上发布 Peerium 计算架构、面向 10 万亿参数模型的 Atlas 960E SuperPoD 及 AI Cluster Service,并计划到 2027 年推出两款 Ascend 级芯片对标 Nvidia。北京将 Anthropic CEO Dario Amodei 的“放缓”前沿 AI 呼吁斥为散布恐慌,特朗普则淡化对 AI 发展的限制。Manus 寻求 40 亿美元估值融资 5 亿美元,Z.ai 目标再融约 50 亿美元并将 ARR 目标上调 25% 至约 30 亿美元,DeepSeek 聘请高瓴交易人出任 CFO 筹备 IPO。

    Tony Peng's avatar

    匹配字段摘要、正文

星期五

  1. SemiAnalysis

    SemiAnalysis 复现 Engram 架构并实测 DRAM/SSD 卸载

    SemiAnalysis 复现了 DeepSeek 的 Engram 架构,在 fineweb-edu 上以约 6E18 FLOPs 每轮训练,观察到与原文一致的 U 型扩展规律,Engram 优于纯 MoE 基线。其 DeepSeek-V4.1-Flash 配置中 Engram 约占 189 GiB 内存,改用 mmap 文件并卸载到 SSD 后,B200 上 DRAM 方案在约 125 tokens/s/user 时每美元可产出 1.21 亿 token,SSD 仅 5200 万,作者认为生产环境中 SSD 卸载并不划算。在 B300 上启用 Engram 卸载可从 TP4 切到 TP2,帕累托曲线提升最多 1.6 倍。

    匹配字段摘要、正文