←搜索结果

按匹配度 · 共 3156 条结果 清除搜索

星期五

  1. Arena

    Claude Sonnet 5.5 以 xHigh 推理进入 Code Arena WebDev 榜单第 3 名

    Arena.ai 宣布 Claude Sonnet 5.5 以 xHigh 推理进入 Code Arena: WebDev 榜单,得分 1786 分,排名第 3。其混合价格为 $8/M tokens,与第 2 名 GPT-6 Astra 的 1788 分仅差 2 分,价格约为其 80%。分领域看,Claude Sonnet 5.5(xHigh)在 Gaming、Reference-Based Design、Brand & Marketing 排第 2,Simulations 第 3,Content Creation Tools 和 Consumer Product 第 4,Data & Analytics 第 6。

    匹配字段标题、摘要

星期四

  1. The Decoder

    OpenAI 称已阻断窃取模型推理的攻击,但同一手法在 Azure 上仍奏效

    OpenAI 称已检测并关闭一场针对其模型隐藏推理的对抗性蒸馏攻击,该活动 7 月 1 日以小规模开始,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账号,到 7 月 28 日已全部封禁。OpenAI 将核心参与者与 Moonshot AI 相关人员关联,并称已封禁欺诈账号、收紧注册并堵住加密推理被复用读取的漏洞。研究者 Joachim Schaeffer 团队 9 月 13 日复测发现,该攻击在 OpenAI 和 Anthropic 自家 API 上被拦截,但在 Microsoft Azure 上对包括 GPT-6 Astra 在内的每个 OpenAI 模型以及最高到 Sonnet 5 的 Anthropic 模型仍然有效,一次尝试即可逐字提取推理内容。

    匹配字段标题、摘要

  2. A6 a6-051 · Cerebras:Blog

    StackAI 集成 Cerebras,为企业 AI 智能体提供最快推理

    StackAI 将 Cerebras 集成进其低代码企业 AI 智能体平台,在理赔分诊、合规检查、信贷决策等需要人工介入的环节默认采用 Cerebras 推理,实现亚秒级延迟,速度最高可达 GPU 的 15 倍。StackAI 支持企业按步骤自选开源模型与推理提供商,Cerebras 还支持私有部署、混合部署和安全 API 集成,服务金融、医疗与政府客户。

    匹配字段标题、摘要

  3. A6 a6-051 · Cerebras:Blog

    Cerebras:推理速度最高比 NVIDIA GPU 快 15 倍,速度成为准确率杠杆

    Cerebras 称其推理速度最高可达 NVIDIA GPU 的 15 倍,且无需 CUDA 迁移成本,可直接在现有开源模型上用于生产环境。文章认为,自 2024 年底 OpenAI 首个推理模型发布后,准确率越来越依赖更多推理步骤,速度不再只是可用性门槛,而是提升准确率的关键杠杆。

    匹配字段标题、摘要

  4. A6 a6-051 · Cerebras:Blog

    Rox 如何用 Cerebras 推理为智能体销售工作流提速

    Rox 在其企业营收智能体平台中采用 Cerebras Inference 作为低延迟推理路径,通过按意图动态路由模型,让 Command 对话、语音免手操作和实时研究查询即时响应,深度研究任务则交给后台大模型处理。Rox 创始工程师称响应速度比此前方案快 10-20 倍,且输出质量保持出色。Cerebras Inference 现已上线 AWS Marketplace,按 token 付费、无需自建基础设施,可在原有 AWS 账单与安全框架内通过 API 接入。

    匹配字段标题、摘要

  5. A6 a6-051 · Cerebras:Blog

    OpenAI 与 Cerebras 达成多年协议,部署 750 兆瓦晶圆级推理系统

    OpenAI 与 Cerebras 签署多年协议,将部署 750 兆瓦的 Cerebras 晶圆级系统为 OpenAI 客户提供推理服务,从 2026 年起分多阶段推进。Cerebras 称这是全球规模最大的高速 AI 推理部署,其系统运行大语言模型时响应速度最高可达 GPU 系统的 15 倍。OpenAI 的 Sachin Katti 表示,Cerebras 为其平台补充了专用的低延迟推理方案。

    匹配字段标题、摘要

  6. A6 a6-051 · Cerebras:Blog

    Cerebras 发布第四代系统 CS-4,称推理速度最高达 GPU 系统 30 倍

    Cerebras 发布第四代系统 CS-4,由三颗 Wafer Scale Engine 3 Turbo 处理器构成,官方称其推理速度最高可达 GPU 系统的 30 倍,每瓦吞吐量最高为 CS-3 的 10 倍。CS-4 将晶圆间互联延迟降至最低 2 微秒,可在超过 10 万亿参数的模型上实现每秒 1000 token 以上,并原生支持解耦推理,可搭配 AMD Helios、AWS Trainium 等平台做 prefill。该系统基于新的 Cerebras Nexus 平台架构,组件数量减少 50%,首批出货于本季度开始。

    匹配字段标题、摘要

  7. A6 a6-051 · Cerebras:Blog

    AlphaSense 如何用 Cerebras 快速推理实现智能体研究

    AlphaSense 与 Cerebras 合作,用快速推理为 Generative Search 加速路由、查询生成和证据评估等高频模型调用,让系统在同样的响应时间内完成更多推理步骤。Generative Search 提供三种研究模式,共享同一套研究架构,按用户意图动态调整规划、检索、工具调用、证据评估与综合的深度。

    匹配字段标题、摘要

  8. A6 a6-051 · Cerebras:Blog

    智谱 GLM-4.7 上线 Cerebras,推理速度约 1000 tokens/秒

    Cerebras 宣布智谱最新 GLM 系列模型 GLM-4.7 已在其 Inference Cloud 上线,代码生成速度约 1000 tokens/秒,部分场景可达 1700 TPS。该模型在 SWEbench、τ²bench、LiveCodeBench 等开发者基准上领先 DeepSeek-V3.2,并引入交错思考与保留思考机制,支持跨轮次保留推理上下文。GLM-4.7 与 GLM-4.6 的 chat completions 工作流完全兼容,迁移通常只需更新模型名,Cerebras 称其性价比约为 Claude Sonnet 4.5 的 10 倍。

    匹配字段标题、摘要

  9. A6 a6-051 · Cerebras:Blog

    Cerebras 上线 GLM-4.6,推理速度超 1000 tokens/秒

    Cerebras 在其 Inference API 上线 GLM-4.6,称这是其目前能力最强的模型,在推理、工具调用和编码上有较大升级,速度超过 1000 tokens/秒。Cerebras 表示,GLM-4.6 在许多任务上输出水平与 Sonnet 4.5 相当,但速度快 17 倍、价格便宜 25%。该模型即日起在其按量付费开发者档(10 美元起)和 Cerebras Code 订阅(50 美元/月起)提供,并支持 Cline、VS Code、OpenCode、RooCode 等工具。

    匹配字段标题、摘要

  10. A6 a6-051 · Cerebras:Blog精选

    Cerebras 解读 GPT-5.6 Sol、Terra、Luna 的模型与推理档位选择

    Cerebras 发文介绍 Codex 订阅中的 GPT-5.6 三款模型 Sol、Terra、Luna,三者独立训练与部署并带推理档位,用于在速度、成本和智能之间取舍。价格上 Terra 为 Sol 的一半,Luna 为 Sol 的五分之一,短上下文和长上下文均如此。文中建议多数任务先用 Luna,进展受阻时再升级到 Terra 或 Sol,Sol 在 Cerebras 上可达 750 tokens/s,并给出 Codex 中 Light 到 Ultra 五档推理级别的用法。

    匹配字段标题、摘要、正文

  11. A6 a6-051 · Cerebras:Blog

    Cerebras 上线 Gemma 4 31B,多模态推理超 1800 tokens/s

    Cerebras 在 Cerebras Inference Cloud 以公开预览形式上线 Gemma 4 31B,输出速度超过 1800 tokens/s,据 Artificial Analysis 测得为 1851 tokens/s,约为典型 GPU 端点的 35 倍,含推理的首个答案 token 延迟 1.5 秒。这是 Cerebras 平台首个支持图像理解的模型,也是首个上线的 Google DeepMind 模型,可处理截图、图表、UI 状态等视觉输入。该模型为 Apache 2.0 开源权重,在 Artificial Analysis 智能指数上得分 29,与 Claude Haiku 4.5 的 30 分接近,但在 Cerebras 上运行速度快 18 倍。

    匹配字段标题、摘要

  12. A6 a6-051 · Cerebras:Blog

    Cerebras 生态扩展:晶圆级引擎实现最高 15 倍推理加速

    Cerebras 正把超低延迟推理从差异化优势变成平台基础设施,其晶圆级引擎在单芯片上统一算力、内存与带宽,推理速度最高可达传统 GPU 系统的 15 倍。公司同时扩展模型、云与开发者工具生态,覆盖 AG2/AutoGen、CrewAI、Aider、Cline、VS Code、Windsurf 等框架,并支持公有云、本地及私有部署。

    匹配字段标题、摘要

  13. A6 a6-051 · Cerebras:Blog

    Cerebras 解读分离式推理:AWS 合作架构与开发者影响

    Cerebras 发文解释分离式推理,即把 LLM 推理的 prefill 与 decode 拆到不同硬件上运行。文中提到 3 月 13 日 AWS 与 Cerebras 宣布分离式推理合作,由 AWS Trainium 负责 prefill、Cerebras CS-3 负责 decode,通过 EFA 网络连接并在 Amazon Bedrock 上提供。Cerebras 称该方案预计可将 token 吞吐提升至聚合方案的 5 倍,并援引研究称智能体负载的 P95 延迟最多改善 4.5 倍。

    匹配字段标题、摘要

  14. A6 a6-051 · Cerebras:Blog

    Cerebras 上线 Kimi K2.6 企业试用,推理速度达 981 tokens/s

    Cerebras 宣布在企业客户试用中运行万亿参数开源权重模型 Kimi K2.6,Artificial Analysis 测得输出速度 981 tokens/s,比次快的 GPU 云快 6.7 倍、比中位推理服务商快 23 倍。在 10000 token 输入、生成 500 token 输出的请求中,Cerebras 用时 5.6 秒,官方 Kimi 端点为 163.7 秒,最终答案时间缩短 29 倍。Cerebras 将 Kimi K2.6 以原始 4-bit 权重存储、16-bit 浮点计算,权重分布到多块晶圆并靠片上网络做层间 all-to-all 通信。

    匹配字段标题、摘要

  15. A6 a6-051 · Cerebras:Blog精选

    Cerebras 与 AWS 合作,CS-3 将部署到 AWS 数据中心并通过 Bedrock 提供推理

    Cerebras 宣布 AWS 将在其数据中心部署 Cerebras CS-3 系统,并通过 AWS Bedrock 提供推理服务,运行领先的开源 LLM 和 Amazon Nova 模型。双方还在合作一种解耦架构,把 AWS Trainium 与 Cerebras WSE 配对,在相同硬件占用下提供 5 倍的高速 token 容量。该架构中 Trainium 负责 prefill 并计算 KV cache,经 Amazon EFA 传给 WSE 专做 decode,Cerebras 称其可每秒生成数千个输出 token,而 GPU 为数百个。AWS 与 Cerebras 将同时支持聚合与解耦两种配置,预计多数客户会按负载在两者间路由。

    匹配字段标题、摘要

  16. A6 a6-051 · Cerebras:Blog

    Cerebras 在 NeurIPS 2025 发布九篇论文,覆盖预训练到推理

    Cerebras 在 NeurIPS 2025 上展示九篇论文,覆盖预训练到推理,包括让 32B 模型在自家基准上超越 235B+ 竞品的 CODA 测试时计算架构、面向视觉语言模型的 DREAM 投机解码框架,以及 CompleteP 参数化和超参数缩放定律研究。Cerebras 去年 8 月推出推理 API,并在俄克拉荷马城开设新数据中心。

    匹配字段标题、摘要

  17. A6 a6-051 · Cerebras:Blog

    Cerebras 与 Upstage 合作,Solar 31B 推理速度达 2000 tokens/s

    Cerebras 与韩国 AI 公司 Upstage 合作,在 Cerebras Wafer-Scale Engine 上运行 Upstage 的 Solar 31B,推理速度最高可达 2000 tokens/s。开发者可通过 Cerebras Inference Cloud 和 OpenAI 兼容 API 在不改变现有开发流程的情况下使用 Solar 模型。Cerebras 称,Solar 31B 处理 246 个信息源的深度研究查询,而 Sonnet 4.6 在类似信息源数量下需 8 分钟。

    Video thumbnail

    匹配字段标题、摘要

  18. A6 a6-051 · Cerebras:Blog

    Cognition SWE-1.6 在 Cerebras 上实现最高约 950 tokens/秒推理

    Cognition 的 SWE-1.6 与 SWE-grep 系列由 Cerebras Inference 提供推理,编码性能达到前沿水平,速度最高约为 GPU 的 5 倍。SWE-1.6 在 Windsurf 快速档上最高可达 950 tokens/秒,SWE-Bench Pro 成绩为 50.4%,高于 SWE-1.5 的 40.1%。该模型还更多使用并行工具调用、更少循环,并更依赖自身工具而非终端命令。

    匹配字段标题、摘要

  19. A6 a6-051 · Cerebras:Blog

    Cerebras:更快的 AI 推理如何强化网络安全

    Cerebras 发文指出,攻击者正用 AI 加速侦察、钓鱼、恶意软件变种、漏洞发现与利用开发,而企业部署的 AI copilot 与智能体工作流又带来新的安全问题。文章主张采用分层架构:由规则、经典模型和小语言模型完成过滤、分类、去重与路由,再用更强的推理模型升级处理可疑事件、高风险发现和敏感工具调用,让更快的推理在用户体验不被打断的前提下塞进更多上下文、推理与验证。

    匹配字段标题、摘要