←搜索结果

搜索“推理”

按匹配度 · 共 680 条结果 清除搜索

星期二

  1. 事件1 条新闻 · 1 个事实

    Cerebras 主张推理速度已成为准确率杠杆

    2026年2月19日,Cerebras 提出一项主张:推理速度不再只是可用性阈值,而是提升准确率的关键杠杆。其官方博客称,Cerebras 推理速度最高可达 NVIDIA GPU 的 15 倍,且无需 CUDA 迁移成本,可直接在现有开源模型上用于生产环境。该文章认为,自 2024 年底 OpenAI 首个推理模型发布后,准确率越来越依赖更多推理步骤,因此速度的意义从可用性门槛转向准确率杠杆。目前该主张仅有 Cerebras 一方来源,尚无其他独立来源或后续发展事实。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    StackAI 集成 Cerebras 推理层

    2026年1月28日,StackAI 集成 Cerebras 推理层。据 Cerebras 官方博客,StackAI 将 Cerebras 集成进其低代码企业 AI 智能体平台,在理赔分诊、合规检查、信贷决策等需要人工介入的环节默认采用 Cerebras 推理,实现亚秒级延迟,速度最高可达 GPU 的 15 倍。StackAI 支持企业按步骤自选开源模型与推理提供商;Cerebras 还支持私有部署、混合部署和安全 API 集成,服务金融、医疗与政府客户。目前尚无后续发展事实。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    Cerebras 称超低延迟推理正成为平台级优先事项

    2026年4月28日,Cerebras 提出判断:超低延迟推理正从差异化优势转变为 AI 应用的关键要求,并成为平台级优先事项。Cerebras 正把超低延迟推理从差异化优势变成平台基础设施,其晶圆级引擎在单芯片上统一算力、内存与带宽,推理速度最高可达传统 GPU 系统的 15 倍。公司同时扩展模型、云与开发者工具生态,覆盖 AG2/AutoGen、CrewAI、Aider、Cline、VS Code、Windsurf 等框架,并支持公有云、本地及私有部署。目前该判断由 Cerebras 官方博客披露,尚无其他独立来源交叉印证。

    匹配字段标题

  4. 事件1 条新闻 · 1 个事实

    AWS与Cerebras宣布解耦推理合作

    Cerebras 发文解读其与 AWS 的分离式推理合作。文中提到,3 月 13 日 AWS 与 Cerebras 宣布分离式推理合作,将 LLM 推理的 prefill 与 decode 拆分到不同硬件上运行:由 AWS Trainium 负责 prefill,Cerebras CS-3 负责 decode,两者通过 EFA 网络连接,并在 Amazon Bedrock 上提供。Cerebras 称该方案预计可将 token 吞吐提升至聚合方案的 5 倍,并援引研究称智能体负载的 P95 延迟最多改善 4.5 倍。目前该合作仍处于宣布与解读阶段,尚无后续开发事实。

    匹配字段标题

  6. 事件1 条新闻 · 1 个事实

    Cerebras与Upstage合作提供快速推理

    2026年7月10日,Cerebras宣布与韩国AI公司Upstage合作,探索Cerebras Inference为更多用户带来超快生产级AI体验。据Cerebras博客,双方在Cerebras Wafer-Scale Engine上运行Upstage的Solar 31B,推理速度最高可达2000 tokens/s。开发者可通过Cerebras Inference Cloud和OpenAI兼容API,在不改变现有开发流程的情况下使用Solar模型。Cerebras称,Solar 31B处理246个信息源的深度研究查询,而Sonnet 4.6在类似信息源数量下需8分钟。目前该合作尚无进一步有证据的发展。

    匹配字段标题

  7. 事件1 条新闻 · 1 个事实

    Cognition 选择 Cerebras 作为最快推理提供商

    Cognition 选择 Cerebras 作为最快推理提供商。据 Cerebras 官方博客,Cognition 的 SWE-1.6 与 SWE-grep 系列由 Cerebras Inference 提供推理,编码性能达到前沿水平,速度最高约为 GPU 的 5 倍。其中 SWE-1.6 在 Windsurf 快速档上最高可达 950 tokens/秒,SWE-Bench Pro 成绩为 50.4%,高于 SWE-1.5 的 40.1%。该模型还更多使用并行工具调用、更少循环,并更依赖自身工具而非终端命令。目前尚无后续发展事实。

    匹配字段标题

  8. 事件1 条新闻 · 1 个事实

    Cerebras 提出快速推理是网络安全产品设计问题

    2026年7月22日,Cerebras 提出观点,认为快速推理是网络安全产品设计问题,而非仅是基础设施基准。Cerebras 发文指出,攻击者正用 AI 加速侦察、钓鱼、恶意软件变种、漏洞发现与利用开发,而企业部署的 AI copilot 与智能体工作流又带来新的安全问题。文章主张采用分层架构:由规则、经典模型和小语言模型完成过滤、分类、去重与路由,再用更强的推理模型升级处理可疑事件、高风险发现和敏感工具调用,让更快的推理在用户体验不被打断的前提下塞进更多上下文、推理与验证。目前该观点由 Cerebras 官方博客发布,尚无进一步有证据的发展。

    匹配字段标题

星期三

星期四

星期二

星期五

星期五

星期三

星期日

  1. 事件1 条新闻 · 1 个事实

    NVIDIA推出HSTU推理部署工作流

    2026年10月1日,NVIDIA推出基于Dynamo-Triton、PyTorch AOTI和FlexKV的HSTU推理部署工作流。据NVIDIA Developer · Generative AI发布的官方信息,NVIDIA recsys-examples现已提供基于Dynamo-Triton的端到端HSTU生成式推荐推理工作流,结合PyTorch AOTI编译与FlexKV支持的KV缓存。在NVIDIA RTX PRO 6000 Blackwell Workstation Edition GPU上,八层HSTU模型在batch size 8、100% GPU KV-cache命中率下,延迟相比无缓存的同款AOTI配置最多降低5.93x,三层模型为4.47x。目前该工作流已随recsys-examples提供,暂无后续发展事实。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Bedrock新增Claude区域内推理

    2026年9月30日,Amazon Bedrock 上线 Claude Opus 5 和 Claude Sonnet 5 的首尔及新加坡区域内推理。据 AWS Machine Learning 发布的信息,首尔区域支持 Claude Opus 5 和 Claude Sonnet 5,新加坡区域支持 Claude Sonnet 5,请求与数据全程不离开所调用的 AWS 区域。该功能通过 bedrock-runtime 端点以直接模型 ID(如 anthropic.claude-opus-5)调用,支持 Anthropic Messages API 及 Bedrock InvokeModel、Converse API,并兼容 Guardrails 和智能提示词路由。吞吐量受该区域容量限制,配额、CloudWatch 指标和 CloudTrail 日志均限定在同一区域。目前尚无后续发展事实。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    Manus公布Flex推理合作伙伴计划首批伙伴

    2026年9月30日,Manus公布Manus Flex推理合作伙伴计划,并宣布OpenRouter、Fireworks AI和Modal成为该计划首批推理合作伙伴。官方信息显示,该计划扩大了用户可通过Flex连接的推理提供商数量,这些合作伙伴与大型语言模型提供商一起,为用户提供更广泛的模型选择。目前没有后续发展事实,事件状态停留在首批合作伙伴公布阶段。

    匹配字段标题

星期四

星期三