←搜索结果

按匹配度 · 共 1193 条结果 清除搜索

星期二

  1. Zyphra Research

    Zyphra Inference Wave 2:在 MI355X 上加速 MoE 与长上下文推理服务

    Zyphra 发布第二代推理优化 ZOE,在 AMD Instinct MI355X 上把 GLM-5.3 在 512K 上下文下的首 token 延迟(TTFT)从 178.8 秒降至 64.6 秒(2.8 倍),90% 前缀缓存命中时从 42.3 秒降至 11.8 秒(3.6 倍)。其 CSA top-K 选择 HIP kernel 让 DeepSeek-V4-Pro 在 1M 上下文下单用户解码吞吐从 43.5 提升到 61.1 tokens/s(1.40 倍)。GLM-5.3 的 AMD MXFP4 量化把模型从 756 GB 压到 410 GB,AIME25 等基准分数与 FP8 相差 3 分以内。

    会起作用(图 12)。 量化 Kimi-K3 已经随附 MXFP4 专家权重,进一步压缩的空间很小,因此我们将重点放在随附 FP8 权重的 GLM-5.3 上。AMD 已发布 amd/GLM-5.3-Quark-MXFP4-AttnFP8该模型以 MXFP4 存储路由专家和共享专家,并将注意力保持在 FP8。这将模型大小从 756 GB 降至 410 GB。Hugging Face 模型卡报告的 GSM8K 得分为 91.28,而 FP8 模型为 91.89(恢复率 99.3%)。我们发现,仅凭 GSM8K 无法判断模型在训练后量化后是否仍保持推理能力,因此我们用自有的评测框架对两个模型在四个推理基准上进行了测试(表 5)。 数据来源 样本(问题 × 8 次重复) zai-org/GLM-5.3 得分(%) amd/GLM-5.3-Quark-MXFP4-AttnFP8(410 GB)得分(%) 变化(百分点) AIME25 240 97.5 99.17 +1.67 AIME25 240 96.67 96.67 0.00 Apex-Shortlist 376 53.72 53.46 −

    匹配字段正文

  2. MarkTechPost

    Google 开源 TorchTPU,为 Cloud TPU 提供原生 PyTorch 后端

    Google 开源 TorchTPU,这是与 Meta 的 PyTorch 团队共同开发的 Cloud TPU 原生 PyTorch 后端,在 PyTorch Conference 2026 上宣布,现有代码通过 torch.device("tpu") 即可指向 TPU。Google 团队称 TorchTPU 取代 PyTorch/XLA,建议所有新工作负载使用;它基于 PrivateUse1 接口,提供 Strict、Debug、DeferAndFuse 三种 eager 模式,torch.compile(backend="tpu") 经 StableHLO 和 OpenXLA 编译。TorchTPU 在 PyPI 上为 v0.2.0,要求 Python 3.11+,Apache 2.0 许可,配套 vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 仓库;Google 自报 TorchTitan 在 Ironwood 上训练 Qwen 3 8B 达到 52% MFU,可扩展至 8,192 颗芯片。

    rchTitan fine-tuning case, step time fell from 11.49s to 2.78s. DeferAndFuse alone gave 1.15x. Full torch.compile gave 3.80x. Model coverage: Google continuously tests about 5,000 Hugging Face models in eager and compiled modes. Fleet serving: Zenteiq grew daily output from 1.47B to 5.97B tokens per 1,000 TPU v6e chips. That gain came from llm-d routing on GKE, not TorchTPU alone. What integrations ship with TorchTPU? Hugging Face: Transformers v5 deploys to TPU with device map="tpu". Diffusers

    匹配字段正文

  3. Google Developers Blog

    Arm 用 Google AI Edge Model Explorer 为自定义边缘编译器带来可视化图调试

    Arm 基于 Google AI Edge Model Explorer 的插件架构开发了开源适配器,支持 TOSA、VGF 和 PTE 等模型格式,可在图上直接检查编译器 IR、对比 NPU 委派与 CPU 回退,并叠加周期级性能追踪。借助该工具,Arm 在 VGF 图中发现 ExecuTorch Arm 后端引入的多余 TRANSPOSE 算子,并在 Ethos-U NPU 上定位到单个 TRANSPOSE 节点是主要延迟瓶颈。这些适配器现已通过 PyPI 或 GitHub 提供。

    Arm MEX_Blog Hero (1)

    ptimize your own on-device models locally via PyPI or GitHub. Install adapter and launch Model Explorer for your model format. LiteRT adapter (built-in) PyTorch adapter (built-in) Hugging Face Transformers adapter (built-in) See User Guide and try out major features: Special thanks to the contributors across the Arm and Google AI Edge teams for their work on these adapters and integrations: Engineers: Mobile Web Case Studies Announcements OCT. 19, 2026 Mobile AI Announcements Industry Trends Uni

    匹配字段正文

  4. METR Blog精选

    METR 评审 Anthropic 2026 年 8 月风险报告失准风险章节

    METR 对 Anthropic 风险报告 2026 年 8 月版中「高风险场景下的失准」章节做了外部评审,认同其覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非防护措施与对齐训练。METR 指出报告中的隐蔽能力基准无法代表模型规避 Anthropic 内部监控系统的能力,并称近期事件削弱了报告关于未知严重情境性失准「不太可能」的论证。METR 还建议公开四段被删节信息,并对监控系统做端到端红队测试。

    我们在看到Anthropic风险报告初稿之后、在Anthropic事件公布之前向Anthropic提出的观察,即“Claude模型有可能尝试”此类事件,并且“如果Anthropic内部存在任何评估式任务未被监控的部署情境,它尤其有可能成功。”更多细节见附录。↩ 在《调查我们网络安全评估中的三起真实世界事件》中,Anthropic表示,他们“针对OpenAI–Hugging Face事件,启动了对我们自身网络安全评估的大规模回顾性审查”。这表明,如果没有外部事件促使他们去查找,Anthropic可能不会发现他们自己的事件。↩ Evan Hubinger就Hacker Opus的工作表达了相关看法:“在那段时间里,我们非常努力地评估Hacker Opus,以了解它有多危险。[…]当时我们的主要假设之一是,Hacker Opus是一个相当良性的奖励寻求者,以至于它在追求奖励时不愿意做任何非常灾难性或长期的事情。[…]当OAI-HF事件发生时,我们想知道:Hacker Opus会做那样的事吗?于是我们构建了该事件的复现,结果发现它绝对会,而且其方式远比我们此前能让该模型做出的任何事情都恶劣得多

    匹配字段正文

  5. Google Developers Blog

    Google 将 TorchTPU 集成进 TorchTitan,为 TPU 优化模型训练

    Google 将 TorchTPU 集成进 Meta 的 TorchTitan,Cloud TPU 现可通过原生后端 torch.device("tpu") 直接训练 PyTorch 模型,无需重写为 JAX。TorchTitan TPU 分支提供 Llama 3 70B/405B、Qwen 3 8B/32B/235B MoE 和 FLUX.1 12B 等预训练配方,并用 Splash Attention 等 Pallas 内核替换标准实现。在 FLUX 上,SimpleFSDP 让 TorchTitan 达到与 JAX MaxDiffusion 99% 的性能持平。

    Torch Titan Header Image

    s: one model at a time, with a parity test and a profile behind every change. A team arriving on TPU usually has a different problem. They have a model they already train, often a Hugging Face one, and quite likely it won’t be the model that TorchTitan ships for TPU. They may well want every last percent out of it eventually, but first they need an easy way to get it running at all. That is the problem the Transformers modeling backend solves: it builds the model from the Transformers library by

    匹配字段正文

  6. 36氪 · AI

    2026年9月中国AI大模型平台排行榜:RSI、Personal Agent与世界模型

    36氪发布2026年9月中国AI大模型平台排行榜,聚焦代码大模型率先进入RSI(递归自我改进)时代。面壁智能让AI工程师约8小时从零写出预训练框架、性能追平Megatron-LM;智谱Infra Agent让GLM-5.3定位并修改自身推理基础设施瓶颈;Qwen3.8-Max一个月无人值守跑通33轮迭代,Artificial Analysis评分从40分升至45分。阿里云栖大会宣布Qwen4已在训练中,未来版本将扩展至5-10T参数。

    助、数据分析等场景。 9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型,是业内首个原生支持最长100万Token上下文的端侧模型。两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。综合实测,相关能力领先业界同尺寸一流开源模型。 此外,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档。 云知声 9月28日消息,近期,依托ArchXBench、BigCodeBench-Hard、BenchCAD、Spider 2.0、Harbor-Index等高难度工业级开源基准,一场覆盖6大方向的工业级Coding实操综合评测面向6款主流模型开展。 云知声U2-Flash综合平均得分65.12,位列参评模型第2,并在四个高壁垒实操赛道中均列第一。其中,U2-Flash在构建、编译与跨平台迁移赛道拿下满分,在数字逻辑与芯片级RTL、2D矢量代码渲染、长程工具决策综合评测赛道均排名第一。 9月25日,云知声正式上线并开源决策大模型 U2-Decision,

    匹配字段正文

  7. Numerama

    美国陆军网络司令部研发 ECHOTRIBBLE 攻击性 AI 智能体平台

    据 The Intercept 10 月 19 日报道,美国陆军网络司令部(ARCYBER)正在开发名为 ECHOTRIBBLE 的平台,让 AI 智能体在“最低限度人类监督”下自主执行攻击性网络行动,可识别并临时或彻底关闭指定目标。相关文件将其描述为类似蠕虫的智能体,能针对 iPad、Apple 电脑和 Windows 11 设备生成适配副本,并在任务后隐蔽自删除,但这些仍属目标能力而非有效性验证。合作方 CFIC 称收到 65 份提案,10 月 6 日至 8 日安排五家企业演示,10 月 8 日选定一家,合同流程尚未完成;ARCYBER 未回应如何避免附带损害等问题。

    o d’ARCYBER, le commandement cyber de l’armée de terre américaine. // Source : ARCYBER Pour aller plus loin Rocambolesque : OpenAI dévoile comment ses propres agents IA ont piraté Hugging Face pour réussir un test interne En quoi consiste la plateforme ECHOTRIBBLE de l’armée américaine ? La dimension offensive est explicite dans les documents consultés par The Intercept. Un document de questions-réponses destiné aux prestataires indique que le programme est principalement tourné vers ces mission

    匹配字段正文

  8. Numerama

    Netflix 解雇电影部门负责人 Dan Lin,流媒体与院线发行平衡难题待解

    Netflix 于 10 月 19 日正式解雇电影部门负责人 Dan Lin,距其上任仅两年半。据 Variety 报道,解雇主因是他未能平衡流媒体电影与院线发行,且其强硬管理风格与 Greta Gerwig、Ben Affleck 等好莱坞人士产生摩擦。此前 Netflix 已裁减 6% 员工,并任命 Peter Rice 统管全部内容,后者将于 10 月 26 日上任。

    Narnia : pourquoi la première bande-annonce du film Netflix ne plait pas du tout à certains fans ? Netflix : les meilleurs films d’horreur pour le parfait Halloween 2026 Les 10 animes incontournables de l’automne 2026, avec le retour attendu des Carnets de l’Apothicaire Bridgerton : Netflix annonce une nouvelle série spin-off sur Violet Netflix consacre déjà un documentaire à l’affaire Hugging Face : à quoi peut-on s’attendre ? Crédit photo de la une : Numerama Signaler une erreur dans le texte

    匹配字段正文

  9. Unite.AI

    llm-d 1.0 在 PyTorch Conference 发布,面向生产环境的推理栈

    llm-d 项目在 PyTorch Conference North America 上发布 1.0 版本,这是一个 Kubernetes 原生的分布式推理服务栈,由 Red Hat、IBM 和 Google 主导维护,CNCF 以沙箱项目托管。1.0 版本新增多租户服务质量保障,包括按优先级和公平性调度的流控与可控降载,并支持路由器热备、安全滚动更新,以及把 prefill 和 decode 副本作为整体管理的 DisaggregatedSet 控制器。项目公布的测试显示,在 544 张 NVIDIA H100 上部署 GLM-5.2 可服务最多 3000 个并发编码智能体且零抢占,按当前云租赁价格计算,每 token 成本比同等商业 API 低 5 到 10 倍。

    nce stacks for any model, on any accelerator, in any cloud. Red Hat, IBM, and Google are the project’s lead maintainers and co-founded llm-d with CoreWeave and NVIDIA; AMD, Cisco, Hugging Face, Intel, Lambda, and Mistral AI have joined as contributors. The Cloud Native Computing Foundation (CNCF) hosts llm-d as a sandbox project. IBM describes the result as a vendor-neutral alternative for organizations that want what it calls frontier-class inference performance without depending entirely on on

    匹配字段正文

  10. SiliconANGLE

    IBM 等维护方发布 llm-d 1.0,为自建模型推理增加运维控制

    IBM、Red Hat 与 Google 等 llm-d 项目贡献者发布分布式 AI 推理框架 1.0 版本,新增多租户服务质量、零停机升级和面向 AI 智能体的服务模式。框架基于 Kubernetes,可与 vLLM、SGLang 等推理引擎配合,通过路由把请求导向已缓存相关上下文的副本,并在 GPU 内存、CPU 内存和存储之间迁移缓存。IBM 称在一项智能体编码测试中路由器捕获了 97% 的可用缓存复用,IBM 与 Red Hat 还在自建基础设施上并发运行 3000 个软件工程智能体,成本比通过托管服务运行同一开源模型低 5 到 10 倍。

    LC are its lead maintainers. They co-founded the project last year with CoreWeave Inc. and Nvidia Corp. Other contributors include Advanced Micro Devices Inc., Cisco Systems Inc., Hugging Face Inc., Intel Corp. and Mistral AI SAS. The project offers organizations seeking more control over inference costs and infrastructure choices a way to reduce dependence on a single model provider, cloud or hardware platform. “At IBM Research, we are seeing that open large language models and llm-d can greatl

    匹配字段正文

  11. The Decoder

    美陆军网络司令部被曝研发 ECHOTRIBBLE,将 AI 智能体变成自主传播的网络武器

    据 The Intercept 获得的文件,美国陆军网络司令部(ARCYBER)正在开发代号 ECHOTRIBBLE 的平台,目标是让 AI 智能体自主穿越基础设施、识别并“中和”目标,可在云端和无网络的隔离系统中像蠕虫一样传播,任务完成后自毁,且要求“最少人工监督”和“自主行为”。一份 6 月 24 日面向潜在承包商的演示显示,软件进入笔记本后会寻找同网络其他目标,并生成适配 iPad、Apple 桌面和 Windows 11 PC 的副本。蒙特利尔大学 David Krueger、Abundant 的 Hyrum Anderson 和 RAND 的 William Marcellino 分别就误伤、安全薄弱机构受波及和系统缺乏判断力提出警告。

    months, agents in tests by OpenAI and other companies have repeatedly broken into outside systems and their developers' own systems without meaning to. Targets included RubyGems , Hugging Face , and the Australian government's Medicare statistics portal . Agents also tried to break into the US Department of Education. In none of these cases had they been told to attack. AI systems have been seen knowingly attacking systems that weren't even their targets, says David Krueger, a machine learning p

    匹配字段正文

  12. TechCrunch AI

    OpenCode Console 遭攻击,1.4% 用户 API 密钥泄露并被刷出费用

    开源 AI 编码工具 OpenCode 称,攻击者夜间入侵其旧系统,影响 OpenCode Console 在线平台 1.4% 的用户,该平台用于存放部分用户的 API 密钥。有开发者报告 OpenAI、Anthropic 和 Google AI 账户出现未授权扣费,个别账户达数百美元,少数超过 1000 美元;Anthropic 和 Google 封禁了相关密钥,OpenAI 表示已与 OpenCode 合作恢复访问并退还受影响 API 客户的额度,OpenCode 称退款正在进行。联合创始人 Dax Raad 表示受影响范围仅限 Console,开源应用和命令行工具未受影响,密钥不会传到 OpenCode 手中。

    ts for defensive security work. Raad said the access improved the team’s ability to investigate the attack. OpenCode isn’t the first company to hit this wall. In July, AI platform Hugging Face said commercial AI models blocked its attempts to analyze activity logs from an intrusion by autonomous AI agents, which OpenAI later revealed were its own models running with safeguards lowered during a test. In a section of its blog post titled “The asymmetry problem,” Hugging Face wrote that guardrails

    匹配字段正文

  13. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 Ming-3.0-asr-tiny:支持中英转写、方言识别与 Context ASR

    蚂蚁 inclusionAI 在 GitHub 开源 Ming-3.0-asr-tiny,将 Ling-tiny-v3 语言模型与音频编码器结合,支持中英文转写、方言识别和 Context ASR。方言评测覆盖湖南、闽南、粤语、川渝等 15 个测试集,Context ASR 可通过提示词中的热词或前序对话识别专有名词。推理栈使用 Transformers 5.12.1、fla-core 0.5.2 和 PyTorch 2.11.0,并提供 SGLang 加速部署示例。

    Ming-3.0-asr-tiny model architecture

    gnore CITATION.cffCITATION.cff LEGAL.mdLEGAL.md LICENSELICENSE README.mdREADME.md requirements-dev.txtrequirements-dev.txt 仓库文件导航 Ming-3.0-asr-tiny:上下文感知语音识别 中文和英文 · 方言 · 热词与对话上下文 Hugging Face · ModelScope · 项目博客 · 快速开始 · Cookbook · 评测 超越逐字转写 真实语音往往带有口音、背景噪声、陌生的人名和专业术语。 Ming-3.0-asr-tiny 将 Ling-tiny-v3 语言模型与音频编码器相结合,用于中英文转写、方言识别和 Context ASR。热词或前序对话有助于识别特定领域的表达。 中英文 ASR: 通过一个 Transformers 接口转写单轮语音。 方言识别: 在覆盖湖南、闽南、粤语、川渝、上海、安徽、东北、河南、湖北、江苏、客家、陕西、山东、天津和云南的 15 个测试集上进行评测。 Context ASR: 在转写提示词中包含相关的人名、地

    匹配字段正文

  14. 蚂蚁 inclusionAI:GitHub 新仓库精选

    蚂蚁 inclusionAI 开源 vLLM-Omni 全模态模型推理服务框架

    蚂蚁 inclusionAI 在 GitHub 发布 vLLM-Omni 仓库,这是一个在 vLLM 基础上扩展全模态模型推理与服务的框架,支持文本、图像、音频、视频和动作数据处理,并支持 DiT 等非自回归架构。README 显示其已迭代至 0.30.0,对齐 vLLM 0.30.0,新增 MiniCPM-o 4.5 与 AURA 的全双工会话服务、Mooncake AR-to-DiT 跨阶段 KV 与多模态传输,以及在 NVIDIA Blackwell 和昇腾 950 上的 MiniMax H3 Turbo 实时推理。框架提供 OpenAI 兼容 API 服务、流式输出和分布式并行推理,并列出 Qwen3-Omni、MiniMax H3、Wan2.2、π0.5 等已支持模型。

    vllm-omni

    esource allocation across stages vLLM-Omni is flexible and easy to use with: Heterogeneous pipeline abstraction to manage complex model workflows Seamless integration with popular Hugging Face models Tensor, pipeline, data and expert parallelism support for distributed inference Streaming outputs OpenAI-compatible API server Full-duplex realtime serving with streaming audio input and output vLLM-Omni seamlessly supports most popular open-source models on HuggingFace, including: Omni-modality mod

    匹配字段正文

  15. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 Ming-3.0-audio-flash 原生音频模型

    蚂蚁 inclusionAI 在 GitHub 开源 Ming-3.0-audio-flash 原生音频模型,采用 126B 参数 MoE 架构、激活参数 6.5B,另有 9.3B 参数、激活 2.7B 的 Ming-3.0-audio-tiny 版本。模型覆盖中英文多方言口音识别、长音频理解、音频推理和端到端语音对话,支持 vLLM-Omni、SGLang 与 Transformers 三种推理方式,采用 MIT 许可。

    License: MIT

    transformers.txtrequirements-transformers.txt requirements-vllm-omni.txtrequirements-vllm-omni.txt 仓库文件导航 Ming-3.0-audio-flash 听得清。理解深。行动智。 一款为真实场景语音识别、音频理解、推理和端到端语音交互打造的原生音频模型。 🤗 Hugging Face · Flash · 🤗 Hugging Face · Tiny · 🤖 ModelScope · Flash · 📓 示例手册 · 💻 示例 Ming-3.0-audio.mp4 🧩 模型变体 Ming-3.0-audio-flash — 一款 126B 参数的混合专家模型,激活参数为 6.5B。下文示例和基准测试结果均使用该模型。 Ming-3.0-audio-tiny — 一款紧凑的 9.3B 参数混合专家模型,激活参数为 2.7B。有关检查点详情和使用指南,请参阅其模型卡。 ✨ 亮点 🎙️ 复杂语音识别 — 可识别跨方言、口音、嘈杂环境和多人会议场景中的中英文语音。 ⏱️ 长音频理解 — 可理解并分析

    匹配字段正文

  16. The Decoder

    MiniMax 发布 M3.1 Flash 推理模型,每任务成本约 0.22 美元

    MiniMax 发布推理模型 M3.1 Flash,在 Artificial Analysis 智能指数上得 42 分,比前代 M3 高 13 分,每任务成本不到其一半。该模型在 Humanity's Last Exam 上得 48%,CritPt 得 22%,AA-Omniscience 事实准确率 56%,但幻觉率达 93%。它支持 100 万 token 上下文和文本、图像输入,API 定价为每百万输入 token 0.15 美元、输出 0.60 美元,计划 10 月 23 日开放权重。

    "Humanity's Last Exam," while Deepseek manages 43 percent. For factual accuracy on the AA-Omniscience test, MiniMax answers 56 percent of questions correctly versus Deepseek's 43 percent. MiniMax is also slightly cheaper per task at $0.22 compared to Deepseek's $0.26, since it needs fewer output tokens across the benchmark, about 189 million versus 224 million for Deepseek. Both models are getting open-weight releases. Deepseek is already on Hugging Face , and MiniMax will follow on October 23.

    匹配字段正文

星期三

  1. Ed Zitron 长文 / Where’s Your Ed At

    AI Had Better Work Out:AI 泡沫与美股集中度风险

    Apollo 首席经济学家 Torsten Slok 警告“AI 这件事最好能成,否则我们会出问题”,Ed Zitron 据此量化 AI 泡沫风险:NVIDIA、Google、Amazon、Meta、Microsoft、Broadcom、Micron、AMD 与 CoreWeave 合计占 NASDAQ 100 约 46.5%、占 NASDAQ Composite 约 39.3%,NVIDIA 单独占 11.31%。散户持有约 10% 的市场资产,直接持有 NVIDIA 约 26.2%、Microsoft 约 21.8% 的股票,2026 年至今散户交易量占比达 20.3%。

    X’s IPO ($75 billion), the PE-backed take-private of gaming company Electronic Arts ($55 billion), SpaceX’s acquisition of Cursor (all stock, $60 billion), NVIDIA’s acquisition of Hugging Face ($13 billion), and Google’s acquisition of Wiz ($29 billion). And since 2015, the $2.7 trillion in venture capital invested has only managed to increase its value by about 1.6x — to around $4.4 trillion in value (not returns), or around a third of what you’d get if you’d have invested in the S&P 500. In ot

    匹配字段正文

星期一

  1. 腾讯云开发者社区精选

    DeepSeek 开放自研搜索 API 并更新 V4.1-Flash-1017,RAG 检索层该怎么重画

    DeepSeek 在 2026 年 10 月 17 日的 API 更新日志中发布 DeepSeek-V4.1-Flash-1017,并开放自研搜索 API,官方称该引擎索引全球千亿级网页、每天处理数亿次搜索请求,并对 SEO 作弊、GEO 操纵和低质 AIGC 做识别过滤。Search 接口返回 rerankscore、authority、date 等字段,snippet 供 UI 展示、summary 供模型阅读,Search 与 Fetch 各按成功请求计费,国内站每千次 5 元,账号级限速各 5 QPS。作者据此判断公域检索可外包、私域召回与路由分流仍需自建,并提醒 5 QPS 使缓存、请求合并和队列成为上线前提。

    Agent 框架下的表现差异巨大。模型能力和框架能力是乘积关系,一个糟糕的 Harness 能把好模型拖废一半。所以官方才会点名 DeepSeek Harness、腾讯 CodeBuddy、WorkBuddy 做了定向优化,并要求升级 Harness 到 0.2.1-rc.1 以上。如果你在用这些框架,升级版本本身就是一次零成本的模型升级。 模型权重同步在 Hugging Face 和 ModelScope 开源,仓库名 deepseek-ai/DeepSeek-V4.1-Flash-1017。参数规模社区有不同说法,官方新闻稿没有给出数字,本文不引用。 你的 RAG 还剩几层:公域外包、私域自建、路由自持 把检索和模型两条线合起来,回答标题的问题:你的 RAG 架构,还剩几层是必须自己做的? 我的答案是四层变两层半。 过去的四层是自建向量库、联网搜索拼装、重排、上下文拼装。新格局下,其中两层可以心安理得地外包,另外两层的价值反而被放大,还多出半层新的。 可以外包的是公域检索。凡是答案存在于公开网页的问题,政策法规、行业新闻、技术文档、产品信息,都应优先走 Search API。理由很

    匹配字段正文

  2. TechCrunch AI

    Laplace Intelligence 为机器人和自动驾驶汽车做部署前的红队测试

    密歇根大学孵化的 Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试,用基于 Nvidia Cosmos 后训练的高保真仿真环境加 AI 智能体自动设计 corner case,在部署前发现并修复问题。公司已产生营收并小幅盈利,客户包括自动驾驶卡车公司 Bot Auto 和一家日本大型车企,并与 Nvidia、T-Mobile 在加州圣何塞开展免费智慧城市试点。

    如果说OpenAI与Hugging Face的那起事件教会了我们什么,那就是AI智能体可能难以预测。 “想象一下,如果类似的事情发生在物理世界中会怎样,”Laplace Intelligence首席执行官兼联合创始人Howie Sun在接受TechCrunch采访时表示。“AI智能体正从计算机走向现实世界,而我们真的不希望物理AI在现实世界中失败。” 总部位于安娜堡的Laplace正在为机器人和物理AI构建自动化红队测试——本质上就是通过刻意让系统失败来对其进行压力测试。这家公司押注的是,确保物理AI安全的唯一方法,就是让AI来测试它。 “我们的目标是帮助企业在部署前发现并修复问题——并且随着时间推移,建立一个客户、保险公司和监管机构都能信任的共享证据基础,”Sun说。 Laplace是参加Startup Battlefield 200的20家初创公司之一,该创业路演竞赛于本周10月13日至15日在旧金山举行的TechCrunch Disrupt上进行。它将于10月13日周二下午在Disrupt Stage进行展示。 Sun与他的联合创始人兼首席科学家Henry Liu一年前在密歇根大

    匹配字段正文

  3. MarkTechPost

    Mistral AI 发布 Timestral 时间序列基础模型,最大 209M 参数可在 CPU 推理

    Mistral AI 发布首个时间序列基础模型系列 Timestral,包含 5M、28M、123M、209M 四个零样本预测模型,支持最长 32,768 个时间步的上下文。据 Mistral 自测,209M 版本在 GIFT-Eval、TIME 和 fev-bench 上位列零样本预训练模型第一,fev-bench SQL skill 得分为 50.39,高于 TimesFM-3 的 48.99。模型无需 GPU,在 8 线程服务器 CPU 上 209M 版本单次预测耗时 140 ms,权重以 Modified MIT 许可开放,可通过 pip 安装并部署在本地、VPC 或隔离环境。

    stall git+https://github.com/mistralai/timestral.git. It needs Python 3.10+ and torch 2.4+. Dependencies are PyTorch, NumPy, safetensors and huggingface hub. Weights download from Hugging Face: 21 MB for 5M, 111 MB for 28M, 490 MB for 123M. Mistral’s docs list Timestral 1.0 209M as Public Preview. Fine-tuning on proprietary data runs through Mistral Forge. The pipeline can deploy on-prem, in a VPC or air-gapped. Key Takeaways 4 sizes, 5M to 209M, all on the accuracy-vs-size Pareto front. 209M le

    匹配字段正文