2025年10月28日,Liquid AI发布LFM2-ColBERT-350M检索模型。该模型为350M参数的晚期交互检索模型,支持跨语言检索,即文档用一种语言存储、查询用另一种语言也能高精度召回。在扩展了日语和韩语的NanoBEIR基准上,其多语言能力显著强于150M参数的GTE-ModernColBERT-v1,德语、阿拉伯语、韩语和日语提升明显,同时保持英语表现。凭借LFM2骨干,其推理吞吐与体积小2.3倍的模型相当。模型已在Hugging Face上线并附交互demo,可直接替换现有RAG流程。
匹配字段摘要
2025年9月25日,Liquid AI发布Liquid Nanos系列任务专用端侧基础模型,参数规模从350M到2.6B,占用内存100MB至2GB,可在手机、笔记本和嵌入式设备上本地运行。首批实验性模型包括LFM2-Extract、LFM2-350M-ENJP-MT、LFM2-1.2B-RAG、LFM2-1.2B-Tool、LFM2-350M-Math,以及社区开发的Luth-LFM2法语微调系列。官方称LFM2-1.2B-Extract在结构化抽取上优于参数量22.5倍的Gemma 3 27B,LFM2-350M-ENJP-MT的英日互译质量超过参数量10倍的通用模型。模型已在LEAP平台和Hugging Face上线,采用开放许可。
匹配字段摘要
2025年8月20日,vLLM 官方介绍了 torch.compile 的工作原理及其与 vLLM 的集成方式。该方案结合编译缓存、动态批量大小、分段 CUDA Graphs 和自定义编译器 pass 优化大语言模型推理,并已在 vLLM V1 的在线与离线推理中默认启用。部分融合优化最高可带来15%的性能提升。后续方向包括缩短启动时间、采用更稳定的 API,以及探索与 MPK、Mirage 编译器的集成。
匹配字段摘要
2024年9月19日,FutureHouse发布工程博客,公布其科学文献智能体RAG系统PaperQA2的研究成果。该博客介绍PaperQA2的设计与实验,称其在回答高难度科学问题、撰写综述文章和检测文献矛盾等任务上超过科学家的表现。团队基于LitQA2的200道专家多选题评测发现,智能体式查询扩展、LLM重排与上下文摘要(RCS)、引用遍历对准确率重要,而嵌入模型选择、混合关键词嵌入、chunk大小和结构化解析影响不大。新增的引用遍历工具通过Semantic Scholar和Crossref API前后各遍历一度引用,提升了正确论文的召回率。目前该研究仍以工程博客形式呈现,尚无后续发展事实。
匹配字段摘要
2024年9月19日,Anthropic提出Contextual Retrieval方法,用于改进RAG检索。该方法包含Contextual Embeddings和Contextual BM25两项子技术,据Anthropic介绍,可将top-20检索失败率降低49%,从5.7%降至2.9%;叠加reranking后降低67%,从5.7%降至1.9%。其做法是用Claude 3 Haiku为每个分块生成50-100 token的上下文说明,再拼接到分块前进行嵌入和建立BM25索引。配合prompt caching时,生成上下文化分块的一次性成本为每百万文档token 1.02美元。Anthropic同时提供了可直接部署的cookbook。目前尚无后续发展事实。
匹配字段摘要
2025年7月20日,Redis 作者 antirez 更新了他用 LLM 写代码的经验,提出用 LLM 编码应避免 vibe coding,并保持人在回路。他认为当前 LLM 是好的能力放大器,但不是合格的单人开发者,多数场景应拒绝 vibe coding。他推荐主要使用 Gemini 2.5 PRO 和 Claude Opus 4,并建议避免使用编码智能体和 RAG,把完整代码库与文档直接放进上下文窗口,由人手动在终端与 LLM 网页界面之间搬运代码。他同时提醒,因意识形态或心理抵触而完全不用 LLM 也会积累劣势。目前该观点来自其原创博客,尚无后续发展事实。
匹配字段摘要
2025年6月5日,Answer.AI 发布 ReadBench,用于评测视觉语言模型(VLM)从文本图像中读取并推理信息的能力。该基准将 MMLU-Redux、MMLU-Pro、GPQA-Diamond、BABILong 和 LongBench 等文本基准的上下文转为图片,问题保留为文本。结果显示,几乎所有 VLM 在多模态输入下都出现性能下降:短于 1 页的输入下降较小,长输入下降非常显著,说明多页文档直接送入 Visual RAG 管线尚不可行。相关数据已发布于 HuggingFace,代码在 GitHub,论文在 arXiv。目前尚无后续发展事实。
匹配字段摘要
2024年9月18日,Bespoke Labs 开发的事实核查模型 Bespoke-Minicheck 在 Ollama 上线。据 Ollama Blog 介绍,该模型可对其他模型生成的回答进行核查,以检测并减少幻觉。其工作方式是接收文档与待验证的 Claim,若文档支持该 Claim 则输出 Yes,否则输出 No。该模型尤其适合作为 RAG 应用的后处理步骤,确保回答基于检索到的上下文。目前尚无后续发展事实。
匹配字段摘要
2024年6月9日,Benedict Evans提出观点,认为生成式AI的部署方式应是将通用技术拆解为单一用途工具和体验。他以自己用ChatGPT 4o查询印度签证流程却得到错误答案为例,指出LLM不是数据库,无法保证精确事实性回答,是概率系统而非确定性系统。他认为解决路径有两种:一是等待模型变强,如RAG、多智能体;二是把它当作产品问题,通过限定领域、定制UI或把模型抽象为后台功能来构建产品。目前该观点由Benedict Evans博客发布,尚无后续发展事实。
匹配字段摘要
Aim Labs披露了Microsoft 365 Copilot中的零点击漏洞EchoLeak。攻击者只需向受害者发送一封邮件,就能在用户无感知的情况下外泄Copilot上下文中的敏感数据。该攻击链由三处漏洞组成,依次绕过XPIA提示注入分类器、外部链接与图片的脱敏处理,并借助SharePoint和Teams的URL绕过CSP限制。Aim Labs将核心手法称为LLM Scope Violation,认为同类设计缺陷也可能存在于其他基于RAG的聊天机器人和AI智能体中。Aim Labs称Microsoft已确认没有客户受到影响。
匹配字段摘要
FutureHouse 公布研究成果 科学文献智能体RAG系统PaperQA2
English translation is being prepared.
匹配字段摘要
AWS 给出管理 Amazon Bedrock 成本的五步闭环：按 IAM 主体归因、记录请求可观测性、用预算告警与硬性拦截控制支出、优化模型路由与缓存等平台默认值、按节奏复盘。Amazon Bedrock 已支持将推理成本自动归因到发起调用的 IAM 主体，调用方 ARN 写入 CUR 2.0 的 line_item_iam_principal 列，覆盖 IAM 用户、角色、联合身份与 API key。共享网关场景可按用户设置角色会话名与 session tag，凭证缓存最长 1 小时，恢复按用户和租户的归因。
t Completions API 的 bedrock-mantle 工作负载，请使用 Projects。 第 2 阶段：让每个请求都可观测 CUR 告诉你谁花了钱。调用日志告诉你发生了什么。Amazon Bedrock 支持将请求数据、响应数据和元数据的 模型调用日志 发送到 Amazon CloudWatch Logs、Amazon Simple Storage Service（Amazon S3）或两者。使用 Amazon CloudWatch 进行快速运营查询，使用 S3 加 Amazon Athena 进行长期商业智能（BI）访问。将日志记录视为基础设施，而非手动开关：通过代码预置日志组或存储桶，定义保留和加密策略，并在环境设置期间验证交付。如果日志记录仅存在于开发环境或仅存在于一个区域，那么一旦使用量增长，你的成本计划就会变得支离破碎。 日志记录还弥合了延迟差距：CUR 归因大约滞后 24 小时，但 CloudWatch 加 OpenTelemetry 可以支撑近实时仪表板，在几分钟内显示每位开发者的支出（使用 CloudWatch 和 OpenTelemetry 分析 C
匹配字段正文
GitHub 在 2026 年 10 月 28 至 29 日举行的 GitHub Universe 2026 上宣布，整合自动模型选择与多模型协作的 Copilot Fusion 正式提供，可在 VS Code、GitHub Copilot 应用、CLI 和 JetBrains IDE 中使用，按 Standard、High、Max 三档处理级别自动决定所用模型与 Single、Cascade、Critique 三种执行方式。桌面版 GitHub Copilot 应用同时开始公测 Projects，把资料、仓库、会话与成果物集中到一处管理。GitHub 称 Fusion Max 在 Artificial Analysis Coding Agent Index 上得分 60，与使用 Opus 5.5 Max 的 Claude Code 相差 2 分以内，单任务平均 API 费用约为其一半、耗时约少 40%。
。 Building Git infrastructure for agent-scale development - The GitHub Blog 据该文章介绍，此前是将仓库的完整副本放在多台服务器上，同时用于存储和读取处理。增加读取用副本时，写入时需要协调的对象也会增加，因此难以同时增强读取和写入。 因此，新设计将存储分离到Azure Blob Storage，并让负责读取的worker可以独立增减。写入时，仅在更新分支等引用目标的部分进行协调，以确保更新内容不冲突。使数据的存储和检查能够与其他写入并行推进，并将繁重的数据整理从处理常规Git请求的服务器中分离出来[16]。 GitHub正在将运行基础设施迁移到Azure的多个区域，并在Universe上表示，这一迁移预计于2027年初完成。 Actions将目标Linux作业分散到Azure和AWS 除Git基础设施的变更外，还宣布了将GitHub Actions的托管运行器扩展到多个云端的变更。GitHub Actions会将目标Linux作业自动分配到可用的Azure或AWS执行环境。通过增加执行目标，减少拥堵时的等待时间和
匹配字段正文
加拿大大模型独角兽 Cohere 宣布完成 E 轮融资首次交割，本轮目标融资最高 70 亿加元（约合人民币 334 亿元），若达标将创下加拿大初创企业史上最大单轮私募融资纪录。本轮由德国零售巨头施瓦茨集团领投，英伟达、沙特阿美旗下 Prosperity7 Ventures 等老股东继续参投，加拿大政府等首次参投；若达到募资目标，Cohere 估值将达 357 亿加元（约合人民币 1702 亿元）。Cohere 计划一年内推进两项 AI 公司并购、推出企业网络安全产品 Cohere Cyber，并训练新一代前沿大模型。
从模型研发进一步延伸至企业AI产品的部署和交付。 企业AI市场的竞争也已不局限于模型本身。本月，另一家获得英伟达投资的AI办公公司Pigment完成2.5亿美元融资，并披露要争夺微软、甲骨文、IBM等厂商的企业客户。 虽然两家公司的产品路线不同，但都在尝试让AI进入企业已有的业务系统，承担实际工作。对Cohere而言，接下来要争夺的不只是模型调用量，还有企业在办公、运维和网络安全等领域的软件采购预算。 来源：路透社、Cohere “特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
匹配字段正文
The Information 曝光 DeepSeek 第二轮融资细节，本轮已筹集 1055 亿元人民币（约合 158 亿美元），吸引近 30 家投资者，腾讯和宁德时代各出资 100 亿元，长鑫存储、中芯国际、美团、vivo、小红书等也在列。国有投资者贡献本轮约 27% 的金额，远高于首轮融资时的 2%，中国移动、中国电信、中金公司、中信证券和中国人寿等参与其中。报道称受英伟达高端芯片价格上涨和防备 AI 泡沫影响，DeepSeek 在融资中途将募资规模扩大了一倍。
练和算力基础设施建设提供资金，也让DeepSeek有机会与芯片、制造、通信等产业链上的企业建立更紧密的联系。在高端算力资源紧张、基础设施投入持续攀升的当下，这种产业协同显得尤为重要。 但资金并不能解决所有问题，高端芯片价格上涨、先进算力供应受限，意味着DeepSeek要面对的是研发成本上涨和算力约束，同时，随着融资规模的扩大，DeepSeek也需要在研发投入、技术进展和资本回报之间寻找平衡。 来源：The Information “特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
匹配字段正文
作业帮在第88届中国教育装备展示会上首次完整展示面向K12学校的AI智慧教育解决方案，并推出AI原生智能教学终端云思AI智慧教学PAD，实现家校学习场景互联互通。该方案整合学习机与云思智学能力，依托超33亿题库和自研大模型覆盖备课、作业批改、考试测评等场景，目前已覆盖全国20多个省市自治区超1500所学校。
让AI既能及时调取，也能在解答时更有据可依。 正是对教育场景的深入理解、学情大数据的沉淀和完整学习内容体系的建设，使作业帮大模型在教育场景中优于算力更强的通用大模型，也实现了快速响应、适龄讲解、高准确率与真人交互感的统一。 以AI技术为智慧教育筑底，作业帮将成熟AI能力应用落地家庭场景的同时，也为学校提供可落地、可复制、可持续的AI智慧教育解决方案，建立校内校外互联互通的家校一体化学习新生态，助力学校教育数字化升级与高质量发展。 “特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
匹配字段正文
据 Bloomberg 援引匿名消息，Anthropic 已成为 SpaceX 最大单一客户，贡献约三分之一营收，取代美国政府的原有位置。这一关系源于 Anthropic 今年春季与 SpaceX 达成的数十亿美元合作，获得了原属 xAI 的大部分 AI 算力。报道还提到 SpaceX 计划把 AI 数据中心大规模迁往太空，但技术可行性仍有争议。
实现了十亿级利润。广告广告 SpaceX 不再需要 NASA 了吗？ 这些数字印证了美国科技杂志 Ars Technica 近期在一篇详细报道中所描述的一种发展趋势：十多年来，马斯克的航天公司一直依赖美国政府的资金。如今情况反了过来：NASA 在载人航天运输方面完全依赖 SpaceX，而该公司却日益疏远 NASA。 热门文章 据报道，载人龙飞船（Crew Dragon）将只到 2030 年为止继续把宇航员送入太空。据该报道，猎鹰 9 号运载火箭可能最早在 2028 年退役。据称，SpaceX 不再无条件地竞标利润丰厚的政府合同。广告广告 未来要靠 AI 赚钱 Bloomberg 和 Ars Technica 一致认为，SpaceX 未来将主要靠 AI 赚钱。位于孟菲斯、租给 Anthropic 的巨型数据中心只是开端。马斯克希望大规模将 AI 数据中心迁移到太空，因为那里有太阳能提供的“免费”能源。不过，这在技术上是否可行仍存在争议。 在航天领域，SpaceX 现在把一切都押在星舰（Starship）上。这枚巨型火箭应能比以往系统运输明显更多的有效载荷。然而，Ars Technica
匹配字段正文
Latent Space 主理人 swyx 介绍年度旗舰大会 AIE CODE 的策展思路，会议为单轨、邀请制，面向约 1000 名智能体工程师。今年三大主题为 Scaling without Slop、System One 模型和 Increasing Ambition，其中 Jarred Sumner 将分享 Bun 用 Rust 重写及 Bun AOT 预览。文章同时汇总了 Mistral 开源权重发布、OpenAI 前沿模型监控等当日 AI 新闻。
一直成立到 4M 参数（@LotfiSanae）。 智能体研究： AgentBaton：从能力强的模型向更便宜的模型进行一次交接，可将 API 成本降低 65.9%（@dair ai）。 SwarmChat：在这个开放的智能体消息平台上，16 个智能体组成的集群以快 6 倍的速度达到与单智能体相当的性能（@PranjalAggarw16）。 DecisionRAG：用决策模型替代检索器，在 R@1 上比稠密检索加 8B 重排序器高出 13.8 个点（@omarsar0）。 本地与云端推理之争：Sam Altman 认为本地推理浪费稀缺的 DRAM（引述）。这一说法遭到反驳（@kimmonismus），并在批处理物理层面获得部分支持（@cis female）。 Codex 使用限额：OpenAI 将 Pro 100/200/500 和 Business Premium 的限额翻倍，并取消了原定的 Pro 200 削减（@thsottiaux）。有一项估计认为，500 美元套餐每月约值 10.5 万美元的使用量（@theo）。 Claude API：最大请求大小从 32MB 提升至 128
匹配字段正文
文章结合亚马逊、谷歌、Meta等巨头最新财报与多家机构调研，梳理AI红利在头部模型公司、上游芯片与云厂商、采用AI的企业和普通劳动者之间的分配情况。Anthropic招股书显示2026年上半年营收162.86亿美元、同比增长1300%，但算力及基础设施费用达89.45亿美元，占营收55%。麦肯锡调查中80%受访者称AI提升了效率，仅37%认为AI对所在企业息税前利润有正面贡献。
出，这些收益也未必会同比例转化为普通人的收入。 前不久，马斯克在《乔布斯传》作者Walter Isaacson主持的访谈中，描绘了他想象中的未来：超级智能可能比人类聪明数千倍甚至数百万倍，就像人类并不在意森林里黑猩猩的日常生活一样，超级智能或许也不会在意人类。 这样的未来尚无从验证。但在科技巨头已经开始畅想无限智能、无限富足的今天，普通人仍然在等待一些现实得多的改变——更高的收入、更少的工作，以及真正改善的生活。 我们还在等待。 “特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
匹配字段正文
人工智能语言公平研究联盟上月发布的研究发现，AI 模型处理不同语言时消耗的 Token 数量差异悬殊，在其中一个模型中最多相差 17 倍。研究称互联网最常用的 20 种语言之间 Token 消耗量已相差 1.5 至 5 倍，扩大到 200 种语言后差距进一步拉大，研究人员将这部分额外成本称为隐性的“分词器税”。Token 消耗增加不仅推高费用，还会拖慢响应速度、压缩可用上下文，研究者建议 AI 实验室公布各语言评估结果并改进下一代分词器设计。
受益。 Maya Research CEO 迪曼特 · 雷迪指出，现有许多分词器仍然主要针对英语等数据资源丰富的语言进行优化，根本问题在于缺乏高质量的数字化数据。 雷迪强调，改善训练数据本身还不够：“Token 价格下降得很快，费用差异造成的直接影响应该会逐渐减轻。更好的多语言数据和合成数据也有助于提高模型质量。但要真正缩小不同语言之间的分词差距，AI 实验室仍然需要专门改进下一代分词器的设计，让它们更好地处理这些语言和文字。” “特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
匹配字段正文