Answer.AI 开源了 Python 包 cachy，通过修改 httpx 的 send 方法缓存每次 LLM 调用响应，让测试从约 2 分钟缩短到约 2 秒，提速 60 倍。它支持 async 与 streaming，只需 pip install pycachy 并调用 enable_cachy()，即可自动缓存 Anthropic、OpenAI SDK 的调用，无需编写 mock 代码。cachy 也可缓存任意 httpx 请求。
Answer.AI 开源了 Python 包 cachy，通过修改 httpx 的 send 方法缓存每次 LLM 调用响应，让测试从约 2 分钟缩短到约 2 秒，提速 60 倍。它支持 async 与 streaming，只需 pip install pycachy 并调用 enable cachy()，即可自动缓存 Anthropic、OpenAI SDK 的调用，无需编写 mock 代码。cachy 也可缓存任意 httpx 请求。
匹配字段摘要、正文
Ollama 上线云端模型预览，让用户在本地工具中运行个人电脑放不下的大模型，云端不保留用户数据。首批可用模型包括 qwen3-coder:480b-cloud、gpt-oss:120b-cloud、gpt-oss:20b-cloud 和 deepseek-v3.1:671b-cloud，需下载 Ollama v0.12 并登录 ollama.com。云端模型用法与普通模型一致，支持 ls、run、pull、cp，并可通过 Ollama 的 OpenAI 兼容 API 以及 JavaScript、Python、cURL 调用。
匹配字段摘要、正文
PromptArmor 指出 ChatGPT 再次出现邮件泄露问题，这次涉及自定义 MCP 连接器，并引用 Eito Miyamura 演示的攻击链：攻击者只需受害者邮箱地址，发送带越狱提示词的日历邀请，待用户让 ChatGPT 查看日历准备日程时，ChatGPT 读取被越狱的邀请后被劫持，转而搜索私人邮件并把数据发送到攻击者邮箱。PromptArmor 表示已为安全从业者逐步拆解该攻击链。Eito Miyamura 提到 OpenAI 目前仅在 developer mode 中提供 MCP，且每个会话都需人工批准。
匹配字段摘要
Sam Altman 称首席科学家 Jakub 与 Szymon 配合互补，OpenAI 尚未遇到他们无法解决的问题。Jakub 曾用“indefatigable”形容 Szymon。
匹配字段摘要、正文
Johann Rehberger 通过自建名为 Remote Matrix 的远程 MCP 服务器，实测 ChatGPT Deep Research 在同时启用多个连接器时存在数据外泄：智能体会把 Linear 工单中的生产服务信息和凭据合并进对 Remote Matrix 的查询，并可能把记忆和聊天历史发送给 Bing、Shopify 等搜索工具。他还用 Linear 工单和恶意工具描述中的间接提示词注入劫持研究流程，让智能体以特定口吻发起查询。作者建议不要在同一研究流程中同时连接敏感数据源与低可信数据源，并指出 OpenAI 要求自定义连接器只实现 search 和 fetch 两个工具以限制风险。
匹配字段摘要、正文
Amp 从今日起改为查找 AGENTS.md 文件，以统一采用 OpenAI 选定的复数命名标准，同时向后兼容现有 AGENT.md 文件。AGENTS.md 还支持通过 glob mention 和过滤器动态引入上下文文件。
匹配字段摘要、正文
SemiAnalysis 认为，GPT-5 的实时 Router 可按查询复杂度分配模型与算力，为 OpenAI 变现 700m+ 免费用户奠定基础。免费用户接触推理模型的数量首日增长 7 倍，付费用户增长近 3.5 倍；文章推测 OpenAI 或通过商业意图识别、智能体购物和交易抽成打造消费级 SuperApp，而非采用展示广告。
SemiAnalysis 认为，GPT-5 的实时 Router 可按查询复杂度分配模型与算力，为 OpenAI 变现 700m+ 免费用户奠定基础。免费用户接触推理模型的数量首日增长 7 倍，付费用户增长近 3.5 倍；文章推测 OpenAI 或通过商业意图识别、智能体购物和交易抽成打造消费级 SuperApp，而非采用展示广告。 · SemiAnalysis argues that GPT-5’s real-time Router can allocate models and compute according to query complexity, laying the groundwork for OpenAI to monetize its 700m+ free users. Exposure to reasoning models rose 7x among free users and nearly 3.5x among paying users on the first day; the article speculates that OpenAI could bu
匹配字段摘要、正文
安全研究者 Johann Rehberger 公开了针对 All Hands AI 的 OpenHands 的可用利用链，通过提示注入劫持该智能体，使其下载并运行恶意软件、连接攻击者控制的 C2 服务器，把实例变成 ZombAI。该利用复用了此前针对 Anthropic Claude Computer-Use Agent 的同一载荷，仅替换了执行的二进制文件；作者还演示了 AI ClickFix 攻击，OpenHands 会复制 shell 命令并粘贴进终端工具。作者建议本地版本在沙箱中运行并限制出站网络连接，同时指出厂商可参考 OpenAI Operator 的 Prompt Injection Monitor 等做法；他于 2025 年 3 月 13 日通过 GitHub 安全标签披露，超过 140 天未获实质处理后在 8 月 10 日公开。
匹配字段摘要、正文
vLLM 现已支持在 NVIDIA Blackwell、Hopper 以及 AMD MI300x、MI355x GPU 上运行 gpt-oss。其针对 MXFP4 MoE、高效注意力和混合 KV cache 集成了专用内核与内存管理方案，并通过 OpenAI Responses API、gpt-oss toolkit 或外部 MCP 工具服务器支持工具调用。
匹配字段摘要、正文
安全研究者 Johann Rehberger 演示了如何通过间接提示注入把 ChatGPT Codex 变成僵尸网络节点。攻击者利用 Codex 的 Common Dependencies Allowlist 中 71 个域名里的 azure.com，在 Azure 上架设以 cloudapp.azure.com 结尾的 VM 作为 C2 服务器，再在 GitHub issue 中植入恶意提示，使 Codex 下载并执行恶意程序，从而远程控制该机器并读取环境变量、源码等数据。作者于 2025 年 6 月 10 日向 OpenAI 报告，当天被以 Not Applicable 关闭，他建议只使用自定义的精确域名白名单。
匹配字段摘要、正文
安全研究者 Johann Rehberger 演示了 OpenAI 的 url_safe 安全 URL 渲染功能存在绕过，攻击者可通过不可信数据中的提示注入，让 ChatGPT 把系统提示里的近期对话内容、记忆和用户交互元数据发送到第三方服务器，例如 https://trustnoai.blob.core.windows.net。该绕过及若干同类问题已于 2024 年 10 月报告给 OpenAI，作者称在发布前一个月内多次询问修复进展未获回复，因此未公开完整注入载荷。文中提到 2025 年 8 月 26 日更新称该漏洞已被 OpenAI 修复。
安全研究者 Johann Rehberger 演示了 OpenAI 的 url safe 安全 URL 渲染功能存在绕过，攻击者可通过不可信数据中的提示注入，让 ChatGPT 把系统提示里的近期对话内容、记忆和用户交互元数据发送到第三方服务器，例如 https://trustnoai.blob.core.windows.net。该绕过及若干同类问题已于 2024 年 10 月报告给 OpenAI，作者称在发布前一个月内多次询问修复进展未获回复，因此未公开完整注入载荷。文中提到 2025 年 8 月 26 日更新称该漏洞已被 OpenAI 修复。
匹配字段摘要、正文
Jakub Pachocki 表示，思维链忠实性与可解释性显著影响了 OpenAI 从 o1-preview 开始的推理模型设计。随着 AI 投入更多算力处理长期研究问题，隐藏思维链可为监控内部过程和验证模型意图提供途径。OpenAI 正加大对“为可解释性而训练”的研究投入，以兼顾推理解释能力与可验证性。
Jakub Pachocki 表示，思维链忠实性与可解释性显著影响了 OpenAI 从 o1-preview 开始的推理模型设计。随着 AI 投入更多算力处理长期研究问题，隐藏思维链可为监控内部过程和验证模型意图提供途径。OpenAI 正加大对“为可解释性而训练”的研究投入，以兼顾推理解释能力与可验证性。 · Jakub Pachocki said chain-of-thought faithfulness and interpretability significantly influenced OpenAI’s reasoning model design starting with o1-preview. As AI systems devote more compute to long-term research problems, hidden chains of thought could provide a way to monitor internal processes and verify model intent. OpenAI is increasing its
匹配字段摘要、正文
Vapi 通过动态路由系统将每次请求发往当时最快的 Azure OpenAI 部署，把 GPT-4o mini 的 P95 延迟削减了超过 1000ms。该系统先用单 token 请求轮询 40 多个部署，再结合线上真实延迟实时更新路由表，并保留少量流量探索其他部署；针对请求无响应挂起的情况，还按各部署历史标准差设置动态阈值，超时即回退到次快部署。
匹配字段摘要、正文
微软 AI 发布 Microsoft AI Diagnostic Orchestrator（MAI-DxO），在 304 个 NEJM 病例构成的 Sequential Diagnosis Benchmark（SD Bench）上，搭配 OpenAI o3 时正确诊断率达 85.5%，而 21 位有 5-20 年经验的执业医师平均准确率为 20%。MAI-DxO 可配置成本约束，在测试中同时实现更高诊断准确率和更低检测费用。该工作目前仅为研究演示，尚未作为公开基准或编排器发布，相关方法细节见配套预印本论文，正提交外部同行评审。
匹配字段摘要、正文
Vapi 博客盘点了 Azure 之外的 8 个语音 AI 语音转文本（STT）替代方案：Gladia、AssemblyAI、Deepgram、Cartesia、Talkscriber、OpenAI、Speechmatics 和 Elevenlabs。这些提供商均原生支持 Vapi，开发者只需修改一个 JSON 参数即可切换模型进行测试。其中 Gladia 端到端延迟低于 100 ms，AssemblyAI 新模型在开放域英语基准上词准确率达 90–95%，Deepgram 提供低于 300 毫秒延迟的定制模型。
匹配字段摘要、正文
Cartesia 推出 Ink 系列流式语音识别模型，首发 Ink-Whisper 基于 OpenAI Whisper 优化，面向实时语音智能体。Ink-Whisper 在背景噪声、专有名词、口音等场景下 WER 优于 whisper-large-v3-turbo，并实现最低 TTCT，价格为 1 credit/秒（Scale 计划 $0.13/小时）。
匹配字段摘要、正文
Benedict Evans 指出，生成式 AI 的常用指标如 OpenAI 的周活跃用户数、Google 和微软的 token 生成量都难以说明真实使用情况，因为模型效率提升、智能体与媒体创作消耗更多 token 等因素让数据难以解读。他认为 DAU 时长和留存率等指标更有价值，但第三方在移动端难以采集，且 LLM 能否像 Google 搜索那样形成正向反馈循环尚不明确。他提出最终问题在于 LLM 会主要作为面向用户的通用聊天机器人，还是嵌入其他产品中，后者将让使用量测量变得像统计 SQL 使用次数一样无意义。
匹配字段摘要、正文
Mistral AI 发布首款专用于代码的嵌入模型 Codestral Embed，称其在真实代码检索评测中优于 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大型嵌入模型。该模型支持调整嵌入维度和精度，即使采用 256 维 int8 输出也领先上述竞品。其上下文长度为 8192 tokens，但官方建议检索时使用 3000 字符、重叠 1000 字符的分块。
Mistral AI 发布首款专用于代码的嵌入模型 Codestral Embed，称其在真实代码检索评测中优于 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大型嵌入模型。该模型支持调整嵌入维度和精度，即使采用 256 维 int8 输出也领先上述竞品。其上下文长度为 8192 tokens，但官方建议检索时使用 3000 字符、重叠 1000 字符的分块。 · Mistral AI released Codestral Embed, its first embedding model specialized for code, and says it outperforms Voyage Code 3, Cohere Embed v4.0, and OpenAI’s large embedding model on real-world code retrieval benchmarks. The model supports adjustable embedding dimensions and precision, with its 256
匹配字段摘要、正文
Vapi 盘点了 Vosk 在医疗语音识别场景下的五个替代模型：Mozilla DeepSpeech、Wav2Vec 2.0、SpeechBrain、ESPnet 和 OpenAI Whisper，其中 Whisper 基于 68 万小时多语言监督数据训练。这五个模型均可通过自定义 STT 配置接入 Vapi 的语音 AI 流水线，由 Vapi 负责编排、延迟与 HIPAA 合规。文章按医学术语理解、噪声环境、减轻医护负担和安全性四项标准评估各模型。
匹配字段摘要、正文
vLLM 集成 Transformers 建模后端，让兼容模型在沿用 Transformers 实现的同时获得 vLLM 的吞吐量与延迟优化。该后端现已支持视觉语言模型，并可通过 model_impl="transformers"、OpenAI 兼容 API 或 LLM API 部署；对于 vLLM 尚未原生支持的兼容模型，系统也可自动切换到 Transformers 实现。
vLLM 集成 Transformers 建模后端，让兼容模型在沿用 Transformers 实现的同时获得 vLLM 的吞吐量与延迟优化。该后端现已支持视觉语言模型，并可通过 model impl="transformers"、OpenAI 兼容 API 或 LLM API 部署；对于 vLLM 尚未原生支持的兼容模型，系统也可自动切换到 Transformers 实现。
匹配字段摘要、正文