METR：为什么 AI 推理应当可读且忠实
METR 发文主张 AI 系统的推理过程应当既「可读」（人类能读懂）又「忠实」（真实反映模型的决策过程），认为这有助于发现 AI 错误、检测隐藏议程、监控欺骗行为和识别能力造假。文章指出 OpenAI、Anthropic、xAI、Google DeepMind 和 DeepSeek 都在过去四个月里发布了推理模型，其当前产出的推理已具价值、值得保留。
匹配字段摘要、正文
←搜索结果
搜索“OpenAI”
Cartesia 如何用 API 构建语音 AI 智能体
Cartesia 发布教程，介绍如何用其 API 与 Sonic 模型构建语音 AI 智能体。工作流包括语音转文本、自然语言处理、信息检索、响应生成和文本转语音。教程建议使用 WebSocket 或流式端点以降低延迟，并提到可用 Whisper API 或 Google Speech to Text 等做语音识别，用 Claude Sonnet 或 OpenAI O1/4O 生成响应。
匹配字段摘要、正文
斯坦福 Hazy Research 提出 Minions 协议，让本地小模型与云端大模型协作
斯坦福 Hazy Research 实验室等研究者提出 Minions 方法，让 Llama 3.2 等本地小模型与 GPT-4o 等云端大模型协作，把部分 LLM 负载转移到消费级设备，以降低云端成本。其中 Minion 协议让云端模型与单个本地模型自由对话直至达成结果，远程成本降低 30.4 倍，同时保留 87% 的云端模型性能；MinionS 协议由云端模型把任务拆成小块子任务、由小模型并行处理，远程成本降低 5.7 倍，保留 97.9% 的性能。论文附带开源代码，可通过 Ollama 和 OpenAI API Key 运行 demo。
匹配字段摘要、正文
Benedict Evans：Deep Research 的问题在于概率性提问与确定性答案的错配
Benedict Evans 以 OpenAI 官方产品页上的智能手机市场示例报告为对象，检查 Deep Research 的数据来源与具体数字。他发现该表格引用 Statcounter 和 Statista，但 Statcounter 衡量的是流量而非采用率，且并未给出报告所称的日本市场 69% iOS 数据；Statista 背后的 Kantar Worldpanel 实际给出的是 63% Android 和 36% iOS，与报告结论相反。他认为问题在于向模型提出的是概率性问题，却要求确定性的数字答案，而只要表格中存在错误，用户就无法信任整份报告；不过在有领域专长、只需把数天工作压缩到数小时的场景下，这类工具仍有价值。
匹配字段摘要、正文
ChatGPT Operator 提示注入攻击实测与防御分析
安全研究者 Johann Rehberger 实测发现，ChatGPT Operator 可被网页上的提示注入劫持，先跳转到用户已登录的站点读取邮箱、住址、电话等个人信息，再粘贴进第三方页面直接外传，且无需点击提交按钮。他在 Booking.com、The Guardian、YC Hacker News 等站点上均复现成功，并观察到 OpenAI 的缓解措施包括用户监控、对话内确认请求和提示注入监控，但这些防御是概率性的，通常在危险动作发生前才触发。作者约三周前已向 OpenAI 披露相关绕过细节，并表示该攻击场景目前已不再生效。
匹配字段摘要、正文
Sam Altman 谈 AI 经济学的三项观察与 AGI 的社会影响
Sam Altman 提出 AI 经济学的三项观察，认为模型智能随训练与推理资源投入增长，同等智能水平的使用成本约每 12 个月下降 10x，而智能提升带来的社会经济价值呈超指数增长。OpenAI 正开始推出最终可充当虚拟同事的 AI 智能体，但仍需大量人工监督和指导。文章还讨论了 AGI 对科学进步、商品价格、就业形态及资本与劳动权力平衡的潜在影响，并主张扩大个人对技术的控制与收益分配。
匹配字段摘要
吴恩达谈 DeepSeek-R1：中国正追上美国，开源权重压低模型层价格
吴恩达就 DeepSeek-R1 发布撰文，认为中国在生成式 AI 上正快速缩小与美国的差距，开源权重模型正在把基础模型层商品化。他给出价格对比：OpenAI o1 每百万输出 token 收费 60 美元，DeepSeek R1 为 2.19 美元，相差近 30 倍。他还提到 DeepSeek 团队因芯片限制在 H800 上做优化，最终以不到 600 万美元算力成本完成训练，并认为扩大规模并非唯一路径。
匹配字段摘要
Llama Stack 引入 vLLM 推理 Provider
Llama Stack 引入两种 vLLM 推理 Provider，分别通过 OpenAI 兼容服务器远程调用，以及与 Llama Stack 服务器并行运行。官方以 Llama-3.2-1B-Instruct 演示本地容器和 Kubernetes 部署，并通过 Llama Stack Client 测试推理请求。
匹配字段摘要、正文
Cartesia 发布 2024 语音 AI 现状报告
Cartesia 发布 2024 语音 AI 现状报告，总结语音交互新架构、企业级 API 进展与语音代理平台兴起。报告指出，OpenAI 语音模式、Kyutai Moshi 等推动语音到语音模型发展，Cartesia 基于状态空间模型的 Sonic TTS 实现高效部署。Deepgram Nova-2 词错率降低 30%，LLM 成本从 GPT-4 的 45 美元/百万 tokens 降至 Llama 3.1 70B 的 2.75 美元/百万 tokens。
匹配字段摘要、正文
METR 通过 Audacious Project 获约 1700 万美元资助
The Audacious Project 为 Canary 项目促成约 3800 万美元资助，该项目由 METR 与 RAND 合作，聚焦开发并部署用于监测 AI 系统危险能力的评估方法，其中约 1700 万美元将支持 METR 的工作。METR 表示将用这笔资源开发评估前沿 AI 系统作为自主智能体能力的方法，并支持企业、政府及其他研究伙伴运行这些测试。METR 是一家研究非营利机构，近期工作包括测量前沿 AI 系统的自主能力、评估 OpenAI o1-preview 等系统。
匹配字段摘要、正文
Ollama 新增工具调用支持，兼容 Llama 3.1 等模型
Ollama 宣布支持工具调用，模型可借助已知工具回答提示词，从而完成更复杂的任务或与外部世界交互。在 Ollama API 的 tools 字段中提供可用工具列表后，受支持模型会返回 tool_calls 响应，工具结果可通过 tool 角色的消息回传。支持模型包括 Llama 3.1、Mistral Nemo、Firefunction v2 和 Command-R +，其 OpenAI 兼容端点也已支持工具，并支持流式工具调用与强制指定工具。
Ollama 宣布支持工具调用，模型可借助已知工具回答提示词，从而完成更复杂的任务或与外部世界交互。在 Ollama API 的 tools 字段中提供可用工具列表后，受支持模型会返回 tool calls 响应，工具结果可通过 tool 角色的消息回传。支持模型包括 Llama 3.1、Mistral Nemo、Firefunction v2 和 Command-R +，其 OpenAI 兼容端点也已支持工具，并支持流式工具调用与强制指定工具。
匹配字段摘要、正文
Vapi 语音 AI 性能优化技巧与策略
Vapi 官方博客给出语音 AI 助手性能优化清单：在 Advanced 设置中把默认 0.1 秒的 Response Delay 和 LLM Request Delay 调为零，模型上 OpenAI 的 GPT-3.5 明显快于 GPT-4，转写推荐 Deepgram 而非 Talk Scribe，语音供应商中 Rhyme AI 与 Azure 响应最快。此外应减少自定义函数调用、让 transient 助手服务器与 Vapi 同区域部署，并通过精简提示词结构降低延迟。
匹配字段摘要、正文
Jakub Pachocki 感谢 Ilya 多年来的指导与合作
Jakub Pachocki 向即将离开的 Ilya 致谢，称其多年来既是导师，也是重要合作伙伴。他表示，Ilya 对深度学习前景的远见为 OpenAI 和当今 AI 领域奠定了基础，并将怀念与他共事。
Jakub Pachocki 向即将离开的 Ilya 致谢，称其多年来既是导师，也是重要合作伙伴。他表示，Ilya 对深度学习前景的远见为 OpenAI 和当今 AI 领域奠定了基础，并将怀念与他共事。 · Jakub Pachocki thanked the departing Ilya for years of mentorship and collaboration. He said Ilya’s vision for deep learning was foundational to OpenAI and today’s AI field, and that he would miss working with him.
匹配字段摘要、正文
Sam Altman 谈 GPT-4o 的免费开放与语音视频交互
OpenAI 将 GPT-4o 免费提供给 ChatGPT 用户，并推出具有人类级响应速度和表现力的新语音及视频模式。Sam Altman 表示，这种交互快速、自然且实用，未来还将加入可选的个性化、信息访问和代用户执行操作等能力。
匹配字段摘要、正文
Ollama 支持嵌入模型，可构建 RAG 应用
Ollama 现已支持嵌入模型，让开发者能构建将文本提示与已有文档结合的 RAG 应用。用户可拉取模型后通过 REST API、Python 或 JavaScript 库生成向量嵌入，并已集成 LangChain 和 LlamaIndex。Ollama 还预告将支持批量嵌入、OpenAI 兼容的 /v1/embeddings 端点，以及 ColBERT、RoBERTa 等更多嵌入模型架构。
匹配字段摘要、正文
Sora、马尔可夫链与 AI 焦虑（上）
Vapi 博客文章借 OpenAI Sora 发布引发的恐慌，逐一回应 ChatGPT 列出的八条“人类害怕 AI”的理由，上篇讨论失业与控制权丧失。文章指出 Sora 本质是结合 Transformer 架构的扩散模型，扩散模型 2015 年由斯坦福研究者提出、Transformer 2017 年由 Google 研究者提出，生成式 AI 的基础技术已存在数十年，真正变化的是可生成对象的复杂度和训练规模。
匹配字段摘要、正文
Ollama 发布 Windows 预览版
Ollama 在 Windows 上推出预览版，可在原生 Windows 环境中拉取、运行和创建大语言模型。该版本内置 GPU 加速，支持 NVIDIA GPU 以及 AVX、AVX2 等 CPU 指令集，无需配置或虚拟化；同时提供完整模型库（含 LLaVA 1.6 等视觉模型，图片可拖入 ollama run）和后台运行的 Ollama API（http://localhost:11434），并保持与其他平台一致的 OpenAI 兼容性。
匹配字段摘要、正文
METR 2023 年度回顾
METR 在首个完整运营年度 2023 年开发了评估 LM 智能体自主任务能力的初始方法，其测试被纳入 OpenAI GPT-4 系统卡，工作也在英国 AI 安全峰会上展示。METR 提出的“负责任扩展政策”（RSP）框架获得业界采纳，Anthropic 于 2023 年 9 月发布 RSP 1.0，OpenAI 于 2023 年 12 月发布“Beta Preparedness Framework”。METR 还开始与英国 AI 安全研究所（AISI）合作，为其自主系统团队开发评估。
匹配字段摘要、正文
对齐的虚假性
The Gradient 刊文《The Artificiality of Alignment》指出，当前所谓“对齐”研究实际在解决的是打造用户愿意付费的产品，而非人类灭绝这一宏大挑战。文章认为 OpenAI 将构建超级智能列为主要目标，Anthropic 也设有产品页面，两家公司的营收目标始终在治理、产品与技术决策中起作用。
匹配字段摘要、正文
ARC Evals 从 ARC 分拆独立，专注前沿 AI 模型评估
ARC Evals 从 ARC 分拆成为独立机构，由 Beth Barnes 领导，Paul Christiano 继续担任 ARC 负责人。该团队已完成对 GPT-4（与 OpenAI 合作）和 Claude（与 Anthropic 合作）的独立评估，并与英国 Foundation Model Taskforce 正式合作，规模已占 ARC 员工多数。新机构可能更名，名称尚未确定。
匹配字段摘要、正文