2025年7月14日,Vapi 介绍了一套针对语音 AI 延迟的优化方案。据 Vapi Blog 当日发布的内容,该方案通过动态路由系统将每次请求发往当时最快的 Azure OpenAI 部署,把 GPT-4o mini 的 P95 延迟削减了超过 1000ms。具体做法上,系统先用单 token 请求轮询 40 多个部署,再结合线上真实延迟实时更新路由表,并保留少量流量探索其他部署。针对请求无响应挂起的情况,方案按各部署历史标准差设置动态阈值,超时即回退到次快部署。目前该事实仅有 Vapi 官方博客这一来源,暂无后续发展事实。
2024年10月11日,Redwood Research 发表分析文章,讨论行为红队测试(BRT)在评估 AI 模型是否图谋不轨方面的局限。文章认为,BRT 虽可作为应对模型密谋风险的组成部分,但很难提供模型“没有在密谋”的强证据,因为该方法所得证据往往模棱两可,并依赖对密谋模型性质的假设。文章据此建议,在安全投入上,其他 AI 控制技术应获得三倍于 BRT 的投入,而 BRT 更适合用于模型生物体等研究,而非用于安全论证。