Arena公布基于近9000次智能体会话的实测结果,OpenAI的GPT-6.1 Terra (Max)在Agent Arena排名第8,净提升+10.6%,单任务中位成本0.62美元。该成本低于第7名Gemini 4 Argon (High)的1.09美元、第6名GPT-6.1 Sol (Max)的0.89美元和第5名GPT-6 Astra (Max)的5.16美元。分项排名中,Bash Reliability列第3(+13.2%),Steerability列第7(+13.3%),Praise vs Complaint列第9(+16.8%)。目前尚无后续进展。
Baseten工程团队于2026年10月29日发布博客,介绍对Qwen3-ASR 1.7B批量转写部署的优化。团队通过原生音频解码、KV cache FP8量化以及减少主机与设备同步,在单张RTX PRO 6000上把批量转写吞吐提升7倍、延迟降低6.9倍。优化后一小时音频的转写成本约为0.0013美元,即每音频小时1/10美分,词错误率没有明显变化。该优化版本已作为Baseten Model Library的默认部署,可通过OpenAI兼容的转写客户端调用。
2026年10月9日,Arena发布Alignment Index技术报告及完整排名,用于衡量AI智能体在真实使用中的安全与对齐表现。该指数基于27个模型的90K+真实智能体会话构建,考察越权行动、虚假归因和虚假完成三类信号。榜单中OpenAI的GPT-6.1-Sol以87.9分居首,Anthropic的Claude-Opus-5.5为83.2分,SpaceXAI的Grok-4.7为82.7分;OpenAI在三项信号上的观测比率最低,分别为0.89%、1.98%和2.34%。Arena表示各实验室的新模型普遍优于前代,且随着对话变长,失准风险会上升。同日Arena.ai还表示,截至目前发现只有2%的Claude Opus 5会话包含未授权操作,其中53.5%涉及未经请求的文件删除或“清理”。
2025年4月11日,vLLM集成Hugging Face Transformers建模后端,使兼容模型在沿用Transformers实现的同时获得vLLM的吞吐量和延迟优化。该后端已支持视觉语言模型,可通过model_impl="transformers"、OpenAI兼容API或LLM API部署。对于vLLM尚未原生支持的兼容模型,系统也可自动切换至Transformers实现。
2025年4月11日,vLLM集成Hugging Face Transformers建模后端,使兼容模型在沿用Transformers实现的同时获得vLLM的吞吐量和延迟优化。该后端已支持视觉语言模型,可通过model impl="transformers"、OpenAI兼容API或LLM API部署。对于vLLM尚未原生支持的兼容模型,系统也可自动切换至Transformers实现。