Voice Arena 推出 Turing TTS 基准,最佳模型仅骗过听众约 10%
Voice AI is now good enough that preference and human-likeness can be scored as separate targets.
Voice Arena 推出 Turing TTS 基准,让听众在同句真人语音和模型语音中选出真人,选错的比例即 Fool Rate,50% 意味着无法分辨。表现最好的 Gemini 3.8 Flash TTS 让听众误选约 10% 的情况。在 Voice Arena 的偏好榜上,前四名模型统计上并列,但相对真人整体仍有明显差距。
推荐理由
AI 评分 59
新基准把语音自然度拆成可量化的 Fool Rate,并给出各模型与真人难以区分的具体差距。
主题
查看原帖Drop 2/15 我们是否真的在衡量我们最终希望语音 AI 模型达成的目标? 最好的 AI 声音正变得越来越难以区分。 是彼此之间难以区分。而不是与人类难以区分。 🚀 隆重推出 Turing TTS:一项衡量人类听众将 AI 生成的语音误认为真实人类语音的频率的评估。 我们用真实人类语音测试了领先的 TTS 模型。即便是最好的模型,也只骗过听众约 10% 的情况。 借助 Turing TTS,我们希望为研究界关于如何衡量语音 AI 进展的更广泛讨论做出贡献。 如果我们的目标之一是开发与人类语音无法区分的语音,那么我们当前的评估方法在多大程度上捕捉到了朝着这一目标取得的进展? 我们并不声称 Turing TTS 是正确的前进方向,也不声称与人类无法区分应当是每个 TTS 系统的目标。 相反,我们希望这些发现能鼓励社区共同审视:对自然度的盲测成对人类评估是否足够,以及我们可能还需要衡量什么。 结果现已在 @voicearena_ai 上线。
查看原文
Drop 2/15 Are we actually measuring the things we ultimately want our voice AI models to achieve? The best AI voices are becoming hard to tell apart. From each other. Not from humans. 🚀 Introducing Turing TTS: an evaluation that measures how often human listeners mistake AI-generated speech for real human speech. We tested leading TTS models against real human speech. Even the best model fooled listeners only ~10% of the time. With Turing TTS, we hope to contribute to a broader discussion within the research community about how we measure progress in voice AI. If one of our goals is to develop speech that is indistinguishable from human speech, how well do our current evaluation methods capture progress toward that goal? We don’t claim that Turing TTS is the right way forward, or that human indistinguishability should be the goal of every TTS system. Rather, we hope these findings encourage the community to collectively examine whether blind pairwise human evaluations of naturalness are sufficient, and what else we might need to measure. Results are now live on @voicearena_ai.
正文 · AI 翻译
语音 AI 如今已经足够出色,以至于偏好度和拟人度可以被作为两个独立的目标来评分。
@voicearena_ai 推出了一项新基准 Turing TTS,直接对第二个目标进行评分:听众会听到同一句话分别由真人和模型说出,然后选出哪一个是真人。
他们选中模型的比例就是 Fool Rate(受骗率)。50% 意味着听众无法分辨。
即便是最好的模型 Gemini 3.8 Flash TTS,也让听众约有 10% 的情况下误选。
在 Voice Arena 的偏好榜上,排名前四的模型在统计上并列。但以真人为参照,整个领域仍有很长的路要走。
https://t.co/AUS2S4Wp5h