←新闻详情

Aaron Levie更新于 10月30日 14:35

Aaron Levie:智能体 token 消耗将达当前 1000 倍

Agents are going to consume 1,000X more tokens than we consume today.

AI 导读

Box CEO Aaron Levie 预测,智能体未来消耗的 token 将是当前的 1000 倍,因为它们要运行在工作流中、处理企业数据、构建几乎所有软件并保障企业安全。他认为规模化需要同时推进闭源模型边界与开源权重模型的能力、安全性和大负载效率,并提到 Suhail 正为此打造 Particle。Suhail 同日宣布新公司 Particle,其 particle-1 模型在性能持平下少用约 45% token。

引用

Suhail

@Suhail

1/ 很高兴宣布我们的新公司 Particle 这是我们在面向开发者的一系列模型上迈出的第一步。 借助 particle-1,我们专注于 token 效率,在性能持平的情况下,使用的 token 减少了约 45%。 现已上线:https://t.co/m5MvOwR9yE https://t.co/qAM7lFUPvG

查看原文

1/ Excited to announce our new company Particle This is our first step in a series of models focused on developers. With particle-1, we focused on token efficiency and managed to keep parity in performance while using ~45% fewer tokens. Live now: https://t.co/m5MvOwR9yE https://t.co/qAM7lFUPvG

查看原帖

正文 · AI 翻译

智能体消耗的 token 将是我们如今消耗量的 1000 倍。

因为它们将运行在我们的工作流中,处理我们所有的数据,构建几乎所有的软件,保障企业安全,以及做更多事情。要在如此规模下做到这些,我们需要在 AI 前沿采用多种方法。

这包括继续拓展闭源模型的边界,同时提升开放权重模型的能力,使其更安全,并让它们在大规模负载下更高效。

非常期待看到 @Suhail 与 Particle 在这方面所构建的成果。

来源

Aaron Levie