←新闻详情

Latent Space更新于 10月27日 19:26

TypeSafe CEO Diogo Almeida 谈 Jev:为生产而非上帝打造 System One 模型

Jev: System One models for Prod, not God — with Diogo Almeida, CEO, TypeSafe AI

AI 导读

InstructGPT 论文作者、TypeSafe CEO Diogo Almeida 在 Latent Space 播客中详解其新模型 Jev,称其为面向代码消费的 System One 大程序化模型,核心创新是未发表的 RLCD(面向校准决策的强化学习),优化目标为“智能每美元”而非人类偏好反馈。他批评 RLHF 导致模式坍缩、谄媚与幻觉,认为安全对齐适合 ChatGPT 这类产品但在 API 层会割裂智能,并称 TypeSafe 更愿被视作数据实验室,拒绝公开基准测试。他透露 Jev 上线后日 token 消耗已突破一万亿,并预告将推出 ReasoningJev 等后续模型。

推荐理由

AI 评分 62

InstructGPT 论文作者、TypeSafe CEO 详解 Jev 与 RLCD 路线,读者可借此理解程序化 AI 与聊天模型的分歧。

主题

标签

正文 · AI 翻译

49 8 2 1× 0:00 当前时间:0:00 / 总时长:-2:20:52 -2:20:52 您的浏览器不支持音频播放。请升级。Jev:面向生产而非上帝的 System One 模型——对话 TypeSafe AI 首席执行官 Diogo Almeida 与主创本人的权威 Jev 播客。2026年9月21日 49 8 2 分享 文字稿 AIE NYC 门票现已开售,并申请仅限受邀的 AIE CODE。快来加入我们!

我们与今天嘉宾的关系非同寻常:自共同撰写 InstructGPT 论文以来的这些年里,Diogo Almeida 一直表示,可通过 API 获取的前沿模型走错了路——从对齐到拒答再到可靠性视角,全都如此——由于 ChatGPT 的巨大成功,我们抛弃了除自回归聊天微调 LLM 之外的所有模式。

在一段如今观看量约 4000 万次的发布视频中(相比之下,GPT4o 为 2200 万,Fable 5 为 1500 万,Navier Stokes 为 7400 万,6 Astra 为 1.37 亿),Diogo 介绍了 Jev,它随即席卷了 AI 时间线——我们将跳过完整的 Jev 讲解,因为你最喜欢的 AI 网红/教育者可能已经做过一期了。我们还收集了:

来自 Allie 的官方模式与 cookbook,你应该先看这些

Jev 用例

基于速度的——游戏与计算机使用

我们在 1 小时 34 分讨论的语音 + 计算机使用示例

短信中的引导式回复

Jev 用于编码代理有官方指南

jev 用于 linting

压缩工具调用

Theo 提出的合理反驳——Diogo 发表了一篇关于《KV Cache 的暴政》的说明,你应在播客后作为 Jev + 编码代理的后续阅读,因为他相信缓存统治一切

构建于 Jev 之上的编程语言(Diogo 的最爱)

Jev 用于分析回放与用户旅程回顾

Jev 的一个核心目标是“消失在背景中”——例如像正则表达式一样不起眼

融合 transformer 与分类器

关于 confidence api

Jev 与 GLiNER(注意差异/反驳,同意,同意,同意)

Jev 论电车难题

Jev Bush

相反,我们将聚焦于我们能独特提供的东西——对 Jev 为何以及如何被创造,以及你应期待 TypeSafe 未来模型(ReasoningJev?)带来什么,还有你应着手哪些用例和想法、而非做第 55 个低投入的 Jev API 克隆或做通用的 JevBench 基准测试——这是 Diogo 公开拒绝过的——提供更广泛的哲学与使命层面的理解。

Diogo 对 RLHF 了解颇深,因为他曾参与 OpenAI 开创后训练工作的团队——并将三个分支追溯到 Christiano 等 2017(机器人后空翻演示)、Stiennon 等 2020(学习摘要)以及他的心血之作 Ouyang 等 2022(InstructGPT)。此后,从函数调用到结构化输出再到推理,每一项创新都像是在基于字符串的序列到序列预测范式之上打补丁。正如他在播客中提到的,2023 至 2024 年间,由于个人和组织的双重低估,他屡屡受挫,未能训练出一个能准确解决他所认为的让 LLM 成为软件核心的根本问题——可靠性——的模型。

Jev 的核心创新是“面向校准决策的强化学习”,一种新颖的、未发表的技术,它优化的是“在 System One 任务上给出具有认知诚实概率的答案”,而非人类评分反馈(RLHF)——后者会导致幻觉、谄媚以及对人类的永久依赖——也非带评分标准的可程序化验证输出(RLVR)——后者能解决 Navier Stokes 问题,却加剧了智能的参差不齐,且与其他软件集成不佳。

我们之前在播客中谈过校准问题,但理解 RLCD 为何变得必要的最佳单一去处,大概是 Diogo 的 AIE 演讲,其中讨论了为何一代训练有用 AI 助手服务于人类的做法,损害了为可组合、可编程的自动化 AI 训练模型的工作。

最后他还预告了自己关于缩放定律的反主流观点——这暗示了如何在没有大实验室数十亿美元的情况下构建现代新实验室……

我们花了相当多时间讨论 Diogo 关于《最苦涩的教训》的文章:

他的观点是:“你得到你所优化的东西,而 ML 中最苦涩的教训是,其中最重要的部分根本不是 ML。”——选对北极星,例如为用户偏好点赞还是被集成到工具调用中——会让其他一切顺理成章。

我们很兴奋能与刚染了发的 Diogo 畅聊:

为什么 AI 能解决极其困难的问题,却仍无法自动化基础工作

什么是 System One 模型,以及为什么 Jev 是为软件而非聊天而构建

RLHF、模式坍缩、校准,以及为人类偏好优化的隐藏成本

为什么当 AI 被埋入软件依赖中时,拒答会成为问题

为什么 TypeSafe 拒绝公开基准测试,并优化每美元智能

“最苦涩的教训”:为什么正确的任务和正确的数据可能比算力更重要

为什么 TypeSafe 把自己视为数据实验室而非模型实验室

RLCD 与 RLHF、RLVR 作为 AI 根本不同的北极星

为什么可靠性和鲁棒性比简单的确定性更重要

Jev 的编程原语,以及智能如何映射到软件控制流中

为什么开发者应将 AI 工作流分解为小型、可度量的决策

结构化状态如何取代巨型提示词和系统消息

为什么 Diogo 认为 AI 最终应当隐入软件的背景之中

“反向 SaaS 末日”以及 AI 如何为现有软件强力赋能

System One 与 System Two 智能,以及推理模型的局限

暗数据、计算机使用、实时智能,以及 Jev 最大的早期用例

为什么 Jev 可能重塑围绕单一模型架构构建的编码智能体

为什么 Diogo 说他不会花 10 亿美元做预训练

通往 TypeSafe 的 OpenAI 之旅,以及他为何认为许多新实验室正在以错误的方式接近 AI

超越 KV 缓存的编码智能体、共享状态、子智能体,以及多智能体的未来

00:02:50 什么是 Jev?System One 模型与可编程 AI

00:17:21 为什么 TypeSafe 拒绝公开基准测试

00:24:59 RLCD 与 RLHF、RLVR 的对比

00:39:55 可靠性、鲁棒性与确定性

01:18:28 反向 SaaS 末日与 AI 隐入软件

01:41:00 AI 安全、前沿节奏与 RLVR 的局限

01:55:19 TypeSafe 背后的 OpenAI 故事

引言:Jev 发布周与开发者势头 Swyx [00:00:00]:好,我们到演播室了。这是个特别的时刻,因为这周,我的好兄弟 Diogo 发布了 Jev,它已经刷爆了整个时间线。你感觉如何?现在的你是什么状态?

Diogo Almeida [00:00:16]:情绪上?

Swyx [00:00:17]:对。

Diogo Almeida [00:00:17]:从没这么糟过。我现在就像一具疲惫不堪的行尸走肉,因为事情太多了,而我是个技术型 CEO,所以有一堆火要扑。

Swyx [00:00:29]:是啊。

Diogo Almeida [00:00:29]:但精神上,我觉得——我一直这么说,而且这些年来在我的 over-under 活动里也一直这么说。我觉得整个 AI 领域就像那种嘉年华的镜屋,每个人都疯了,说着最奇怪、毫无道理的话。而感觉就在这一周,我好像更好地与现实同步了,就像,哦,人们现在看到了。AI 可以远比曾经以为的更有作为。

Diogo Almeida [00:01:06]:而且,是的,我们要去实现。一场基于 AI 的经济革命重新回到了桌面上,这他妈太棒了。

Diogo Almeida [00:01:17]:我太兴奋了,开发者们懂了。是的,而且我想向开发者们表达我永恒的感激,还有

Swyx [00:01:25]:是啊。

Diogo Almeida [00:01:26]:我对这个社区太兴奋了,一切都太棒了。

Swyx [00:01:28]:是啊,你昨天说你决定优先考虑市政厅会议,而不是一堆 VIP、投资人类型的人,因为你想确保他们才是你投入最多关注的人,对吧?工程师们,开发者们。

Diogo Almeida [00:01:43]:是啊,感觉有点像是,哦天哪,我现在在跟非常重要的人说话。

Swyx [00:01:47]:是啊。

Diogo Almeida [00:01:47]:我大概不该透露是谁。

Swyx [00:01:48]:是啊。

Diogo Almeida [00:01:48]:但对我来说感觉有点脏,我这个人可能过于真诚了。就像,如果在我那巨大的待谈话人员日历事件里,社区不在其中,那感觉就很脏。

Swyx [00:02:04]:是啊。

Diogo Almeida [00:02:04]:而且实际上,在我的理想世界里,那会是,比如,一直和社区在一起。我在想,“我该不该在走去你演播室的路上办一场市政厅会议?”然后我想,“不行,那太疯狂了。”

Swyx [00:02:12]:当然。是啊。嗯,你们一直在 Discord 上办市政厅会议。Discord 现在有 10 万人了。你的 Twitter

Diogo Almeida [00:02:19]:我不关注这些数据。

Swyx [00:02:20]:是啊。

Diogo Almeida [00:02:20]:所以我的天。

Swyx [00:02:21]:你的 Twitter 爆了。真的很好笑,因为,比如在 AIE 上,你说,“是啊,请关注我,”然后你甚至没提供你的账号。

Diogo Almeida [00:02:29]:我是个菜鸟。我是个菜鸟。

Swyx [00:02:29]:你真是个菜鸟。

Diogo Almeida [00:02:30]:我是个菜鸟。

Swyx [00:02:31]:但不,但那个,就像,那种正能量,就像

Diogo Almeida [00:02:33]:酷

Swyx [00:02:33]:你根本不知道怎么推销自己。

Diogo Almeida [00:02:35]:是啊。有人,比如,在我发帖说“我的天,我们三个都是热门话题”时点破了我。然后他们说,“那是个人信息流。”

Swyx [00:02:42]:那是个人,是啊。

Diogo Almeida [00:02:43]:然后我说,“哦,不。”

Swyx [00:02:44]:当然,当然它会对你显示为热门。

Diogo Almeida [00:02:45]:尴尬。是啊。

Swyx [00:02:45]:是的,因为那是你点击的内容。

Diogo Almeida [00:02:47]:是啊。

Swyx [00:02:47]:所以好吧。那,是啊,恭喜你这一切。

Diogo Almeida [00:02:50]:谢谢。

Swyx [00:02:50]:等你有了更多细节我们再聊。但对那些,比如,与世隔绝的人,或者只想要那个权威定义的人,什么是 Jev?

Diogo Almeida [00:03:02]:呼。让我想想。这问题挺难的。

Swyx [00:03:07]:好。如果你愿意的话,我很乐意重新问一遍。

Diogo Almeida [00:03:09]:不用。我很乐意

Swyx [00:03:10]:好

Diogo Almeida [00:03:10]:我很乐意,就随便聊聊这个。

Swyx [00:03:12]:嗯。

Diogo Almeida [00:03:13]:我得说,这个问题让我松了一口气的第一点是,现在我不用再回答我父母那个问题了,因为 ChatGPT 就能直接解释。

Swyx [00:03:20]:不错。

Diogo Almeida [00:03:21]:所以我的看法是,我们需——需要一类新的模型。我们并不执着于给这类模型起什么名字。我们——我们想出的最准确的名字是 System 1 模型。

Swyx [00:03:33]:嗯。

Diogo Almeida [00:03:33]:会有原因的,但——我们不叫它们决策模型是有原因的,因为,它们会是。System 1 不止于此。我只能说这么多。我们没料到这会成为我们的大发布,所以我们还留着一些东西没拿出来。

Swyx [00:03:48]:你该说这是低调的研究预览。

Diogo Almeida [00:03:52]:差不多就是吧,对吧?差不多就是。但我们。所以有一类模型,我们这样描述它们:机器原生、System 1、大型可编程。我认为这些——就是目标是以代码为消费方的那类模型。所以,与预训练大语言模型不同——那些是为了给互联网做自动补全——也与 RLHF 模型不同,比如聊天机器人指令遵循模型,那些是为了回复文本,或者 RLVR。它和 RLHF 处在一个奇怪的灰色地带。这类模型是为了让产出直接被代码消费,因此得名类型安全。所以我们真正想要的是让 AI 尽可能强大,而我们认为做到这一点的方式是把它与软件集成。我们设计的一切,不只是外部,还有模型深层的内部,都是为了针对软件优化。所以第一,Jev 是我们的第一个大型可编程模型,或者说 System 1 模型,随你怎么叫。Jev 的目标是针对每美元智能进行优化,因此得名 Jev。

Swyx [00:05:03]:杰文斯悖论。

Diogo Almeida [00:05:03]:杰文斯悖论,对。它针对每美元智能进行优化。我很喜欢和人争论可靠性、成本、校准和速度之间哪个最重要。而 Jev 就是为了。Jev 将成为处于每美元智能前沿的模型的名字。还有其他优化方式,比如 ML,或者至少如果你擅长 ML,一切都是权衡。而我们就是全力押注这一点。

Swyx [00:05:31]:嗯。对我来说,校准是人们之前谈得没那么多的一项新东西。我们过去做过一期节目,嘉宾是 Hugging Face 的 Clementine Foreia,他们说,“是啊,其实,他——他们就是。”或者,这就是你关于 RLHF 的整个论点,就是它们更倾向于坍缩到最想听到的内容

Diogo Almeida [00:05:50]:哦

Swyx [00:05:50]:或者最可能的内容,而不是它们自己对某件事的内部置信度。

Diogo Almeida [00:05:54]:我能就此借题发挥一下吗?

Swyx [00:05:56]:请讲。嗯。

Diogo Almeida [00:05:57]:好。我听说你的听众是技术性最强的,所以我其实想深入聊聊这个。

Swyx [00:06:02]:嗯。

Diogo Almeida [00:06:03]:而且——我以极致的精确度确保我们发布视频里的每一样东西都准确、真实。显然,这很不寻常。没人注意到的一点是 RLHF 的缺点,尤其是模式丢弃。

Swyx [00:06:17]:模式丢弃还是模式坍缩?

Diogo Almeida [00:06:19]:是一回事。

Swyx [00:06:19]:你是这么叫的吗?

Diogo Almeida [00:06:20]:是一回事。

Swyx [00:06:20]:好吧。

Diogo Almeida [00:06:21]:我最终想为此写篇博客,但我,想尽可能告诉更多人,因为我觉得这是件非常有意思的事。所以这个辛辣观点是,我很相信 Yann LeCun。我认为 Yann LeCun 的观点实际上是最接近的之一

Swyx [00:06:36]:这个呢?

Diogo Almeida [00:06:37]:呃,我现在该回应这个,还是该等等再讲模式坍缩?

Swyx [00:06:40]:不,待会儿。讲模式,讲模式坍缩。我不知道。

Diogo Almeida [00:06:42]:所以我其实认为,在各种观点中,Yann LeCun 的是最准确的之一。但他有一张非常著名/臭名昭著的幻灯片,关于,

Swyx [00:06:52]:蛋糕?

Diogo Almeida [00:06:53]:LLM 注定完蛋。

Swyx [00:06:54]:好。

Diogo Almeida [00:06:54]:就是那张,他有个饼图,上面有一小——一小块——然后说随着序列长度增加,它出错的概率会上升。对,就是这张。这张。我很喜欢这张,因为它是那种看起来在数学上显而易见、但显然错误的东西,对吧?就像,它在数学上显而易见,但在经验上并不成立。这是我最喜欢教别人的东西之一,关于你

Swyx [00:07:21]:脱节在哪里,对吧?

Diogo Almeida [00:07:22]:正是。你是想让我说还是你来说?

Swyx [00:07:27]:关于模式坍缩?

Diogo Almeida [00:07:28]:哦,不。哦,所以模式坍——坍缩和这个有关。

Swyx [00:07:31]:嗯。

Diogo Almeida [00:07:31]:脱节之所以发生,是因为如果你处于一个覆盖模式的或经过校准的分布中,你就像,不。你不会因为存在离群值而受到过度惩罚。你会预期,比如,某种情况。有一定时间你会处于分布之外,有一定时间你会处于分布之内。这就是覆盖分布时会发生的情况。这就像 GAN 之前的模型。它们生成模糊的图像,对吧?

Diogo Almeida [00:07:54]:相反,GAN 会出现模式丢弃。它们会丢掉少数类,只做那些非常常见的。这就是为什么这种效应不会发生,对吧?就像,为了生成真正很长的字符串而不出错,它们需要,比如,变得极其保守,因为一旦出错就很容易看出来。而像那种看起来正确的细微之处发生时,就很难看出来。而这种校准,就像,对字符串的概率分布来说完全是毒药。

Swyx [00:08:22]:是啊。

Diogo Almeida [00:08:23]:而且这是一个微妙的观点,我觉得,这就是为什么这种效应不会发生,这就是为什么字符串在决策方面如此糟糕,或者,把字符串模型超载用于决策,就像,是件糟糕的事。

Swyx [00:08:38]:既然我们聊到了 Yann,你同意他的修复方案——也就是像世界模型、类似 JEPA 的嵌入方案——是正确的解法吗?所以基本上,就像,它可能失败的原因之一是,你试图在 token 输出上进行推理,然后,然后又绕回来继续,继续直到你到达,比如,句子的结尾。就像,是这样吗?而他的解法是 JEPA,对吧?

Diogo Almeida [00:09:02]:是的。

Swyx [00:09:02]:也就是,联合嵌入,

Diogo Almeida [00:09:04]:是的

Swyx [00:09:04]:联合嵌入预测。所以,那是解法吗,还是,你有,你对这个有看法吗?

Diogo Almeida [00:09:10]:哦,天哪。我大概不该过多谈论 ML 的内部细节,但我要说,我的标签除了“疯癫”之外,就是“务实”。

Diogo Almeida [00:09:20]:比如,就连我在这里的观点也是务实的。而且,我,我是缩放定律的粉丝吗?看情况。这取——这,这,这,就像,这。缩放定律告诉你,投入多少就能在某个事情上变好多少。

Diogo Almeida [00:09:33]:缩放定律确实意味着指数级更多的资源换来的通常是次线性的收益,这看起来是笔糟糕的投资,除非那些,比如,线性收益真的很有价值。但这一切。对我来说,这一切都在于,比如,我们能用手头的东西做出尽可能大的他妈的影响吗?我可以爆粗口。

Swyx [00:09:51]:可以。

Diogo Almeida [00:09:51]:对。

Swyx [00:09:52]:对。

Diogo Almeida [00:09:52]:对。

Swyx [00:09:53]:我们,我们,我们是面向成人获批的。

Diogo Almeida [00:09:54]:太棒了。

Swyx [00:09:55]:而且我们还有个缩放定律的话题,如果你想之后聊的话。

Diogo Almeida [00:09:58]:哦,如果我们要聊的话我可以。你看,那部分现在不太相关。

Swyx [00:10:02]:嗯。

Diogo Almeida [00:10:03]:我其实。如果你想聊我最惨痛的教训,我觉得那更相关。

Swyx [00:10:06]:好。

Diogo Almeida [00:10:06]:但对我来说,我全都在乎,比如,实用性。而且我觉得 JEPA 那套东西是很酷的早期研究。我真的很喜欢了不起的研究。但它现在实用了吗?

Diogo Almeida [00:10:21]:大概不该说。但就是有很多。

Diogo Almeida [00:10:29]:我就是觉得,现在整个研究界到处都是,比如,那么多未经打磨的璞玉,因为人们不知道怎么做对的任务。而且我觉得我们这次发布所做的,它。它让我们作为一家公司启动了吗?是的。它对我们作为一家公司会很好吗?是的。我觉得它对,比如,程序化 AI 这个方向会更好。会有,比如,一场淘金热在我们之上,因为,比如,软件超级他妈的赚钱。但我觉得也会有一场与我们平行的淘金热,在,比如,我们能以各种不同方式暴露东西让软件更强大,从而让人们做出更酷的东西上。然后我们就回到了,比如,早期互联网的活力?

Swyx [00:11:12]:是啊。

Diogo Almeida [00:11:12]:而且我觉得这就是为什么,比如,Twitter 上就是,“Jev。”?这,就像。这就是一场派对

Swyx [00:11:18]:它很鼓舞人心,因为它,它,就像,和我们习惯的那么不同,我们习惯的是,“抱歉你不能做这个,但我们做缩放定律,只有大实验室才能做,”对吧?

Diogo Almeida [00:11:28]:那。其实,如果我。我,如果方便的话我要跑个题。

Swyx [00:11:32]:好啊。

Diogo Almeida [00:11:32]:我觉得你可能会喜欢这个。

Swyx [00:11:33]:真的吗?我们第五个跑题了。挺好。挺好玩。好啊。

Diogo Almeida [00:11:35]:哦,是啊。我跑题跑得都迷路了。

Swyx [00:11:37]:这对听众来说会很难理清,但他们会理清的。没事。

Diogo Almeida [00:11:40]:对,我们可以在后期剪辑。

Swyx [00:11:40]:这就是我的回应。对。

Diogo Almeida [00:11:41]:Discord 上有个很热门的话题,大家一直问我,我还没时间解释,那就是我为什么反对安全对齐,以及我们为什么不拒绝。我并不反对安全这个原则,但我认为安全对齐总体上与用户是错位的。而拒绝嘛,就像,显然是个类型错误。就像,如果你是一个人,你在跟一个机器人什么的聊天,你在做云端编程,然后突然来了个拒绝,比如,“抱歉,我无法读取 DNA.py。”那真是很烦人的时刻。很烦——这,这很烦人

Diogo Almeida [00:12:18]:对吧?但你可以应付它,对吧?而且因为斯德哥尔摩综合征,你被迫去应付它。

Diogo Almeida [00:12:23]:我也有这方面的故事。我得在这里再深入跑个题。但就像,如果你哪天想把这个放进一个后台运行的依赖里,如果它拒绝了会怎样?如果别人在用那个依赖呢?他们根本不知道那个系统是什么。就像,你希望软件仅仅因为用户在里面发了条奇怪的消息,就随机性地崩掉吗?

Diogo Almeida [00:12:42]:就像,那简直是,纯粹的疯狂。这来自一种立场,就是那些不懂软件、不懂编程的人,而且他们痴迷于,我相信这个,那种无马马车的想法,把 AI 当成同事,而不是去发掘 AI 的全部力量。

Swyx [00:13:01]:说得有道理。

Diogo Almeida [00:13:01]:是啊。

Swyx [00:13:01]:你想要的是那种核心内核,到处都能用。

Diogo Almeida [00:13:05]:对。正是如此。就像,认知内核,对吧?

Swyx [00:13:07]:是啊。

Diogo Almeida [00:13:08]:而且你需要这个东西,就像,如此通用,如此针对它的用例优化。你希望它,就像,你希望它能适用于所有未来的用例,所有人们正在搞的稀奇古怪的东西。

Swyx [00:13:19]:是啊。

Diogo Almeida [00:13:19]:我们显然没在这些东西上训练过。它居然能用,这奇怪吗?不奇怪,因为我们训练过更奇怪的东西,我的朋友。

Diogo Almeida [00:13:28]:所以。不过再跑个题,聊聊安全对齐。

Swyx [00:13:32]:好。

Diogo Almeida [00:13:32]:在我看来,安全对齐对一个产品来说是合理的,比如 ChatGPT 和 Claude。就像,它,安全,安全对齐和能力对齐的区别在于,能力对齐是关于做用户想要的事。这对软件工程师来说太棒了。他们希望自己的东西做那件事,而且它越可预测,他们就越不需要测试和摆弄它。Jeb 还远没到那个程度。它可以做到,但就像,我们想要多得多的可靠性九数,才能让它好到像数据库查询一样,你甚至都不用去想它。它就在那里,当你需要智能的时候。但安全对齐,就像,是指令遵循的反面。它是当你想要遵循别人的指令时,比如 OpenAI 和 Anthropic

Swyx [00:14:13]:RAG 的价值栈。

Diogo Almeida [00:14:14]:正是。而这对一个产品来说非常合理。再说一次,就像,ChatGPT 应该这么做。你——你应——就像,如果他们不想,比如,跟 ChatGPT 搞什么不适合工作场合的角色扮演,那是他们的事,因为,就像,也许那正是他们那些有父母和孩子的用户想要的。就像,那没问题。但在 API 里,那太疯狂了,对吧?就像,那完全不可接受,因为,就像,人们需要,就像,围绕这个来编程,而那太反用户了,以至于它。它。我。哈。我可能是个容易生气的人,所以我应该试着冷静下来。

Swyx [00:14:52]:这,人们能感受到你的热情,我觉得这非常好。我要给你的一个反驳是,就像,如果我们用它来杀人呢,对吧?就像,那才是真正的。就像,那——不适合工作场合那事,是私人的、个人的,随便什么。但就像,是的,就像,我们会在战争中使用它。而且就像,那是公司可以合理希望自己的 API 不被用于的事情。

Diogo Almeida [00:15:14]:我明白。我认为,就像,确实有一些务实的地方可以持有那种观点。但就我个人而言,我不认为一种通用技术的基础是那个地方。

Diogo Almeida [00:15:27]:就像,我会希望我们的东西不被用来杀人吗?显然。我会希望它被用于,就像,世界上各种各样,就像,伟大的事情吗?显然。我会为此施加我的影响吗?会。我会在技术层面这么做吗?绝对不会,因为那会割裂智能。每一次你打算让它过拟合到某些奇怪的东西上,你都在越来越多地割裂它的智能。而且就像,这些东西已经被割裂到,就像。它们现在被割裂得太厉害了。

Swyx [00:15:54]:是啊。

Diogo Almeida [00:15:54]:所以,进一步说,对我来说,我觉得智能更像是一个数据库,而不是一个同事。就像,我不认为该由数据库来添加检查,看它们是否被用于,比如,什么不太好的事情?比如 CIA。其实,我并不知道 CIA 到底做什么。你可以想象。你可以想象,杀害那些甚至并不坏的人之类的。

Swyx [00:16:46]:是啊

Diogo Almeida [00:16:46]:因为它应该被分解成小东西。我们不应该能够知道下游用户在用它们做什么,而这,就像,是一个很好的边界,能给软件工程师最大的权力。理想情况下,他们把它用于好的事情,理想情况下,我们可以,就像,帮助他们,而且就像,我们谈过,就像,做开源和慈善以及所有这些。我们现在绝对没有时间做任何其他事情。但是就像,只要我在负责,他们就会把任何那种偏见从技术层里去掉。

Swyx [00:17:11]:是啊,那太好了。既然说到这个话题,我们也简要谈谈你的隐私相关的东西,服务条款——使用条款,那个,有一点

Diogo Almeida [00:17:18]:哦

Swyx [00:17:18]:误解。我想先在这里澄清一下。

Diogo Almeida [00:17:21]:当然。

Swyx [00:17:21]:我觉得这大概需要你用两句话说明,就像,你不会。你对你的 API 并没有那么限制。就像,显然

Diogo Almeida [00:17:27]:哦,是啊。哦,是啊,所以是啊

Swyx [00:17:27]:从意识形态上,你非常认真地阐述了你作为平台的角色。

Diogo Almeida [00:17:30]:是的。是的。我不知道你指的是什么,但是就像,这是。我看到过几件关于,比如,基准测试的事情。

Swyx [00:17:38]:是的。

Diogo Almeida [00:17:38]:就像,显然我们没有阻止人们去做。哦,天哪,我应该小心我说的话。我意识到

Swyx [00:17:43]:不,你说过,你公开说过

Diogo Almeida [00:17:44]:是啊

Swyx [00:17:44]:那是在预览期。你在发布时没有把它拿掉。

Diogo Almeida [00:17:47]:是啊。好吧。

Swyx [00:17:47]:而现在你要把它拿掉了。

Diogo Almeida [00:17:48]:所以团队在做一些

Swyx [00:17:49]:是的

Diogo Almeida [00:17:49]:我甚至都不知道的事情,所以很高兴知道团队沟通了那件事。我让他们就那件事去跟律师确认一下。

Swyx [00:17:54]:是啊。

Diogo Almeida [00:17:54]:就像,我们显然没有阻止人们做那类事情。我极其赞成。所以我极其反对公开基准测试。我极其赞——我对作为代理的私有基准测试持中等态度。我

Swyx [00:18:09]:所以你是担心,饱和,还是,比如,在公开基准测试上训练?所以就是,比如,很容易作弊。

Diogo Almeida [00:18:15]:不仅容易作弊,还有很多入口。所以我认为我们是。或者任何跟我们,大致来说存在竞争的人都是。就像,你可以说,比如

Swyx [00:18:28]:大概有 50 个 Jev 克隆,是啊。

Diogo Almeida [00:18:30]:嗯,当然。

Swyx [00:18:31]:是啊。

Diogo Almeida [00:18:32]:嗯,这些。这么说吧,存在竞争。

Swyx [00:18:34]:我们会谈那些的。是啊。

Diogo Almeida [00:18:34]:或者我们就说存在。我们就假设两年后会出现一个行业,里面的人在做跟我们类似的事情。我们卖的东西是每某种单位、每,比如,美元或每秒的智能。那个。没有人。就像,人们痴迷于成本和速度。我相信那是。那很酷,但是就像,真正重要的是智能。就像,成本和速度是,比如,是坏东西。你为某样东西付钱,你需要把那东西拿回来,而智能才是真正重要的。智能的问题在于它有一种说不清道不明的东西,对吧?就像,好模型的味儿。就像,我们发布后发生的事,比如,两小时后,那实际上比视频传播得广得多,就像是,“我靠。”

Swyx [00:19:16]:这居然真的能用了。

Diogo Almeida [00:19:17]:它。嗯

Swyx [00:19:17]:是啊。

Diogo Almeida [00:19:17]:就像,不止于此。

Swyx [00:19:20]:是啊。

Diogo Almeida [00:19:20]:就像,那个。呼,发布太疯狂了,人们真的能感觉到我们有多在乎那件事,而那才是我认为这件事长期真正所在。而我认为公开基准测试跟这是对立的。就像,它们是一种让人们信任智能的方式,因为智能有一种说不清道不明的东西,但公开基准测试极其容易被钻空子。即使他们努力不这样,他们仍然会。就像,在过去,每个实验室都有一个团队去收集看起来像 MMLU 的数据,好让它看起来更好,那不过就是多了几步的基准测试。

Diogo Almeida [00:19:58]:所以我相信,从长远来看,在把它放进某个工作流、针对那个工作流进行评估和测量,并且你自己对它在真正重要的那个具体工作流上表现如何有了判断之前,靠的就是感觉和信任。而我们的工作就是不断提升可靠性的那几个九。这就像是我们作为一家公司需要一直做的事情中永远存在的一部分,我们需要尽一切努力让人们知道这是我们如此在意的事情。就像,如果我们想的话,我们本可以在一年半前就发布 Jev,如果我们想让它变笨的话。

Swyx [00:20:34]:哦。

Diogo Almeida [00:20:34]:它。就像,那个。我最惨痛的教训,对吧?就像,架构和 是啊。

Swyx [00:20:40]:我会提一下

Diogo Almeida [00:20:40]:太好了

Swyx [00:20:41]:既然你,既然你谈到了它,在这里。

Diogo Almeida [00:20:43]:太好了。就,Sutton 说算法大致上胜过算力。数据显然比算力重要得多。而做正确的任务、拥有北极星是最难、最重要的事情。到目前为止,这在 LLM 领域已经发生了两次,对吧?也许是 2.2 次。有 RLHF,它把任务转向了指令遵循。没人意识到那是可能的。RLVR 对方向做了一个小小的、微小的修改,而现在是我们,对吧?RLCD。我们有了一个新任务,目标是程序在环。而且是啊,数据重要得

Swyx [00:21:28]:对

Diogo Almeida [00:21:28]:难以置信地多。

Swyx [00:21:29]:所以

Diogo Almeida [00:21:29]:就像,我无法,我无法再更强调它了。

Swyx [00:21:31]:是啊,你把自己看作一个数据实验室,而不是一个模型实验室。那是

Diogo Almeida [00:21:35]:绝对是

Swyx [00:21:35]:什么。那是你们用的说法吗?

Diogo Almeida [00:21:37]:是的。我们是。我们将永远如此,就像,如此在意数据。对我来说,模型能力就意味着数据。数据复杂得令人难以置信,而那才是拿到那几个九的关键。就像,你根本不知道数据能在多大程度上改变一切。数据太重要了。

Swyx [00:21:57]:是啊。

Diogo Almeida [00:21:57]:我的天。所以如果人们在找工作,我们正在招无限多的数据人才,真的是无限多。

Swyx [00:22:04]:什么是优秀的数据人才?就像,显然是那种在意通读各种记录的人。比如,你说过,你们所有的数据都是合成的。

Diogo Almeida [00:22:15]:是的。

Swyx [00:22:15]:但那只是,就像,触及表面,对吧?

Diogo Almeida [00:22:18]:是啊。

Swyx [00:22:19]:就像,它不是。就像,合成的,那又怎样,对吧?合成的,但我们有人有很好的品味、非常用心地去看这些、去说清楚哪里不对、回去重新生成。这就是如今优秀的数据人才吗?

Diogo Almeida [00:22:31]:让我试着想清楚怎么说。就像,这超级复杂,而且就像,我 literally 用一场我估计比这期播客最终还要长的演讲来给数据人才做入职培训。所以我会试着讲个大概。那么第一,我们不做人们那种合成数据。嗯,我会做。其实,第零点是。数据和合成数据取决于你的任务。就像,你数据的形态。你任务的形态会改变数据。就像,RLVR 的数据算是环境,对吧?

Swyx [00:23:03]:是的。

Diogo Almeida [00:23:04]:RLHF 的是人类反馈?每个任务都有它自己独特的那类数据,而我们当然也有我们自己独特的那类数据,对吧?所以第一,我们有那个。第二,我。我们不想在用户数据上训练的原因,即使我们能,对吧?就像,我们现在大概可以要求任何条款,而它会。我们。我不知道那会不会有区别。我们真的不想要那个,因为无论如何,真实世界的数据有太多偏差。就像,存在一种幂律,人们问同样的东西,最终你会过拟合于它,并且像,向它碎裂,诸如此类。第二,我们是在瞄准,就像,多年之后一个完全科幻的未来,那时这些模型将成为,就像,通用基础设施,一层又一层又一层,深入到技术栈深处,触及人们甚至无法想象的东西。就像,我愿意把我们的模型想成,有点像,UDP 之于 LLM,而 TCP 之于我们的模型。各种东西都可以建在那之上,而我们需要能够搞定那些未来主义的用例,好让软件开发者真的能构建那些未来主义的东西。而做到这一点的方式是,即使我们拥有当下的全部数据,我们也只会过拟合于当下,然后就不好使了。我们需要的是,就像。

Diogo Almeida [00:24:21]:这几乎感觉像是一种。就像,他们是艺术家?他们研究这个认知核心。我们的认知核心,就像,比任何其他人的都远没那么参差不齐。然后他们找出那些参差之处,然后以一种方式外科手术式地处理它们。而且你永远无法完美地做到这一点,对吧?但他们处理的方式使得它在每一个可能的维度上——过去、现在、未来——都得到解决。

Swyx [00:24:45]:是一般情况,而不是具体情况。

Diogo Almeida [00:24:47]:正是如此。而且这需要大量的智能,每一次都是。

Swyx [00:24:50]:好,那我们稍微提了一点。你有点批评我的想法,说它非常受 RLVR 影响,这挺公允的。让我们真正提一下 RLCD

Diogo Almeida [00:24:59]:哦

Swyx [00:24:59]:显然据我们所知,你有一些秘方。你其实从未就此发表过论文或类似的东西。没有,对吧?

Diogo Almeida [00:25:05]:没有,还没有。

Swyx [00:25:06]:但人们应该从中得到什么?比如,什么。你能给人们一些信心,让他们相信你不是为了听起来酷而编造术语,对吧?对我来说,有一件事是,校准我确实认为是一个。对我来说,就像,很好理解,因为我们在播客里讲过。

Diogo Almeida [00:25:22]:是的。

Swyx [00:25:22]:但我不知道你说 RLCD 时是什么意思,相对于人们熟悉的东西。

Diogo Almeida [00:25:26]:这是个好问题。

Swyx [00:25:27]:是的。

Diogo Almeida [00:25:27]:而且实际上,我会给出一个相关的问题。

Swyx [00:25:29]:好。

Diogo Almeida [00:25:29]:什么是 RLHF?

Swyx [00:25:31]:好。

Diogo Almeida [00:25:31]:对吧?而且实际上,RLHF 意味着多种不同的东西,对吧?

Swyx [00:25:34]:好。

Diogo Almeida [00:25:34]:比如,有最初的那个 RLHF。我想那大概是 Paul Christiano 教一个机器人后空翻之类的。不是有这么回事吗

Swyx [00:25:42]:是那个吗?

Diogo Almeida [00:25:43]:那是最初的

Swyx [00:25:44]:我引用的是 PPO 论文,但我不知道。

Diogo Almeida [00:25:46]:所以据我回忆,PPO 不一定来自人类反馈。

Swyx [00:25:51]:好。那是真的

Diogo Almeida [00:25:52]:但我相——我相信那是 OpenAI 的一项对齐工作,可以教会难以具体指定的输出,比如后空翻。我不是 100% 确定。然后实际上还有 learning to summarize。这是一项工作,由帮助完成 instruct——并共同撰写了指令遵循论文的一批团队成员完成,那是在语言模型上做 PPO。

Swyx [00:26:15]:这是,抱歉。我试着,试着

Diogo Almeida [00:26:19]:是的

Swyx [00:26:19]:试着操作这个东西。这是 2017 年。

Diogo Almeida [00:26:23]:是的。

Swyx [00:26:23]:对。

Diogo Almeida [00:26:23]:我不是 100% 确定,但看起来挺对的。

Swyx [00:26:26]:是的。

Diogo Almeida [00:26:26]:如果里面有像机器人做后空翻之类的东西,那可能就是它。是的。好,酷。我猜我猜对了。太棒了。

Swyx [00:26:35]:这就对了。

Diogo Almeida [00:26:36]:是的。

Swyx [00:26:36]:就是那个。

Diogo Almeida [00:26:36]:所以想法是,你能不能用它来做那些定义不清的事情?所以那是第一版。第二版是 learning to summarize 那项工作,就是 OpenAI 做的,实际上是在语言模型上做 PPO 来完成某种有点定义不清的事情。这是人们称之为 RLHF 的另一件事,而我没有参与合著。

Diogo Almeida [00:26:57]:哦,Dario 在那儿。酷。太棒了。

Swyx [00:27:01]:还有 Radford。

Diogo Almeida [00:27:02]:是的。向 Alec 和 Ryan 致敬。爱他们。

Swyx [00:27:04]:是的。

Diogo Almeida [00:27:05]:但我所指的 RLHF 是那个,哦天哪。

Diogo Almeida [00:27:13]:我会讲到

Swyx [00:27:14]:你对那有评论,是的。

Diogo Almeida [00:27:15]:我对那篇论文有评论,但我们扯得太远了。

Swyx [00:27:18]:是的。

Diogo Almeida [00:27:18]:所以真正让我。对我来说,我称之为 RLHF 的是指令遵循这个任务。它不在于 PPO。那部分不重要。它在于设定一个北极星:这是一个有价值的方向。这有点像 Bitris 的教训,北极星。

Diogo Almeida [00:27:34]:而对我们来说,RLCD 就是这个新任务。而它不是。我不把它看作术语。我只是试图精确地沟通。只是说,“嘿,这是另一个北极星。”就像 DPO 及其所有后代也做 RLHF 一样,尽管没有使用那篇论文里的算法。

Swyx [00:27:55]:所以清楚地说明北极星是,成为可编程的 AI 是其中之一,这个词我真的很抓住,把人类从循环中移除,

Diogo Almeida [00:28:06]:是的

Swyx [00:28:06]:从。因为 RLHF 是在调

Diogo Almeida [00:28:09]:是的

Swyx [00:28:09]:为了这个,好让你能自动化一切。

Diogo Almeida [00:28:11]:是的。一切让

Swyx [00:28:13]:我在关于北极星是什么的论点里,还漏了什么吗?

Diogo Almeida [00:28:17]:有。那就是。那就是对的。我在沟通中过于细致了。一个细微之处是,我们需要务实。我们需要意识到语言模型能做得非常好的事情。比如 AI 能做什么。

Diogo Almeida [00:28:30]:对吧?比如,可能有那种酷到爆的可编程类型,但如果。如果技术还没准备好让它。那没被推向世界也不算悲剧。

Swyx [00:28:41]:是的。

Diogo Almeida [00:28:42]:但对我来说,Jev 之前的世界是一场悲剧,因为——这听起来很傲慢。听我说完。

Swyx [00:28:49]:不。我强烈相信你。

Diogo Almeida [00:28:50]:酷。这听起来很傲慢,但就像,我早在自己甚至还没有公司之前就有这种感觉了。

Swyx [00:28:54]:是的。我可以,我可以作证,

Diogo Almeida [00:28:56]:是的,我已经谈论这件事很久了

Swyx [00:28:57]:你在 All Around Her 上说过这个,大概,三年了。

Diogo Almeida [00:28:58]:是的,我已经谈论这件事很久了。我一直在说,是因为我以为这会更容易。他们说他们不做某些事,是因为他们。它。它们很容易。他们。是因为他们以为这很容易,所以

Swyx [00:29:08]:是的,没错

Diogo Almeida [00:29:09]:差不多是这样。我以为它。这整个项目会花一周时间。

Diogo Almeida [00:29:13]:而我错得离谱。所以我非常抱歉,对 OpenAI 的每一个人,因为我以为。我当时想,“天哪,我现在就在解决这个问题。”但就像,我觉得悲剧的地方在于,当。好吧,我觉得过度承诺、交付不足也是悲剧。而且就像,AI 在这条轴上超级极端。而且我觉得 RLVR 是,就像,主要的。好吧,RLVR 和 RLHF 都是这件事的极端肇事者。

Diogo Almeida [00:29:40]:但就像,它。对我来说,就像,那里就是有太多潜力了。就像,AI 显然非常聪明。我——聪明。我在我的演讲里很喜欢这一点,当我问人们,比如,“AI 怎么能如此难以置信地聪明?我们怎么能,比如,解决数学中的千禧年大奖难题,却仍然连最基础的工作都无法自动化?”就像,真正基础的机械性工作,比如,那个。它——它不需要,比如,极其聪明的人来做这个。这不是一份令人满意的工作。就像,这些人本可以做其他事情,但我们却需要他们做,比如,这种基——比如,超级基础的——不令人满意的东西,因为,比如,我们还无法自动化它,但我们有这台,比如,超强的自动化引擎,只是没有,比如,正确的插头之类的东西来接入所有这些有经济价值的工作。而且就像,如果整个 TypeSafe 公司消失了,比如,也许人们要花,比如,一两年才能真正赶上。我其实不知道要花多久。如果模型质量重要,那我们会在很长一段时间里处于非常有利的位置。但就像,它已经完成了,对吧?就像,那里,比如,这已经改变了,比如,技术史的路径。

Swyx [00:30:49]:是的。

Diogo Almeida [00:30:49]:而且就像,我们会作为一个领域去探索那个空间。

Swyx [00:30:53]:是的。我觉得,我绝对同意这一点。你创造了可能性。所以我觉得,如果我可以转述一下,好让人们也能理解,你不应该把 TypeSafe 和 Jev 的成功仅仅看作,“好吧,那是一种新的模型类型。现在我们完成了。我们回去照常做事。”就像,不。就像,实际上,还有,比如,另外五种模型类型你应该去探索,而且就像,让百花齐放。

Diogo Almeida [00:31:15]:绝对。

Swyx [00:31:16]:对吧?

Diogo Almeida [00:31:16]:就像,早期互联网

Swyx [00:31:17]:而且其中一些,其中有些你大概也会去构建。

Diogo Almeida [00:31:18]:当然,是的。

Swyx [00:31:19]:是的。

Diogo Almeida [00:31:19]:早期互联网的能量。我觉得这回到了科技乌托邦。它不再是那种,“哦,天哪,就像,有时候我的编码智能体能用,但,所有最好的那些都被囤在内部了。”

Swyx [00:31:29]:是的。

Diogo Almeida [00:31:30]:对吧?就像,创造又回到了菜单上。

Diogo Almeida [00:31:34]:?不过这会是一个疯狂的世界,系好安全带。

Diogo Almeida [00:31:38]:它。而且我对此超级兴奋。

Swyx [00:31:42]:是的。而现在你有了资金和势头去做你在那里设想的任何事情,我觉得,我觉得这,比如,在说了这么久这些话之后看到你拥有这些,非常令人欣慰

Diogo Almeida [00:31:53]:是的

Swyx [00:31:54]:但实际上是向世界展示。

Diogo Almeida [00:31:55]:我知道。我只是。这么,这么有趣的一件事,一直吊着人胃口。就像,我的演讲,比如,感觉像是一个悬念,因为我没有说自动化会如何发生。

Swyx [00:32:05]:是的。

Diogo Almeida [00:32:06]:Sean 审阅了我们的宣言,他说,“这些部分有点含糊。”

Diogo Almeida [00:32:12]:而且就像,“第一步是什么?什么是,什么是智能模型?”

Swyx [00:32:16]:好吧,我向你要模型,你就说,“是的,模型即将到来。”

Diogo Almeida [00:32:18]:是的。

Swyx [00:32:18]:而且就像,好吧,我主要反对的是“可组合”这个词,但 build prod.god 太棒了。

Diogo Almeida [00:32:24]:谢谢。

Swyx [00:32:24]:是的。

Diogo Almeida [00:32:25]:是的。我们确实围绕这一点团结起来了。我愿意认为我们并不像某些公司那样完全是个邪教。

Diogo Almeida [00:32:32]:但就像,我们对我们正在做的事情很兴奋,而且就像,我们确实如此。就像,我的品牌就是务实,而且就像,我们都,就像,超级超级务实。

Swyx [00:32:42]:是的。

Diogo Almeida [00:32:42]:这真的很棒。

Swyx [00:32:43]:是的。所以在这里。顺便说一下,这就是那个步骤,那个秘密总体计划,对吧?

Diogo Almeida [00:32:47]:没错。

Swyx [00:32:47]:Shape,机器原生可组合 AI 的形态。

Diogo Almeida [00:32:49]:制定秘密总体计划是你的主意,所以

Swyx [00:32:51]:这是,这是埃隆那一套。当他创办特斯拉时

Diogo Almeida [00:32:53]:是的

Swyx [00:32:53]:他说,“这是我们要做的事。”

Diogo Almeida [00:32:54]:但我确实做了。是的。我把官方功劳归给你。

Swyx [00:32:56]:哦,谢谢。谢谢,谢谢。

Diogo Almeida [00:32:56]:是的。

Swyx [00:32:56]:谢谢。但就像,你本该告诉我你,你还要做这次模型发布,因为你,就像,你告诉了我,你只告诉了我一半的故事,然后另一半,你当时还没有那个 doom demo。

Diogo Almeida [00:33:08]:没错。

Swyx [00:33:08]:你当时没有任何数字可以给我。

Diogo Almeida [00:33:10]:没错。

Swyx [00:33:10]:我当时就想,“什么?”

Diogo Almeida [00:33:11]:嗯,问题在于我不相信基准测试。

Swyx [00:33:13]:正是。

Diogo Almeida [00:33:14]:对吧?

Swyx [00:33:14]:正是。

Diogo Almeida [00:33:14]:所以就像,这是你需要去感受的东西,而且就像,我认为这是建立长期信任的方式,即使它,就像,很痛,它让我们,让我们很痛?就像去年我们融资时,没人相信我们。

Diogo Almeida [00:33:27]:?就像,他们只想要基准测试之类的东西,而我们就说,“我们不会那么做。我们有原则。我们会坚守我们的立场。那会奖励不良行为者。我才不在乎,就像,你想要什么。就像,这就是我们,我们坚守这一点。”所以抱歉。这不是

Swyx [00:33:43]:不,是的。嗯,而且在某些方面,我认为,就像,选择艰难的道路,它。但你最终打造出了你想在其中工作的公司。

Diogo Almeida [00:33:49]:没错。

Swyx [00:33:50]:对吧?否则,如果你出卖了自己,那你就只是在,就像,OpenAI 里工作,只不过是我的人,对吧?那就像是。

Diogo Almeida [00:33:56]:是的。是的。就像,我,显然我对此没有太多遗憾。

Swyx [00:34:01]:是的。

Diogo Almeida [00:34:01]:就像,结果好得难以置信。而且就像,我,那个。昨晚我谈到,就像,我离开 OpenAI 的原因时很动情,因为,就像,发布之后我实际上不得不改变我的措辞。我当时的说法是,“如果 AI 寒冬真的发生了,而我没有尽我他妈的所能去做每一件可能的事,就像,去避免它,我会认为自己负有个人责任,既对 RLHF 方向负责,我认为它确实扩大了过度承诺与交付不足之间的差距,也对没有全力投入这件事负责,因为我认为这正是价值将会,就像,被印出来的地方。”所以。而且这真的很酷,因为我觉得

Diogo Almeida [00:34:47]:我所担心的 AI 寒冬被避免了。就像,AI 会有用。它会被用于自动化。

Diogo Almeida [00:34:53]:还不到一周,而且就像,数字已经无可辩驳

Swyx [00:34:57]:是的

Diogo Almeida [00:34:57]:它,就像,被用于真正的工作,而且就像,还有。这,这是蛮荒西部。是的。

Swyx [00:35:03]:是的。你能不能,就如果你现在脑子里有的话,你看到了什么数字?就像,什么是,什么是,就像,注册量?就像,任何你能分享的。

Diogo Almeida [00:35:11]:我其实并不是特别掌握所有情况。就像,团队才是告诉我所有这些事情的人。

Swyx [00:35:16]:是的,而且我确信它,就像,每天都在变,对吧?

Diogo Almeida [00:35:17]:它,它,

Swyx [00:35:18]:但就像

Diogo Almeida [00:35:18]:它有点疯狂

Swyx [00:35:19]:如果有一个里程碑让你觉得,“嗯,没错,那就是我们一直希望的一件事。我们达到了。”

Diogo Almeida [00:35:23]:我要说我们已通过的一个里程碑是每日 token 数。

Swyx [00:35:27]:不错。

Diogo Almeida [00:35:27]:而且这不是,就像,转瞬即逝的每日 token 数。

Swyx [00:35:32]:是的。

Diogo Almeida [00:35:32]:这是,就像,即使在夜里,就像,它也在持续训练,所以是机器在调用它,而不只是人们在试用。

Diogo Almeida [00:35:39]:所以那,那太酷了。每天一万亿 token 是很多。

Swyx [00:35:45]:是的。

Diogo Almeida [00:35:45]:所以超过那个数很棒。注册量对我来说并不真的重要。而且实际上,这,就像,是我们犯的一个小错误,如果我,就像,完全诚实的话。Twitter 上的人称我们,就像,营销天才之类的,而那只是我们自己。我们没有营销人员。招聘也是。我们只是做真实的、傻乎乎的、就像,不恭的自己,而我们,我们只是,就像,拼命地把人从等候名单里清出去。- 我们的平台团队强得难以置信。我认为我们的正常运行时间比 Anthropic 有更多个 9,同时还拥有史上最前所未有的发布。就像,那有点疯狂,所以

Swyx [00:36:21]:是的

Diogo Almeida [00:36:21]:就像,向他们致敬。

Swyx [00:36:22]:是的。

Diogo Almeida [00:36:23]:还有我们没意识到的事。首先,等候名单、等候名单注册量,在我看来,对一个开发者平台来说根本不重要吧?我猜其中很大一部分人甚至都不是开发者。所以他们进来,试几个查询,然后很多人根本搞不懂,因为他们不写程序,对吧?他们就像,“什么?这不是聊天机器人。我的 ChatGPT 2 在哪?”

Diogo Almeida [00:36:45]:对吧?但如果,就像。我没精确算过这个。我的感觉是,如果世界上每一个人都只写几个查询,那跟一个高级用户写一个 for 循环所创造的价值相比,也就是个舍入误差。

Swyx [00:37:01]:是的。

Diogo Almeida [00:37:01]:而我们——没意识到的是,等候名单这东西,我们随时可以把任何人从等候名单里踢出去。无所谓。可怕的是速率限制。然后一旦人们开始从中获得价值,他们就只想要海量的速率限制,因为软件就是这样,对吧?你前期花功夫把你的重复性任务明确下来,然后这个重复性任务创造的价值超过投入的成本。然后现在你有了这个

Swyx [00:37:25]:设置好就不用管了,是的。

Diogo Almeida [00:37:26]:没错,是的。你把它放到后台运行。你让它成为其他东西的依赖项。你可以构建更高层级的东西。然后你就在世界上创造了如此多的价值。早期互联网的人大概想象不到 2000 年代初互联网的奇妙,那还不算早期互联网。但就像,它是通过,无意冒犯,可组合性

Swyx [00:37:47]:不

Diogo Almeida [00:37:47]:所有疯狂的事情才发生的,我只是真的想在我们的宣言里强调这一点。我们追求的是涌现。我们追求的是,就像,成为催化剂。我们想要赋能人们,我们会为此竭尽所能,不管是在我们的市政厅 Discord 里我穿着垃圾袋还是别的什么。

Swyx [00:38:05]:还有播客,还有 Diogo Almeida [00:38:08]:当然

Swyx [00:38:09]:把这些都做了。

Diogo Almeida [00:38:09]:绝对。

Swyx [00:38:09]:因为,我想要长篇形式,对吧?

Diogo Almeida [00:38:11]:是的。

Swyx [00:38:12]:就是,对,我们会越过那些表面的东西,然后我们会深入

Diogo Almeida [00:38:15]:当然

Swyx [00:38:15]:然后人们会真正信任并理解你的使命,而那些会产生共鸣的人最终会加入你,或者,买你。或者不,抱歉,作为,作为客户。

Diogo Almeida [00:38:27]:哦,作为客户。

Swyx [00:38:28]:作为客户,作为客户。

Diogo Almeida [00:38:28]:好,是的。那挺好笑。抱歉。

Swyx [00:38:30]:抱歉。我不是,我不是故意那么说的。但不,任何——一个非常讨喜的版本是,就像,你发布视频有 3600 万次观看。

Diogo Almeida [00:38:37]:酷。现在到 3800 万了。

Swyx [00:38:39]:是的,舍入误差。

Diogo Almeida [00:38:40]:是的。

Swyx [00:38:40]:Navio 还有 7400 万。Fable 5 有 5700 万。所以就像,就——而且我没,我没统计过,就像,最初的 ChatGPT,就像

Diogo Almeida [00:38:48]:是的

Swyx [00:38:49]:那个没有视频。

Diogo Almeida [00:38:50]:是的。

Swyx [00:38:50]:所以就像,也是名列前茅,对吧?

Diogo Almeida [00:38:52]:是的。

Swyx [00:38:52]:就像,就,就,如果你要在 2026 年发布一个 Neolab,我觉得你现在就是第一,这,就像,挺疯狂的。

Diogo Almeida [00:38:58]:是的。嗯,其实我更愿意。我确实有那件 T 恤,就像,你最喜欢的 Neolab 最喜欢的 Neolab。

Swyx [00:39:05]:哈。

Diogo Almeida [00:39:05]:我才不在乎当什么 Neolab。我觉得当 Neolab。其实,我们有很多,就像,周边,都是对 Neolab 的戏仿。其中一个,其中一个我有的,就像,有产品的 Neolab,那其实不算 Neolab。就像,我真的不在乎那个。

Swyx [00:39:20]:是的。

Diogo Almeida [00:39:20]:我在乎的是成为一个可靠的开发者平台。所以 Swyx [00:39:23]:对

Diogo Almeida [00:39:24]:感谢这个比较,但就像

Swyx [00:39:25]:是的

Diogo Almeida [00:39:25]:希望我们能超越它们,回到,就像,一个东西——就像,开发者的革命性时刻,以及,这个人们可以依赖和信任的稳定东西。

Swyx [00:39:35]:对。为此,我觉得有一件事真的让我对你们印象深刻,就是,是的,你们确实谈可靠性。我原以为主要是关于校准,就像,我们谈的 RLCD。但实际上它也是关于,就像,正常运行时间和可扩展性以及所有这些东西,对吧?它们,它们都是同一类。

Diogo Almeida [00:39:55]:还有几个 9。

Swyx [00:39:56]:还有几个 9。

Diogo Almeida [00:39:56]:就像

Swyx [00:39:57]:在我看来,正常运行时间就是。

Diogo Almeida [00:39:58]:哦,但那是其中一部分。但就像,可靠性体现在,比如,这东西有多智能。比如,它有多稳定地做你想要它做的事?而且我觉得,那些大型推理模型非常聪明。在我看来,它们仍然缺乏可靠性。我觉得有很多用例,你——它们看起来应该足够聪明,能自动化它们的工作。自动化那项工作有经济激励,但它们仍然不够可靠,就像一个实习生,因为它们是为不同的东西优化的。所以就像,我觉得存在能够信任输出的可靠性。而且我们也是。就像,有些可靠性维度我们还没达到,而我对此,就像,非常兴奋。

Swyx [00:40:38]:是的。

Diogo Almeida [00:40:38]:就像,我想在困难的工作之前先自动化简单的工作?就像,我觉得那只是常识性的做法。但对我来说,我们会足够。我不知道是否存在足够可靠这种东西,但我想做到那么好,以至于人们甚至不需要试模型就知道它能行。就像,那就像编程中的心流状态,对吧?就像,我只是,就像,写查询,因为我需要这里的智能。而且就像,当。对于非平凡的分支,我可以直接把它写成一个,就像,类型安全的 System 1 查询,然后从中得到结果,它就准确地分支。就像,那会太好了。就像,那就是。那就是梦想。

Swyx [00:41:12]:是的。

Diogo Almeida [00:41:12]:而那,就像,将会是,就像,一段漫长的跋涉。

Swyx [00:41:16]:是的。我们待会儿会聊聊你的 API 设计

Diogo Almeida [00:41:19]:哦

Swyx [00:41:19]:只是给大家举些例子,还有,也许没走的路,那类东西。

Swyx [00:41:23]:前面有一件事我确实想知道,关于可靠性,我注意到没有 seed。没有,所以基本上,同样的输入,我是否总是得到同样的输出?

Diogo Almeida [00:41:34]:所以

Swyx [00:41:36]:如果不是,为什么不是?

Diogo Almeida [00:41:37]:哦,好问题。所以这其实,就像,是我们之间常见的问题。所以可靠性其实是个笼统的说法。就像,每当 AI 无法自动化某件事,都是因为某种形式的可靠性。可能是,就像,类型安全。可能是确定性。也可能只是,就像,它是,它是参差不齐的,对吧?所以可靠性是个笼统的说法。我只是觉得它也是个笼统的说法,就像,北极星是什么。确——确定性就是,就像,同样的输入,同样的输出。我确实相信这对单元测试来说,就像,有点意思,但我相信那是错误的北极星。我相信鲁棒性才是人们

Diogo Almeida [00:42:16]:我不想告诉人们他们真正想要什么,因为那对我来说会有点傲慢。

Diogo Almeida [00:42:19]:我相信那才是,就像,更重要的属性。你想要,给定相似的输入,得到相似的输出。而且 LLM 有多不可靠,这有点疯狂。

Diogo Almeida [00:42:31]:就像,我们测试这个的一种方式是,你放,就像,UUID 进去,就像小

Swyx [00:42:36]:是的

Diogo Almeida [00:42:36]:我觉得它们叫 nonce 在提示词里。而你想要的是从所有这些中得到相似的输出,因为它真正在语义上是同一个问题,而那才是你真正想要的部分。那——就像,那种鲁棒性才是,就像,人们被 AI 做决策坑到的地方。所以我觉得那是。一个超级重要的属性。我们也可以有确定性。那,那是一种可以提供的特性。就我能,就像,在脑子里为程序员建模的范围而言,就像,它,我——它对某些用例可能有价值,所以就像,请在评论或观点中教育我。但我的。总的来说,这很容易。确定性是你可以,就像,用更好的成本来权衡的东西。就像,我们,我们一直想处在智能每美元的前沿。我们正在做,就像,绝对恶心的事情来待在那里。就像,这是,

Diogo Almeida [00:43:32]:我不该说这个,但这里没人拦我。

Swyx [00:43:37]:如果你——你自己批准自己的 PR。

Diogo Almeida [00:43:40]:这家公司不是这么运作的。我相信这周,我的幕僚长 Kay 是科技界最有权势的人。

Swyx [00:43:49]:是的。还要感谢 Kay 组织了这个。

Diogo Almeida [00:43:50]:天哪

Swyx [00:43:51]:是的。

Diogo Almeida [00:43:51]:天哪。她真是他妈的能干又有权势。她太厉害了。

Diogo Almeida [00:43:58]:她很烂。别挖她。但所以我会尽量更有过滤,但就像,人们告诉我,“别叫它模型的弗兰肯斯坦怪物,”但那是因为那有,就像,负面含义。我觉得弗兰肯斯坦的怪物其实是,就像,整个故事里的好人。它是无辜的,对吧?我没读过。好吧。

Diogo Almeida [00:44:18]:我会,我会坦白。好吧。那。嗯,一个面部表情,我

Swyx [00:44:21]:这就是一个

Diogo Almeida [00:44:21]:我把话摊开说

Swyx [00:44:21]:还算不错的 Jacob Elordi 电影,如果你想看

Diogo Almeida [00:44:24]:我

Swyx [00:44:25]:那个改编版。总之。

Diogo Almeida [00:44:26]:那个。你根本不知道我现在时间有多紧。

Swyx [00:44:28]:是啊。

Diogo Almeida [00:44:29]:我的优先事项是睡觉?

Swyx [00:44:31]:开发者。

Diogo Almeida [00:44:32]:开发者,对。开发者。但没错。它。我们确实会做,就像,绝对恶心的事情,只为待在智能每美元的帕累托曲线上,而且我们会继续这么做。

Swyx [00:44:47]:是啊。

Diogo Almeida [00:44:47]:我们会做疯狂透顶的事情,而且我觉得人们真的需要跳出框框思考。就像,我们之所以令人惊讶,部分原因就是,就像,人们是在框框内思考,而我们继续这么做。就目前而言,我们显然在这方面是最好的,我们想继续在整个这件事上保持最好。

Swyx [00:45:05]:是啊。

Diogo Almeida [00:45:05]:那么等等,我们是从哪里跑题的?

Swyx [00:45:07]:不。所以

Diogo Almeida [00:45:08]:是啊

Swyx [00:45:08]:我问你的是,你们会有种子和确定性吗?

Diogo Almeida [00:45:11]:哦,对。所以

Swyx [00:45:11]:然后你基本上定义了可靠性,还有就像

Diogo Almeida [00:45:14]:还有鲁棒性

Swyx [00:45:15]:你怎么看它。是的。

Diogo Almeida [00:45:16]:但就像,确定——就像

Swyx [00:45:17]:我有一个鲁棒性的例子,很,很快,我可以给你看。

Diogo Almeida [00:45:19]:我很乐意。我只说一件事。

Swyx [00:45:21]:是啊。

Diogo Almeida [00:45:21]:我们可以做一个确定性模型。

Swyx [00:45:22]:正是。

Diogo Almeida [00:45:23]:就像,我们很乐——如果人们能说服我们那是一件有价值的事

Swyx [00:45:27]:是啊

Diogo Almeida [00:45:27]:而且我们并没有巨大的 GPU 短缺

Swyx [00:45:29]:是啊

Diogo Almeida [00:45:29]:我们可以愉快地做出所有这些模型。我们活着就是为了取悦人。还有革——还有反叛,revolute,

Swyx [00:45:38]:你会把一切都推翻,只不过你会用一种体面的方式来做。

Diogo Almeida [00:45:41]:是啊。

Swyx [00:45:41]:然后找到

Diogo Almeida [00:45:42]:所以就像,确定性也许是有可能的。

Swyx [00:45:44]:是啊。

Diogo Almeida [00:45:45]:它只是会让你每美元得到的智能更少。

Swyx [00:45:46]:是啊。嗯,光是看到 OpenAI 和 Anthropic 的发展轨迹,你就会。现在就相信我吧,你会被同侪压力逼着去做的。所以就像,就算人们。就算你告诉他们不需要,他们还是会想要。所以就像,是啊,这就是这件事的 TL;DR。

Diogo Almeida [00:46:01]:好。

Swyx [00:46:02]:是啊。

Diogo Almeida [00:46:02]:我很乐意。也许有一天我们会看到那是怎么发生的。

Swyx [00:46:07]:是啊。

Diogo Almeida [00:46:07]:有人跟我说我,他们说我们品牌的一部分就是不可动摇

Swyx [00:46:13]:哈

Diogo Almeida [00:46:13]:他们说那只是对固执的委婉说法。

Swyx [00:46:15]:固执,是啊。

Diogo Almeida [00:46:16]:是啊,正是。而且我是个非常固执的人。我觉得我们本来做不到这件事。

Swyx [00:46:19]:是啊。

Diogo Almeida [00:46:19]:是啊。

Swyx [00:46:19]:不,但是。所以就像,我。好吧,但是我——我,就像,以前跟你争论过。

Diogo Almeida [00:46:23]:是啊。

Swyx [00:46:24]:而且我知道

Diogo Almeida [00:46:24]:而且你在开发者的事情上每次都说对了。

Diogo Almeida [00:46:25]:所以好吧,我认输。你赢了。你赢了。我服了,我以前跟你争论过。

Swyx [00:46:31]:不,我只是说,我觉得你可以坚持自己的立场,同时,如果我给你正确的证据,你也可以,不。你可以抛开自己先前的成见,说:“对,这对我来说确实说得通。”

Diogo Almeida [00:46:41]:对。

Swyx [00:46:41]:所以,就相信你自己的直觉吧。

Diogo Almeida [00:46:44]:嗯。对。

Swyx [00:46:44]:我会提一些

Diogo Almeida [00:46:45]:不过我怀疑,我们会在很长一段时间内受限于 GPU。

Swyx [00:46:50]:很长一段时间。是啊。

Diogo Almeida [00:46:50]:而任何每美元智能更低的东西,都意味着它会消耗更多 GPU

Swyx [00:46:56]:是啊

Diogo Almeida [00:46:56]:为了同样的智能,也就是。就像,我们的目标不是让公司入驻。就像,这——这很有价值,但就像,我们的目标是让人们去实验、去做些稀奇古怪的东西。而我们需要,就像。我们需要,就像,把它交到尽可能多的人手里,就像,为此掀起一场加州淘金热。

Swyx [00:47:14]:我觉得现在就是这样。是啊。

Diogo Almeida [00:47:16]:是啊。

Swyx [00:47:16]:只是提个醒。我就直说了

Diogo Almeida [00:47:19]:哦,好吧

Swyx [00:47:19]:因为现在有人正在琢磨这件事。

Swyx [00:47:21]:就是当你说出诸如“我们不会承诺使用确定性模型。我们会,我们会不惜一切代价追求每美元智能,而且我们——我们正面临 GPU 限制”这样的话时,人们会认为你可能会量化你的模型,对吧?就像,就像,无论你发布时有什么,你都可能会量化压缩。为了降低质量,以腾出内存或带宽之类的,对吧?

Swyx [00:47:42]:所以你可能应该,做出某种承诺,虽然你不必现在就做

Diogo Almeida [00:47:47]:对。

Swyx [00:47:48]:大概就是,“我们会在发布时保证模型质量。”人们,就像。所以这就像当人们。当我们。你发布的时候还在 OpenAI

Diogo Almeida [00:47:55]:对

Swyx [00:47:55]:所有这些,所有这些 API,还有 Claude 也是。就像,当他们最初发布模型时,模型字符串,并没有始终保持同一个模型。

Diogo Almeida [00:48:04]:对。

Swyx [00:48:04]:对吧?你的模型有版本管理。这很好。

Diogo Almeida [00:48:06]:对。

Swyx [00:48:06]:但就像,你应该,你应该公开承诺某种东西,比如,一旦某个东西发布了,我们就不改它。

Diogo Almeida [00:48:11]:我们部署模型后不会更改它们。那太疯狂了。我们在乎开发者。就——就像,如果你。如果。所以——做那样的事,再说一次,这就是第一方产品和 API 的问题所在。这就像。你在第一方产品里想做什么都行,对吧?就像,随他们去,只要能带来那种体验,那没问题。对于 API,你显然不能那么做。但我要说,我们计划比许多人习惯的模型提供商快得多地推进事情。所以我们会比人们想象的快得多地发布新模型,而且我们不承诺对模型提供长期支持,因为我们认为还有很多改进空间。所以存在这样一种可能:我们可能会暂时把现在的 Jev 1.13.0 作为 LTS。我们可能会这么做,因为用的人太多了,而且我知道开发者讨厌破坏依赖。另一种选择是分裂我们的机群,那对所有人来说都是非常糟糕的氛围。那会

Swyx [00:49:12]:是啊,你可能会,比如,有 100 个不同版本的模型。

Diogo Almeida [00:49:13]:没错。而且如果我们迭代得非常快,也会有很多这样的版本。

Swyx [00:49:17]:是的。

Diogo Almeida [00:49:17]:所以我们最终确实想要的不只是一个支持 LTS 的东西,也就是长期支持。我们想要一种非常酷的方式来实现这一点。我们在这方面有一些研究正在酝酿中,我认为那将会是有史以来最亲开发者的事情。

Swyx [00:49:34]:是的。

Diogo Almeida [00:49:35]:但这还不是我们当前的模型,而且我并不承诺我们能够保持完全相同的模型。它们每次都会变得更聪明,这是肯定的。

Swyx [00:49:43]:是的。

Diogo Almeida [00:49:43]:而且我的感觉是,即使是我们已经足够聪明的模型迭代,在模型版本之间,变化往往比把字符串模型调用两次还要小。但当我们从那种参差不齐的状态跃升到“哇”的程度时,那才是巨大差异所在。

Swyx [00:50:01]:是的。关于给模型做 LTS 有一点很美,那就是你实际上还可以把它们移植到其他芯片上。

Swyx [00:50:08]:我,我不知道你有没有想过这一点。

Diogo Almeida [00:50:11]:无可奉告。

Swyx [00:50:12]:好吧。

Diogo Almeida [00:50:12]:所以我关心的是每美元智能。

Swyx [00:50:14]:是的。

Diogo Almeida [00:50:15]:对吧?

Swyx [00:50:15]:但还有速度。

Diogo Almeida [00:50:16]:什么?

Swyx [00:50:17]:速度也是。

Diogo Almeida [00:50:18]:我们拭目以待。

Swyx [00:50:19]:是的。

Diogo Almeida [00:50:19]:我们拭目以待。我

Swyx [00:50:20]:这是。这是推理技术树中在过去一年里正在爆发的一整个部分,对吧?

Diogo Almeida [00:50:24]:是的。

Swyx [00:50:24]:比如,你可以,你可以迁移到,比如,Cerebras

Diogo Almeida [00:50:27]:是的

Swyx [00:50:27]:一块 Etched 之类的芯片,然后获得比如 10 万倍的加速。

Diogo Almeida [00:50:32]:是的。我觉得每秒智能是一个不同的指标,我们甚至讨论过诸如每美元每秒智能之类的指标。我对杰文斯悖论是否会发生、或者至少杰文系列模型的猜测是——我在内部会追着人问的事情是——我不在乎它聪明多少,它必须处在帕累托前沿上。所以这就是 Jev 这个品牌的定位。它在每美元智能上是最好的。至于每秒智能,我们拭目以待。我觉得这很有意思。我知道有很多行业极度依赖实时性,而这对他们来说意味着大量的金钱。但是

Diogo Almeida [00:51:20]:我们拭目以待。我很想两者都做,让市场以任何一种方式来纠正我。

Diogo Almeida [00:51:26]:比如,我很想听取人们的意见。

Swyx [00:51:30]:是的,完全同意。而且这不仅仅是关于实时性,对吧?这也关乎规模,因为在规模之下,每一微秒都会被乘以数十亿、数万亿倍。

Diogo Almeida [00:51:41]:这取决于它在后台是怎么运行的,对吧?

Swyx [00:51:42]:是的。

Diogo Almeida [00:51:42]:比如,如果它是一个大型后台任务,比如数据库的 MapReduce 查询,那么延迟可能就不如成本那么重要

Swyx [00:51:49]:是的

Diogo Almeida [00:51:49]:从中获取智能。但如果它实际上是更实时、面向用户的东西,你就有预算,比如在100毫秒到1毫秒之间,那简直是魔法。而且实际上,即使你在100毫秒以下,如果你能把时间减半,那意味着你可以获得两倍的智能,或者进行两倍的顺序智能调用,从而获得一种现象级的体验。

Swyx [00:52:10]:是的。

Diogo Almeida [00:52:10]:所以没错,这绝对是当下正在发生的事。这超级酷。我喜欢每秒智能这类用例,但我不认为那会是Jev的细分领域。

Swyx [00:52:21]:好。是的,有道理。

Diogo Almeida [00:52:22]:是的。

Swyx [00:52:22]:在思考更快更便宜的承诺时,通常另一面是,其他模型提供的权衡是更快但更贵。

Diogo Almeida [00:52:32]:是的。

Swyx [00:52:33]:对吧?所以你是……比如,我思考为什么Jev引起这么大共鸣的原因之一是,你占据了那个象限中更快但更便宜的一侧

Diogo Almeida [00:52:41]:是的

Swyx [00:52:41]:而这一侧非常空缺

Diogo Almeida [00:52:43]:是的

Swyx [00:52:43]:同时把智能保持在某种程度上恒定。

Diogo Almeida [00:52:45]:是的。这——我——那是一个非常关键的表述,在保持智能恒定的同时。那才是难的部分,对吧?就像

Swyx [00:52:53]:不幸的是,基本上,你拒绝做任何公开基准测试,或者你不喜欢任何关于它的公开基准测试

Diogo Almeida [00:52:59]:但我会的。我实际上试过

Swyx [00:53:00]:但你需要某种内部的感知。

Diogo Almeida [00:53:02]:再说一遍?

Swyx [00:53:02]:你需要对这一点有某种内部的感知——这个

Diogo Almeida [00:53:03]:哦,当然。

Swyx [00:53:04]:是的。

Diogo Almeida [00:53:04]:当然。我们当然有我们自己的内部评估。

Swyx [00:53:08]:是的。

Diogo Almeida [00:53:08]:但要不钻这些评估的空子,需要极强的自律,而且必须把不钻空子当作最高优先级的要务。

Swyx [00:53:14]:是的。

Diogo Almeida [00:53:14]:我们当然会这么做,对吧?

Swyx [00:53:15]:是的。

Diogo Almeida [00:53:15]:不然我们还能怎么保证我们的模型处在“每美元智能”的帕累托前沿上?

Diogo Almeida [00:53:20]:对吧?我们又不是在里面盲飞,对吧?如果我们用不同的成本之类的东西做出完全奇怪的事情,那我们怎么比较它们?我们把它们画出来,然后得到。你。我们试着弄清楚,什么对用户来说是最好的。

Swyx [00:53:32]:是的。

Diogo Almeida [00:53:32]:所以我们肯定会测量它们。我不反对测量。但当你存在任何其他激励时,这就极其危险,而这是我要用铁腕处理的一件事。好吧,也许我的同事会觉得我用铁腕处理很多事情,但对我来说,不自欺欺人地高估我们模型有多聪明,是这里最重要的事情之一。

Swyx [00:53:57]:是的。

Diogo Almeida [00:53:57]:就像,我们需要求真。

Swyx [00:53:58]:是的。是的。同意,同意。好,我想过一下API选择方面的一些细节。

Diogo Almeida [00:54:04]:哦。

Swyx [00:54:04]:主要是因为这是唯一会问你这类问题的播客。

Diogo Almeida [00:54:07]:哦,太对了。太对了。

Swyx [00:54:08]:所以你有三个原语。

Diogo Almeida [00:54:10]:是的。

Swyx [00:54:10]:Choice、score、know。首先,know,这个词是从哪来的?

Swyx [00:54:14]:这算是文献里的一个术语还是什么?

Diogo Almeida [00:54:17]:现在算是了。

Swyx [00:54:18]:是啊。

Diogo Almeida [00:54:19]:我们为此争论了很多。我们为此争论了很多。它是个布尔式的东西,对吧?就像真、假。它是

Swyx [00:54:32]:但它是连续的。

Diogo Almeida [00:54:33]:对,正是如此。所以首先,这个名字的来源是伯努利(Bernoulli)。

Diogo Almeida [00:54:39]:是的。所以它——这就是为什么它甚至拼写得那么奇怪。它就像是伯努利这个名字的一个子集,来自伯努利概率,对吧?而这实际上就是它的本质。所以这就是它的来源。我们为此争论了很多。我们喜欢 PBool,我们喜欢 Pool。我们当——我们当时想把它叫做,比如,pool party(泳池派对),但没人让我这么叫。我们为此还有一堆别的争论。

Diogo Almeida [00:55:04]:而 Noulli,我们觉得这是最好的选择。我们的理由,其实 Jev 也是一样,就是我们觉得自己是一群不羁、疯狂的人,而程序员不在乎。就像如果 Jev 只是一个字符串,我们也没指望它能流行起来,甚至没指望有什么双关之类的,对吧?其实,内部对这个名字有很多不满。他们后来都道歉了,只有一个人除外。

Swyx [00:55:33]:还在坚持。

Diogo Almeida [00:55:33]:是的。我们共同的朋友。

Swyx [00:55:36]:好吧。

Diogo Almeida [00:55:37]:是的。

Swyx [00:55:38]:我为此尊敬她。

Diogo Almeida [00:55:39]:是啊。是啊。她想让 Jev 叫 Meow。

Swyx [00:55:44]:她当然会。

Diogo Almeida [00:55:45]:是的,当然。

Swyx [00:55:46]:好吧。

Diogo Almeida [00:55:46]:跟她父亲一样,是啊。

Swyx [00:55:47]:这点你赢了,这点你赢了。

Diogo Almeida [00:55:49]:但是,是的,Noulli 就是这样。我们不得不为这个东西创造一个新概念,因为如果它是一个 Bool,人们会感到困惑。所以实际上,这三个都是全新的概念。它们并不是编程中存在的类型,这是有意为之,因为它们与类型非常接近,但并不完全是。分数不是 int。所以如果你让 Instructor 或 Pydantic 之类的把 int 或 float 映射成分数,你会有点吃不消?而且,我们确实更倾向于清晰,而不是让人轻易理解发生了什么。

Swyx [00:56:24]:你不担心这个吗?你不想让东西直接集成到人们已经在用的东西里吗?

Diogo Almeida [00:56:30]:想。我们想。而且实际上,我觉得,

Swyx [00:56:34]:你们有与其他 SDK 之类的集成。

Diogo Almeida [00:56:36]:是的。

Swyx [00:56:36]:但你们有——抱歉,你们有自己的 SDK。

Diogo Almeida [00:56:38]:对。

Swyx [00:56:38]:但通常,比如作为开发者关系人员,我会非常执着。比如,是的,这是你如何将 Jev 与 Instructor 一起使用。

Diogo Almeida [00:56:46]:对。

Swyx [00:56:46]:这是你如何。那种东西。

Diogo Almeida [00:56:49]:我们可能在某处有那个。我在所有事情上都落后太多了。

Swyx [00:56:53]:社区里会有人替你做的。

Diogo Almeida [00:56:54]:哦,是的。是的。

Swyx [00:56:54]:不是说你成功了。人们会说,“哦,那很酷。”

Diogo Almeida [00:56:57]:酷。

Swyx [00:56:57]:但就像。总之

Diogo Almeida [00:56:59]:我也不认为那是二元的。

Swyx [00:57:00]:是的。

Diogo Almeida [00:57:01]:我实际上把成功看作一个分数,而且总有更多可以攀登的

Swyx [00:57:04]:是的

Diogo Almeida [00:57:04]:说白了,就是我们在多大程度上能为我们的社区出力。而且我——这一节挺让人紧张的,因为我没有审阅文档,而它们还在不断变化。

Swyx [00:57:15]:好。但是

Diogo Almeida [00:57:16]:但对我来说,分数是存在的。所以分数类似于 LM 评判。

Diogo Almeida [00:57:21]:对吧?所以如果你想把它叫作评判,我想也可以。但这就是人们已经——已经在用这类东西的方式,对吧?比如,也许 Noulli 可以是一个概率,但对我们来说一切都是概率。而 choice 实际上最接近函数调用,但函数调用是一种极其恶心的东西,如果你想 OpenAI juice、sauce、tea 那一套。我们之后应该再回到那个话题。就像,choice 只是暴露一个 switch match 语句的正确方式

Swyx [00:57:57]:是的

Diogo Almeida [00:57:57]:在代码中。

Swyx [00:57:57]:所以它干净地映射到一个枚举。

Diogo Almeida [00:58:00]:对。

Swyx [00:58:00]:而且如果你愿意,可以选择把它填充成一个函数。

Diogo Almeida [00:58:02]:是的。而且在枚举中,choice 是其中重要的部分。

Swyx [00:58:06]:是的。

Diogo Almeida [00:58:06]:而且实际上,我认为这些都可以映射到编程原语,比如 choice 映射到对枚举的 switch 语句。

Swyx [00:58:13]:嗯。

Diogo Almeida [00:58:14]:Noulli 映射到 if 语句。

Swyx [00:58:15]:是的。

Diogo Almeida [00:58:16]:而分数映射到排序,或按大于或小于进行阈值判断。

Swyx [00:58:21]:好。

Diogo Almeida [00:58:21]:而这一直就是愿景所在。就像,会有更多类型,而它们会映射到编程原语。

Swyx [00:58:28]:是的。还有别的吗。所以你有什么细节想讲一讲吗?因为说白了,这是给那些正在决定要真正投入 Jev 的 Jev 用户看的。你是专家,对吧?我只是想给他们提供更多背景,关于 API 选择、他们应该如何使用其中一些东西,比如 legends、confidence、在你的测试中有多关键,比如怎么用。就像,任何那种,你愿意提供给人们的专业建议

Diogo Almeida [00:58:56]:是的

Swyx [00:58:56]:当他们深入到这一层的时候。

Diogo Almeida [00:58:58]:谢谢。我很喜欢这个。不。这是

Swyx [00:59:00]:这就是我们在这里的原因。

Diogo Almeida [00:59:01]:太对了。我没料到会这样。而且实际上,我。大概有好几个月都没人问过我这个了,当时我在,比如,给我们的 DevRel 做入职培训。

Swyx [00:59:10]:好。

Diogo Almeida [00:59:10]:太棒了。所以我们的模型是为未来深入计算机程序内部而设计的。我们,毫不讽刺地相信,这将比人们今天所考虑的任何东西都要庞大得多。我们的模型可能还没为此准备好,但我们一直在为那个未来持续努力。它在这些浅层任务上永远不会足够好。抱歉。它永远不会足——就像,我们不会只是不停地爬浅层任务。我们想深入程序的内部,因为那才是让软件强大的方式。所有那些——我们内部所有的类型,这其实是一个输出。

Diogo Almeida [00:59:47]:但所有那些,所有那些部分,比如输入,比如状态、指令、标准,它们全都可以是结构化的 JSON 对象。

Diogo Almeida [00:59:58]:这样一来,程序就能把它们插入到正确的位置,你也不需要再把东西塞进模板里。没错。所以如果有朝一日。我觉得人们没有充分读懂这一部分,他们以为全都是字符串。这也没问题。但这些全都是有意义的。我想说,如果你在使用模板,比如把它变成系统消息之类的,那你就是在用旧思路思考?我们应该让计算机更容易理解这些东西,因为这种结构确实存在,对吧?就像在编程语言里,如果你把所有数字都放进去,然后把它传进去,比如把它变成字符串,那会很奇怪。通常,你只在有真人参与的时候,为了打印才这么做,对吧?但在计算机内部,你希望传递的是语义完整的嵌套结构。我们真的会优化我们的模型。它——模型在这方面已经相当优化了,但问题是,每一个不同的嵌套层级都更难推理,而我们想要——我们正在朝这个方向拼命发力。我觉得人们应该继续朝这个方向发力,因为这会让代码更易读、更漂亮,而且不受实现细节的束缚。就像,这是我的状态,这是我的函数状态。把它想成,把它想成一个 AI 函数。我的状态,也就是你可用的所有变量,哪些子集应该传进来?系统消息就像恶心的全局变量,你把所有东西都塞进去,然后你把所有这些

Swyx [01:01:21]:垃圾,是啊

Diogo Almeida [01:01:22]:一次性给出指令。然后你希望每一条指令都能被准确执行,而不是并行地提问。

Swyx [01:01:29]:好。

Diogo Almeida [01:01:30]:另外,我建议——我这么说真的不是出于,比如,赚钱的角度。我真心建议问大量大量的问题。把它们拆开,让它们更小,真正地做分解。不管模型今天能不能做到,我相信,这周发生的事情最大的救赎将是人们的代码库、AI 代码库,会变得好得多。比如,如果你把问题分解成简单的决策,其中每一件事都极其可评估。比如,以前 AI 是一大段系统消息,然后也许你还有另一个大的 AI

Swyx [01:02:09]:大的输出,是啊

Diogo Almeida [01:02:10]:来看看它是否真的做到了这一点。这太疯狂了吧?这,这有点疯狂。就像,它——那就是我们的斯德哥尔摩综合征,对吧?但这有点疯狂。比如,如果你想说的是,“嘿,别读这个子目录”,或者“别把任何 API 密钥传给 DeepSeek”,或者别的什么,那基本上应该能在程序层面得到保证。你永远不会有任何机器学习模型的保证,但通过把它拆解,你实际上可以——你实际上可以测量它,对吧?就像

Swyx [01:02:37]:是啊,你可以验证它确实被调用了

Diogo Almeida [01:02:39]:对,而且比如,我们的模型,我们的模型——接口本身是如此可验证。这应该让人松一口气。

Diogo Almeida [01:02:46]:就像,这,这,这,这只会带来好得多的工程实践。

Swyx [01:02:50]:是的。我想我明白了。所以过去人们不这么做的原因之一,就是他们只会去调用一个小型 LLM,对吧?

Diogo Almeida [01:02:59]:对。

Swyx [01:02:59]:而且它还是太慢,还是太贵,比不上把所有东西都分块处理——我自己就完全这么做过。

Diogo Almeida [01:03:03]:对。

Swyx [01:03:04]:对吧?比如,我做过基准测试。这里有一个流水线,把所有东西都塞进系统提示里,然后只得到一个大的输出,对比把它拆成一百件不同的事。结果更慢、更贵

Diogo Almeida [01:03:13]:是啊

Swyx [01:03:13]:效果也没那么好。

Diogo Almeida [01:03:13]:对。

Swyx [01:03:14]:对吧?

Diogo Almeida [01:03:14]:而且这种情况会发生——是啊。这,而且这,就像,超级不方便。它很笨重。为什么不干脆全放在一起呢?你最后会在

Swyx [01:03:22]:是啊

Diogo Almeida [01:03:22]:问题之间重复一些东西,所以它就像,也许,像,效率不高之类的。但这样做的结果就是,它变得非常难以依赖。

Swyx [01:03:30]:是啊。

Diogo Almeida [01:03:30]:而且软件不需要在后台运行。如果我们的东西不能在后台运行,那会让我心碎。

Swyx [01:03:37]:你们有没有找到一种拆解方法,是真正有效的,对比你们原以为有效、实际却无效的方法?

Diogo Almeida [01:03:45]:有意思。

Swyx [01:03:46]:因为,就像,既然你这么说了,人们现在就会去探索这个。就像,他们会把这当作参考,然后说,“好,就像,这就是我应该使用 Jev 的方式。”

Diogo Almeida [01:03:53]:对。

Swyx [01:03:53]:那么问题就是,你如何拆解?

Diogo Almeida [01:03:57]:有意思。我喜欢把东西拆解到它最小的语义单元。

Swyx [01:04:03]:对。

Diogo Almeida [01:04:04]:比如,最低层级的东西是什么?我尽量从不这样。我大概是所有人里查询模型最多的。

Diogo Almeida [01:04:13]:而且,我尽量。第一,在我的查询里,这更像是我的提示方式。我把它做得非常结构化和明确。在问题里,我总是。我喜欢反引号,但它对所有情况都适用吗?要非常清楚我在指什么,因为我们希望模型非常字面化,因为当你编程时,你希望指令被很好地遵循。这就是编程的艺术,而 AI 所做的就是扩展可以被遵循的指令种类。所以我支持这么做。我。

Diogo Almeida [01:04:47]:有时我有点懒,我会,比如,有更多混合的东西,但我觉得对于真正大型的生产项目,你只想不断添加更多问题,而且你想让添加更多问题变得非常容易。对所有这些拆解都要非常精确,然后让代码具有你想要的确切行为。如果我能给一个小例子,那就是拒绝,对吧?比如,我不会谈论我们为什么不拒绝。我可能已经说过了。

Swyx [01:05:15]:对,你已经说过了。

Diogo Almeida [01:05:15]:感觉一切都模模糊糊的。但比如说拒绝,我觉得你不应该问“我在这里应该拒绝吗?”那其实挺……我觉得答案会相当不错,因为那是一个 System 1 能胜任的任务。但我觉得更好的做法是,针对你可能需要拒绝的不同情境,分别提出许多相互独立的问题。因为这样你就不必只靠猜测,而是可以真正明确你想要的。而且很妙的是,我觉得这真的很妙,如果你发现某个情境是“哦,它没拒绝是因为这个原因。我没把任务的这一部分说清楚”,那就太棒了。这就是软件工程的意义所在。你通过把那个问题加进去、加上阈值、也许把它记作一个测试用例来修复这个 bug,然后它就永远被解决了。你的软件不会因为上下文腐化而在提示里忘掉这一点。它就在那里,你可以一直测量它。而且如果模型在某些方面还不够完美,你可以基于真实例子为所有这些因素选择你想要的阈值。这就像是没有 ML 的 ML,而且你可以对任何事情都这么做。而且可能有些事模型还不够好,对吧?比如我会……当我看到人们用模型做交易时,我有点害怕,比如,

Diogo Almeida [01:06:28]:自动交易。看起来很酷。我只是觉得人们应该把它留给专业人士。

Diogo Almeida [01:06:35]:而且那只是一个非常困难、高层次的任务,也许模型还不够好,还弄不明白。

Swyx [01:06:40]:对。

Diogo Almeida [01:06:41]:嗯,我,比如说,即使它们真的做到了,那它们也会——突然之间这就不是因为有效市场了。但比如说,这就是那种你可以把它拆解成各个部分、逐一评估的事情之一,然后你可能会说:“它在这方面还不够聪明。也许这个版本我们还不部署它。”

Swyx [01:06:56]:对。

Diogo Almeida [01:06:56]:或者我们做一个权衡,或者我们偏向安全一侧,或者说:“嘿,模型在检测这种,比如说,讽刺与 VIP 客户结合的奇怪组合方面还不够好,而这种情况正是我们要升级给人工的时候。”这也正是置信度估计的意义所在。

Swyx [01:07:11]:好。非常好的回答。我想,有一件事我会,我会很快提一下,我不指望你对它有——太长的回答,就是,

Diogo Almeida [01:07:19]:你不指望。

Swyx [01:07:20]:嗯,不。只是,只是具体来说,比如说,你仍然依赖阈值化作为,比如说,用户可以拉的杠杆。

Swyx [01:07:28]:但万一只是校准错了呢,对吧?比如说,你只是在说你的校准是完美的,但是

Diogo Almeida [01:07:33]:我没那么说。

Swyx [01:07:33]:我,比如说

Diogo Almeida [01:07:34]:对。我没那么说。

Swyx [01:07:35]:所以就像是校——完美校准——而比如说,好的校准意味着,比如说,值越低就,比如说,概率越低,值越高就概率越高。但它可能是错的。它可能

Diogo Almeida [01:07:44]:当然,当然

Swyx [01:07:44]:完全错位。

Diogo Almeida [01:07:45]:是的。

Swyx [01:07:45]:所以那样的话我就会想微调它或者什么的,对吧?而你们不提供这个,但你们可以。我

Diogo Almeida [01:07:50]:我们可以。

Swyx [01:07:51]:再说一次,你看,这就是一个简短的回答

Diogo Almeida [01:07:52]:是的

Swyx [01:07:52]:就是你现在还没有这个功能。

Diogo Almeida [01:07:54]:哦,问题是,我们是否想提供微调?

Swyx [01:07:56]:那可能,那可能是其中一种形式,或者你也可以设置一个不同的调节项,对吧?

Diogo Almeida [01:08:00]:是的。

Swyx [01:08:00]:就像,因为,比如,现在你——你所说的全部就是,比如,如果出了问题,是能力问题,你应该,你应该再改一次提示词,或者把它拆得更细,或者你调整置信度。

Diogo Almeida [01:08:09]:对。

Swyx [01:08:09]:这就是我的两个选项。

Diogo Almeida [01:08:11]:对。

Swyx [01:08:11]:对吧?而如果你的模型就是出错了,这感觉不太令人满意。

Diogo Almeida [01:08:14]:对。而且要说清楚,它确实会,它确实会在很多事情上出错。

Swyx [01:08:18]:对。

Diogo Almeida [01:08:18]:我们有,比如,一个“报告问题”按钮。在 Discord 上向我们抱怨。我们想把它做得更好得多。每一个模型版本都会,比如,明显更好。

Swyx [01:08:25]:是的。

Diogo Almeida [01:08:25]:如果它们没有取得大幅改进,我们就会很快停止发布它们。所以第一点,这完全合理。我认为承认AI在某些方面并不完美,这纯粹是务实之举,对吧?我确实认为我们会找到一些它们足够好用的用例,而“足够好”在某种程度上取决于具体用例,对吧?就像人类虽然不擅长某项工作,却仍能完成大量工作,因为他们的期望值相当高。而且想必通过合适的阈值设定等等,即使会犯错,大概也有大量工作可以完成。关于微调的问题,我可以想象,我可以想象这在计划之中。我确实有顾虑,因为,比如,在人们需要什么与人们想要什么这个类别里,

Diogo Almeida [01:09:09]:比如,我认为通用模型往往非常。比如,再说一次,通用性有一种难以言说的特质,让它擅长比如一百万种其他任务而非这一项狭窄任务,可能会让它在那个任务的边缘案例上表现更好,这一点我会有点担心?

Swyx [01:09:25]:是的。

Diogo Almeida [01:09:26]:我可以想象,这就是我的回答。我在这些事情上无比务实。我想要一切。比如,我对世界的愿景是。我——我们想要构建的东西太多了。

Swyx [01:09:38]:是的。

Diogo Almeida [01:09:38]:但同样,比如,我不想发布一个像巨大的自伤脚枪一样的东西,就像其他一些AI公司会发布的那样。

Diogo Almeida [01:09:46]:是的。

Swyx [01:09:47]:那么,OpenAI和Claude,我想甚至Gemini都推出了微调,然后又收回了。

Diogo Almeida [01:09:53]:是的。

Swyx [01:09:53]:这是一个有趣的观察,基本上微调现在属于开源模型的领域了。

Diogo Almeida [01:10:02]:是的。我确实知道那件事。而且它挺糟糕的,所以他们把它下架了可能更好。

Swyx [01:10:10]:是的。是的,所以它可能就是个自伤脚枪,告诉大家微调它很可能是错误的方向,这很好。另一个有趣的回答可能是,嗯,我们的模型太不一样了,就像量化不适用于我们一样

Diogo Almeida [01:10:21]:是的

Swyx [01:10:21]:输出token不适用于我们,微调也不适用于我们。

Diogo Almeida [01:10:24]:嗯,实际上,我,我非常愿意接受这种可能性。

Swyx [01:10:28]:是的。

Diogo Almeida [01:10:28]:就像,我的天。这不是承诺。这是一种愿望。只是要说清楚,我喜欢非常诚实。就像,我认为,随着每美元智能变得更便宜,我认为我们可能会得到非常、就像,小的近似的东西,希望它们是智能的代理。就像,是否存在一个人们不再写正则表达式的世界?因为,就像,使用AI的每美元智能比正则表达式的复杂性更便宜。那会挺酷的。我会很喜欢那样?而且它可能需要对其中一些狭窄用例进行微调,才能真正越过阈值。我们拭目以待。我的希望是校准能做到这一点。校准加上模型级联。就像,如果它超级自信,那么也许它是对的。而如果它处于中间,那么你就用下一个更大的模型,然后从那里链式下去。我不太知道那会怎么发展,但是,是的。我可以想象它。而且我也能想象的一件事是,就像,想象你有一系列。就像,我们拥有整个帕累托前沿。某家企业可能想做的事情,或者,我认为黑客会愿意处理一个模型的帕累托前沿。也许企业想要更动态的东西。你可以想象,就像,拥有,就像,不同大小的模型,并根据它们在你技术栈不同部分有多聪明来动态选择哪个模型。你甚至可以想象,因为我们的东西有多简单,你可以想象,就像,对此进行某种自动微调。

Swyx [01:11:53]:是的。

Diogo Almeida [01:11:54]:一点也不是承诺。我只是,就像,在科幻上做菜。

Swyx [01:11:57]:但你会考虑不同大小的Dev模型,以提供那种差异?

Diogo Almeida [01:12:01]:当然。是的。就像,我们。就像,我怎么会知道人们需要多少智能?

Swyx [01:12:06]:我不知道。

Diogo Almeida [01:12:06]:对吧?是的。我也不知道。

Swyx [01:12:08]:需求是,需求是,无限的。

Diogo Almeida [01:12:10]:嗯,是的,现在人们告诉我们不要发布东西,因为我们不需要发布东西,因为,再说一次

Swyx [01:12:16]:已经够好了,是的。

Diogo Almeida [01:12:18]:是的,但那有点逊。我真的很喜欢这句话。这是我希望人们用来要求我的话,因为这会很难

Swyx [01:12:27]:收回

Diogo Almeida [01:12:27]:很难反悔。是的。就像,那个。我不知道是不是。确切地说,那句话是:文化就是当市场不奖励你时你所做的事。我真的很喜欢这句话,因为我认为我们在坚持某种东西。也许在未来——我们所坚持的东西会变得如此显而易见,以至于我们相当于,就像,无聊的,就像,Visa之类的公司。就像,我们只是一个没人真正会去想的公用事业,而我会穿着非粉色的西装或者别的什么。

Diogo Almeida [01:12:54]:但我真的很想,就像,号召全世界加入这个?就像,我想继续做酷东西,不是因为我们需要,而是因为我想,就像,让人们意识到这只是开始?就像,那甚至本来就不该是开场炮。那更像是,一种低调的研究预览,或者你想怎么叫都行。

Swyx [01:13:14]:是的。

Diogo Almeida [01:13:15]:我们还能做很多。

Swyx [01:13:17]:是的。

Diogo Almeida [01:13:17]:有了。就像,机器原生智能会大放异彩。

Swyx [01:13:21]:所以不是唯一的——可能不是唯一的规模,可能不是你们发布的唯一模型。你们想打开人们的思路

Diogo Almeida [01:13:28]:绝对不是其中任何一个。

Swyx [01:13:29]:是的。

Diogo Almeida [01:13:29]:我想,我想,就像,满足我们能满足的任何需求。

Swyx [01:13:33]:是的。

Diogo Almeida [01:13:34]:对吧?就像,在。但有一个,就像,巨大的前提,我不想变成OpenAI的产品团队那样,就像,把东西往墙上扔。就像,我想让它,就像,在一个,在一个统一的愿景之下。就像,如果你回到那份宣言,就像,一切都必须归在这三件事之一下面

Swyx [01:13:48]:是的

Diogo Almeida [01:13:48]:在我看来。

Swyx [01:13:50]:我不

Diogo Almeida [01:13:50]:是的。

Swyx [01:13:51]:我还没准备好做这个,

Diogo Almeida [01:13:52]:哦,我很抱歉。我很抱歉,Francis。是的,我可以直接聊这个。就像,我们的东西里有,就像,三个步骤。

Swyx [01:13:57]:是的。

Diogo Almeida [01:13:57]:听起来像是在吊胃口。我想让一切都归在这三件事之一下面

Swyx [01:14:02]:好

Diogo Almeida [01:14:02]:去不断推进边界等等。就像,这不是。这些不是,就像,清单。这些是,就像,我们认为能构建,就像,一场新技术革命基础的,就像,坐标轴。我想让我们做的所有。所有押注都落在其中某处。而且我们会在模型层面做一些奇怪的东西。

Diogo Almeida [01:14:23]:所以因为机器原生,对吧?就像,人类不需要完全理解它。它只需要有价值。

Swyx [01:14:30]:就,给大家吊个胃口或者给点提示。就像,奇怪是什么样子?什么是奇怪?

Diogo Almeida [01:14:35]:我会给大家一个提示。

Swyx [01:14:36]:是的。

Diogo Almeida [01:14:36]:有些人正试图把它们称为决策模型。

Swyx [01:14:40]:好。

Diogo Almeida [01:14:41]:说我们的原语是决策。我不会这么做,因为我认为还有其他机器原生的类型,它们并不是决策。

Swyx [01:14:54]:好,我们就说到这里

Diogo Almeida [01:14:54]:这是个有趣的提示,有趣的提示。

Swyx [01:14:55]:让大家去猜吧。是的。

Diogo Almeida [01:14:56]:是的。我觉得这是个,我觉得这是个相当有趣的提示。

Swyx [01:14:58]:是的。有人。你看,有人会说,“我以前做过这个。我一年前就做了一个决策模型。”就像,Jev 不新鲜,Jev 不酷。

Diogo Almeida [01:15:04]:是的。

Swyx [01:15:04]:但就像,我觉得,有那个类别层面的,就像,你在这里确立的是什么是可能的。还有那个,性能层面的,就像。嗯,其实那个。就你拿到的基准测试和数字而言,据我所知你仍然在击败 ev-,你仍然在击败市面上每一个你的克隆。

Diogo Almeida [01:15:19]:我不在乎基准测试

Swyx [01:15:20]:正是

Diogo Almeida [01:15:20]:说清楚一点。

Swyx [01:15:21]:正是。

Diogo Almeida [01:15:21]:所以就像,即使我们是在赢或者输,我想做的是发布。

Swyx [01:15:24]:你已经确立了这个类别,对吧?

Diogo Almeida [01:15:26]:对。

Swyx [01:15:26]:是的。

Diogo Almeida [01:15:26]:对。

Swyx [01:15:26]:但同-但同时我觉得决策模型和 System 1 之间的这个细微差别,我觉得其实正是你想要

Diogo Almeida [01:15:32]:是的。而我只是想让软件工程师变得超级强大

Swyx [01:15:36]:是的

Diogo Almeida [01:15:36]:对吧?就-就像用 AI 那样。就像,而且或者,就像,对我来说悲剧的是,

Diogo Almeida [01:15:42]:在那个 AI 寒冬的方向上,我觉得,就,这,这,这真是太令人难过了,AI 如此强大却如此未被充分利用。就,这件事让我很动情,但老兄。

Diogo Almeida [01:16:03]:就,我觉得就是这样。我不想,就,只是做个,就,纯粹的技术乐观主义者,就,所有技术都是好的。我觉得现在正在发生的事,就,是一场闹剧。就,它是。而且就,还有。我只是想,就,为人们打开那些可能性。

Diogo Almeida [01:16:19]:是的,我就说到这里吧。我,我这几天哭得太多了,不想在录音里再哭。

Swyx [01:16:26]:是的。不,

Diogo Almeida [01:16:27]:是的

Swyx [01:16:27]:我很感谢你分享了一点这些,我觉得人们能看出你非常真诚,而且

Diogo Almeida [01:16:31]:是的

Swyx [01:16:31]:对此充满热情。这-你-你不一定能从名字里看出来,就,TypeSafe AI,但就,我觉得一旦人们让自己沉浸得足够深,就,这里是你真正想让世界走向的不同方向,而且就,你实际上已经完成了,就,从零到一的那件难做的部分,然后,就,现在让我们一起走向-走向,就,新的方向,对吧?

Diogo Almeida [01:16:51]:是的。是的。

Swyx [01:16:52]:是的。

Diogo Almeida [01:16:52]:我不,我确定我不会认为。也许我会认为难做的部分已经完成了,也许吧。我觉得还会有很多难做的部分。就,如果,各种各样的事情都被自动化了,我们终于看到 GDP 增长,而且就,就像,一场 Jev 派对

Swyx [01:17:12]:是的

Diogo Almeida [01:17:12]:到那时候,也许难做的部分就完成了。但就,我不这-这么觉得。而且就,我真的觉得人们太关注速度和成本,而对可靠性关注不够。

Swyx [01:17:23]:好。

Diogo Almeida [01:17:23]:就,可靠性才是让它令人愉悦的东西。就,可靠性才是,就,让你能信任它的东西。

Swyx [01:17:28]:你有一句话,

Diogo Almeida [01:17:29]:是的。

Swyx [01:17:30]:TFP 增长在五年内超过 3%。

Diogo Almeida [01:17:32]:那当然。

Swyx [01:17:32]:我从没见过

Diogo Almeida [01:17:33]:那当然。冲啊。

Swyx [01:17:35]:我从没见过

Diogo Almeida [01:17:36]:是的

Swyx [01:17:36]:有哪家实验室关心 TFP 增长。

Diogo Almeida [01:17:38]:但就,那才是经济革命,对吧?就,这其实和 OpenAI 章程过去所代表的东西极其一致。

Swyx [01:17:45]:是的。

Diogo Almeida [01:17:45]:它当时谈的是,就。我觉得章程还是同一个,但他们有点试图把定义挪来挪去,挪成,就,1000 亿美元利润之类的。倒不是说我对 OpenAI 有什么恨。

Swyx [01:17:54]:它并不是一个。是的,AGI 是什么并不是一个定义明确的术语,对吧?

Diogo Almeida [01:17:57]:他们试图这么做

Swyx [01:17:58]:不,是的

Diogo Almeida [01:17:58]:对吧?就像,做着世界上大部分有经济价值的工作,而它们却得回答这个问题:它怎么能解决数学上的千禧年大奖难题,却在世界上有经济价值的工作上贡献为零,就在空中飘着。就像,我觉得现在所有模型大致都并列在零。有可能,就像,我们已经开始了,但就像,我猜还没到 1%。而且我觉得这会体现在。就像,当它真的发生时,它会体现在经济统计数据里。

Diogo Almeida [01:18:28]:那会他妈的太棒了。它不会造成大规模失业,但它会造成,就像,一大堆很棒的转变,而且世-世界会好得多。还有,就像,我真的厌倦了 AI 总是当那个前景角色,什么事都是它。就像,我觉得——世界就应该更令人愉悦,而 AI 就应该只是帮忙做到这一点。

Diogo Almeida [01:18:48]:而我

Swyx [01:18:49]:就,像,消失到背景里去。

Diogo Almeida [01:18:50]:正是。

Swyx [01:18:51]:是的

Diogo Almeida [01:18:51]:就像,这个——我在演讲里说过。就像,怎么可能 2019 年的软件,比如软件、SaaS 之类的,超级超级有价值,对吧?现在都 2026 年了。尽管 AI 他妈的这么厉害,软件怎么基本上还是完全一样,除了有时候旁边多一个聊天框,对吧?那玩意儿,就像,那种东西确实有点用,但并不能让你做出公司真正有利益攸关的决策,因为不能信任它们去做决策。这在我看来简直疯了。就像,这里面有那么多经济激励,而我觉得这将会是,就像,一场反向的 SaaS 末日。我觉得 SaaS 会因此被超级充电。它们才是最清楚哪些东西值得自动化的人,而那将会是一段疯狂的时刻。

Swyx [01:19:37]:是的。我也,我也这么觉得。这是,这是你解锁的一件美妙的事?

Diogo Almeida [01:19:41]:是的。

Swyx [01:19:41]:你在这里提到了一件事,我不知道它是不是,就像,直接就在这里,那就是,什么是 System 1 问题,什么不是。什么是 System 2 问题?就像,

Diogo Almeida [01:19:50]:操。这问题很难。这问题很难,我的朋友。

Swyx [01:19:55]:因为现在人们就是想对一切 Jev,对吧?

Swyx [01:19:57]:这,就像,大概会失败,对吧?但就像,有些东西会不错。

Diogo Almeida [01:20:02]:对一切 Jev 挺搞笑的。

Swyx [01:20:04]:是的。

Diogo Almeida [01:20:04]:这是一种挺搞笑的做事方式,这么说的话。那个。那我就跟你说实话吧。

Swyx [01:20:08]:好。

Diogo Almeida [01:20:09]:事实是,这是一个经验性问题,就像缩放定律也是经验性的东西一样。就像,为什么,就像,机器人技术现在并没有真正奏效,尽管在它上面花了那么多钱?

Diogo Almeida [01:20:21]:我不认为这一定就是关于花更多钱的问题。经验结果可能根本就不在那里,对吧?所以从经验上看,我相信这些预训练的超级智能浓缩体从根本上就是 System 1 思考者。我认为它们确实如此。就像,System 1 是最接近描述 LLM 擅长什么的说法。RLVR 为 System 2 思考做出了不可思议的贡献。我深感敬畏。这真是太酷了。就像,我完全不认为这会导致 AI 末日。当然不是 0%,因为我认为 0% 是校准错误的。但就像,他们所做的一切真的很酷,而且他们真的把它推到了极限。好吧,也许他们不这么认为,不觉得是极限。但就像,这对模型来说是一件很奇怪的事,而且它们在这方面非常脆弱。就像,想想人们在 ChatGPT 时代是怎么谈论 AI 的。就像,“哇,它真的很通用。它能做很多通用的事情。”然后。但它在数学问题和 GSM8K、小学算术上很差。然后现在看看人们是怎么谈论 RLVR 的。“它太脆弱了。它太参差不齐了。”?就像,它能。“为什么它能做这种,就像,非常奇怪的事?”而实际上,数学不只是尖刺状的,它是分形的,对吧?这是因为 RLVR 是。就像,如果我们谈论,就像,每件事的北极星是什么?RLHF 是取悦人类,对吧?这就是人类反馈的含义。RLVR 是优化基准。那个——所有归入 RLVR 类别的东西,按定义字面上就是一个基准,因为基准是可编程验证的、简单的输出,能够,就像,表现良好。而 RLCD 是让它对程序化使用可靠。Diogo Almeida [01:22:09]:是的。那个,我会

Swyx [01:22:11]:是的。是的,就是这个。也许我会,我会提一些想法,然后你可以大致,

Diogo Almeida [01:22:15]:哦

Swyx [01:22:15]:如果我哪里说错了就纠正我。第一。比如,我一直在思考的一件事也是。我,所以当你给我访问权限的时候,我就把 Jev 扔到一堆事情上

Diogo Almeida [01:22:23]:哦,是的

Swyx [01:22:23]:第一天。还有多跳推理,对吧?就像

Diogo Almeida [01:22:27]:对

Swyx [01:22:27]:所以单跳,太棒了。就像

Diogo Almeida [01:22:29]:是的

Swyx [01:22:29]:最先进的。单跳你就不该用 Jev 以外的任何东西。

Diogo Almeida [01:22:32]:对。

Swyx [01:22:33]:多跳就会。它开始往下掉。而且它

Diogo Almeida [01:22:34]:是的

Swyx [01:22:34]:就像,随着你增加跳数,大致是单调递增的。

Diogo Almeida [01:22:38]:对。

Swyx [01:22:38]:对吧?

Diogo Almeida [01:22:39]:所以哦,是的。回到那个经验性问题,这取决于我们能,就像,从模型里挖出什么。

Swyx [01:22:44]:是的。

Diogo Almeida [01:22:44]:对吧?所以我们什么都想要。就像,我们想尽可能多地发掘智能,就是这样。这些模型。就像,我把我们看作是在解锁、抚平并雕琢智能,同时,就像,添加新能力,并且,就像,填补其中的空白。而且随着时间推移,我们会填补,就像,越来越多越来越多这样的空白。但现实是,我们做的是发掘特性的生意。那些特性实际上取决于,就像,这些,就像,这些浓缩核心能提供什么,并且,就像,把它们全都拼凑在一起,从而拥有所有东西的全部特性。

Swyx [01:23:21]:是的。

Diogo Almeida [01:23:21]:?但现实是,我们做的就是尽可能多地发掘能力的生意。而 System 1 恰好就是对行之有效之物的描述。在那个范式里行之有效的一切都会带有 System 1 的色彩。就像,我。

Diogo Almeida [01:23:38]:就像,我们不做所谓的字符串内隐式推理,是有原因的。

Swyx [01:23:43]:是的。

Diogo Almeida [01:23:43]:我觉得推理。就像,那个。模型真正擅长的是模型内部的推理。它并不完全完整。它在所有方面都表现不佳

Swyx [01:23:49]:等等,隐式推理是在字符串里推理?我以为隐式推理是在模型权重内部推理。

Swyx [01:23:55]:那个

Diogo Almeida [01:23:55]:我觉得那个

Swyx [01:23:56]:我不知道

Diogo Almeida [01:23:56]:人们以前称之为

Swyx [01:23:57]:我只是想澄清一下

Diogo Almeida [01:23:57]:连续推理。

Swyx [01:23:58]:好的。

Diogo Almeida [01:23:58]:我也不完全确定。

Swyx [01:23:59]:好的。

Diogo Almeida [01:24:00]:它被称为隐式推理是因为,就像,以前推理轨迹是保密的。

Diogo Almeida [01:24:04]:所以它们有点像答案的隐变量。

Swyx [01:24:06]:哈。

Diogo Almeida [01:24:07]:是的。

Swyx [01:24:07]:所以保密的东西现在转移了。

Diogo Almeida [01:24:09]:嗯

Swyx [01:24:10]:是的

Diogo Almeida [01:24:10]:它,它对 OpenAI 和 Anthropic 来说仍然是保密的,对吧?

Swyx [01:24:12]:所以没有推理 Jev

Diogo Almeida [01:24:14]:是的

Swyx [01:24:14]:就你所能做的而言,对吧?因为那,就像,违背了 System 1 的全部承诺。

Diogo Almeida [01:24:21]:我。我的承诺是做任何必要的事,为了机器原生的东西。

Swyx [01:24:28]:是的。

Diogo Almeida [01:24:28]:我能想象确实有。比如,有些推理形式没那么慢、低效和脆弱,对我来说。这些是完全有可能的,先说清楚。所以作为一个务实的人,我不会对方法做出承诺。我承诺的是,比如,我的投资回报率北极星是什么,我会为此而战,就像这次发布没有发生一样,我们依然渴望在世界上的位置。

Swyx [01:24:53]:太好了。是的。

Diogo Almeida [01:24:54]:是的。

Swyx [01:24:54]:我觉得另一件事是,视觉是另一个,比如,很大的能力,你还没有,但也许它根本不属于 System 1?

Diogo Almeida [01:25:04]:我觉得我的视觉相当不错。

Swyx [01:25:05]:什么,抱歉?

Diogo Almeida [01:25:06]:我觉得我的视觉很好。

Swyx [01:25:07]:不,抱歉。视觉

Diogo Almeida [01:25:08]:我开玩笑的。我开玩笑的。是的。

Swyx [01:25:09]:我的天。

Diogo Almeida [01:25:10]:是的。

Swyx [01:25:12]:因为人们显然,他们首先想要的是视觉,因为 Doom 演示,但也只是,比如,一切,除了文本就是视觉。

Diogo Almeida [01:25:19]:一切皆有可能

Swyx [01:25:21]:是的

Diogo Almeida [01:25:21]:在我看来。

Swyx [01:25:22]:好的。

Diogo Almeida [01:25:22]:而且实际上,这算是我们内部的一个争论。这个。老兄,你的听众大概正是这场争论最理想的听众。问题在于,我们到底该在多大程度上,去给人们他们认为自己想要的东西——这正是我们在隐身模式下做了两年的事,我们就是知道这显然会很有价值——还是给他们口头上说自己想要的东西,对吧?这里面有很多维度,对吧?比如上下文长度就是一个例子,对吧?每一个模型,包括我们的,实际上在我看来,据我所知,我们的在这方面远远是最好的

Swyx [01:25:58]:上下文最长,是的

Diogo Almeida [01:25:58]:在长上下文中不退化。

Swyx [01:26:01]:是的。

Diogo Almeida [01:26:01]:但其他提供商就只是,“不管人们想要什么,我们就给他们那个蠢东西。”我们需要在这上面找到一个平衡,因为,如果你把前一种做法走得太远,给人们他们想要的,你最终会得到类似 Anthropic 保姆国家式的思维,那非常反开发者。而亲开发者的路线应该是,给他们想要的,但开发者是……我们不想把弄清楚智能的那种难以言喻之处的负担压在他们身上。所以我们正试图,比如,摸索出这个方向,比如多快发布东西,同时仍然保持我们那种可信的品牌形象,并且,比如,把我们的用户当作成年人来对待,他们能做出明智的决定,不需要在这类事情上被保姆式管着。

Swyx [01:26:46]:是的。我觉得这很合理。

Diogo Almeida [01:26:48]:是的。而且说实话,我们也不知道答案。这个,我们得想办法弄清楚。会是的。这大概会是我接下来几天里最大的争论之一

Swyx [01:26:57]:是的

Diogo Almeida [01:26:57]:因为,我们手头东西很多。再说一次,我们没料到它会这么火,所以我们当时想,“我们得准备一些后续发布。”不过,就是这样。

Swyx [01:27:05]:我不知道,我不知道你是不是真没料到它会火。我是说,我,我看到了你投入的工作。我是说,我从来没见过你像,基本上过去两个月那样,这么拼命地投入,对吧?就像

Diogo Almeida [01:27:13]:嗯,那也是因为我的幕僚长逼着我拼命投入。

Diogo Almeida [01:27:18]:是的。

Swyx [01:27:18]:所以

Diogo Almeida [01:27:20]:就像,就是,我从来没有。我以前还以为自己工作很努力

Swyx [01:27:24]:是的

Diogo Almeida [01:27:24]:而且

Swyx [01:27:25]:不,但是,你出现在我们的写作工作坊上,我当时就想,“你在这儿干嘛?”然后,哦

Diogo Almeida [01:27:30]:很有用。很棒。

Swyx [01:27:31]:你显然,对你的发布非常用心。

Diogo Almeida [01:27:34]:对。

Swyx [01:27:35]:而且功夫不负有心人,就像

Diogo Almeida [01:27:36]:是的

Swyx [01:27:36]:恭喜。你赢得了赞誉。

Diogo Almeida [01:27:37]:谢谢,谢谢。我希望能继续保持这种投入

Swyx [01:27:41]:是的

Diogo Almeida [01:27:41]:这是我的,这是我的感觉。

Swyx [01:27:42]:是的。

Diogo Almeida [01:27:42]:我想。就像,我觉得我们已经通过了很多科技界的优秀筛选,符合我们想要的东西,但还会有更多。

Swyx [01:27:53]:是的。

Diogo Almeida [01:27:53]:而且,天哪,我太兴奋了,能去打这场美好的仗。

Swyx [01:27:56]:是啊,这很令人兴奋。在我们把话题扩展到 TypeSafe 之外之前

Diogo Almeida [01:28:01]:哦

Swyx [01:28:01]:我只是想问问,你觉得你发布的东西里还有哪些被低估或被误解的地方。

Diogo Almeida [01:28:09]:被低估或被误解?

Swyx [01:28:11]:是的。你有 pan outs。抱歉,是 patterns。也许你想聊聊那个。模型的不均衡性,什么都行。

Diogo Almeida [01:28:20]:给我一个

Swyx [01:28:21]:好

Diogo Almeida [01:28:21]:随便挑一个。哦,天哪。这些我都能长篇大论。我真不该。我真不该。

Swyx [01:28:29]:好吧。那大家可以去你的 Discord,如果他们

Diogo Almeida [01:28:32]:对。大家往 cookbooks 里倾注了很多心血

Swyx [01:28:34]:是的

Diogo Almeida [01:28:35]:我想说的是。cookbooks 里有些很猛的东西。我们本来考虑把其中一堆内容放进主发布博客文章里,但它变得有点太长、太笨重,而且非常面向高级用户。但我们真的。说实话。在发布之前,每一个。我们说的东西听起来,就像这个奇怪的外星工具。为什么会有人需要这个?这曾是一件非常奇怪的事。我们非常担心如何向人们讲解这个新前沿。它显然成功了,但我们投入了大量工作,因为我们认为教育会成为我们的巨大瓶颈。我。

Diogo Almeida [01:29:14]:它大概行得通,而且它不再——大概不再是个问题了,因为人们在做的事情远远超出了我们的预期。

Swyx [01:29:20]:他们会向你展示,比如,怎么用你的模型。

Diogo Almeida [01:29:21]:是啊,但是。没错。但就像,他们。是啊,而且他们的用例,呃,比我们的还酷一点。就像,有一堆东西让我觉得,“天哪,如果那是我们的演示,我的天,那可比我们展示的酷多了。”比如计算机使用那类东西,天哪,太酷了。但就像,我们在这上面倾注了很多心血。据我所知,这可不是那种AI生成的垃圾。

Swyx [01:29:41]:是啊。

Diogo Almeida [01:29:41]:我们倾注了很——就,这里面有很多心血。

Swyx [01:29:45]:是啊。有道理。

Diogo Almeida [01:29:45]:而且就像,每一个都是。就,那里有真正的alpha。

Swyx [01:29:49]:好。

Diogo Almeida [01:29:49]:就,这些都是受解决真实存在的客户问题所启发,而且我们花了功夫,比如帮他们做出超酷的东西。

Swyx [01:29:58]:是啊。那多少。既然你聊到这个,对吧,你们在发布前做了多少验证?比如,那个。那个过程是什么样的?

Diogo Almeida [01:30:06]:那个过程是什么样的?

Swyx [01:30:08]:就,显然你们做了一些,但显然你们当时接触的人没有今天这么多。

Diogo Almeida [01:30:14]:是的,当然。

Swyx [01:30:15]:但就像

Diogo Almeida [01:30:15]:我其实觉得反响相当糟糕。而且实际上,对于团队里非技术背景的人来说,他们真的很担心。

Swyx [01:30:24]:是啊。

Diogo Almeida [01:30:24]:就,有很多恐惧。就像,没人真正理解这个。而且就像,他们不想要它。我们就像,在卖维生素而不是止痛药。就像,我们是不是该有FDE来围绕解决那个问题写软件?

Swyx [01:30:37]:是啊。

Diogo Almeida [01:30:38]:发布之前我们几乎没有什么收入。那感觉有点像。就像,我们。就像,技术人员嘛,显然都是真正的信徒,对吧?就像,我们知道这东西很牛。它的计算特性,在很多维度上简直爆表,所以我们就想,“是啊,显然它会大火。”我当时确实超级害怕,所以我才那么拼命地锁定。但就像,最常见的情况是——那个,就像,我会说,超过一半的人玩过之后就是没搞懂。而那些搞懂的人呢,就像,“天哪,这真的很酷,但我们怎么才能让它通过采购之类的流程?”那就像,那真是一场,一场硬仗,而我们就知道,好吧,我们的目标市场会是开发者。人们会找到用例,这样一来所有人都会FOMO进来。而且就像,

Diogo Almeida [01:31:32]:我不想拿事实改变来让人改变想法,去戳人痛处。

Diogo Almeida [01:31:36]:我确实想质疑一下,产品市场契合这个概念?是啊,但就像,因为,就像,当时有产品,也有市场。就像,我们说,“嘿,你想用这个吗?”而人们就说,“我不知道,真不确定它能不能解决我们的问题。”然后它爆了,所有人都说,“我们需要尽可能多的速率限制。我们能不能直接给你们GPU?因为我们现在受限了。”

Swyx [01:31:59]:是啊。

Diogo Almeida [01:31:59]:所以当然,营销是其中一个要素,当然,但我甚至不觉得这关乎营销。我觉得这关乎那些充满热情的开发者,他们的灵魂基本上和我们以相同的频率共振,而那个频率,也让其他所有人都兴奋起来了。

Swyx [01:32:14]:是啊。

Diogo Almeida [01:32:14]:我也希望,作为一家公司,我们会永远感激那些开发者。而且不只是——不只是那些,比如,从开发者起步、然后做大成为企业的公司。

Swyx [01:32:30]:他们走向市场,对。

Diogo Almeida [01:32:31]:没错。而且我甚至在想,我们怎么才能推出对……更好的东西。哦,天哪,我不知道这话该不该说。

Diogo Almeida [01:32:39]:但我会说。

Swyx [01:32:39]:对开发者比对大企业更好。

Diogo Almeida [01:32:41]:没错。

Swyx [01:32:41]:好。

Diogo Almeida [01:32:41]:我们怎么做?比如,我们怎么赋能他们?而且我有厨师。我有厨师。但这是,这是一件非常奇怪的事。而且我不知道还能怎么表达我的感谢和忠诚。所以这就是为什么我昨天去染了头发。就像,我想和他们对话,因为在我们公司最重要的时刻不去持续和他们对话,让我觉得不干净。

Swyx [01:33:07]:好。所以你的头发就是这么来的。

Diogo Almeida [01:33:09]:对。请监督我。

Swyx [01:33:11]:好。我们会的,我们会的。

Diogo Almeida [01:33:11]:我努力坚持原则。

Swyx [01:33:13]:对。

Diogo Almeida [01:33:13]:把这话记下来。来指正我。如果我变了,就拿起干草叉。

Swyx [01:33:18]:我本来想简单展示一下计算机使用的东西。

Diogo Almeida [01:33:21]:哇。

Swyx [01:33:21]:这是,这是你提到的那个吗?

Diogo Almeida [01:33:22]:我从没见过——我没——我见过。我见过一个,比如,航空公司浏览器使用的东西。

Diogo Almeida [01:33:29]:在这个新笔记里,我们把标题设成 hello。

Diogo Almeida [01:33:33]:哇。太好了。好。我们继续吧,你能打开 Arc 浏览器吗?打开之后,你能用谷歌搜索 Norbert Wiener 吗?

Diogo Almeida [01:33:43]:现在你能打开 x.com 吗?

Swyx [01:33:46]:这是那种用例吗?

Diogo Almeida [01:33:48]:哦,语音用例。这其实是我第一次见到。这是

Swyx [01:33:51]:哦,好吧。

Diogo Almeida [01:33:51]:打开照片查看器。哇。哦,等等。哦,你能——你能往回退一秒吗?你能往回退一秒吗?

Diogo Almeida [01:33:58]:传言称 Anthropic 的工程师崇——把 Claude 当作神一样崇拜。哇。哇。

Diogo Almeida [01:34:03]:天哪。这挺搞笑的。

Swyx [01:34:06]:而你却在这里做生产环境。

Diogo Almeida [01:34:07]:绝对——哇,这太酷了。

Swyx [01:34:12]:是啊。所以很明显,它可以用语音操作整台电脑,由 Jev 作为决策模型。

Diogo Almeida [01:34:17]:所以就像我反对基准测试一样,我也反对演示。我想确保它能可靠地工作。我很喜欢大家在玩它。这真是太他妈酷了,毫无疑问。我想看到这个。我想看到它被使用。我想让我们的团队去玩它。我想找出弱点,然后我想解决它们。

Swyx [01:34:35]:是啊。

Diogo Almeida [01:34:35]:而且我会很——天哪,那看起来真的很酷。

Diogo Almeida [01:34:37]:那看起来真的很酷。我想要那个。我想要那个。比如,当我手腕酸痛的时候,我就,比如,全部用 whisper flow 来输入。那就太酷了。

Swyx [01:34:44]:嗯,那个,只是为了把用例这方面聊完整

Diogo Almeida [01:34:47]:是啊

Swyx [01:34:47]:因为我得让你走了。哪些,哪些是,哪些是联系过你、并且让你对他们想做的事感到惊讶的更大公司?

Swyx [01:34:56]:只是。

Diogo Almeida [01:34:57]:我对这个真是太脱节了。

Swyx [01:34:59]:好的。

Diogo Almeida [01:34:59]:有人给我看过一些公司的截图,从我看到的情况来看,所有公司都是这样。

Swyx [01:35:05]:是啊。主要是,对于那些在大公司工作、但没在做这类工作的人,我只想给大家举些例子,比如,你应该去查查这个,查查那个,查查那个。

Diogo Almeida [01:35:13]:哦。所以就像,我觉得演示超级酷。显然,编程智能体是,比如,巨大的用例。

Diogo Almeida [01:35:21]:比如,它们也,比如,超级酷。

Swyx [01:35:23]:哦,Cog 现在全是关于 Jev 的。

Diogo Almeida [01:35:25]:哦,太棒了。哦,我能不能,我能不能稍微跑个题聊聊编程智能体,如果这或者

Swyx [01:35:29]:可以,请讲。

Diogo Almeida [01:35:30]:哦,让我

Swyx [01:35:31]:我们这儿很喜欢编程智能体。

Diogo Almeida [01:35:32]:给我一秒钟。给我一秒钟。好,其实,我待会儿再回到编程智能体。让我描述一下,比如,几大类用例。

Swyx [01:35:37]:好。

Diogo Almeida [01:35:38]:比如,我们从第一性原理出发把这件事规划出来,早在发布之前就做了。它们就是我们所说的暗数据。比如,人们囤积大数据,但不会把语言模型用在上面,因为太贵了。所以大公司非常喜欢这个。他们有,比如,成堆的数据,希望能分析,而这就像是数据科学家的美梦。所以这就像是。这是一个巨大的机会。比如,我觉得这个加上,编程智能体是最大的赚钱机器,因为那才是他们全都在做的。所有量都在那里,对吧?还有实时类的东西。比如那些需要,比如,在环智能的人。他们。比如,我猜那些公司的每一位 CEO,就算不是 CTO,也都知道每减少,比如,10 毫秒,他们的产品会好多少。

Swyx [01:36:23]:是的。

Diogo Almeida [01:36:23]:而且就像

Swyx [01:36:24]:尤其是电商,是的。

Diogo Almeida [01:36:25]:是的。哦,或者,比如,助手类的东西。有很多 AI 助手类的东西。而且据我所知,他们真的很喜欢。再说一次,我现在不在客户一线,所以我只是。知道我团队告诉我的。但就像,这个。我为这个太兴奋了。我真的很为游戏兴奋。我真的很想玩,比如,超酷的自走棋,你在里面,比如,指挥你的队伍,或者,比如,半自动战斗。我觉得那会太酷了。但在我还有工作的时候别做得太好。还有那个。比如,有那个。我们称之为,比如,验证一切。比如,验证所有 LLM 调用,有点像可观测性。我觉得,其实说到文档,人们应该做的是,比如,并行提问非常便宜。所以如果你有,比如,大的状态,你想问很多问题

Swyx [01:37:08]:就这个,是的。

Diogo Almeida [01:37:09]:给每条消息都加上 ID,然后针对每个 ID 提问。所以,比如,当你有一个很长的状态时。

Swyx [01:37:16]:嗯。

Diogo Almeida [01:37:16]:这样一来,你就可以,比如,只为这个状态付一次钱,然后针对其中每条消息问大量的问题。我觉得这是一种,比如,很棒的省钱方式,而且很。

Swyx [01:37:25]:顺便说一句,我一直觉得,比如,用 System 1 和 System 2 来框定很有意思,因为它基本上论证了:你每做一次推理调用,就应该做 1 次、10 次或 100 次 Jev 调用。

Diogo Almeida [01:37:37]:嗯,也许吧。可能

Swyx [01:37:38]:对。

Diogo Almeida [01:37:38]:嗯,我不。我希望人们少花点钱。

Swyx [01:37:42]:是的。

Diogo Almeida [01:37:42]:也许你会,比如,做一半的推理调用,然后每次做 10 次 Jev 调用之类的,或者随便什么能解决那个本来不可能存在的问题的办法。等等,第四个用例是我所说的,比如,智能软件。比如那种本质上可组合的软件,而且,比如,能做以前绝不可能发生的、古怪有趣的事情。比如把编程语言当作 Jev 那种东西。我不知道你有没有见过。那太酷了。天哪,如果我们知道怎么发放额度,因为,比如,我们在基础设施方面还处于很早期的阶段,我真想给所有这些项目发额度。

Diogo Almeida [01:38:16]:而且我觉得,这些就是我们大致梳理出的主要用例。Computer use 也朝着实时方向走了,这真的很酷。如果它可靠的话,我会超级兴奋。我猜我们可以让模型在这些用例上表现好得多,因为这块有点像是突然冒出来的,所以这真的很酷。关于编码智能体这件事,这是眼下正在发生的一件非常令人惊讶的事。

Swyx [01:38:47]:好。

Diogo Almeida [01:38:49]:Claude Code 和 Codex 我相信是赢家,比如第一和第二。我不完全确定。我没太密切关注

Swyx [01:38:56]:大致如此

Diogo Almeida [01:38:56]:但差不多是这样。但它们都是围绕单一模型世界构建的?这对他俩来说很合理,对吧?因为一直以来都是单模型的游戏,你挑的差不多是同一个模型,只是智能程度不同。

Diogo Almeida [01:39:09]:但所有开源编码智能体现在都他妈兴奋坏了,因为他们正在享受自己的 Jev 红利。而且,问题是,有——我确信他们在尝试很多奇怪的东西。但所有编码智能体大致上都处于差不多的水平,对吧?因为用个 while 循环也做不了太多事。但一旦有人找到一个杀手级用例,只有那个编码智能体能做,所有人都会涌向它,因为他们对那东西有垄断。但所有开源编码智能体都能复制它,对吧?就这样。但我不知道 Claude Code 和 Codex 会怎么做,因为它们是围绕那一个模型世界构建的。

Swyx [01:39:48]:单一模型,是的。

Diogo Almeida [01:39:48]:而且我觉得,那会是一件非常有意思的事。就我个人而言,我很希望能和他们集成。我想和所有人集成。他们最终可能会做出竞品。我不知道。但作为 Songfire Infrastructure,我的职责并不是对此持有立场,对吧?我只想服务整个世界。但我不知道他们会不会那么做。而且我觉得,这会让编码智能体这场游戏变得超级古怪。我太期待了。而且我确信。我现在正让我的团队审阅我写的一份内部文档,讲的是我怀疑对编码智能体会很有用的设计模式。所以希望我能分享出来,大概就在我走回家之后。但我觉得,这个世界上有太多值得探索的沃土了。而且,这,这。天哪,如果我没有这个,我现在真想拿编码智能体做实验。

Swyx [01:40:41]:是啊。而且我确信编码智能体公司也会很乐意和你们合作,一起把这件事搞清楚。是啊,我确实认为 Claude Code 和 Codex 对你们来说仍然有用武之地

Diogo Almeida [01:40:49]:当然

Swyx [01:40:49]:在那里探索起来很容易。好。我们——你一直非常配合,纵容我们聊了所有这些,所有这些事。我只是想把你从 TypeSafe 的话题里带出来

Diogo Almeida [01:41:00]:哦,好

Swyx [01:41:00]:就泛泛而谈。而且你已经非常清楚地表明了你在 AI 现状上的立场。在安全对齐方面多给你一些空间。

Diogo Almeida [01:41:08]:哦,我完全没聊安全对齐吗?

Swyx [01:41:11]:哦。哦,你聊了,你聊了。

Diogo Almeida [01:41:12]:我觉得我没聊。我觉得也许我没聊。

Swyx [01:41:13]:你聊了。

Diogo Almeida [01:41:14]:哦。

Swyx [01:41:14]:我只是觉得,有很多,你有很多研究者的讨论。我们每次

Diogo Almeida [01:41:20]:当然

Swyx [01:41:21]:每次 NeurIPS 都有。

Diogo Almeida [01:41:22]:是啊。

Swyx [01:41:22]:大家都在聊什么?比如,我。举个例子,我最近参加了一个研究者聚会,人们真的在担心节奏问题,对吧?就是这整个话题,比如,我们应该放慢速度,因为公众显然还没准备好。我确信你有强烈的看法。

Diogo Almeida [01:41:47]:我觉得这种事是一种危险的

Swyx [01:41:51]:好

Diogo Almeida [01:41:51]:话题。我很乐意聊。我为危险而活。

Swyx [01:41:55]:行吧。

Diogo Almeida [01:41:56]:我们公司的品牌就是混乱。不是 Jev。是不敬和混乱。

Swyx [01:42:00]:对。而且,你当时在 OpenAI,正值,那。最早几起非常引人注目的事件之一,就是那次小插曲,对吧?就是

Diogo Almeida [01:42:09]:哦,那个

Swyx [01:42:09]:那个,就像。而且,你。现在多米诺骨牌已经倒下了,现在每个前沿实验室都联署了一份文件,说他们想要控制节奏。

Diogo Almeida [01:42:18]:有意思。我。所以这——这是一件非常复杂、微妙的事。我其实想更正式地写一份回应。我确实有,我回应的一个简短版本

Swyx [01:42:31]:嗯

Diogo Almeida [01:42:31]:那就是,随着你进行更多 RLVR,RLVR 就像。

Diogo Almeida [01:42:38]:所以 RLVR 其实并不在于可验证的奖励。这个从推理革命之前就一直在失败了。而且。这就是任务奇怪的地方,对吧?就像,当年。哦,有趣的历史。当年 RLHF 刚开始兴起的时候,有三件不同的事,现在都被叫做后训练,是不同的努力方向。而指令遵循是其中远远最大的那个孩子。人们不喜欢它。他们不想把它考虑进去。它很烦人。我跟预训练团队聊过。我说:“伙计们,这才是魔法所在。”他们却说:“我们跑那么多模型扫描。你想让我们等人工评估来决定用哪些模型?”而且,每个人都把大量资源给到代码生成团队,他们确实取得了一些成功,但他们非常努力地想对单元测试做 RL。显然没成功,对吧?那需要推理。所以,所以澄清一下,RLVR 并不纯粹关乎奖励。它也关乎整体的形态。其中一部分是推理被包含在这里,就像你正在操作的这个潜变量。而当你操作时,你就是让模型随心所欲,以便让它们尽可能强大,去回答最难的问题。而这整个控制前沿节奏的讨论,我觉得焦点非常狭窄,因为它假设每个人都需要做更多 RLVR,对吧?而我显然不认为我们需要在我们的模型上做更多 RLVR。

Diogo Almeida [01:44:10]:我认为对我们的形态来说,零才是最优的量。嘿,对吧?拜托。

Swyx [01:44:14]:是啊。

Diogo Almeida [01:44:14]:所以我觉得,这其实有点像一种障眼法:他们说我们其实想继续做那件看起来危险的事,因为它确实会做出危险的事情。就像人们会说,“哦,也许沙箱化是个问题”之类的。是啊,这显然是个问题,而且他们本来很容易就能解决,对吧?但他们选择不解决,因为在这个“什么都能做”的类别里,你让模型做的事情越多,它就越强大,对吧?所以我觉得,这里面存在某种责任的推卸——无论是有意设计还是无意为之,他们试图让我们接受的就只是一个假设:我们必须做 RLVR,而且不只是必须做,还必须做得越来越多、越来越多,同时赋予模型在过程中为所欲为的权力,因为这会教会它们在过程之外也变得强大。而我们不想限制这些事情,因为那会让它们在这些事情上稍微没那么强大。

Diogo Almeida [01:45:24]:所以,如果你接受这一切,他们就会说,“哦,是啊

Swyx [01:45:28]:这是个合乎逻辑的结论

Diogo Almeida [01:45:29]:伙计们,我们正走向一个危险的世界。”

Swyx [01:45:31]:对。

Diogo Almeida [01:45:31]:就像,“每个人都会这么做,而这是让 AI 变得病态的唯一途径。”所以 Swyx [01:45:37]:所以基本上就是,这些说法内部都是自洽的,但实际上它始于一个前提,而如果你

Diogo Almeida [01:45:45]:当然

Swyx [01:45:45]:仔细想想,这个前提是有其他选择的。

Diogo Almeida [01:45:45]:当然。我觉得——就拿苦乐参半的教训这个方向来说,我觉得很少有人真正做出了正确的任务。比如 AI 的新方向。或者说新的北极星。这很罕见。再说一次,我觉得 LLM 本身大概是 2.2 倍左右,比如 RLHF 然后是 RLCD。

Swyx [01:46:04]:哦。

Diogo Almeida [01:46:04]:在我看来,RLVR 大概是 0.2,我觉得这已经算慷慨了。

Diogo Almeida [01:46:09]:但或者 0.5,或者,它可能算整整一个。我不太在意。但我确实认为人们思考这类事情时非常狭隘。而这——这里唯一该负责的人是研究者,因为肯定不是大众。大众只是默认 OpenAI 和 Anthropic 已经在尽力而为,而他们并不是那些了解真正可选空间有哪些的专家。

Swyx [01:46:34]:是啊。这很公道。而且就像

Diogo Almeida [01:46:36]:是啊

Swyx [01:46:36]:你,你也在尽你的一份力唤醒他们。

Diogo Almeida [01:46:38]:是的。好吧。我在尽力,但我的目标不是说服实验室还有别的方向

Swyx [01:46:43]:是啊

Diogo Almeida [01:46:44]:可以走。我的目标是——是在软件工程师心中点燃希望,让他们开始真正自动化那些他们一直想自动化的事情。我写过一篇文章,我的团队不让我写、不让我发表,讲的是我想要的 AI 未来。里面有很多小东西。比如,记得 do what 吗?想象一下如果一切都能做 do what 会怎样,因为那个演示就是 do what。

Diogo Almeida [01:47:10]:比如,你可以。就像,是有层次的

Swyx [01:47:11]:是啊,别照我说的做。

Diogo Almeida [01:47:12]:?

Swyx [01:47:12]:是啊。别照我说的做,照……

Diogo Almeida [01:47:14]:是啊。而且,我们暂时还做不到,因为计算机太基础、太字面了,但那个 computer use 就是那样。我觉得世界上会出现一些人们根本不理解的顺滑程度层级。还有那种智能无处不在的承诺。这、这、这——我不想过度承诺。我不认为它现在就会发生,但我们会尽他妈一切努力让它发生。

Swyx [01:47:40]:是啊。关于后训练的整体形态,还有其他要说的吗?你显然一直深度参与其中。中期训练,这个你有什么评论吗?我觉得我们从来没聊过它。

Diogo Almeida [01:47:53]:中期训练。全都是一个谱系。

Swyx [01:47:57]:是啊。

Diogo Almeida [01:47:57]:对吧?就像,我是

Swyx [01:48:00]:这就像是课程,但更花哨。

Diogo Almeida [01:48:02]:是啊。就像,这、这、这就像是,这是一种省成本的做法。

Swyx [01:48:06]:是啊。

Diogo Almeida [01:48:06]:而不是,比如,必须重新做预训练。确实有些有趣的东西。我其实认为,智能在每一个层级都有一种难以言说的东西,而且它总是超级迷人。我是个 shape rotator,所以我不喜欢发现它,但我喜欢别人发现它并教给我。但看数据的话,这件事,我们的数据团队非常擅长,而我不擅长。

Diogo Almeida [01:48:31]:这——我觉得这真的非常迷人。我其实很喜欢思考,比如,能力是如何在短期内被放进模型里的。比如,有那种非常快速的微调对齐,以及长期来看。在反反复复看过很多很多次之后,比如,这些东西会越来越深、越来越深、越来越深、越来越深地被烙进模型里,直到它变得稳健。而那就像是北极星一样浮现出来,而 System 1 那类东西就是最终会变得稳健的东西。所以我觉得中期训练是一件非常迷人的事。我是各种形式训练的粉丝。我是各种形式、比如,让新型智能浮现出来的粉丝。我不会全都自己去做,因为那很贵。而且我私下说过,也。

Diogo Almeida [01:49:20]:我该说这个吗?哈。哈。比如,我的哲学是,任何我——任何我该在私下、比如,和投资人说的话,我都该在公开场合和人们说,因为那就像是

Swyx [01:49:32]:权力归于人民

Diogo Almeida [01:49:32]:我的信条。

Swyx [01:49:33]:是啊。

Diogo Almeida [01:49:33]:对。所以我——我之前说过的话是,如果你给我十亿美元,我也不会做预训练。我仍然相信这是真的。那是一件非常昂贵的事,当。如果你,比如。比如,如果你是一名 AI 工程师,你可以,比如,切片切块,做各种事情。比如,弗兰肯斯坦式的拼装不是最优雅、最美的东西,但它能解决问题,宝贝。

Diogo Almeida [01:49:57]:所以——除了预训练,什么都行。

Swyx [01:50:00]:是的。太棒了。我觉得有一个方向我确实觉得很有意思,就是,把你所有这些关于模型这些东西的评论综合起来,就是,我们是有一个超级模型,把所有这些东西都包含进去,还是把它们拆分开来,进一步拆分?我想,一种说法是,OpenAI 当时正朝着全能模型的方向发展,对吧?4o 就是其中之一。然后有一小段时间,总是有,比如,有一条主分支——这是聊天调优模型,这是编码调优模型。

Diogo Almeida [01:50:35]:那些是完全不同的东西。那些是极其不同的概念。我会,比如,稍微拆解一下。所以多模态有点不同

Diogo Almeida [01:50:44]:因为有时候其他模态有帮助,有时候它们有害。

Swyx [01:50:47]:是的。

Diogo Almeida [01:50:48]:比如,人们在移动。他们似乎正在远离语音,语音不同于音频,因为它似乎不能很好地泛化到其他东西上。

Diogo Almeida [01:50:57]:这个问题可能会被解决。我是这一切的粉丝,但这些是,比如,经验性的、真实的问题。比如,缩放定律并不是说只要往里砸钱它就会变好。缩放定律实际关心的是:一个东西到底有多好?比如,存在一些情况,无论你怎么扩展规模,它可能都不够好。所以,Y——比如,据我理解,计算机使用目前还没有被解决。比如,我希望我们能成为其中一员。比如,在解决这个问题上发挥作用。但比如,它。可能无论我们收集多少数据都无法解决它。我们可能需要更好的方法或其他类似的东西。所以 Diogo Almeida [01:51:33]:比如,我们。你需要在这一切中,比如,非常务实。我是全能模型的粉丝吗?我是所有形式智能的粉丝,但我会直接切入你谈到的一点,它与预训练不同,那就是后训练,因为我讨厌割裂智能。那对我来说,比如,是糟糕的事情。而这整套,比如,聊天优先的推理模式,是因为它迫使智能被割裂。比如,当你为聊天进行优化时,这往往就是,比如,纯粹的 RLHF,而做人们,比如,自然会抱怨的那些事,在 RLHF 中是相当内在的,对吧?比如,哦,我要

Swyx [01:52:07]:你完全正确。而且

Diogo Almeida [01:52:08]:是的

Swyx [01:52:08]:。

Diogo Almeida [01:52:09]:谄媚、心理谄媚

Swyx [01:52:10]:是的

Diogo Almeida [01:52:11]:我——随便什么词

Swyx [01:52:11]:是的

Diogo Almeida [01:52:11]:怎么——或者该怎么发音。过度自信、幻觉。比如,甚至那种在 LM Arena 上表现出色的风格,粗体、斜体、表情符号?比如,它不会简单地回答问题。它会给出,比如,一大段长篇大论,然后反问你一个后续问题,这样感觉更像真人在跟你说话。所有这些东西,都是因为字符串超级奇怪才出现的吗?它们就是,比如,奇奇怪怪的东西,而你需要被错误校准。你需要,比如,模式坍缩。你需要过度自信,才能不偏离正轨,因为一旦偏离,奖励模型就会极其严厉地惩罚你,因为那太明显了。然——然后这,比如,完全扭曲了概率空间,而且它与推理模型的概率空间相互作用,对吧?因为,比如,它。这些模型就是,比如,这些简单的线性东西,倾向于稍微作弊。所以我的猜测是,我认为这与暴露智能非常不同。而智能的许多艺术在于研究这种微妙之处,我认为,至少我在 OpenAI 的时候,人们并没有真正研究这个,因为,比如,他们就像,“聊天”,就像人们现在对 Jev 那样。

Swyx [01:53:19]:是的,你给我一个终极目标。你给我一个目标,我就会全力去优化它,对吧?比如,而且它

Diogo Almeida [01:53:23]:是的。但如果你试图在那里做。而且就像,说法是,比如,你可以有,比如,两个目标,你可以就,比如,同时优化两者,但那样字面上就是割裂的行为,对吧?所以是的。

Swyx [01:53:33]:所以某种程度上,你——你也是把智能割裂成 System 1、System 2,只是你不同意其他人的割——割裂方式,这没问题。

Diogo Almeida [01:53:41]:哦,它

Swyx [01:53:41]:这没问题。

Diogo Almeida [01:53:42]:这有点不一样。不。如果我可以,如果我可以补充,如果我可以为

Swyx [01:53:46]:是的

Diogo Almeida [01:53:46]:System 2 任务辩护,第一,比如,我们并没有抛弃 System 2 任务,对吧?比如,你可以试着让 Jev 去处理它,而且对此其实有一个明智的答案,那就是未知。比如,我的。比如,那里。比如,在 System 2 任务中确实存在更好和更差的行为,那应该是,比如,非常低的置信度、大量的不确定性。也许一些启发式方法可以,比如,在这里或那里推动一点进展,但我们要说清楚,我们也关心它们。我只是认为那不是。那是什么。智能所固有的。所以我们并不是试图那样去割裂任何东西。而所有割裂都会让模型变笨。比如,如果人们,比如,让模型说,比如,它是 OpenAI 或 Qwen 或,d- 比如,Claude 或其他什么,我真的不知道它这些天说些什么 d- 这些。我不会把“你是来自 TypeSafe 的 Jev”写进模型里。那会割裂它,对吧?比如,它。l- 比如,我不想要那样。比如,代表互联网认为的东西,对吧?比如,要正确。那才是我想要的,因为那样你才能得到平滑、可预测的智能。

Swyx [01:54:50]:我,身份这东西,我想,是

Diogo Almeida [01:54:53]:我- 对于,它- 对于

Swyx [01:54:54]:某种特殊的

Diogo Almeida [01:54:55]:对于第一方产品,是的。

Swyx [01:54:56]:是的。

Diogo Almeida [01:54:56]:但比如,对于 API,我不这么认为。

Swyx [01:54:58]:是的。好的。

Diogo Almeida [01:54:59]:?

Swyx [01:54:59]:是的,那很好。

Diogo Almeida [01:54:59]:比如,我不会。我。比如,人们不想要。如果他们用 ChatGPT 做一个聊天机器人,他们不希望它说自己是 ChatGPT。他们想让它说自己是,比如,Chipout AI 之类的,对吧?

Swyx [01:55:09]:嗯,所以你还得弥补这一点的方式就是你有这个技能,对吧?那个

Diogo Almeida [01:55:13]:是的

Swyx [01:55:13]:Jev 技能,是让编码智能体与 Jev 协作的。

Diogo Almeida [01:55:16]:是的。

Swyx [01:55:16]:好,几个收尾问题

Diogo Almeida [01:55:19]:当然

Swyx [01:55:19]:因为我想,让你收个尾。一个是,比如,回顾一下你这两年的历程。大概是两年?两年多一点?

Diogo Almeida [01:55:25]:和公司一起

Swyx [01:55:26]:是的

Diogo Almeida [01:55:26]:我觉得这更像是,比如,一段四年的历程。

Swyx [01:55:29]:是的。

Diogo Almeida [01:55:29]:但是

Swyx [01:55:29]:嗯,是的。其实,比如,我在想,记得你,比如,在感恩节前后有过这么一次,比如,英雄式的冲刺。你当时就像。你把所有事都取消了,因为你说,“伙计们,比如,大家都在休假。我要把所有空闲的 edge GPU 都拿过来,去做这件事。”

Diogo Almeida [01:55:42]:是的。那段时间很不错。

Swyx [01:55:44]:而那是在,比如,TypeSafe 之前

Diogo Almeida [01:55:46]:是的

Swyx [01:55:46]:的时刻,对吧?

Diogo Almeida [01:55:47]:我。那可能吧。那是政变发生的时候吗?我不太清楚。

Swyx [01:55:50]:是的,其实。

Diogo Almeida [01:55:51]:是的。听起来没错。是的。我记得。天哪,我不想。我不。我觉得我现在没时间爆料政变的事,但那真的很烦人。

Swyx [01:56:04]:是政变烦人,还是那次冲刺烦人?

Diogo Almeida [01:56:06]:政变那事挺烦人的。

Swyx [01:56:07]:政变。好吧。

Diogo Almeida [01:56:07]:是的。

Swyx [01:56:08]:是的。

Diogo Almeida [01:56:09]:它。我会

Swyx [01:56:10]:Safia 接管了公司。是的,总之。

Diogo Almeida [01:56:14]:也许下次我们聊天时

Swyx [01:56:16]:好。行,行

Diogo Almeida [01:56:16]:我会,我会爆点料。关于政变的料。是的。其实,这个问题在我心里已经很久了,甚至在 ChatGPT 发布之前就有了。我当时就想,“天哪,ChatGPT 团队正在憋大招。他们做对了任务。”他们做的是 AI 研究者不擅长、但成功的产品人擅长的事,那就是对体验极其上心。这,这,这非常罕见。他们。比如,OpenAI 里这样的人很少。而那些人在这方面做得非常好。

Swyx [01:56:50]:而且要说清楚,这是从 GPT-3 到 3.5 的整个历程,其中还包括 AI Dungeon,你之前谈过

Diogo Almeida [01:56:55]:是的

Swyx [01:56:55]:就像。是的。嗯,那是,那是我们从未预料到的一个用例的例子。

Diogo Almeida [01:56:59]:是的,正是如此。

Swyx [01:56:59]:没错。

Diogo Almeida [01:57:00]:嗯,哦,是的,那是一个。另外,我曾为部署 InstructGPT 非常努力地争取过。

Diogo Almeida [01:57:07]:比如,其实它的早期版本甚至是用一种我们没有发表的算法训练的,那是我自己做的,因为清理 PPO 数据太慢了。我当时就想,“去他的。这玩意儿太他妈好了。我们得把它交到用户手里。”

Diogo Almeida [01:57:21]:而且基本上,它立刻就占据了当时 LLM 市场 50% 的份额。但是。而且我们当时觉得。我费了很大力气,确保我们发布视频里的每一点都是真实的。我们。我当时真的在想,“这是 AGI 吗?因为它在指令进、指令出方面已经超越人类了?”你。显然,它不是,但我觉得每个人都应该对为什么那不是 AGI 有个答案,因为它看起来非常聪明。而我的答案最终,最终只被用于文案写作。Jasper AI、Copy.ai,就是写作,就是现在网页上所谓的垃圾内容。我们当时担心我们把互联网变得更糟了,对吧?于是我回到起点重新思考,我想,“缺了什么?我们显然很聪明。它缺了某种东西,比如创造价值。那是什么?”我当时其实更多是在做哲学思考,比如,“到底是怎么回事?”而答案是,“哦,机器。”我问自己的问题是,“让我们从一场基于 AI 的经济革命倒推。当那发生时,会是什么。如果 AI 是一个 API,谁会来调用 AI?会是人类还是代码?”我判断会是很多个九的代码。但当时所有的优化都投向了人类那一部分。然后我恍然大悟。我想,“我靠,这就是北极星。”我想,我写了一份文档。我当时在跟 Sam 谈这件事。Sam 说,“这他妈太好了。你应该去做这个。”我们说,“是啊,Sam,我有工作。”就,它。我当时在做

Swyx [01:58:51]:Sam 就是叫你去做的。兄弟,去做吧。

Diogo Almeida [01:58:54]:但就像,我当时猜的是,这太明显了。就像,这明显得令人难以置信。Anthropic 肯定已经在做这个了吧?而且就像,我们已经完蛋了,而且实际上 OpenAI 在追赶方面比在真正创新方面做得更好。所以就像,ChatGPT 是 Claude 的复制品,对吧?就像,他们内部有个东西。他们只是没发布。

Swyx [01:59:13]:是的。对。Claude 和 Slack。但推理,我会说是第一个左右的。

Diogo Almeida [01:59:17]:对。

Swyx [01:59:18]:对。

Diogo Almeida [01:59:18]:但这产品到底有多好,还有待商榷。

Swyx [01:59:21]:对。

Diogo Almeida [01:59:21]:不过研究很棒。超级棒的研究。我只是不确定人们是否有那种产品需求。而且 Claude 也做了编码智能体那套东西。所以 Sam 那么说,我就先回去干我的活干了一阵子。最终,就像,指令遵循团队直接说,“我们赢了。我们已经解决了指令遵循。我们不需要再做别的了。”我就像,试着想我接下来做什么。我当时想,“也许我就,开始玩玩这个吧。”我,多做些哲学、设计和思考。我开始训练模型时,以为最后会花一周时间。结果花了,

Diogo Almeida [01:59:58]:很多年。某个时候我就想,“我靠,这里有生命迹象了。”这个。它显然没成功,对吧?否则我们就部署了。但就像,我想探索一下,从研究角度全力投入这个会是什么样。就像,我真的很想看看,如果你,就像,疯狂地、不顾一切地全力投入这个方向,会是什么样。而且因为我说过的,就像,如果 AI 寒冬来了,我会。我会有什么感受?我会认为自己负有个人责任。我当时和其他公司谈过,我说,“嘿,我想在这个方向上开一个实验室。”而且就像,他们有兴趣,我就直接问他们,“多快。什么会更快?这个还是创业公司?”他们说,“创业公司。”我就想,“去他妈的,兄弟。我们干。”

Swyx [02:00:44]:是啊。

Diogo Almeida [02:00:44]:“看来我们要搞点疯狂的事了。”而且

Swyx [02:00:47]:然后你打电话给 Eric 和 Sasha,还有

Diogo Almeida [02:00:48]:对。嗯,我先打给 Eric。至于 Sasha,我其实没想招募她。我想做个好人,我就只是说,“嘿,我疯了吗?这里是不是缺了什么?是不是,就像,我是不是太陷在 OpenAI 的泡泡里了,以至于没意识到这一定有个解决方案?”然后 Sasha 就说,“我加入。”我就说,“Sasha,你在一家创业公司工作呢。”她说,“我现在就把它关了。”我就说,“你要不要考虑一下?”她说,“哦,对。说得好。让我想想。”然后她就加入了。

Swyx [02:01:19]:是啊。

Diogo Almeida [02:01:19]:然后,两周之内我们就拿到融资了。我们,我们有了,就像,有人搬进了我的公寓。那是最糟的,因为我有洁癖。我们就一直埋头干,最终我们得到了那个研究,

Diogo Almeida [02:01:34]:那显示了生命迹象?

Swyx [02:01:37]:是的。

Diogo Almeida [02:01:37]:那真是,那真是一段疯狂的时期。

Swyx [02:01:38]:所以问——问题是。那都是长上下文。

Diogo Almeida [02:01:41]:哦,是的。

Swyx [02:01:41]:然后现在的问题是,像你这样的人

Diogo Almeida [02:01:43]:是的

Swyx [02:01:43]:现在就在前沿实验室里,却因为拿不到资金或资源,或者随便什么,得不到关注而感到沮丧。你对他们有什么建议?做。他们应该像你那样做吗?

Diogo Almeida [02:01:54]:他们应该做吗。哦,这是个迷人的问题。

Diogo Almeida [02:02:03]:哦,天哪。我怎么才能做到不烧桥?

Diogo Almeida [02:02:08]:我——我的感觉是,大多数新——除非有某种我并不真正理解的经济逻辑,我认为大多数新实验室都是垃圾。我不想看到自己把那些人当作同行。就像,我并不真正理解那里在发生什么。就像,是不是因为——就像,第一,我并不真正看重研究人员。我看重的是那些。就像,看看我的苦涩教训,对吧?

Swyx [02:02:33]:数据,任务。

Diogo Almeida [02:02:34]:我想要。嗯,不只是那个。

Swyx [02:02:35]:是的。

Diogo Almeida [02:02:35]:我,那个,我们需要研究人员,但我们需要他们对正确的任务非常上心,这才是关键,对吧?所以实际上,那个。这,这有点本末倒置,因为人们看重纯粹的研究出身,而那通常并不能创造价值。所以它。就像,第一,我相信北极星任务,做酷的、真正有用的东西。第二,因为我不看重研究人员,我不,我不建议走那条路。嗯,它对某人来说显然是有利可图的,或者在这种环境下可能是。所以就像,从纯粹务实的角度来看,我不认为创建新实验室是想要——是能创造价值的东西。它似乎是在摧毁价值,因为,就像,它们就像,从头重做工作,而且真正推动前沿的概率很低。就我和大多数新实验室交流的情况来看,它们并没有真正的方向。它们往往想要钱来玩自己的实验。如果它们有方向,我超级支持,说清楚。所以我对某人的建议是,这真的取决于你为什么做这件事?如果你是一个想玩研究的研究人员,说实话,实验室可能是做这件事最好的地方。就像,可能还有其他地方。我并不太关注那些政治,但我个人会建议不要那样?就像,我认为人们被驱动去解决真正的问题对世界更好。那些问题可能是探索性的。那没问题。但就像,理想情况下要有你坚持的原则。但如果你认为你想做正确的任务,就像,绝对他妈的支持。就像,请去做。就像,请打破这个,就像,统一心智、单模态,就像

Swyx [02:04:21]:蜂巢思维。

Diogo Almeida [02:04:21]:对,没错。就像,呃——就像,再说一次,这种推动前沿的节奏来自,就像,这种对AI的单一视角,它看起来像是一个AI超级天才,能力极其参差不齐,而且它是,

Swyx [02:04:36]:可解决的。

Diogo Almeida [02:04:37]:它是可解决的,而且它很怪异,而且它,就像,与现实不符。而且它就像。这很悲剧,对吧?就像,我觉得,就像,所有这些。就像,那个。就像,真正挖掘出技术,我觉得,就像,就是好事。

Swyx [02:04:51]:对。不管怎样,再说一次,我是在试图准——准确地表达我交谈过的Anthropic、OpenAI那些人的立场,顺便说一句,还有SpaceX,那就是,它是。这更多是一件政治上的事,而不是纯粹的Xris的事。

Diogo Almeida [02:05:05]:是的。

Swyx [02:05:06]:所以是的。政治定位是

Diogo Almeida [02:05:08]:而且那。而且那超出了我的职责范围。

Swyx [02:05:10]:没错,是的。

Diogo Almeida [02:05:10]:那远远超出了我的职责范围。

Swyx [02:05:12]:一旦他们,一旦他们告诉我那件事,我就想,“我懂了。这是关于2028年大选。”

Diogo Almeida [02:05:18]:哦,不。

Swyx [02:05:19]:是的。

Diogo Almeida [02:05:19]:哦,我真希望我没听到那个。那种感觉太糟糕了。

Diogo Almeida [02:05:22]:所以

Swyx [02:05:23]:不。这不是整个公司的想法。

Diogo Almeida [02:05:24]:是的。

Swyx [02:05:24]:这只是那个房间里的讨论。

Diogo Almeida [02:05:26]:不。这说得通。

Swyx [02:05:28]:是的。是的。

Diogo Almeida [02:05:28]:这让我对人性有点失去信心,但也许我只是个天真的技术专家。

Swyx [02:05:33]:这真的开始变得重要了

Diogo Almeida [02:05:35]:是的

Swyx [02:05:35]:谁,谁在掌管政府,那将有助于在这些东西出现时对它们进行监管。而且就像,作为一个实验室

Diogo Almeida [02:05:41]:我觉得

Swyx [02:05:41]:你大概应该把这件事想清楚。

Diogo Almeida [02:05:43]:不。不。说清楚一点,我完全同意这一点。就像,我觉得在这件事上有明确立场非常重要。我个人很害怕试图误导别人,因为我觉得那会让人吃大亏?就像,我觉得,人们试图表现得过度自信,就像,我显然只是。我其实不会去谈政治。我觉得新冠疫情期间发生的情况是,人们过度倾向于诉诸权威和过度自信,试图让人们以某些方式行事。而且显然,我们的应对极其不理想,那产生了连锁的下游后果,我认为现在对世界极其糟糕。也许我太天真了。我觉得误导别人,即使是为了更大的善或他们以为的更大的善,那只是,那只是。我不喜欢。

Swyx [02:06:41]:是的。

Diogo Almeida [02:06:41]:我宁-我宁愿不这么做。

Swyx [02:06:42]:不管怎样,我。这不是一个。我不觉得这是误导。它就像是,这就是为什么是现在。

Diogo Almeida [02:06:46]:是的。

Swyx [02:06:46]:为什么。是的。为-就像,为-?

Diogo Almeida [02:06:49]:那个。我觉得那件事

Swyx [02:06:50]:就像,Dario Rodas在五月说的,“我们现在到底在干什么?”

Diogo Almeida [02:06:52]:我觉得“为什么是现在”这一点有点,误导性,关于风险与目标。它。存在,就像

Swyx [02:06:58]:是的

Diogo Almeida [02:06:59]:某种程度的,就像,潜藏其中的偷偷摸摸

Swyx [02:07:02]:是的

Diogo Almeida [02:07:02]:这一点值得提出来,我觉得也应该承认。嗯,显然他们想这么做。如果他们想操纵,那他们就不该承认这一点。那似乎是个糟糕的策略。

Swyx [02:07:11]:不。

Diogo Almeida [02:07:11]:但对我来说,这对世界来说只是很可悲。

Swyx [02:07:14]:是的。

Diogo Almeida [02:07:15]:希望我永远不会。我已经。是的。希望,就像,我们永远不会卷入任何

Swyx [02:07:21]:是的

Diogo Almeida [02:07:21]:那样的事情。随着我们变大,这也许不可避免,但我想。我想尽可能保持,就像,从根子上做一个纯粹的技术专家。

Swyx [02:07:29]:Jev当总统。为什么不呢?我可以。我。比起我自己的决定,我会更信任Jev的决定。好,那么少点瞎发帖,多谈谈

Diogo Almeida [02:07:39]:少点瞎发帖。

Swyx [02:07:40]:不。对我来说。

Diogo Almeida [02:07:41]:你只是太

Swyx [02:07:42]:我在瞎-我在瞎发帖。

Diogo Almeida [02:07:42]:哦,你只是在碾碎我的希望

Swyx [02:07:43]:不。我不会瞎发帖

Diogo Almeida [02:07:44]:关于,就像,美国在当今世界中的角色。

Diogo Almeida [02:07:46]:我的天哪。

Swyx [02:07:47]:是的。就像,有。我有点。我觉得我看了太多关于,就像,阴谋论的电视节目,才会去想总统职位的事。

Diogo Almeida [02:07:52]:哦,不。

Swyx [02:07:52]:那个,你已经选好了你的北极星。你已经选择了可靠性。你身处一个可编程且可组合的AI之中。

Diogo Almeida [02:07:59]:而且便宜。

Swyx [02:07:59]:而且便宜。

Diogo Almeida [02:08:00]:是的。

Swyx [02:08:00]:你想扔给别人当骨头、而你自己不会去做的第二或第三个是什么?你想让别人去做、而你自己不会去做的是什么?

Diogo Almeida [02:08:06]:哦。

Swyx [02:08:07]:就像,基本上就是给大家派任务。

Diogo Almeida [02:08:10]:给大家派任务?

Swyx [02:08:11]:对,就像,那就是你的任务

Diogo Almeida [02:08:12]:哦,我想要的任务太多了。哦,什么?

Swyx [02:08:13]:你已经选好你的任务了,对吧?什么?

Diogo Almeida [02:08:15]:什么?等等,我。这问题问得太好了。我的天。哦,天哪,我太兴奋了。

Swyx [02:08:19]:因为你要,你要,接下来大概50年,你都会忙着做你自己的事。

Diogo Almeida [02:08:23]:那当然。好,那让我说一个有趣的,再说一个不有趣的。再、再,也许说一个既有价值又有趣的。

Diogo Almeida [02:08:32]:我那个有趣的是,我觉得游戏如果能变得智能,那可就太酷了。就像,当我看到人们玩Ali的那个Doom演示,就是那种,你可以让NPC控制东西,就像,那真的只是,就像,一个概念验证。我觉得能做出真正酷的东西。看起来真的很酷。比如,我是《星露谷物语》的超级粉丝?它其实非常静态,却依然很吸引人。我觉得可以发生很多很酷的故事。你不需要在游戏循环里调用Jev。那样做可能太贵了。但即便是,比如,简单的NPC状态机,我觉得你也能做出一个非常引人入胜的世界。哦,天哪。

Diogo Almeida [02:09:13]:而且,有点难过的是我没法做这类事情。

Swyx [02:09:17]:是啊。

Diogo Almeida [02:09:18]:我现在的人生道路有点定下来了,而我,

Swyx [02:09:22]:是啊,但你可以叫别人来做

Diogo Almeida [02:09:23]:对。那挺好

Swyx [02:09:23]:然后你就可以,比如,给它反馈。

Diogo Almeida [02:09:25]:我真正想探索的是,让编码智能体摆脱 KV 缓存的暴政。它可能不如真正的编码智能体那么好,但我觉得有太多奇怪的东西值得思考。这-这就是我写那篇《KV 缓存统治着我周围的一切》的原因。

Diogo Almeida [02:09:46]:信不信由你,我谷歌的时候,我觉得网上没人用过“缓存统治着我周围的一切”这个说法,C-A-C-H-E。

Swyx [02:09:57]:好

Diogo Almeida [02:09:57]:所以,我写这个是因为我想告诉人们,比如,编码智能体是-智能体是怎么工作的,KV 缓存是怎么工作的,等等。而且我觉得。我不知道。对。

Diogo Almeida [02:10:13]:比如,它解释了很多东西,比如为什么路由真的很难,为什么子智能体似乎不起作用,比如,为什么压缩是这么难的问题。我打算发布一份文档。我的团队可能会否决我,因为信不信由你,我说了不算。

Diogo Almeida [02:10:29]:但我希望如此。但我想发布一份文档,比如,“这是我的想法。请拿去玩,请找出所有我们能对编码智能体做的事情,比如,一旦你摆脱了那种 KV 缓存的暴政。”

Swyx [02:10:46]:是哪个,它把你锁定了,而且

Diogo Almeida [02:10:48]:嗯,不对。它-它会把你锁死在一个模型里,对吧?而且为了高效地做到这一点,你需要,比如,不断地往里面追加内容。所以你现在做的就不是最佳软件实践了,比如状态管理、抽象、分解。你为什么不能给一个更简单的任务一些。对,你为什么不能给子智能体一个更简单的任务?因为你传递的状态。哦,我碰了这个。因为你传递的状态,你需要-会需要比用来读这个的智能便宜得多的智能,才能把这个状态传递下去。你为什么不能在这上面聪明一点呢,对吧?而且我觉得那里就是,比如,有超多很酷、很有趣的研究可以做,比如,不同的编程模式。有点像人们现在在玩的东西,比如,递归语言模型。比如,我觉得这里面就有,比如,很多很酷的东西,当你想到,比如,“哦,我想把一切的状态都显式地标注出来。”或者想象你有一个,比如,子任务。比如,编码智能体,我觉得可以公平地说,从分解的角度看,它们一次处理一个子任务。你为什么需要把所有这些状态都传回父任务?

Swyx [02:11:49]:是啊。

Diogo Almeida [02:11:50]:你为什么不能在这上面做点聪明的事呢?而且,如果你有一个带标签的子任务层级结构,那当你在某个地方需要相关上下文时,为什么不能在这个子任务树里搜索一下呢?然后,还有另一件你能做的事。哦,天哪,我忘了写点关于这个的东西。我这里有一些真的很酷的招数。希望能发表出来。我很乐意聊聊这个,但那会是一份很长的文档。而且,如果真到了上下文变得廉价的那一天,那为什么不能玩一些很酷的模式,比如非常廉价地查看你的历史上下文呢?你每次都从零开始,还得解决一个叫持续学习的问题,这有点奇怪吧?那其实是一个记忆管理问题,因为你没有一种聪明的方式来查找记忆,对吧?但如果你能呢?如果你能一直这么做呢?或者,当你有并行的子智能体时,它们能读取彼此的状态,因为所有这些都在你的计算机内存里,而你可以聪明地处理同时读写的东西,你的编码智能体集群之类的,能对东西加锁并智能地协调,而不是用那种基础得不能再基础的锁。比如,“你在干什么?我在干什么?”“Jev,谁该先写?”之类的。而且我觉得那里的未来是

Swyx [02:13:04]:我的天哪

Diogo Almeida [02:13:05]:疯狂。对。

Swyx [02:13:06]:Jev 来解决锁的问题。

Diogo Almeida [02:13:07]:对于多个智能体协同工作来说,那可能太酷了。或者,如果你考虑状态

Swyx [02:13:12]:对

Diogo Almeida [02:13:12]:比如,你有

Swyx [02:13:12]:智能体集群之类的。

Diogo Almeida [02:13:13]:对。

Swyx [02:13:13]:对。

Diogo Almeida [02:13:13]:而且有些东西,举例来说,是只读进程。有些人喜欢获取智能体正在做什么的摘要。

Swyx [02:13:20]:对。

Diogo Almeida [02:13:21]:为什么它们不能轻松共享状态呢?因为,比如说,一个只读智能体需要读取上下文的一部分,弄清楚哪些内容值得说,比如,实际正在写入的是什么,因为探索过程并不是特别重要,或者这里是子任务树。我觉得如果有真正聪明的人愿意投入大量时间重新思考编码智能体的体验,那会有太多不同的有趣事情可以做,那会超级酷。

Swyx [02:13:46]:对。

Diogo Almeida [02:13:47]:天哪,我。那会是我的梦想。

Swyx [02:13:48]:如果你还没看过 PrimeAgent,我会推荐你去看看。它和 RLM 的工作是配合的。我们刚和你前面那位、Ellen 的朋友 Alex 聊过。

Diogo Almeida [02:13:59]:哦,酷。

Swyx [02:14:00]:而且,对,它正在被开发,但还没那么流行。

Diogo Almeida [02:14:04]:是的。

Swyx [02:14:04]:而且如果,对

Diogo Almeida [02:14:05]:嗯,对。但希望是。对,我希望大家都能去玩玩

Swyx [02:14:08]:对

Diogo Almeida [02:14:09]:那些奇怪的东西。我不能保证它一定行得通,但从技术角度看它似乎真的很有意思。所以对,那看起来很酷,很酷。

Swyx [02:14:18]:看起来很酷。

Diogo Almeida [02:14:18]:比如,我。比如,一旦我们弄清楚怎么发放额度,我很想给这样的人发放额度。

Swyx [02:14:23]:对。你肯定会有能力资助研究的。

Diogo Almeida [02:14:26]:对。

Swyx [02:14:26]:不。总之,恭喜你取得的所有成功。从我第一次见到你到现在,你,呃,走了这么远,还有整个团队也是。

Diogo Almeida [02:14:32]:我愿意认为自己还是同一个人。

Swyx [02:14:34]:对。对。我觉得。但我觉得,你身上有一种我从未见过的活力,因为你找到了自己的使命。

Diogo Almeida [02:14:40]:不。那是真的。那绝对是真的。

Swyx [02:14:41]:而且

Diogo Almeida [02:14:42]:我

Swyx [02:14:42]:你在清晰地阐述你的使命,因为很多年来你一直在抱怨这些问题,但你还没有解决方案,对吧?而你,呃,你有了,你有了大致的轮廓,然后你必须去做,投入工作。

Diogo Almeida [02:14:55]:我得说,这部分是因为我把自己描述为0%的创业者。

Diogo Almeida [02:15:03]:我不喜欢初创公司。我这辈子从没想过当CEO。我无法想象任何人做两次这种事。这看起来很可怕。说实话,做一次就已经够糟了。我们第一次融资时,一位投资人问我,呃,“你敬仰哪些CEO?”我当时就想,“呃,我为什么要敬仰那些人?”

Diogo Almeida [02:15:22]:无意冒犯任何人。我只是想尽量做到真诚、善良。我遇到过很多非常好的人,但那些名人似乎都有不少见不得人的秘密。我觉得我在OpenAI的时候确实感到很无力。是的,感觉就像——现在说实话稍微容易一点了,因为我至少有一些证据表明这个方向是可行的。我只是觉得在那座疯狂的房子里,每个人都在说,“ChatGPT,对。我们该把ChatGPT放到哪里?我们怎么让ChatGPT对开发者之类的人好用?”而我就想,“你们在说什么?函数调用接口简直离谱。你们为什么要部署这个?”这、这太反开发者了。

Swyx [02:16:04]:这基本上是在一堆hack之上再叠一堆hack的取巧做法。

Diogo Almeida [02:16:07]:嗯

Swyx [02:16:07]:对

Diogo Almeida [02:16:07]:不只是这样。我经常说的是,如果有一个——这大概也是我现在没时间细说的八卦,但我以前总说,“如果你们没有为每个函数设置logit bias,我就想从任何涉及函数调用的项目里撤出来。”这对我来说是非常非常简单的请求。因为

Swyx [02:16:32]:那有点像置信度,但没有校准。

Diogo Almeida [02:16:34]:哦,或者给它一个概率,对吧?

Swyx [02:16:36]:对。

Diogo Almeida [02:16:36]:比如,我们需要给用户控制的能力,比如说他们有各种操作

Swyx [02:16:42]:哦,对

Diogo Almeida [02:16:42]:或者拒绝,或者允许。对,Disney需要设定一个和AI Dungeon不同的拒绝阈值。现在用函数调用控制这一点的唯一办法,就是像这样说:“求求你了”?这太离谱了。对开发者来说,这接口简直离谱。而且人们已经这样应付了好多年了,对吧?比如技能方面,他们还是那样。现有的编程智能体对它们现有的测试框架高度过拟合,因为它们是参差不齐的。它们不太擅长使用外部工具和MCP之类的东西,当然是因为过拟合。那为什么大公司不能允许这种轻微的推动,比如说,“多调用这个。它真的很有用。”

Diogo Almeida [02:17:22]:对吧?而解决办法是在系统消息里乞求。这太离谱了。

Swyx [02:17:29]:但是不,好吧。我想我想我明白你的意思了。而且,天哪,聊这些东西真是太让人兴奋了。

Diogo Almeida [02:17:35]:谢谢。

Swyx [02:17:35]:能请你上播客,真的很酷。

Diogo Almeida [02:17:37]:耶。

Swyx [02:17:38]:你会去做了不起的事情的,兄弟。比如,我很期待你的下一次大发布,不管是什么。

Diogo Almeida [02:17:43]:哦,那当然。

Swyx [02:17:44]:对。

Diogo Almeida [02:17:44]:你就等着吧。

Swyx [02:17:45]:对。

Diogo Almeida [02:17:46]:你就等着吧。可能比你想的还要早。

Swyx [02:17:48]:所以是在招数据人员、基础设施人员,我猜还有市场人员。

Diogo Almeida [02:17:51]:百分之百。取决于你问谁。

Swyx [02:17:53]:社区人员。

Diogo Almeida [02:17:54]:如果你问我的话

Swyx [02:17:55]:对

Diogo Almeida [02:17:55]:我觉得自己是个相当不错的创始营销人。但如果你问我团队里的任何人,他们会说:“他妈闭嘴吧,Diego。你得去干CEO该干的事。”所以,是的,创始营销人

Swyx [02:18:03]:而且这不仅仅是关于辛辣风格。我觉得你非常注重辛辣风格,这算是你的独特才能。但有时候你只需要说

Diogo Almeida [02:18:10]:我知道,我知道

Swyx [02:18:10]:就像,是啊。

Diogo Almeida [02:18:11]:我真的很想

Swyx [02:18:11]:做团队、多团队的事情。是啊。

Diogo Almeida [02:18:12]:是的,我。没有什么比铺天盖地的事情要做更能教会你授权了。招数据人员,或者我们叫他们模型能力人员,但他们就是数据人员,因为数据在这个行业里有点像贬义词。而且我想确保他们

Swyx [02:18:28]:我不这么认为。我们这里非常支持数据。

Diogo Almeida [02:18:29]:是啊,但我希望他们成为真正在模型上工作的人中地位最高的,这听起来有点奇怪。我希望每个人都有平等的地位,但我想把这一点拉平,我想让大家知道这真的很有价值。

Swyx [02:18:40]:这些人比其他人更平等。

Diogo Almeida [02:18:42]:好吧。我不喜欢奇怪的等级制度,我认为我在公司里最自豪的事情之一就是他们不太尊重我,或者他们不表现出来。他们调侃我,跟我开玩笑,有时候对我不太好,诸如此类。我认为这是文化良好的标志。我们在招平台人员,比如到处搭建Jev的人。我们对位置敏感得多,因为光速更是个瓶颈。

Diogo Almeida [02:19:09]:对吧?就像,我为欧洲用户感到非常难过,因为我们只是快了大约三倍,而不是快了大约100倍,因为我们现在在那里没有服务器。而且,这太疯狂了,对吧?但是

Swyx [02:19:20]:没关系。欧洲的生活节奏也慢一点。没关系。

Diogo Almeida [02:19:24]:哇,我真不敢相信你。是你说的,不是我说的。或者到处都这样。

Swyx [02:19:30]:是的。

Diogo Almeida [02:19:30]:就像,如果每秒智能是一个重要的指标,我们会到处推出这个。就像,我们在乎。就像,如果他们是基于我们构建的开发者,我非常在乎你。而且我们正在招聘人员来继续构建更多——就像,不只是。就像,目标不只是成为一家像Jev这样的公司。目标是,像,在那之上交付更多形态的智能。所以我们也在招聘人员来构建这些东西。就像,我们不想只是,像,是的,像,简单模型这种一招鲜。但就像,我认为会有一个,像,智能的AWS?而且

Swyx [02:20:07]:顺便说一句,那会是你,对吧?是的。

Diogo Almeida [02:20:09]:就像,那是我想要走的方向。

Swyx [02:20:11]:是的。好的。

Diogo Almeida [02:20:11]:说那会是我,那就太傲慢了。

Swyx [02:20:13]:是的。

Diogo Almeida [02:20:13]:就像,我们。就像,我会尽我所能确保那发生。

Swyx [02:20:18]:是的。

Diogo Almeida [02:20:18]:就像,我认为那会非常酷。就像,我们现在在玩的是,像,System 1智能。想象一下那些层?就像,这就像是它的TCP。

Swyx [02:20:30]:是的。还有好几层要走。

Diogo Almeida [02:20:33]:是的。

Swyx [02:20:33]:谁知道还有什么呢?顺便说一句,我也推销过 Temporal。我不知道。我们得把 Temporal 作为第八层来谈谈

Diogo Almeida [02:20:38]:哦

Swyx [02:20:39]:在七层之外。

Diogo Almeida [02:20:40]:哦。

Swyx [02:20:41]:但不管怎样,我们可以一直聊下去。

Diogo Almeida [02:20:43]:当然。

Swyx [02:20:43]:你得回去工作或者睡觉了。

Diogo Almeida [02:20:44]:是的。

Swyx [02:20:45]:谢谢你来。

Diogo Almeida [02:20:45]:哦,天哪。是的。酷。非常欢迎。这是我的荣幸,兄弟。

Swyx [02:20:48]:是的。

Diogo Almeida [02:20:49]:太兴奋了。

Swyx [02:20:50]:是的。

Diogo Almeida [02:20:50]:太兴奋了。

Swyx [02:20:50]:不会是最后一次。

Diogo Almeida [02:20:50]:你第一次来。这

Swyx [02:20:51]:不会是最后一次。

来源

Latent Space