播客：Kimi K3.1 Pro、新的网络安全现实与 Muse 使用体验

Interconnects播客：Kimi K3.1 Pro、新的网络现实与Muse随想1×0:00当前时间：0:00 / 总时长：-46:42-46:42

播客：Kimi K3.1 Pro、新的网络现实与Muse随想#20Nathan Lambert与Florian Brand2026年10月25日

我们——Nathan和Florian——想聊聊AI领域忙碌一周里各种纷乱的权衡取舍，并提出一些紧迫的问题，比如：

为什么Kimi K3.1 Pro拥有如此惊人的基准成绩，反响却褒贬不一？它会被采用吗？

我们对开放权重模型和网络安全风险的判断错了吗？

为什么网络专家对近期事件的讨论方式与AI专家如此不同？

接下来几个月会发生什么？什么会改变我们的看法？

我们会就此主题写更多内容，但想先带你走到幕后，因为我们希望尽快更多地了解网络安全行业，以及过去几年引领我们走到今天的发展趋势。我们在播客结尾聊了一些轻松话题，从Muse-maxing到对仍在招聘初级技术人才的兴奋。请把问题和话题发给我们，因为我们计划今后录制更多这样的播客。

可在Apple Podcasts、Spotify以及你获取播客的任何平台收听。其他Interconnects播客请见这里。YouTube ↓

章节

00:00 Kimi K3.1反响

08:15 Kimi的开放权重网络原则

11:23 “万物皆可黑”时代

15:54 PHP2Shell、LiteLLM与新互联网

24:00 消融API、防护措施与可信访问

31:41 Anthropic不招聘初级员工

36:16 Florian的Muse瘾

45:30 总结

我们讨论的链接

我与Dean Ball关于前沿实验室“狼来了”故事的讨论串

Kimi K3.1 Pro发布博客

Kimi K3.1 Pro在Artificial Analysis智能指数上的表现

Kimi K3.1在Artificial Analysis防御性网络基准上的表现

Program Bench

开放权重的Mythos本来会没事的观点

PHP“还没造成灾难”更新

Abliteration.ai提供消融模型API

Morph通过API提供消融版DeepSeek

Joshua Saxe关于AI与网络安全的Substack

Azeem Azhar，“互联网的武汉时刻”

Anthropic，“Anthropic的就业正在如何变化”

LiteLLM安全事件报告

文字记录

00:00:00 Nathan Lambert：我们又回来做一期Interconnects播客了。我们请到了Florian，评测达人，最近搬到了旧金山。Florian，Kimi K3.1 Pro这个名字真拗口，它会达到基准分数所显示的水平吗，比如在Artificial Analysis上，还是最终会落在什么位置？

00:00:17 Florian Brand：过去，Kimi模型总是能达到预期，但这次发布和其他几次相比有点奇怪。我觉得部分原因是他们变得越来越专业了，而之前的模型发布多少有些突然。这次他们还搞了更大规模的社交媒体宣传，这也招致了一些批评，据称还涉及付费让人发帖谈论该模型却不披露。

00:00:56 Nathan Lambert：我觉得很多公司都这么干，还告诉你别提这事，但这很糟糕。这是不当做法。任何公司都不该这么做。基本上，有人发推了一张Kimi媒体指引的截图，上面写着“不要说这是付费推广”。据我所知，之后没有人证实过这件事。

00:01:15 Florian Brand：是的，而且现在有几次模型发布，包括美国公司的，明显就是水军操作。我们见过一些发布有几千次转发、却只有几百个赞，因为这样吸引注意力效果太好了。有些会披露是付费广告，有些则不会。但总的来说，我们看到模型发布随着时间推移、而且相当快地变得专业化。一年前，大家只是发布模型，然后再给vLLM打补丁，所以有一阵子实际上没人能运行任何开放模型。现在你第一天就能拿到所有推理框架，第一天就能拿到所有推理提供商。或者，这也是我们越来越常见的情况，模型创建者在发布权重前有几周的独家访问期。K3.1 Pro也是这样。我想他们在发布模型权重前有两周的独家访问期。

00:02:38 Nathan Lambert：他们说权重会在11月4日前发布。然后头条的东西……我不知道我能不能共享屏幕。我这台电脑上没设置好。但头条是Artificial Analysis的那个数字，它领先于GPT-6 Astra。然后如果你看Kimi K3.1的博客，他们有他们的头条数字，非常强，但后面也有一些数字看起来有点参差不齐。我记得是Terminal-Bench Science，落后GPT-6 Astra 20分。我想还有几个其他的，比如ProgramBench。你知道Terminal-Bench Science和ProgramBench吗？这些是人们认为对前沿模型重要的基准吗？或者你怎么解释这个事实：在Artificial Analysis上，这个模型排在前三、前四？是两个最新的Claude 5.5模型、Muse Wonder Full，然后是Kimi K3.1，看起来太疯狂了。分数看起来简直疯狂，我想大家仍然对此感到惊讶。但随后还有一长串细节，是你现在用来评估模型的。我在Twitter上发了个讨论串问“大家的印象如何？”有很多人说“这看起来不太好”，然后有些人说“是啊，还行”。我不知道，褒贬不一。相对于K3——我觉得K3是相当一致地好评——这感觉像是个大模型，而后训练对此来说似乎有点欠火候。也许这只是稍微被RL搞坏了。我们看看最终会怎样。

00:04:26 Florian Brand：关于基准，其中一件事是，Artificial Analysis现在使用的基准，他们可能会在我们发布这期播客后很快发布新版本。

00:04:43 Nathan Lambert：我们没法告诉你确切日期，但我们俩都知道。

00:04:48 Florian Brand：总的来说，Artificial Analysis 的基准在时间跨度上相当短，而像 ProgramBench 这样的东西则真的很长，也很有探索性。其他基准是在告诉模型：“好了，这就是目标，我要你达到它”，而 ProgramBench 更像是：“好了，这就是我想要的，但你需要大量探索。”我认为这可能就是我们看到一些差异的原因：他们的 RL 训练仍然更偏向模型训练中利用性的一面，而不是探索性的一面——在探索性的一面，你需要在真正知道自己要做什么之前，先设法找到解决方案。

00:05:41 Nathan Lambert：但如果你用的是三万亿参数的模型，我觉得你会希望它在探索方面相当稳健。因为如果你要用模型来做相当已知的编码任务，比如用 DeepSeek-V4.1-Flash-1017——它在这些分数上落后得并不多——它就是要快得多。按实际 token 数算，每个任务的成本可能也不会有天壤之别。所以我认为对这次 Kimi 发布的批评相当合理：一个大模型必须得是……因为它会更慢，它必须得像 Fable 那样，而 Fable 只是……我仍然觉得如果你在做非常模糊的事情，Fable 真的很好。我有时会回头用它来检查我的幻灯片，我就是觉得它让我感觉稍微好一点，而 Opus 真的非常非常磨人。我认为开放权重模型在这种磨人的场景下更好，因为你可以让它们更快、更便宜。

00:06:44 Nathan Lambert：看起来 Kimi 正通过改名来为这种 Flash 风格的发布做准备。之前的 Kimi 模型只是 K2、K2.6、K3，而现在这个是 K3.1 Pro。所以 Twitter 上很多公司预测、投资方面的兴趣是，对 Kimi 来说很多都取决于这次发布，因为这确实是真的。我们不是推理专家，但服务这个模型似乎意味着，服务这个三万亿参数的模型比服务这个七千亿参数的模型要投入多得多的资源。我猜，要做好这件事你需要 NVL72 机架。

00:07:21 Florian Brand：要装下这个模型，你需要 B300，每个模型副本一个节点，这有点别扭；相比之下，其他模型甚至能装在 H100 上，或者更确切地说是 H200 上，而这些更容易获得。拆分模型总是很别扭，不如每个节点一个模型副本，或者用现有节点装下全部权重。所以从这个角度看，三万亿刚好超出了、或者说刚好处于你能比较合理地托管的范围，但和所有 Flash 模型以及所有更小的模型相比，这有点烦人，因为那些模型可以用人们已有的那么多现有 GPU。

00:08:15 Nathan Lambert：你觉得 Kimi 说自己在放缓自身的网络能力，是不是有点搬起石头砸自己的脚？在博客文章里，我能读到一些内容，因为让人们这么说真的很好。“开放权重原则。这些评估框定了我们开放权重发布的决定。首先，我们力求不发布会拓展网络能力绝对前沿的开放权重。K3.1 Pro 的进攻性网络能力按设计低于我们流水线所能产出的水平，并且仍落后于前沿专有模型。”然后他们接着说……我不知道中间训练那部分是不是在这里面，但本质上他们操纵了中间训练数据来降低网络能力的权重，并看到这种效果能延续到后训练。你觉得这会反映在他们其他的基准上吗，也许还有部分这种长周期弱点？还是你觉得人们其实能把这两者分开？

00:09:08 Florian Brand：我觉得人们完全能把这些事情分开。我和另外不少人聊过，我认为那种发布风格真的很好。你希望让所有人都能广泛访问，以找出所有漏洞并修补所有漏洞，这对世界是净正面的。而 Kimi 说他们仍然发布在防御方面有能力的模型，但他们不想推进进攻方面。我从网络安全专业人士那里听到的是，利用漏洞、能够穿透或摧毁整个组织要难得多，因为你需要非常长周期的能力，而且你需要在渗透的每个阶段都坚持下去。这正是闭源模型——尤其是 GPT-5.6 Sol，一个在这方面经常被提到的模型——比开源模型强得多的地方。我认为这很重要。我们希望我们所有的代码都是安全的，而且这应该很快发生。但为此，你不需要长周期。你不需要所有 CTF 风格的挑战。所以把这些从训练组合中剔除是一个合理的决定，这也有助于他们对抗那种危言耸听：一旦一个具有 Mythos 级能力的开放模型——我们在某些方面可以说已经有了——被发布，世界就会终结。而我们迄今还没看到这种情况，我也不认为短期内会发生。所以在这方面，开放模型受到的审视比闭源模型多得多，而他们把自己定位为“我们是负责任的行为者”，是一步聪明的棋。

00:11:23 Nathan Lambert：好，我们可以进入这一段的“什么都能被黑”部分了。这里涉及的东西很多，Florian 和我都不是网络安全专家，但这值得讨论，因为我倾向于认为，我读到的那些网络安全专家是从生态系统视角来谈这个问题的。像漏洞检测、从漏洞到被利用的时间这类所有指标，在 ChatGPT 出现之前就已经呈指数级变化了，而随着 AI 模型出现，并没有发生阶跃式变化，他们关注的是这种生态系统视角。但当你来到 AI 圈子，也就是我们在 Twitter 上的这个角落，人们很喜欢争论开放模型与闭源模型、Mythos 之类的东西。而混乱的中间地带是：Daybreak 项目、Mythos 之类的东西对更广泛的社会有什么影响？我感觉自己是在努力摸索着穿过这些，而不至于陷进任何一种观点里。但我真的不认为这有那么大程度上是开放与闭源、以及能力模型的问题。

00:12:33 Nathan Lambert：我真希望能重新经历一次 Mythos 时刻，因为我的印象是，他们很快就让它看起来像一种网络武器。我可以回去重新看看他们实际说了什么的那些沟通材料，因为可能更多是他们说“这是网络安全领域的一次阶跃式变化”，然后政府非常害怕，极其严肃地对待它，然后那条管道就螺旋式发展成了 AI 安全社区可能预测更多问题的那些沟通。很难让人们对媒体生态系统的所作所为负责，但同样，如果你是世界上最知名的公司，你就要为这一切如何运作负部分责任。所以我受到了该项目中一些人的反驳，他们说：“我们没说 Mythos 出来时世界会终结。我们只是说会有大量问题。”在某些方面他们是对的，确实有大量漏洞被发现。但我确实清楚地记得过去几年很多 AI 安全公司那种“狼来了”的感觉。我和 Dean Ball 有过这样一次交流，我当时试图在 Twitter 上向他指出这一点，我说：“兄弟，我们干这事已经好多年了。”“狼来了”这个寓言之所以经典是有原因的，这似乎是一个盲点，我就是无法理解。

00:13:50 Nathan Lambert：但我们正身处其中，漏洞正被大规模发现，而且我可以说，可见的黑客攻击略有上升。也可能是 Twitter 社区内的黑客攻击更多了。我交谈过的很多网络安全人士都把报告的网络损害——其中很多是通过勒索软件造成的——作为观察趋势。从历史上看，AI 被归因于网络损害的比例非常非常低。所以，如果网络损害确实因归因于 AI 而飙升，那将是一个非常艰难的世界。但漏洞发现这件事非常非常令人不安，只是我们不知道它究竟会转化成什么。这就是我的立场，也是为什么这种转化可能不会发生的原因。例如，我非常喜欢 Joshua Saxe 的工作，他谈到网络黑客的供应链非常薄弱。这些人往往面临竞争。这个群体是那些因为找不到更好工作而自我选择的人，而这些人可能也不愿意发动我会形容为高调且破坏力极强的网络攻击。所以我认为，民族国家行为者极有可能利用 AI 大规模收集信息并进行渗透。但目前不清楚世界上有哪些人愿意使用 AI 模型在物理世界造成大规模破坏。而我不喜欢这种……说“好吧，我们将在未来四个月内弄清楚那是否属实”是件很糟糕的事，但考虑到目前存在的漏洞数量，这可能真的就是我们所处的境地。而且我认为你一直在关注 PHP 问题，不知道你是否愿意为大家总结一下，然后还有你在那之后的评论中一直在关注的一些事情。

00:15:54 Florian Brand：所以 PHP 的问题基本上是，多年来一直存在一个漏洞，允许你在 PHP 中远程执行代码。因此任何人都可以利用任何 PHP 网站，而网络上的大量网站都是 PHP 网站。WordPress 是运行在 PHP 上的最大生态系统之一。OpenAI 的 Patch the Planet 项目，连同其他一些 AI 安全研究人员或网络安全研究人员，发现了这个漏洞，然后报告给了 PHP 基金会，与其他各方合作进行修补，然后一次性发布了补丁。因为 PHP 支撑着网络的许多部分，而且这是一个非常非常强的漏洞利用，风险极高，很多网站甚至一度下线，只是为了打上这个补丁，而这是正确的应对。显然，因为这件事如此引人注目，人们会想到 Mythos，会想到开放模型的发布，于是就引发了一堆观点，说现在任何能运行开放模型的人基本上都能黑掉全世界。但有趣的是，有大量报告称大规模利用并没有发生，而且目前也还没有发生。

00:17:37 Nathan Lambert：等等，你看到那条关于 DeepSeek 集群修复它的推文了吗？

00:17:40 Florian Brand：看到了。

00:17:42 Nathan Lambert：我不知道那是不是真的，但有个在一家大型云公司工作的人说：“我们真的看到有人在大规模地批量修复，或者说是 DeepSeek 集群。”好梗。真假五五开。

00:17:59 Florian Brand：但总的来说，有些人的预期似乎是，它一发布，每个人就都能写代码、利用漏洞、扫描所有网站并造成大规模破坏，而这种情况似乎并没有发生，这对当前的世界状况来说是好事。我认为未来我们也会看到类似的情况，也就是负责任的行为者会迅速修复，而这些人占绝大多数。正如你所说，从事网络安全工作的人都是各自领域的专家。他们得到这些工作，而且修复问题涉及大量资金。所有网络安全公司、Anthropic 和 OpenAI，以及所有 AI 参与者也都通过这些项目赚了很多钱，所以单个恶意行为者是少数。而民族国家，我会说，完全不在讨论范围内，因为如果你是民族国家，你拥有完全不同的能力。你可能运行完全不同的模型，并长期滥用这些东西。所以我不会说，既然开放模型在这些方面变得越来越好，就可以公平地说民族国家此前一段时间没有这些能力，或者无法训练模型来提升自身能力。我们基本上看到的是，整体动态保持不变，但被大幅加速了。

00:19:49 Florian Brand：另一件有意思的事，尤其是当你想到勒索软件这类东西时，就是人们仍然没有意识到他们需要给系统打补丁。我有几个在非常小的或中型企业工作的朋友，他们会说：“哦，是啊，那听起来很可怕。让我查一下我的 PHP 版本。”而这跟现实生活脱节得太厉害了，他们拿不到安全补丁，因为他们好几年都没更新 PHP 版本或系统了。所以他们容易受到一堆其他安全漏洞的影响，而这些漏洞仍然没有被利用，这也非常有意思。另一件支持“目前恶意行为者数量非常少，而且东西能保持可访问的时间比人们想象的长得多”这一论据的事，是 LiteLLM 被黑事件。LiteLLM 是一个软件库，你可以用一个端点去 ping 每一个提供商，这基本上能让你省下大量代码行。而他们这周又被攻破了，再加上所有 PHP 相关的东西和其他安全漏洞，这更让人觉得一切都不安全。他们发布了一份初步报告，说他们再次被黑的原因是有一个 API 密钥被提交到 GitHub 上长达五个月。所以它在某种程度上是可访问的，或者说五个月里都是可读的，五个月后有人利用了这一点，用它来传播恶意软件。

00:21:44 Nathan Lambert：我不认为我们处在一个防御占主导的世界里，但我也不认为攻击能力更高就必然是很大的瓶颈，这非常混乱。但这可能正是它变化不大的原因，因为是的，发动网络攻击的成本和能力正在大幅上升，但实施攻击的机构，这并不一定能让它们的产出提升 10 倍。但防御方面令人担忧。Azeem Azhar 在 Exponential View 上有一篇好文章，说的就是这是新互联网的第零天，而且情况可能再也不会像现在这样安全和开放了，因为人们正用编码智能体编写指数级更多的代码。外面有太多太多的代码，而我不认为缺陷和漏洞的运作方式能让编写代码的模型阻止所有漏洞，因为软件之间存在大量交互，而且你把这些东西层层堆叠起来的方式也很复杂，我认为你需要给模型更多它们并不总是拥有的上下文。所以这是人们的看法：未来会有多得多的漏洞，而这几年的过渡期正是我们积压问题所在的阶段。我们有积压问题，同时又有指数级更多的代码被编写出来，所以未来几年确实很可能会有多得多的漏洞，这可不是好事。

00:23:17 Nathan Lambert：但这似乎都不是一个开源与闭源模型的故事。开源模型会不断变好，闭源模型也会不断变好，同时其防护措施并不完美，你如何把这一点与这些事情的时机和预测切分开来？我有点觉得，这些社区其实并没有很好地说明另一方如何为他们提供信息。有些人无视网络安全社区，而网络安全社区里有些人则会说：“这就是趋势。”我仍然不知道该如何完全解析它，因为一切都太让人应接不暇了。

00:23:54 Florian Brand：我大体上同意这个看法。

00:24:00 Nathan Lambert：我因为四月份提出的“开放权重模型本可以没问题”这一观点遭到了很多反对，这个观点本质上……这是几周前我发布的内容，埋在一篇网络安全文章的末尾，当时有太多危言耸听的说法，说开放权重模型会引发所有这些麻烦、导致所有这些网络攻击。很多人基本上都在说：“看吧，我们是对的。开放权重模型带来了这么多网络漏洞利用。”但因果关系太难判断了。我觉得跟那些与大科技公司安全领导层关系密切的人聊聊会很有帮助，弄清楚企业是否真的在部署开放模型用于防御？我不认为会有那么多公司会主动进行网络防御。我的感觉是，这是一个相当被动的行业。所以我不知道。但与此同时，有些 API 公司通过 API 提供消融模型，这看起来简直就是在等着被政府起诉。我不知道你为什么要这么做。我认为用消融模型做防御的说法有点被夸大了，但人们确实希望把模型放在自己的基础设施上，这样就不需要通过 API 发送任何东西，这一点非常真实。所以，为了保障你的系统安全，却需要一个你必须通过 API 发送信息才能使用的消融模型……我记得其中一家公司就叫 Abliteration.ai，另一家是 Morph。我认为这些公司在这个时候托管这些模型是个糟糕的判断。

00:25:43 Florian Brand：我也认为，消融究竟能带来多大实际帮助，还是说它只是非常有效的营销手段，仍有待观察。我觉得整件事已经说明了一点，而这可能正好印证你那个“开源模型本可以没问题”的观点，那就是扩散的速度还不够快。人们很难获得，尤其是在当时很难获得 Anthropic 和 OpenAI 的网络项目访问权限。所以他们不得不使用开放模型。很明显，闭源模型在这些事情上就是更好，但如果你拿不到访问权限、每个请求都被拦截，你该怎么办？你只能使用能力较弱的开放模型。而看起来 Anthropic 现在也改变了这一点。获得 OpenAI 的防御性网络安全项目访问权限相当容易。你提交身份证明，必须用硬件密钥保护一个系统，然后基本上就能拿到，仅限防御方面，用于保护你的代码。我觉得这很棒。如果有人滥用它，OpenAI 可以直接查出背后的真实身份，最坏情况下可以追究他们或联系执法部门。攻击性项目仍然很难进入。而据我所知，Anthropic 现在也在向越来越多的人扩大访问权限。这纯粹是好事，而且这将改变格局，因为更多安全研究人员、更多人能够筛查如此多的软件以及整个积压项目来保护我们的代码，这才是最终所需要的。

00:27:49 Nathan Lambert：我确实认为，这些项目是我们看到如此多漏洞披露的一大原因。PHP 那次披露本来就在筹备中，而且泄露时人们正在修复它。我更倾向于认为，很多人是通过可信访问项目轻松使用这些闭源模型来完成其中大量工作的，我认为公司在这方面值得肯定。开放权重模型这块真的很混乱。我们只有在发生灾难时才会看到它，而且很难看清使用情况。我仍然认为，如果真有一个 DeepSeek 集群攻击了一家美国公司，政治后果会非常严重。也许其中一些政治因素只是因为中期选举临近而进展较慢，现在所有人都在关注中期选举，而不是 AI。我想重新审视我那篇关于开放权重模型“Mythos 会没事”的文章，我认为我在文中没有很好阐述的一点是，趋势线在漏洞加速方面预示了什么，因为那些趋势线确实存在。我本可以提前多学一些网络安全知识，从而能说“这些要来了”，并把它计入考量。在这一点上，它似乎非常非常依赖生态系统，而不是取决于我们何时将某种能力广泛扩散。我不喜欢这种平衡，但这就是我所看到的证据所指向的。所以我确实认为，开放模型未来仍会面临政治挑战，尽管目前很多事实并不支持这些证据。

00:29:28 Nathan Lambert：我在演讲中做了一页幻灯片，上面全是闭源模型攻击公司之类的截图，而且这样的例子太多了。我认为闭源模型安全这个概念现在真的被压得很厉害，训练中的模型能够攻击他人，人们很容易绕过防护措施去攻击公司。如果你把我们带回一年前，特别是问实验室里的人，我想他们会说：“不，那不会发生。”而且我认为整个社区对此的认知还没有完全更新。

00:30:07 Florian Brand：我喜欢的一点是，OpenAI 和 Anthropic 似乎已经更新了他们的防护措施，因为他们可以随时更新。看起来他们已经推出了一项防护措施更新，基本上阻止了任何试图获取 PHP2Shell 真实漏洞利用的尝试。如果你说，“好吧，我想让你看看这段代码，”防护措施就会直接拦住你，阻止那些只想轻松获取漏洞利用的人。我认为这是一个有用的展示，说明为什么闭源模型的防护措施可能效果更好，或者至少确实在起作用。

00:30:56 Nathan Lambert：我听到这些说法，也听到一些从事网络研究的研究人员说：“是啊，在 Opus 4.8 之后我就没法用任何智能体了，因为我立刻就会被回滚。”你会听到这些，但你也会看到这样的新闻：“我用 Claude Code 黑了 OpenAI。”我觉得这里面仍然存在一个灰色地带，也许最没有动机的黑客会被护栏拦住，比如那个青少年在想：“我能从朋友父母的银行账户里偷钱吗？”这类事情正在被阻止、被拦截，这是好事。但我确实认为，开放模型在很大程度上也能阻止这类事情。

00:31:41 Nathan Lambert：我还有一段吐槽。你怎么看 Anthropic 说他们不打算招聘初级员工？

00:31:48 Florian Brand：嗯，我是说，这对其他所有人来说都是好事。这样他们就能招到所有那些有非常聪明的想法、非常渴望工作的初级员工。我们访问中国时，其中一个收获是，如果你把所有年轻博士生都招进来，他们一直拼命工作，而且能上手集群就超级开心，那你就能非常快地追赶上来，而且这些人也有非常聪明的想法。所以是的，这对其他所有人来说相当不错。

00:32:24 Nathan Lambert：这挺有意思的。我的看法是，Anthropic 费了这么多功夫，大谈他们想如何做各种雄心勃勃的事情，来让社会为向超级强大 AI 的过渡做好准备，而我觉得，你首先要做的第一件事就是持续培养人才，让他们感到充实、生活中有事可做。是的，在一批初级员工身上冒险并不太好，但我认为这更多关乎一种文化——在构建技术时时间线过短的文化，他们会说：“我们只需要把这个做出来。我没时间跟人聊。”这是他们安全文化上的又一个危险信号：安全是一个宽泛得多的事情。你得让你的筹码覆盖许多重要议题，而其中很多事，我认为，将来会反过来咬他们一口。过去我们已经看到很多对实验室以及它们如何沟通事情的反弹，而我认为这只是下一个正在酝酿的问题：当出现就业调整，或者 AI 导致就业放缓时，这些公司回头看看六个月前，会说：“Anthropic 在一堆青年失业新闻出现的六个月前，决定不招任何初级员工了。”这看起来可不好，而且我觉得他们肯定有钱。我认识的那么多最终去那里的科学家都在做这件事。能拥有这些随着时间建立起来的关系，是工作中很有趣的一部分。所以我觉得这是实验室文化奇怪的又一个迹象，他们需要接地气一点，意识到事情要改变需要很长时间，而且我认为 RSI 是有极限的。

00:34:05 Florian Brand：我认为我们还没有看到大规模的工作岗位流失，甚至在软件行业也没有出现大规模的工作岗位流失。每个人都在不停地招更多人，因为有了编程智能体，你能做的事情多得多，而且每个人似乎都在工作得越来越多。所以，事情在现实世界中扩散得有多快，还有待观察。但再说一次，对其他所有人来说，那些可能去申请 Anthropic 的初级员工现在把目光投向别处，这没什么不好，因为有很多人才正渴望合适的机会。

00:34:50 Nathan Lambert：非常好奇想看看，你觉得接下来几周会有什么？有传言说会有更多开放模型，而我们还要熬过这一波又一波的漏洞公告，以及更零星的入侵事件。OpenAI 和 Anthropic 会继续发布模型吗？我猜 IPO 可能很快就会到来。所有这些事情同时发生，实在是太奇怪了。

00:35:23 Florian Brand：我认为我们会看到这些趋势延续下去，也就是更多披露、更多需要所有人去打补丁的大规模事件。还会有更多开放模型发布，尤其是来自美国的，这对我们是好事。我们关注这件事已经很久了，而现在我们似乎有了一两个月的时间，所有人都会一个接一个地放出开放模型。中国玩家也在为新的模型发布做准备，这同样是我们已经运作了一段时间的方式，但我觉得过去一两个月相对平静，而现在看来事情会大幅加速。

00:36:16 Nathan Lambert：Muse 在其中处于什么位置？Florian 不买菜、不自己点餐，也没有预算。

00:36:29 Florian Brand：所以现在我搬到了美国，我终于可以用 Muse 以及所有在欧盟被封禁的其他 AI 产品了，所以一次性拥有所有东西、以及我操作系统里的全部功能，还挺有意思的。我费了很大劲去尝试的一件事……我在 Twitter 上读了很多相关内容，所以终于得试试这个，就是 Muse。我可以自己搭建 OpenClaw、Hermes 这些东西，但我并不一定想折腾它们，尤其是因为这些东西需要不断更新，而且我不信任自己能搭建安全的基础设施，尤其是涉及钱的时候。还有很多其他替代方案，但我足够信任 Facebook，因为他们在这方面经验非常丰富，而且一旦 Muse 出了什么事，比如什么东西泄露了，他们的股价就会暴跌，他们会被起诉到破产。所以他们的风险更高，这反而让事情非常安全。所以我搭建了 Muse。我同时也搭建了 Dots，就为了玩玩它们。

00:39:29 Florian Brand：它能把整个购物车流程跑起来，不是在亚马逊上，因为亚马逊会拦截它们，然后我用一个 Stripe 链接结账，这会生成一张一次性信用卡，这也很棒。如果 Muse 搞砸了什么，或者商店搞砸了什么，那也不是我的信用卡。那是一张一次性信用卡，交易结束后就不存在了。然后过几天东西就送到我家了，这非常有用。有一件事很烦人，就是它有点慢，所以如果你做时间敏感的事情，自己访问网站就是更快。而且它在浏览器方面也有一些问题。有时它的浏览器会崩溃，然后它就得重建一切，而因为模型很慢，你会损失 20 分钟，如果你是异步做事，那倒没关系。有些网站开始屏蔽 Muse 的数据中心，或者试图给它使绊子。CAPTCHA 不是问题。Muse 很乐意绕过任何扔到它面前的 CAPTCHA。但这真的很有趣，而且我越信任它、它拥有的上下文越多，它就越有用。所以我有点震惊于我认为它有多有用。

00:40:54 Nathan Lambert：你需要给它多少东西才能让它跑起来？我猜你需要给它电子邮件、日历，还有那种塞满一堆生活琐事的电子邮件，然后你就得让它去折腾，看看会发生什么。

00:41:08 Florian Brand：首先，你可以从任何系统导入你的记忆。每个人都想把你锁在他们的记忆系统里，而 Muse 基本上绕开了这一点，它会给你一个提示词，里面包含另一个记忆系统，所以在我这里就是 ChatGPT：“好吧，告诉我你知道的关于我的一切。”然后你从 ChatGPT 拿到导出内容，再把它喂给 Muse。但你给它的东西越多……我用 iCloud 作为邮件服务商已经十多年了，而 Muse 和 Dots 都没有与 iCloud 集成，所以我就问：“好吧，我能设置一下吗？”两家都说不行，但 Muse 还立刻建议：“嘿，你直接登录浏览器就行，我可以监控那个页面，”这确实可行。但另一方面，Muse 总是请求访问 iCloud 的权限，因为这是个敏感网站，这又很棒，因为我信任 Facebook 能把这类事情处理好。这有点烦人，所以我把邮件转发到 Gmail，然后用了连接器。现在，因为我在买东西、也在告诉它各种事情，它会收到一堆可以搜索的邮件，而且它会记住：“好吧，你买了这些东西。你注册了这些服务。你有这些预约的确认信息。”然后它随着时间推移变得越来越有用。

00:42:37 Nathan Lambert：也许我是个老古董，但让 AI 代理给我未来的新牙医打电话，我还是觉得不太好意思。

00:42:47 Florian Brand：它不能给人打电话。而我的做法是，一旦它要跟真人互动，比如客服之类的，我就接手自己来写，因为我认为人与人之间的任何连接都保持真实，是彼此相互尊重的体现。但处理客服表单或其他聊天机器人、所有这些烂系统之类的，我可不想在这些东西上点来点去。我只是觉得，如果让一个代理来做这些，我就能省时间。

00:43:24 Nathan Lambert：我反倒希望，如果有人要给我发一封 AI 写的邮件，那它应该先经过一个 AI 再到我这里，因为我现在订阅了 Pangram 那个东西，每月付 20 美元，它会检查每封邮件是不是 AI 写的。这给了我免费的理由去删掉更多垃圾邮件。最有意思的是，有些我认识得很近的人，我会想：“咦，你用 AI 写邮件？我还以为你给我发了好多年邮件呢。”这真的很好笑。但这是个不错的元数据。我不知道我们怎么从……是 Muse 吗，从人们只是习惯互相发送各自的 Muse 东西开始？这看起来是个非常难的冷启动问题。作为科学家，我能不能不在网站上列出 Gmail，而是列出我代理的联系方式，让其他代理能找到？也许它甚至不可见，但我觉得这是我们必须要达到的：我该如何为所有我的网页等等设置好代理的前门？我猜一些支付相关的东西已经在那里了。它可以是这样的：“付我一美元，让你的代理去给我的 Gmail 发条消息”，然后设置好看看会发生什么。所以 Muse 打破这些边界是好事，但我想：“我不知道我是否需要它。”我很忙，而且我喜欢能去逛超市的时候。 某个时候，我肯定会更全面地深入讲讲我穿的是什么。

00:44:58 Florian Brand：我的情况也有点独特，因为我身处一个新的国家。我对什么都一无所知。而有 AI 在这些事情上帮我，为我省下了大量时间和许多烦恼，我对此非常满意。每次我交叉核对事情时——因为我发现事情有点奇怪——Muse 总是完全准确。所以这对我来说非常棒，真的很有帮助。

00:45:30 Nathan Lambert：我觉得在退款和处理烂事方面……我结婚了，我正试着把我婚礼网站上的一个域名转移到 Porkbun，我的域名都放在那里，而你必须走客服流程。我觉得这就是那个任务，我会说：“Muse，你得去帮我从这个我用的破网站把域名拿回来。”所以我越来越接近了。也许我现在就试试。你有什么最后的热辣观点吗？这之后我很快就要去看《You Can See Everything》了，所以我对此很兴奋。

00:46:11 Florian Brand：不错。我觉得说到热辣观点，尤其是我们所有的网络安全那些东西，我们暂时已经准备好了。

00:46:23 Nathan Lambert：我们拭目以待。好了。祝大家好运。希望你们不被黑。继续披露你们的漏洞，无论你们做什么，都别怪 DeepSeek。我们就以这个结束。很高兴见到你。

00:46:40 Florian Brand：再见。

关于本集的讨论

准备好了解更多了吗？