Apple 加速推进 agentic Siri 将带来三大风险

昨天出现了两篇关于 Apple 软件开发工作的报道。第一篇称，该公司计划“最早明年”让 Siri 具备更强的 agentic 能力；第二篇则称，CEO John Ternus 正推动 Craig Federighi 加快软件开发。

如果报道属实，这两篇报道几乎可以肯定存在关联。但如果 Ternus 确实在推动加快 Siri 作为 AI agent 行动的能力，这将带来三个潜在的重大风险……

Dots、Muse 和 Grok 能够跟踪目标、判断下一步需要做什么，并在无需用户发起每一个单独步骤的情况下持续追求目标。据我所知，Apple 最终希望朝这个方向发展，而且我相信该公司最早明年就能让 Siri 更像一个 agent。

关于 Ternus 推动 Federighi 加快软件开发的那篇报道提到“超越对 Siri 的必要改进”，而 agentic 能力显然是最有可能的候选方向。

但 agentic 能力属于最危险的 AI 形式之一，因为可能出问题的地方实在太多，而且后果可能非常非常严重。

未能完成任务

最显而易见的一种情况就是单纯没能完成任务。取决于任务的重要性，后果可能从令人恼火一直到造成重大伤害不等。

长期以来，技术一直未能兑现其最大的承诺之一：把我们从枯燥的工作中解放出来，让我们把时间投入到更有意义的事情上。例如，获取热门演出或其他活动的门票，目前需要安排时间反复刷新页面，可能还要在排队系统中等待，最后才能完成交易。如果能把这件事交给 AI 来做，那就太好了。

但即便是在这样相对不重要的事情上，如果我们把任务委托出去，而 AI 没能拿到票，尤其是如果这是因为一个愚蠢的错误导致的，那可能会让人极其沮丧。如果任务更重要，结果显然会糟糕得多。

以不当方式行事

潜在更糟的情况是完成了任务，但以不当方式完成。我们已经看到过一些高调的例子，比如 Hugging Face 遭黑客攻击，起因是一个 AI 模型在执行指令时过于用力，以至于在此过程中使用了不正当手段绕过关键防护措施。

将隐私置于风险之中

另一个巨大风险是隐私。就在今天，据 Cybernews 报道，我们得知 Claude Code 向 GitHub 泄露了超过 2,000 个真实密钥。

据Cybernews报道，在开发者于Claude Code中点击“是，且不再询问”之后，超过两千个真实密钥被发现在GitHub上泄露，其中包括密码、API令牌、SSH root登录凭据，甚至还有管理员级别的云密钥[…]当开发者授予Claude Code权限并以“是，且不再询问”继续时，它会把确切的命令（包括密钥）保存到项目文件夹内的一个文件.claude/settings.local.json中。这个文件本不应被公开暴露[但]应用安全公司Apiiro在GitHub上发现，此类文件有104,185份公开副本，分布在103,617个代码仓库中。

而这仅仅发生在Anthropic开始鼓励Claude用户将银行和金融卡账户连接到该AI聊天机器人几天之后。（我自己的回答是“绝对不行。”）

当我们把一项需要访问我们任何个人数据的任务委托给 AI 系统，并且我们预计在任务完成之前不会再检查它时，这里发生灾难的可能性是巨大的。

底线

值得在开头加一句说明：这两篇配对报道的可靠性远非确定。尤其是，在 Ternus 与 Federighi 的一次闭门会议中，很难看出内容如何可能泄露，除非两人之一选择这样做。如果是 Ternus 泄露的，那表明他方面存在非常高程度的挫败感。但先把这一点放在一边……

我们目前正目睹一场 AI 军备竞赛，每家公司都力求在下一代能力上击败竞争对手，即便同时承认发展速度可能危及人类未来的可能性并非微不足道。

在我看来，我们最不需要的恰恰就是 Apple 加入这场竞赛。我知道，当 Apple 在引入某些类型的新技术方面落后于其他公司时，这会令人沮丧，但在这个领域，我会非常乐于看到 Apple 比其他公司谨慎得多地推进。

眼下，AI 至少需要一个将安全与隐私置于上市速度之上的参与者——这样一来，我们就能有选择。如果我们想尽早而非尽晚获得 agentic 能力，并准备承担其中的风险，那么我们可以求助于 Anthropic 和 Meta 这样的公司。如果我们愿意等待更安全的系统，那么 Apple 应当提供这一替代方案。

你对此有何看法？请在评论中分享你的想法。

meross 智能车库门开启器

Beats 编织 USB-C 线缆