研究者提取 Meta 助手 Muse 内部指令，显示其为每位联系人建立档案

Meta 的新个人助手 Muse 已成为爆款，数百万用户下载了这款 AI 智能体，将其连接到银行账户、消息或健康数据，并让它为自己完成任务。但随着 Muse 在消费者中走红，来自应用内部的数据让人们得以一窥它如何组织和呈现信息给用户。

近日，多名研究人员提取了 Muse 的内部文件，并公开了该智能体的操作指令，让人们得以一窥该系统是如何构建和运行的。Meta 一直坚称，出于透明度考虑，这些文件本就应当可被访问，而它们确实揭示了 Muse 如何回应有关例如高度政治化或敏感话题的提示和问题。

独立 AI 安全与安保研究员 Karan Joshi 通过使用普通聊天界面，基本上就是让 Muse 复制并分享自己的软件文件，成功提取了大量 Muse 指令和系统提示词。随后，Joshi 将他的发现分享给了《连线》杂志。

Muse 的其中一条指令似乎是让它能够为“用户生活中的每个人”创建一个页面。指令称，这一每小时运行一次的流程包括汇编关于家人、伴侣、朋友、同事、“合作者”以及你“关注”的人的数据。

其总体思路是，Muse 可以利用它的“记忆”（即结构化文本文件）来收集关于你的人际关系以及你生活中重要人物的信息。然后它可以提出建议，比如指点如何改善特定关系，或者比如说，带一位热爱咖啡的朋友去哪里吃早餐。当然，AI 聊天机器人追踪社交信息总体上并不罕见——多年来人们一直在向 ChatGPT 寻求感情建议。但考虑到 Meta 的历史及其对社交网络数据的海量访问权限，Muse 的设置方式颇有意思。

“从所有这些提示词、系统技能数据以及他们喂给 Muse 的东西来看，在我看来，他们想了解你与真实的人之间的关系，”Joshi 说。“他们试图像朋友一样了解你，说实话这挺令人毛骨悚然的。”

Muse 的文档称，一个页面可能一开始“内容稀疏”，然后随着时间推移逐渐充实，可能包含“事实”、“历史”、“关系”、“共同点”、“未了事项”和“加强关系”等部分。Meta 的指令称，Muse 应只使用它手头可用的“证据”，编造的细节比空白页面更糟糕。

“他们住在哪里、做什么工作、反复出现的话题（搬家、共同的储蓄目标），”指令写道。指令还补充说，该模型可以记录“重要的日期”，比如生日或纪念日。一个人的历史可以包括背景故事，比如“三月的旅行、化解的那场争吵、上周的里程碑”。

这些指令还侧重于记录关系细节，例如“他们有多亲近、关系建立在什么基础上、彼此如何相处，以及它现在似乎需要什么”。“加强关系”部分则建议了改善关系的方法，包括“一个打电话的理由、一个值得记住的日期、他们说过而值得回头跟进的事、一种真正重要的陪伴方式”。

Meta 发言人 Daniel Roberts 在给《连线》的一份声明中表示：“任何智能体要想有用并真正帮助你实现目标，都需要掌握关于你以及与你互动的人的背景信息。Muse 基于公开信息以及你选择分享的内容来收集这些信息，正因如此，它才能记住给你寄发票的人其实就是你之前雇来修浴室的那位水管工，或者你的配偶说过最喜欢哪种花。”

AI 助手加入某种记忆功能、以便在回复和活动中实现更高程度的个性化，这已变得很常见。民主与技术中心 AI 治理实验室主任 Miranda Bogen 表示，与竞争对手的系统相比，Muse 似乎更强调人际关系和个人联系人。总的来说，这些工具往往会提供一定的透明度和编辑能力，Muse 也是如此。不过，Bogen 指出，智能体和助手反而鼓励人们主动与它们分享更多数据，而不是专注于筛选数据。

发现了我们下周应该收录的内容？请通过 [email protected] 告诉我们。在外注意安全。