AI hardware can't bypass privacy: the data boundary dispute over Meta glasses, Apple Watch, and connected cars
English text is being prepared.
AI hardware is putting cameras and microphones into glasses, watches, cars, and robots, but users have already paid for the devices while their data is still collected continuously by default. Meta has launched a camera-free audio model for Ray-Ban Meta and allows glasses users to turn off the use of visual data for AI training; Apple's Live Rewind retrieves the text of the last 15 seconds of conversation, and Siri Recap generates summaries, claiming that raw recordings are not saved and that end-to-end encryption is used. The article argues that training and marketing uses must be separately authorized, and that the cost of respecting others' privacy should be factored into the product's books.
Body
科技行业总有很好的理由,让人交出更多隐私。
互联网时代,理由是便利。为了叫车、点外卖、与朋友保持联系,人们在一份又一份冗长的协议下面点了同意。许多授权谈不上经过认真选择,只是拒绝之后,眼前的事情就办不下去了。到了 AI 时代,这套交换又有了更大的许诺:设备要理解你,模型要学习真实世界,通用人工智能还要继续向前走。
于是,摄像头和麦克风被装进眼镜、汽车、手表和机器人,越来越贴近人的身体与日常生活。对于其中一些产品,消费者究竟是被服务的人,还是帮助厂商获得数据的人,已经值得重新追问。尤其当硬件价格已经支付,数据却仍被视作可以持续索取的资源,这笔交易便远没有广告里说得那么简单。
坦白说,现在的很多硬件,压根不是为消费者服务而生,而是为“数据”而生。
最近的几则新闻,把这种不安推到了台前。汽车数据流向第三方的研究再次引发关注,苹果手表 15 秒对话回放招来争议,而 Meta 则一边陷入偷拍争议,一边推出无摄像头款,并为部分视觉数据增加退出 AI 训练的选项。它们呈现的共同问题是:科技产品进入生活的速度很快,人们的拒绝来不来得及?
我们需要把态度说清楚:刹车必须要有,而且成本必须支付。授权更麻烦、采集更有限、模型进步可能没那么快,都应当由产业认真消化。普通人没有义务拿自己的生活,替一家公司的技术路线补齐条件。
买下设备之后,还要交出什么?
“用隐私换便利”这句话,曾经让互联网的数据生意显得顺理成章。平台提供免费服务,用户贡献注意力与行为数据,企业再从广告中回收投入。即便这种交换充满信息差,消费者至少还能看到一个表面的解释:我没有直接付钱,所以在用别的东西支付,这种“让渡”还说得过去。
硬件把这个解释变得更难成立。汽车、眼镜、手表与家用机器人,都有清清楚楚的售价;有的产品还要继续订阅。用户已经为设备和服务付款,为什么仍要默认接受与当前服务无关的数据用途?购买一件商品,何以顺带变成对厂商长期数据需求的承诺?
9 月 29 日,The Verge 报道了美国东北大学与《消费者报告》合作开展的车联网隐私研究,涉及 21 辆汽车和 30 款配套应用。研究发现了车辆与广告、追踪及分析域名的连接,也在部分配套应用中发现了向广告网络传输车辆识别码、位置等信息的情况。
可以说,很多消费者压根就不知道汽车背后的数据去向,车买回来了,围绕它运转的数据关系却远超买卖双方。
更直接的案例是通用汽车。美国联邦贸易委员会在 2026 年 1 月最终确定的和解命令,处理的是通用及 OnStar 被指未充分告知、未取得明确同意便收集和出售精确位置及驾驶行为数据的问题。命令包含五年内禁止向消费者报告机构披露相关数据,并要求提供更多同意、访问、删除和退出机制。
汽车需要感知道路,导航需要知道位置,语音助手需要处理指令,这些都有具体用途。真正需要被逐项证明的是后续用途:为完成这次服务取得的信息,为什么要长期保存,为什么要交给其他公司,为什么又能进入训练流程?
AI 让这种混淆更容易发生。数据既能帮助产品完成眼前任务,也可能帮助厂商改进模型、开发下一代产品。两种价值同时存在,企业便有动力尽量扩大采集。分析一家公司获取数据的行为,与其猜测它是否“初心不纯”,不如看产品的实际设计:用户拒绝额外用途之后,还能保留多少已经付费购买的服务?
对机器人而言,这个问题也很迫近。进入家庭的机器人、记录人类操作的设备,可能接触房间布局、家庭作息、工作流程和共同生活者。厂商可以解释这些信息对训练有什么价值,却仍需回答:眼前这段生活,谁有资格授权?屋主答应试用机器人,来访者、家政人员和其他家庭成员的生活,就都可以一起交出去吗?
上面提到的苹果手表的案例还提醒我们,隐私争议也不能只盯着“厂商有没有拿去训练”。按照苹果公布的设计,Live Rewind 将回溯此前 15 秒对话的文字片段,Siri Recap 生成对话摘要;两项功能计划年内推出测试版,由用户选择开启。苹果称不保存原始录音,保存的文字与摘要受端到端加密保护。
这些保护应当被承认,它们实实在在限制了数据暴露。但谈话另一方仍然可以问:我愿意让这段交流留下机器生成的记录吗?
个人硬件正在产生超出个人范围的影响。过去,不接受某款 App 的规则,还可以尝试卸载;面对身边人的眼镜、手表和机器人,拒绝往往意味着主动打断谈话,要求对方停用设备,甚至离开现场。设备带来的便利归使用者,维护边界的麻烦却落到了旁人头上。
Meta的反复横跳,暴露了谁说了算
在这些争议中,Meta 很适合作为观察样本。它的隐私边界,随着产品、政策和外部压力不断变化。
2025 年 4 月,Meta 通知美国眼镜用户,取消关闭语音录音存储的选项,用户仍可在设置中手动删除录音。到了今年 6 月,WIRED 又报道,Meta AI 应用内出现尚未公开启用的人脸识别相关代码,随后被移除。Meta 回应称,该功能仍属探索,未作最终决定。
这些网传消息还不能被夸大成“Meta 已经向公众开放随意识别陌生人的功能”。但它们足以让消费者追问:买入一副眼镜时接受的隐私边界到底在哪?这种不确定性本身,就会消耗信任。
也正因此,Meta 最近的两项调整值得肯定。9 月发布的 Ray-Ban Meta Audio 去掉了摄像头,保留音频与 AI 交互能力。外媒指出,无摄像头款仍有音频隐私问题。无须替公司认定一个纯粹的动机,消费者多了一种少采集图像的产品选择,就是具体的改善,不管是不是迫于各种压力。
“训练退出”选项同样如此。9 月 25 日,Business Insider 援引 Meta 发言人的确认称,眼镜用户可以关闭“存储 AI 体验中的视觉数据”,退出这部分数据为 AI 训练而进行的存储。这一选项只针对视觉数据,不涵盖语音交互。
这里还要区分普通拍照与 AI 视觉交互。Meta 表示,为相册拍摄的照片、视频默认保存在设备或用户相册中;向 AI 询问眼前事物,则会调用摄像头帮助回答。用户说一句“这是什么”,涉及的便可能是另一套数据处理流程。功能看起来连贯,授权边界却需要解释得格外清楚。
允许退出训练,至少承认了一件事:用户调用 AI 完成当前任务,与允许厂商把信息继续用于模型改进,可以作出不同选择。能把这两件事拆开,就应当把选择交还给用户。此前被捆在一起的用途,也需要重新接受审视。
不过,退出入口仍只解决了一部分问题。更值得警惕的是,大家习惯把这种选择长期寄托在企业“自愿”上。企业愿意多给一个退出的开关,当然欢迎;企业能否在下次更新时又把它拿走,同样需要约束。用户购买硬件时形成的合理预期,不应随着模型训练计划和增长目标随意变化。
Meta 的反复横条跳,把讨论最终带回到一个朴素的问题:隐私边界究竟由谁决定?厂商当然可以设计新功能,但将新用途扩展到消费者生活之前,需要重新争取同意。而且那些没有购买产品、没有注册账户的人,也应当被纳入产品责任的范围。
“刹车”必须装进产品的成本账
“为了更好的 AI”,是一个需要被认真审视的理由。它可以解释企业为何想获得数据,却无法独自回答企业是否有权获得数据。再把理由放大到 AGI 和科技竞赛,也不能省掉中间的授权、边界与责任。
一旦拒绝提供数据被说成不理解技术、不支持创新,消费者就在承担一种额外的道德压力。普通人购买设备,是希望解决自己的问题;他们没有因此承诺参加一场无限期的数据贡献计划。未来的技术红利充满不确定性,今天交出去的生活却很具体。
要让拒绝真正成立,产品首先得容纳拒绝。对完成服务非必要的训练与营销用途,应当单独征求同意,不能依靠捆绑授权取得。关闭必要传感器,相关功能受到影响,可以解释;拒绝额外训练,连无关功能也随之受限,就需要厂商说明理由。两者不该被模糊地装进“不同意就无法提供服务”的提示里。
对旁人的保护,也要向产品设计前移。哪些场所应当限制采集,怎样让录制状态容易被察觉,设备能否方便暂停,被记录者如何投诉和要求处理,都需要有明确安排。指示灯与提示音有用,但它们只是告知的一部分。让餐厅服务员、办公室同事和家中访客自行研究每款设备的灯光含义,再主动交涉,显然谈不上合理分工。
当然,这些要求可能会增加成本。少采一些数据,可能意味着放弃有用样本;增加端侧处理,可能需要更多算力与工程投入;建立授权、访问审计和删除机制,需要持续维护;允许用户拒绝,可能影响训练数据规模。企业应该把这些支出和取舍写进产品预算,像计算芯片、续航和售后一样计算它们。
尤其对于数据采集公司,成本不能只算采集者每小时获得多少报酬、设备折旧多少、数据清洗多贵。采集场所是否允许,画面中其他人是否知情,私人信息怎样处理,后续能否证明使用范围,都应当进入交付标准。无法解释来源与授权的数据,即使采集便宜,也不能被轻易当成高质量资产。
成本还包括放弃一部分收益,以及为越界承担足够明确的后果。整改、补偿、审计和对相关数据使用的限制,应当让企业在作出采集决定时就有所顾忌。否则,抢先取得数据的一方拿到优势,认真取得授权的一方承担更高投入,市场反而会奖励边界更松的企业。
最后必须警惕,支付的这些成本,也不能简单变成另一笔向用户收取的“隐私保护费”。企业需要在定价和商业模式里诚实处理成本,但消费者付不起更贵的版本,不应成为其生活可以被额外利用的理由。涉及他人的隐私,更无法由购买者替他们标价出售。
科技行业已经很熟悉如何讨论算力成本、获客成本和量产成本。走进物理世界之后,它也必须学会计算尊重他人的成本。不能一谈隐私,就把难题留给消费者,把损失留给旁人,再把采集带来的收益留在自己账上。
我们可以承认 AI 硬件的价值,也可以欢迎 Meta 这样的调整,同时坚持主动要求更多。一个宣称理解物理世界的科技行业,应当有魄力理解他人的拒绝、明晰数据的边界。刹车必须要有,成本必须支付,即便这意味着少拿一些数据、少赚一些钱,或者晚一点兑现所谓的 AGI 未来。
本文来自微信公众号“AI物燥”,作者:彭堃方,36氪经授权发布。