←新闻详情

The Verge AI更新于 10月27日 19:32

科技公司正在重新定义“录制”:AI 硬件不保存音视频也算录音吗?

We can’t just change the definition of ‘recording’

AI 导读

苹果被曝正研发一款不保存视频录像的智能家居摄像头,改用 AI 将视觉数据转成描述家中情况的文字片段,并支持人脸识别;该思路与传闻中未来 AirPods 的摄像头类似。Apple Watch Series 12 和 Apple Watch Ultra 4 的 Audio Intelligence 中,Live Rewind 可生成过去 15 秒的转录,Siri Recap 能生成全天对话摘要,苹果称这些功能不保存任何音频。Google 可穿戴设备高级总监 Sandeep Waraich 也表示,正在考虑智能眼镜摄像头不录制、仅用 AI 处理视觉数据、不保存片段的方案。

正文 · AI 翻译

在AI硬件方面,科技公司正在推动“什么算、什么不算录制”这一定义的边界。纵观大多数电子设备的发展史,人们有理由认为,一台带有麦克风或摄像头的设备要么在录你,要么没在录;它要么开着,要么关着,没有太多灰色地带。麦克风采集声音。摄像头采集图像。这些数据被保存到设备上。有时,数据还会被发送到云端进行处理——但愿是端到端加密的。这些数据是某一时刻被保留下来的快照,因此构成一段录制。

也许今后不再如此。

上周,彭博社的马克·古尔曼报道称,苹果正在研发一款不保存视频录像的智能家居摄像头。取而代之的是,AI利用视觉数据生成文字片段,描述你家周围正在发生的事情。据称,它将支持人脸识别,但不涉及视频画面。其理念是,这样仍能保护一定的隐私。古尔曼表示,这项技术与传闻中未来AirPods的摄像头的工作方式类似。

这与Apple Watch Series 12和Apple Watch Ultra 4上的苹果Audio Intelligence类似。Apple Watch多年来一直配有麦克风,主要用于Siri和从手腕上接听电话。在四项Audio Intelligence功能中,有两项在网上引发了最多争论:Live Rewind和Siri Recap。前者生成过去15秒的转录文本,后者则能生成你一天中所进行对话的高层级摘要。

换句话说,Ray-Ban Meta眼镜会拍照和录制视频,并存储在手机上。而传闻中苹果的这一方案则意味着摄像头能看到你、麦克风能听到你——但两者都不“保存”任何东西。

这算录制吗?苹果不对传闻置评,但根据该公司公开阐述其Audio Intelligence隐私理念的方式,我认为苹果并不这么认为。苹果表示,这些功能不保存任何音频。原始数据在S11处理器上一个独立、安全的enclave中完成处理后即被删除。任何发送到云端的信息都通过私有云计算进行,因此苹果或第三方都无法访问。

也不只是苹果。谷歌可穿戴设备高级总监桑迪普·瓦拉伊奇在接受The Verge采访时表示,谷歌也在考虑这一概念。他提出,如果智能眼镜上的摄像头不录制数据会怎样?例如,如果眼镜能用AI处理你环境中的视觉数据,但不为留存而保存任何画面。瓦拉伊奇认为,这样一来,摄像头就可以“仅仅”是一个图像传感器。

按照这些定义,必须有东西被保存下来且可供查看,才算在“录制”你。但智能家居摄像头或智能手表生成的任何文字转录,难道不也算被保存下来且可供查看吗?又或者,为了让AI硬件更容易被接受,科技公司是在依赖法庭上能被传唤调取的东西来界定吗?

争论语义或许显得无聊,但这里正在测试多个概念。

无论你对隐私持何种个人观点,人们普遍认同你可以对自己的数据为所欲为。在电子设备能够“时刻监听”之前,它们更无缝地融入公共和私人空间。然而,这批新设备要求你更主动地守护他人的隐私。毕竟,人类并非生活在密封的气泡中。我们在多种环境中生活、工作和消遣——有些是私密的,有些是公共的,还有大量处于灰色地带。餐厅的规则不同于剧院、办公室或体育场馆。它们与公共卫生间更是天差地别,尽管这些至少都算半公共空间。即便你在脑海中“录制”下所见的一切,人类的记忆也无法被客观地分享。它们被偏见染色,被视角扭曲。而录制则不那么主观,可以说更接近事实。

还有一个问题:在缺乏普遍共识规范的情况下,如何表明意图。以Meta的智能眼镜为例。它们用白色脉冲“隐私灯”来提示某人正在录制视频。相反,录制指示灯通用的颜色是红色,因此不太懂技术的人可能根本不知道白灯意味着什么。(毕竟,这些仍是小众产品。)即便不加改动,白色隐私灯也很容易被刘海和明媚的阳光遮挡。这也是一种新规范;其他智能眼镜或AI硬件公司并没有义务像Meta那样提示这一意图。一枚录制音频或视频的AI戒指或吊坠,可能根本没有指示灯。

更令人困惑的是,能够录制的产品越来越像不能录制的产品。如果科技公司开始添加不录制视觉画面的摄像头,这种情况可能会进一步加剧。如果我们开始把不录制视频画面的摄像头加到智能眼镜上,你怎么把它们和会录制的眼镜区分开?如果一枚没有麦克风的Oura Ring看起来像一枚有麦克风的Vocci Ring,而且两者看起来都像普通戒指,普通人该怎么办?

目前,硬件似乎是监控技术争论的主要焦点。人们有一种感觉:去掉摄像头就能解决问题。事实并非如此,尽管这会让以邪恶方式使用这项技术变得更难。但可以说,让人感到不适的并不是摄像头或麦克风。那种反胃感来自知道你的一个被保存下来的片段可能存在于别人的设备中,却不知道它会被如何使用。

这正是围绕AI硬件的所有紧张关系的汇聚点。要让AI像大型科技公司想象的那样“优秀”且真正个性化,它必须非常了解你——以及你生活中的人。它必须“看到”你所看到的,“听到”你所听到的,并从你的日常行为中学习。要做到这一点,它必须“记住”这些东西。所以从某些方面来说,它必须记录你的生活以及其中发生的一切。大型科技公司收集这些数据的动机显而易见:个人数据就是金钱,金钱就是权力,权力就是影响力。不太清楚的是,社会从这种交换中得到了什么。含糊其辞的帮助和便利承诺?

无论如何,很明显科技公司已经决定全力推进,把AI塞进每一件现有设备,同时发明新的形态。目前,这在手机和可穿戴设备上最为明显,但这些考量很快就会延伸到智能家居、电视、笔记本电脑、平板电脑和耳机。而且很可能以消费者尚未考虑过的方式。

我们允许这些AI设备记住什么,将改写我们所知的文化。这就是为什么我们必须就什么构成录制——以及谁(如果有人)有权改变这一定义——达成社会共识。

来源

The Verge AI