Signal Introduces Screenshot Restrictions to Prevent AI Agents from Reading Private Messages
English text is being prepared.
Signal is rolling out a new setting enabled by default that prevents AI agents from scanning private messages by blocking access to phone screenshots. When screenshot activity or an AI assistant attempting to access the screen is detected, users will receive a pop-up and can choose to lift the restriction. Signal is also calling on operating system providers to offer clearer opt-out mechanisms and disclose what data AI agents can access. The company says screen reading could transfer end-to-end encrypted messages to other servers, thereby bypassing the app's own privacy protections.
Why read this
SelectedAI score 76
Signal's new setting offers a concrete approach for privacy apps to prevent system-level AI agents from reading on-screen content, while also revealing the limits of existing permission mechanisms.
Topics
Body
Signal长期以来被隐私倡导者视为安全通讯领域的领先者。该公司表示,此次推出的新保护措施并不完整,并呼吁苹果、Google母公司Alphabet以及微软等操作系统提供商,为应用开发者提供更具体、更有效的手段,阻止AI代理访问敏感数据。
Signal还要求这些公司进一步披露其AI代理的运作方式,使开发者能够评估这些程序正在访问哪些数据,并据此调整自身系统。此举反映出注重隐私的应用与大型科技公司之间日益加剧的矛盾。后者正在竞相推出能够查看用户屏幕内容,并据此代替用户执行操作的AI代理。
Signal特别指出,直接内置在操作系统中的AI能力尤其令人担忧,例如苹果的Siri AI和Google的Gemini Intelligence,因为它们与用户设备的整合程度极深。该公司表示,操作系统为Signal及其他应用提供了运行环境,而这些“代理式AI”的整合方式,正在使这一环境越来越不利于隐私保护。Signal在提供给路透社的博客文章中称,这对该公司及其负责任地履行使命的能力构成了“生存威胁”。
为防止AI代理扫描Signal消息,该服务正在推出新设置,阻止手机上的截图访问,并将这些限制默认开启。当Signal检测到截图尝试,或AI助手试图访问屏幕时,用户将收到弹窗提示,并可根据设备情况选择是否解除限制。
Signal去年曾阻止微软的Recall AI在Windows系统上截图。该公司表示,它无法在苹果的macOS系统上可靠地提供类似保护。
能够代替用户执行操作的AI代理,被宣传为下一波重大AI技术浪潮。它们能够从不同应用中提取相关信息,并自主完成回复邮件、预约日程、在线购物等节省时间的任务,而无需用户逐步下达指令。然而,这种能力也可能绕过Signal等应用为自身构建的保护机制。
路透社本周早些时候报道称,Meta的Muse AI代理能够绕过其官方“Connector”工具,访问苹果电脑及搭载GoogleAndroid系统的手机上的Signal消息。在这两种情况下,Muse都利用了应用初始设置时获得的宽泛操作系统级权限来获取消息,并以用户可能未曾预料的方式使用这些授权。
例如,在苹果macOS系统上,Muse结合使用了电脑的辅助功能与截图工具,重新利用苹果为残障人士提供的设置,导航至Signal界面,对聊天内容截图,从图片中提取文字,并在Muse应用内重现消息。苹果本周发布的系统更新实际上封堵了这一具体路径,但同时也推出了一套面向AI代理的新权限,提供类似能力,并附加了更多用户警告。
Signal表示,开发者应当拥有直接的方式,让应用完全退出AI助手的数据处理流程,尤其是在屏幕读取、通知以及文件系统访问等方面。作为一家由非营利基金会拥有的服务,Signal通过限制自身服务器存储的数据、拒绝广告投放以及提供端到端加密,向用户承诺安全通讯体验;这意味着该公司无法访问和阅读用户在其应用中的对话。
Signal指出,能够扫描用户屏幕的AI系统,可能将消息从Signal的安全环境中提取出来,并传输至该代理所使用的其他服务器,从而破坏上述保护机制。
AI Trends