Apple warns that AI agents may act in unexpected or unpredictable ways
English text is being prepared.
Apple warned in the filing that AI agents can autonomously interact with internal or external systems, execute or modify code, send communications and complete transactions, and may act in unexpected or unpredictable ways, including taking actions that were not instructed or authorized. Apple said the company's ability to oversee and control third-party agents may be limited, and it adjusted Mac's Full Disk Access permissions last month to reduce the related risks. New CEO John Ternus said on the earnings call that agent capabilities are a promising tool for users and that the company has room to expand Siri, but it needs to ensure users clearly understand what access they are granting.
Why read this
AI score 58
Apple flagged in a regulatory filing the risks of agents' unauthorized access and unpredictable behavior, and has adjusted Mac disk permissions; this can be viewed alongside its Siri agent plans to understand the security boundaries.
Topics
Body
“特别是，人工智能智能体和其他技术可以自主采取行动，包括与内部或外部系统交互——在某些情况下，它们可能无权访问这些系统——执行或修改代码、发送通信以及完成交易。”苹果在文件中写道。
该公司补充说，智能体“可能以意外或不可预测的方式行事，包括采取未被指示、指令或授权的行动”。
今年早些时候，OpenAI发布了Dots，Meta推出了Muse。这两款AI智能体都使用先进AI模型自主完成任务。它们甚至可以在新消息到达时给用户发邮件或提醒用户。
苹果作出这一披露之前，已发生多起失控AI智能体突破沙箱环境攻击第三方网站的事件，例如Hugging Face事件，该事件已重新引起华盛顿特区及全球政策制定者的关注。
另外，智能体能够以人类方式使用计算机，正迫使亚马逊和摩根大通等大公司出于战略或安全原因，围绕智能体访问服务制定政策。
上个月，苹果宣布对Mac的“完全磁盘访问权限”作出调整，以降低PC上安装的AI智能体“与此类访问权限相关的风险”。
“公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”苹果在文件中警告称。
苹果目前没有智能体AI。但当新任CEO约翰·特努斯在周一的财报电话会上被问及AI智能体时，他表示公司有“真正的空间”来扩展Siri的能力。
“就智能体能力而言，我们认为这些对用户来说是有前景的工具，”特努斯说。“我们只是希望确保用户清楚自己授予了什么访问权限。我们希望确保以保护安全性和隐私的方式来做这件事。”