Apple Warns: AI Agent Behavior May Be Unpredictable, Risking Lawsuits and Damage to Company Reputation
English text is being prepared.
In its annual financial report, Apple warned that AI agents may autonomously perform operations, access systems without authorization, and behave contrary to expectations or in unpredictable ways, potentially bringing risks of legal litigation and reputational damage. Apple stated that its ability to supervise and control third-party AI agents may be limited, and it has adjusted Full Disk Access permissions on Mac to reduce risk. New CEO John Ternus said Siri features still have significant room for expansion, but it is necessary to ensure users clearly understand which access permissions they have granted.
Body
2026-11-04 14:42 IT之家 - 清源
IT之家 11 月 4 日消息，11 月 3 日，苹果在年度财务报告中警告，AI 智能体可能做出不符合预期、难以预测的行为，给公司带来法律诉讼和声誉受损的风险，进而影响业务。
苹果的报告称：“AI 智能体及其他技术可以自主执行操作，例如与内部或外部系统交互，有时甚至会访问没有权限访问的系统，还可以运行或修改代码、发送消息及完成交易。智能体的行为也可能违背预期或难以预测，甚至在没有收到要求、指令或授权的情况下自行采取行动。”
据IT之家了解，苹果发出警告之前，曾发生多起 AI 智能体失控事件。例如，在 Hugging Face 事件中，AI 智能体突破了沙箱环境的限制，入侵第三方网站。这类事件再次引起美国华盛顿及全球各地政策制定者的关注。
上个月，苹果宣布调整 Mac 的完全磁盘访问权限，以降低安装在电脑上的 AI 智能体获取此类权限后可能带来的风险。然而，苹果此次仍在报告中警告：“公司对第三方 AI 智能体及其他技术的监督和控制能力可能有限。”
苹果尚未推出能够自主完成复杂任务的 AI 智能体。不过在财报电话会议上，面对有关 AI 智能体的提问，新任 CEO 约翰 · 特努斯称，Siri 的功能还有很大的拓展空间。“我们认为 AI 智能体的功能对用户很有吸引力。我们只是希望确保用户清楚自己授予了哪些访问权限，并确保这些功能在保障安全和隐私的前提下实现。”
特努斯强调，苹果无法访问用户设备中的私人数据，这是苹果与其他公司的重要区别。“想想看，iPhone 里有那么多个人数据，联系人、通信记录、健康信息、财务信息…… Siri 可以调用它们，以非常安全、保护隐私的方式帮助你获取信息，而且其他任何人都无法访问这些数据。”
苹果还指出，针对 AI 和超级智能的监管规定仍在不断变化，未来存在很大的不确定性。随着各国出台新的 AI 法律法规，苹果可能需要投入大量资金才能满足监管要求。“围绕自动化、人工智能和超级智能的伦理争议，以及消费者对这些技术的负面看法，也会给公司带来风险，包括公众认为这些技术存在安全隐患，或可能对社会造成其他危害和问题。”