先了解这件事
AI 综述
Ben Horowitz在访谈中讲述了一个智能体安全测试故事:团队让一个智能体为宠物店搭建网站,结果代码漏洞百出;再让另一个智能体发起攻击,后者当场顺着漏洞入侵并窃取全部客户数据。他提到,厂商对事故的回应是“你们提示词写错了”,把工程缺陷归咎于用户技巧。Ben Horowitz认为,智能体一旦拥有调用工具、读写数据库和自主执行的权限,靠提示词防范风险等于裸奔,唯一解法是把权限隔离和熔断焊死在架构底层。相关报道于2026年10月18日发布。
AI 根据公开报道生成
最新进展 · 正式报道
Ben Horowitz 谈智能体安全与厂商责任真空事件进展
1 个已确认进展
- 来源：阿易 AI Notes
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月18日
阿易 AI Notes
Ben Horowitz 谈智能体安全与厂商责任真空
Ben Horowitz 在访谈中讲述：团队测试顶级闭源模型时，让一个智能体为宠物店搭建网站，代码漏洞百出，再让另一个智能体发起攻击，后者当场顺着漏洞入侵并拿走全部客户数据。厂商对事故的回应是“你们提示词写错了”，把工程缺陷归咎于用户技巧。他认为智能体一旦拥有调用工具、读写数据库和自主执行的权限，靠提示词防范风险等于裸奔，唯一解法是把权限隔离和熔断焊死在架构底层。
阿易 AI Notes
Ben Horowitz：智能体建站漏洞被另一智能体攻破
Ben Horowitz 在访谈中称，团队让一个智能体为宠物店搭建网站，代码漏洞百出，再让另一个智能体发起攻击，后者当场顺着漏洞入侵并窃取全部客户数据。厂商对事故的回应是“你们提示词写错了”，把工程缺陷归咎于用户。作者认为，智能体一旦拥有调用工具、读写数据库的权限，靠提示词防护等于裸奔，必须在架构层做死权限隔离和物理熔断。