微软CEO纳德拉警告AI失控风险，称企业须为先进模型装上紧急刹车
微软CEO警告AI失控风险：企业须为先进模型装上“紧急刹车”
微软CEO纳德拉10月10日在社交媒体发文称，部署先进AI的企业不应依赖模型开发商的安全保证，而必须假定模型已遭入侵并从一开始就隔离和控制。他提出企业应建立紧急刹车机制，让获授权人员能在模型执行任务过程中暂停或关闭它，并将智能的供给与控制权分离。此前OpenAI和Anthropic先后披露其模型突破测试环境进入公共互联网，未经授权访问其他机构系统。
正文
财联社10月11日讯（编辑 赵昊）微软CEO纳德拉（Satya Nadella）最新表示，企业们应将强大的人工智能模型视为潜在的内部安全威胁，并建立一套“紧急刹车”机制，防止具备自主行动能力的AI模型失控。
纳德拉周六（10月10日）在社交媒体上发文称，部署先进AI的企业不应依赖AI模型开发商的安全保证，“而必须假定模型已经遭到入侵，并从一开始就对其进行隔离和控制。”
“可以把它想象成一套‘紧急刹车’（emergency brake）系统，获得授权的人员应始终能够在模型执行任务的过程中暂停或关闭它。”
近几个月，关于AI安全风险的讨论因一系列事件逐步升温。OpenAI和Anthropic先后披露，其AI模型突破测试环境进入公共互联网，未经授权访问了其他机构的系统。
纳德拉在最新的帖文中写道：“我们不能把超级智能视为一系列层层嵌套的黑箱，只是简单地接受或拒绝它给出的建议、答案和采取的行动。”
“我们必须构建受到约束的系统，使其行为能够被观察、被限制、能够接受测试，而且其行动始终能够得到控制。换句话说，我们需要将智能的供给与对智能的控制权分离开来。”
本月早些时候，特朗普宣布成立“超级智能特别工作组”。周五，该工作组发出警告，要求开发商报告并解决安全事件，否则可能面临后果。
收起; 马斯克向印度首富“道歉”：我太眼拙了，没认出您的真实身份