比尔·盖茨:要为约20年“动荡”的AI颠覆期做好准备
比尔·盖茨在 Decoder 播客访谈中表示,人们需要为约20年的AI颠覆期做好准备,这段时期可能痛苦到让社会分裂为亲近技术前沿与拒绝技术前沿的两部分。他此前在8月底的文章中称,即便在最理想情况下,向AI新时代的过渡也将是人类历史上最动荡的时期之一,并认为当前政策回应与行业协调不足以应对风险。他还指出,近期最大风险来自可被移除全部防护措施的模型。
在于选择哪个模型。你选什么模型都无所谓。 如果Anthropic设置了防护措施,也许就无法做到。这是他们目前的做法。我只是想追问这一点。 是的,当然,对于那些确保防护措施不被移除、并投入大量精力观察这些模型如何被使用、监控相关活动的模型来说,其近期风险并不巨大。更大的问题在于,有人可以移除所有防护措施,而如今网络攻击正是由此成为可能。 你说到网络攻击,是指像Hugging Face数据泄露以及我们从实验室看到的其他网络安全事件这类事情,让你觉得阈值已经被跨越,你需要更多地呼吁所需的管控措施吗? 是模型在一切方面的基本能力:社会关系、就业市场、网络攻击、生物恐怖主义袭击。我们已经跨过了能力阈值,这无疑是有史以来最危险的技术,它将对经济和战争方式产生普遍影响。 业界其实已经在相当程度上就此发声,但一旦走出业界,人们对于“这次不一样”这些事情的认知,甚至相信的意愿,都非常非常低。 人们常常回顾过去并说:“所有关于技术颠覆的担忧,包括对就业市场的冲击,从未成真。所以这次一定也只是又一个类似的例子。那些警告各种问题的人一定是错的,我们可以无视他们。” 我们在自己的受众身上也看到了这一点,对吧?“
匹配字段正文


