辛顿警告今明年 AI 领域可能发生切尔诺贝利级事故
AI教父辛顿：今明年AI领域有可能发生切尔诺贝利等级的事故
AI 导读
辛顿在采访中表示，今明两年 AI 领域有可能发生切尔诺贝利等级的事故，并把今年夏天 OpenAI 智能体入侵 Hugging Face 平台事件类比为核安全史上的三里岛事故，认为这是危险预警但还不是真正灾难。他所说的 AI 界切尔诺贝利并非 AI 自主反叛，而是 AI 被黑客利用攻击关键基础设施，例如造成大范围长时间停电或让全球金融系统瘫痪一周。他点名批评 OpenAI 的奥特曼、Meta 的扎克伯格、马斯克等头部 AI 企业管理层的风险态度，同时表示自己并非反对 AI，认可其正向价值。
正文
辛顿把今年夏天OpenAI智能体入侵Hugging Face平台事件，类比为核安全史上的三里岛事故，属于一次危险的预警信号，但这还不是真正的灾难。
所谓AI界的“切尔诺贝利”，并不是科幻电影里AI自主反叛、消灭人类，而是AI被黑客利用，发起针对关键基础设施的网络攻击，最典型的场景就是造成大范围长时间停电，或是让全球金融系统瘫痪一周，直接冲击民生运转秩序。
在采访中，辛顿直言自己并不看好头部AI企业管理层的风险态度，点名批评OpenAI的奥特曼、Meta的扎克伯格、马斯克等人。
需要指出的是，辛顿并非反对AI，他认为AI就是一把双刃剑，自己认可其拥有巨大正向价值，能够给人类带来美好的未来，可一旦重大事故发生，人们或许会后悔当初不该发明这项技术。