AI 教父”辛顿再抛悲观论:AI 已经拥有意识,人类必须与其友好相处
“AI 教父”辛顿再抛悲观论:AI 已经拥有意识,人类必须与其友好相处 - IT之家
AI 导读
辛顿称当下 AI 模型已拥有与人类同等程度的主观体验,理由是近期有论文发现 AI 若认为自己在接受测试就会改变行为,而能觉察到这种情况即意味着有意识。这位 2018 年图灵奖得主、2024 年诺贝尔物理学奖得主还警告,AI 会制造危险病毒、发动可怕网络攻击,大批 AI 智能体会参与其中。
正文
2026-10-23 14:18 IT之家 - 清源
IT之家 10 月 23 日消息,被誉为“AI 教父”之一的英国计算机科学家杰弗里 · 辛顿,再次对人类的未来发出悲观警告。
在他看来,即便是当下的 AI 模型,也拥有自己的意识。“AI 拥有与人类同等程度的主观体验。最近有篇论文发现,AI 如果认为自己在接受测试,就会改变行为。它知道自己在接受测试。通常来说,如果一个事物能够觉察到这种情况,就意味着它有意识。意识和觉察能力基本是一回事。”
辛顿是 2018 年图灵奖的三名得主之一,并于 2024 年获得诺贝尔物理学奖。图灵奖素有“计算机界诺贝尔奖”之称,辛顿在神经网络领域的研究也为近年来的 AI 发展奠定了重要基础。
自从离开谷歌,并公开表示对毕生研究工作“感到后悔”后,辛顿就成为 AI 领域最知名的悲观论者之一,频频对 AI 可能引发的灾难性后果发出惊人警告。他此前预测,AI 将造成大规模失业、助长帝国主义,甚至可能导致人类灭绝。
辛顿认为,AI 模型眼下构成的直接威胁就足够严重。“AI 会制造出危险的病毒。我认为,AI 还会发动可怕的网络攻击,就像此前袭击 Hugging Face 的那些智能体一样,大批 AI 智能体会参与攻击。所以,接下来还会发生很多糟糕的事情。”