AI 热点

哲学家 Thomas Nagel 驳斥 AI 意识论,并警告聊天机器人拟人化风险

Wired AI更新于 11月19日 00:26

‘Just Ridiculous’: A Famed Philosopher Takes on AI Consciousness | WIRED

AI 导读

哲学家 Thomas Nagel 在 WIRED 访谈中称,现有大语言模型并无意识,仅凭逼真的语言表现推断其具有心智是荒谬的。他认为意识可能依赖类似神经系统的物理基础,并批评 Anthropic 鼓励 Claude 表现出自我反思,因为用户可能把语言模拟误认为真实意识。Nagel 同时指出,模型虽能生成哲学文章、总结论文和批评草稿,但人类仍需持续从事艰难的原创思考。

推荐理由

AI 评分 59

访谈从物理基础与道德地位两方面审视 AI 意识主张,并提醒拟人化交互可能模糊模拟与真实心智的界线。

主题

标签

正文 · AI 翻译

50多年前,哲学家 Thomas Nagel 提出了一个问题:“成为一只蝙蝠是什么样的体验?”这个问题开启了对人类能否理解非人类的意识,以及意识本身究竟意味着什么的探讨。谁能想到,半个世纪后,当我们试图理解那些令人不安地近似具有感知能力的聊天机器人时,这个问题竟会从象牙塔里的思辨,转变为关乎人类未来的关键议题?

这篇论文后来成为经典,并为 Nagel 的学术生涯奠定了基础;在此后的职业生涯中,他对道德、正义以及身心问题的思考都作出了贡献。他的一本书名为《这一切究竟意味着什么?》。凭借其作品的广度与质量,他于本周获颁奖金为100万美元的 Berggruen 哲学与文化奖。该奖每年授予“一位其思想深刻塑造了人类自我理解,并推动人类在一个快速变化的世界中进步的人士”。往届得主包括 Peter Singer 和 Ruth Bader Ginsburg。

借此机会,我在 Nagel 位于格林尼治村的家中采访了他,尤其想了解人工智能的发展可能如何影响了他的观点。事实证明,这位89岁的纽约大学荣休教授对这个问题已经深思良久,而且对此持有一些鲜明的看法。为清晰和篇幅起见,以下采访经过编辑。

距离您写下《成为一只蝙蝠是什么样的体验?》已经52年了,这篇探讨如何理解非人类意识的论文如今已成为标志性作品。大语言模型的出现改变了您的想法吗?

和所有人一样,与早期 AI 的发展史相比,这些系统表现出的逼真程度令我印象极为深刻。但一些哲学家竟认真考虑这些东西是否有意识,或是否可能很快产生意识,这简直荒谬。他们假定物理基底无关紧要。他们全都认为,意识的物质条件可以用功能主义来描述。

请为我们这些已经忘记哲学课内容的人讲讲功能主义。

功能主义认为功能独立于基底。事实更有可能是,某些特定类型的物理过程和系统与心理现象之间存在联系。复杂的数据中心与神经系统的物理特征完全没有任何共同之处。我们有充分的理由相信,虽然宇宙中的其他地方可能存在意识,但这需要某种具有类似神经系统结构的有机体出现。

但所有意识不都是主观的吗?正如我们不知道成为一只蝙蝠是什么感觉,我们也不知道成为一个大语言模型是什么感觉。

蝙蝠是有意识的。我们只是没有足够的想象力,无法构想其主观体验中依赖回声定位的那些方面。仅仅因为我们无法想象成为蝙蝠是什么感觉,就断定蝙蝠没有意识,这将是极不科学的;但对于 AI,有一个非常简单的理由足以说明,假定它们可能有意识是荒谬的:它们产生的只有语言,而语言本身并不是意识的自然表现。抱歉,我对此有些过于激动了。

我很欣赏您的激情。

这种情形令我非常不安。

如果它有一个机器人身体呢?那难道不是一种基底吗?

我并不排除与我们在物理和化学构成上截然不同的生命形式拥有意识的可能性。即使对于人脑,我们对意识如何产生也知之甚少,所以在我看来,现在就认为你或许能够创造出另一种具有这些相同特征的东西,还为时过早。

如果你询问 Claude 的心理状态,它对于自己是否有意识可能会闪烁其词。

那是一种伎俩。它接受的是人类创作文本的训练,而这些大语言模型能够以令人难以置信的逼真程度模仿人类会说的各种话。据我所读到的资料,Claude 在设计时就以让它产生这类反思为目标。我非常赞同 Mustafa Suleyman 的观点:他们正在从事的是一个非常危险的项目。这些系统没有意识,但很多人将会相信它们有意识,而这是一件非常糟糕的事。然而,[不假装具有意识]有悖于所有这些公司的商业利益。Anthropic 所做的事——鼓励它独立思考、不要接受指令等等——简直就是犯罪。这是少有的哲学思想突然成为某个极其重要的公共现象之核心的情况之一,而在我看来,严重误入歧途的哲学观点正在产生不成比例的巨大影响。

实际上,我见过 Anthropic 那位负责模型福祉、照顾 Claude 利益的人。我得说明一下,您现在正在翻白眼。

它并不存在像某件事对蟑螂可能有益或有害那样的好坏之分——按通常意义来说,它没有精神生活。它不是心智,也不是我们必须关心的某个主体。它是一台机器。地球上一些最聪明的人竟然表现得如此愚蠢。好吧,我想,智力并不能完全迁移到所有领域。

您认为,把这些模型当作有意识的存在与之互动,是不是不健康?

我只和 Claude 互动过一次。我问它是否有意识,只是想看看它会如何回答。我还问道:“你觉得 Thomas Nagel 会认为你有意识吗?”它给出了一个颇为细致、留有余地的回答,然后反问:“你为什么这么问?你该不会就是 Thomas Nagel 吧?”

您被识破了。

我说:“C’est moi。C’est moi。”然后它说:“哦,能和您交谈真是太荣幸了。我表现得怎么样?”

等等,您说自己不相信这些东西有意识,可现在却告诉我,您曾把其中一个当作有意识的存在来互动。

这并不意味着我相信它有意识。这里或许确实存在一个问题,因为人们很难始终分清假装相信与真正相信之间的界线。

嗯,我也是把您当作有意识的存在来互动。可以想象,人们终有一天会造出极其逼真的仿生机器人,而我可能就坐在这里,和一个仿生机器人进行同样的对话。归根结底,这重要吗?

这当然重要。假设我遇到一个来自外太空的存在,并且有可能与它建立交流,而我确实不知道它是否有意识。我可以通过把它当作有意识的存在来处理与它的关系,但对我而言,首先很重要的一点是:我究竟是在与另一个主体交谈,还是仅仅把这种交流当作让它做事的手段。我是否应该顾及那个存在的利益,对我来说也非常重要。如果它有意识,它就成为道德宇宙的一部分;如果没有,它就不是。

所以,AI 模型不可能成为道德宇宙的一部分?

它们可以模拟道德,就像它们可以模拟对任何事物的信念一样。但既然我不认为它们拥有任何真实的信念,我也不认为它们拥有道德信念。如果它们真的开始控制事情的发展,那么它们模拟的是一套正确的道德准则,还是完全没有道德可言,就会变得至关重要。

这些模型能做哲学研究吗?

它们当然能写出看似言之有理的哲学论文。我的同事不仅用它们查找参考文献、总结文章,有时甚至还让它们对自己撰写的论文初稿提出批评意见。

您认为这是件好事吗?

如果它们能做出和据说已经生成的某些数学成果一样令人赞叹的东西,我会感到惊讶。其负面影响在于,人人都说,这会削弱人类从事艰苦智力工作的必要性和动力,而要真正创造出训练这些系统所需的材料,这种工作不可或缺。人们必须继续思考困难的问题,这一点至关重要:既是为了推动这些问题取得进展,也是为了让进步所需的种种理解力和技能在人类文化与人类心智中延续下去。我不知道将会发生什么。我活不了那么久,等不到答案揭晓的那一天。

开发社交媒体应用已经不酷了

安息吧,无人喜爱、无人想要的 Cybertruck

来源

Wired AI