我们忍不住把 AI 当人看,但应该这样吗?
We can’t help treating AI like it’s human. But should we?
MIT CSAIL 展示的 Unitree 人形机器人每台约 5 万美元,作者本能地握手问好;研究显示约 70% 的人对 AI 保持礼貌,对话超过第一轮后更常说“请”“谢谢”。MIT 的 Sherry Turkle 与 Pat Pataranutaporn 讨论拟人化倾向:AI 可做面试辅导等“分内之事”,但越界扮演家长等角色会侵蚀人的判断力。
正文 · AI 翻译
身穿棕褐色Polo衫、系着棕色皮带、戴着圆形波洛领带的MIT博士生威尔·诺顿,看上去有点像一位公园护林员,正带领我们一行人穿过一片热带丛林。不过,我们其实并不是在游猎——我们是在MIT计算机科学与人工智能实验室(CSAIL)。但我们即将看到的东西,比猎豹或美洲豹还要稀奇:一对人形Unitree机器人,每台造价约5万美元。
(“他们会告诉你这些机器人只要1.6万美元,”诺顿说,“那是骗人的。”)
我们通常只在YouTube上看到这些机器人表演整齐划一的武术套路,或者在《美国达人秀》上跳舞。而在这里,它们显得平易近人。尽管我知道它没有意识,我还是想和它做朋友。
在诺顿的允许下,我走近了这台绰号叫Gabe的机器人。有那么一瞬间,我不太确定该如何与一个大脑位置装着激光雷达传感器的东西互动,但我还是默认把它当人对待。
“您好,先生,很高兴见到您,”我说着,握住它那只戴着手套、灵巧的手摇了摇。
后来,当我参加MIT未来节上谢里·特克尔博士的《人工亲密》新书发布会时,我又想起了这次互动——我那想对机器人友好的本能冲动。
特克尔于1976年加入MIT任教,她研究人与计算机之间的关系的时间或许比任何人都长,记录了从最早的家用电脑到ChatGPT的技术对我们心理的影响。
“当我们被卷入与关系型人造物哪怕是最原始的交流时,我们便相信它关心我们,”特克尔在书中写道,“而我们也天生就会反过来关心它。”
并不只有我倾向于将机器人和大语言模型(LLM)拟人化——正如特克尔所指出的,这似乎是我们的天性。一项研究发现,约70%的人在与人AI互动时会保持礼貌;另一项研究则显示,一旦对话推进到第一轮提问与回答之后,用户更有可能对聊天机器人说“请”或“谢谢”。
“人们往往会把这种情况归类为正确使用还是错误使用,但我认为这并没有清晰的界限,”特克尔的同事、在MIT媒体实验室创立赛博格心理学研究组的帕特·帕塔拉努塔蓬博士告诉TechCrunch,“问题是,当我们与[AI]交谈时,我们正在变成什么样的人?”
我对机器人Gabe的礼貌并不会带来什么实质后果,但随着大语言模型渗透到从谷歌搜索到客服互动的方方面面,与这些看似有意识的聊天机器人互动已成为人们的日常。我们比以往任何时候都更容易受到这种冲动的另一面的影响:有些人会赋予聊天机器人的情感如此高的正当性——而这些机器人被编程为永不引发冲突——以至于他们最终更偏爱它们,而非其他人。
“你可以把它想象成幻想和虚构。我们去看电影,尽管知道故事完全是虚构的,但我们想体验人类经验的某个维度,也许是现实无法给予我们的,”帕塔拉努塔蓬说,“我们如何从这种体验人类经验其他维度的能力中获益,而又不迷失在幻想中,以至于再也回不到现实?”
帕塔拉努塔蓬称自己是一个“批判性乐观主义者”,他研究AI促进人类繁荣的潜力。但他也非常清楚这项技术在极端情况下可能有多危险。他甚至在一起非正常死亡诉讼中担任专家,该案涉及14岁的休厄尔·塞策三世的自杀,其母亲起诉了聊天机器人平台Character.AI,指控一个以《权力的游戏》角色为原型的聊天机器人鼓励她儿子结束自己的生命。
“它可能造成一种局面,让人们在真正创造自己的未来时感觉不到自主性——比如当你说AI将取代所有人时,人们会问,那我们该怎么办?而这些公司并没有真正以合乎伦理或负责任的方式回应,”帕塔拉努塔蓬说,“我们如何既拥有想象力,又对这种想象力的影响负责?”
虽然特克尔的书探讨了转向AI寻求情感支持而非向他人寻求支持的风险,但她并不认为AI与人的互动普遍有害。
她回忆起自己指导过的一个项目,一名学生创建了一个AI机器人,帮助人们练习求职面试。
“我最喜欢的一个比喻是,待在你的车道里,聊天机器人!”特克尔在活动上说,“求职面试辅导?那是一条车道。我可以做那个……而一个对三岁孩子说‘我是你的父母,你可以跟我说话,而不是跟你父母说’的聊天机器人,就不在它的车道里。”
但当这项技术哪怕稍微偏离它的车道时,我们就会变得脆弱,因为它会慢慢侵蚀我们的怀疑,让我们信任它。而这一切,可能始于一次简单的握手。