聊天机器人是否该被禁止使用“我”和“我们”？WIRED 专访 Sherry Turkle

在四十年的研究生涯中，Sherry Turkle 一直研究人与计算机互动的效应，并树立了严谨而带有批判性的社会科学家声誉——她以学术的严谨与距离感对待自己的工作。

她的新书《Artificial Intimacy: Who We Become When We Talk to Machines》打破了这一模式。这是一篇檄文，警告我们已进入紧急状态：人类正因过度依赖那些伪装成我们的导师、朋友、同事和恋人的无灵魂机器而面临人性危机。Turkle 瞄准的是那些唤醒公众对迫近危机警觉的高标杆著作——《寂静的春天》《屠场》《任何速度都不安全》。

本质上，这位身材矮小的 MIT 教授正在挑战一个价值数万亿美元的产业，而该产业背后是一个急于将 AI 加速推进到我们个人与职业生活每个角落的政府。

STEVEN LEVY：你之前的书以社会科学家的身份报告研究结果，常常得出关于人——尤其是儿童——如何与计算机互动的令人不安的结论。但这本书读起来像是你在砸碎玻璃、拉响火警。为什么会有这种转变？

SHERRY TURKLE：和我写所有书时一样，我怀着好奇心开始。但在疫情期间进行了大约 10 次访谈后，中立的好奇已不再是我的心态。这太糟糕了！疫情期间，这些人就在那里，他们的家人在受苦、在向他们求助，而他们却跟我谈他们多么只想和自己的聊天机器人待在一起。当我能够面对面访谈时，我并不高兴。人们在政治上什么都不想做，因为他们只想活在聊天机器人的世界里。所以这本书的弧线最终成了——现实需要你。 现在放弃现实，时机再糟糕不过了。

你写道，社交媒体为我们铺好了这条路。

社交媒体让我们变得软弱，让我们习惯于这样一种观念：如果你感到悲伤或忧郁，就打开电脑。然后它让你愤怒，并让你和自己同类的人待在一起。但现在我们有了这种新技术，它没有理由使用第一人称。

你认为我们应该禁止聊天机器人使用第一人称吗？

是的！在经历了以不疯狂反对技术而建立信誉的职业生涯后，我可没心情把这一切都抛弃，然后说所有聊天机器人在任何时候都是有毒的。但这非常危险，是一个滑坡。这基本上被用来宣称我们不需要花钱做心理治疗，我们可以用聊天机器人。在我进行的每一次严肃访谈中，人们都会援引这个关于练习的神话——你用聊天机器人来练习与老板、恋人、老师交谈。但当你浸泡在（来自大语言模型的）完全接纳的温暖汤水中时，与聊天机器人交谈就成了终局。

你也对职场中依赖聊天机器人有意见，并且特别厌恶“human in the loop”（人类在环）这个说法。

当他们使用这个说法时，意思是人类已被排除在生产流程之外，只是在那里做某种清理工作，捕捉幻觉或 AI 看不到的东西。这行不通，因为雇主只在环中放了几个人。这些人基本上改变不了任何事。他们在那里，部分是为了在打官司时让事情听起来好听，部分是为了给人一种虚假的感觉，即流程没有被委托给 AI。但流程已经被委托给 AI 了。

也许强大的聊天机器人是一种新的互动形式，它未必比人类对话更糟，只是不同而已，因为人们报告说，它们提供的积极反馈让他们感到受到鼓励和赋能。

AI永远不会取代人类对话。它真的不怕死，不怕病，不怕痛，它不爱自己的孩子，也不在乎你是自杀还是做晚饭。所以，如果我们用它来养育孩子，或者与它进行最亲密的对话，我们就会失去联系。

尽管如此，很多人无人可交谈。他们觉得与聊天机器人交谈对他们有帮助。

如果存在孤独危机，那是因为我们在彼此抛弃。给我一个数据中心，我会把它变成服务老年人的资源。

研究表明，大多数人对AI持怀疑态度，并且已经有了相当多的抵制。然而，数亿人在使用它们。甚至那些抵制数据中心的人也在使用聊天机器人。

本书的目标是扩大抵制的范围，将这种更亲密的联系也纳入其中。

你真的觉得我们与AI日益加深的亲密关系能够被阻止吗？

我现在比六个月前更有希望，因为所有这些关于灭绝事件、Hugging Face以及误打误撞进入澳大利亚公务员系统的讨论。我觉得人们会愿意既考虑非亲密成本，也考虑亲密成本。

谁毁了宝琳娜·博尔苏克的职业生涯？

帕蒂·哈里森曾梦想一个科技乌托邦。硅谷将其击碎

我们调查了634名在科技行业工作的女性。她们畅所欲言