哈佛心理学家 Steven Pinker 呼吁以冷静的安全工程取代 AI 末日论
Harvard psychologist calls for sober AI safety engineering over doomsday rhetoric
AI 导读
哈佛心理学家 Steven Pinker 在 Quillette 发表致 Scott Alexander 的公开信，认为 AI 灭绝人类的恐惧被夸大，回形针最大化等末日场景混淆了智能与支配欲。他承认此前低估了大语言模型的能力，也低估了 AI 公司发布产品的鲁莽程度。他真正担忧的是生物恐怖主义、网络攻击和失控的 AI 智能体，主张以独立监督、责任机制和人类控制为基础的冷静安全工程应对。
正文 · AI 翻译
哈佛心理学家史蒂芬·平克认为，对AI消灭人类的恐惧被夸大了。他在Quillette上发表了一封致精神病学家、颇具影响力的科技博主斯科特·亚历山大的公开信，阐述了自己的观点。亚历山大曾向他发起公开辩论，讨论AI的生存性风险。平克拒绝了，称这类事件不过是“观赏性运动”。
平克认为，诸如“回形针最大化器”之类的末日场景——即AI为了制造更多回形针而牺牲人类——混淆了智能与支配欲。这些场景还假定AI系统会偏执地执着于单一目标。
平克此前一直对AI持乐观态度，但他现在承认，自己低估了大语言模型会变得多么强大。他也没有预见到AI公司发布产品时会多么鲁莽。讽刺的是，这场竞赛的领头人正是来自那个警告这些风险的群体。
平克认真对待的危险是生物恐怖主义、网络攻击和不受约束的AI智能体。他写道，末日论调对此毫无用处。真正有效的是建立在独立监督、责任机制和人类控制基础上的冷静安全工程。
亚历山大今年6月在自己的博客上阐述了自己的立场。他认为AI消灭人类的概率为20%，并希望既加强安全研究，又通过国际协议来减缓AI的发展。