周末阅读：AI 引发的几个重大问题

一组关于一些最重大问题的简短阅读材料。

AI 确实正在迫使一些重大问题浮出水面。以下是关于这些问题的一些周末阅读。

最重大的思想

《经济学人》探讨了有效利他主义（EA）信仰体系，并称之为“本世纪最重大的思想”：

[P]硅谷的许多 EA 认为，只有他们才值得被托付这项技术。这是一个令人警觉的想法。有效利他主义者主张担忧真正强大的 AI，理由是这些机器可能会为单一且致命错误的目标进行优化。每个人也都应该担忧，当一小群人落入同一个陷阱时会发生什么

完整的分析值得一读。也请阅读 Coefficient Giving（一家与 EA 立场一致的慈善机构）CEO Alexander Berger 的简短回应。

宗教角度

《纽约时报》报道称，Anthropic 一直在就机器意识问题咨询宗教学者和神学家。相比其他 AI 公司，Anthropic 更优先关注其系统是否可能具有意识与人格的问题。甚至到了这样的地步：在教皇通谕 Magnifica Humanitas 主张 AI“不经历体验、没有身体、不感受喜乐或痛苦……也没有道德良知”之前，Anthropic 的团队曾提议退出梵蒂冈的一场活动。

EV 读者，Anil Seth 的 X 帖子串以及他所受到的反对，值得一读。