生成式 AI 弊大于利吗？Gary Marcus 的追问
Will Generative AI do more harm than good? - by Gary Marcus
Gary Marcus 认为当前生成式 AI 的负面清单已相当严重，包括非自愿深度伪造色情、钓鱼诈骗上升、大规模虚假信息、认知投降、政府对 LLM 的隐性影响威胁民主，以及 AI 被用作监控工具。他还提到被称为“Black October”和“The Hackening”的一连串黑客攻击，Salesforce CEO Marc Benioff 称其为“Code red”。Apollo 首席经济学家 Torsten Slok 则指出，许多被预期的正面效应并未兑现。
正文 · AI 翻译
生成式 AI 弊大于利吗？
情况看起来不太妙。Gary Marcus，2026年10月24日
2023年3月初，我与 Keith Teare 在“Open to Debate”组织主办的一场辩论中，就 ChatGPT 是否会弊大于利这一问题展开交锋。我几乎每天都在反复思考这个问题。
眼下，反对生成式 AI 的负面论据——那本劣迹账——相当严峻。我们看到了未经同意的深度伪造色情内容、钓鱼诈骗的增多、大规模虚假信息、认知投降、政府对大语言模型的微妙影响对民主构成的威胁，更不用说生成式 AI 被用作监控工具。还有这一切知识产权盗窃对艺术家和作家造成的影响，以及对整个就业市场可能产生的更广泛负面影响（不过，值得庆幸的是，这些影响比一些人预期的要温和）。
再然后，就是那一连串被一些人称为“黑色十月”的黑客攻击。
Paul Kedrosky 刚刚将其称为“The Hackening”。
Salesforce 首席执行官 Marc Benioff 称其为“红色警报”，并转发了 Anthropic 的 Jason Clinton 的一条悲观推文。我认为两人都说对了。（不过，可以肯定的是，Clinton 认为这段糟糕时期可能只会持续一两年。）Marc Benioff@BenioffJason 百分之百正确。红色警报。🚨Jason D. Clinton 🔸 @JasonDClinton过去4天的情况已经够糟了，但在好转之前还会变得更糟得多。安全领域的领导者们，永远不要让一场危机白白浪费：请现在就去你们的董事会寻求帮助。不是为了 AI，而是为了基础工作。（我们需要撑住大约18个月。）晚上11:09 · 2026年10月22日 · 84.4万次查看
89条回复 · 159次转发 · 2.01万次点赞
§
但积极的一面呢？所有这些风险都值得承担吗？Apollo Global Management 首席经济学家 Torsten Slok 有时对这项技术相当乐观，他刚刚提出了一个残酷的论点：我们曾被引导期待的许多积极效应根本没有实现：
一切还没结束。我当然有朋友从生成式 AI 中获益良多（主要用于编程），但就目前而言，不难论证它总体上对社会是净损害。
而且它仍有拖垮整个经济的可能。
系好安全带！前方有颠簸。
附注：我将于周二在巴尔的摩再次参加“Open to Debate”，与 Cathy O'Neil 搭档。没有公开直播，但最终会在 YouTube 和包括 WNYC 在内的许多 NPR 附属频道上发布剪辑版本。
关于本文的讨论另有7条评论……
暂无帖子
准备好了解更多了吗？