本专栏会提到AI。我的未婚夫在Anthropic工作。请查看我的完整伦理披露 此处.
周三 我们宣布了Machine Gods. 这是凯文·鲁斯和我与NPR合作推出的一档新播客。如果你喜欢Hard Fork，我们觉得你也会喜欢这档节目。在我们最后一期Hard Fork播出前夜，我想谈谈我们在 纽约时报 制作的这档节目，以及我们希望与NPR一起制作的节目。
（另外：Hard Fork将继续由新主持人主持，我们期待它复播时收听！）
我最喜欢的播客格言之一来自Search Engine的PJ Vogt，我曾听他说过，你通过制作节目来了解你的节目是什么。2021年凯文和我向Hard Fork提案时，硅谷正深陷加密货币狂热，我们以为这档播客会报道在区块链上重建现有互联网的努力。
但到2022年秋季节目开播时，加密货币已经进入衰退期。（Hard Fork最早几期节目之一记录了FTX的崩溃。我至今仍心有余悸地担心，如果我们早一点开播，萨姆·班克曼-弗里德就会上节目并蛊惑我们。）
然而事有凑巧，开播几周后，OpenAI发布了ChatGPT。没花多少时间 使用这个产品 我们就开始极其认真地对待大语言模型和构建它们的公司。我们开始定期邀请OpenAI、Anthropic、Google和其他AI公司的高管上节目。从一开始，我们就追问他们计划如何安全地构建系统。
开播四个月时，我搭档的 与一个失控版微软必应的长篇对话 吸引了全世界，并将AI安全讨论带入主流。（它也招来不少嘲讽，预示了评论界将如何不断扭曲自己、竭力否认大语言模型正在发生任何重要事情。）
从那以后，Hard Fork比任何其他报道都更用力地追踪AI时刻。除了公司高管和创始人，我们还采访了学术研究人员、高中教师、大学教授、学生、医生，以及其他因工作而早早感受到AI将带来颠覆的人。我们测试了早期的陪伴聊天机器人，尝试了氛围编程，还在谷歌机器人实验室度过了一个难忘的下午。
我们谈论AI越多，听的人就越多。虽然我们也为其他故事留出空间，但在大部分播出期间，我们节目的组织原则是更好地理解AI。
在 纽约时报 制作这档节目非常棒。作为从大学起每天读这份报纸的人，能被邀请进入大楼，与那里令人眼花缭乱的才华横溢的人合作，我激动不已。而且在节目开播之前，人们就为我们的节目付出了极其艰辛的努力。Kelly Doe和她的设计团队想出了节目电光黄绿色的调色板和像素化、大量使用象形图标的视觉处理。Dan Powell写了完美的主题曲，不少听众专门找到我说他们会想念它。我们开播时负责整个 时报 音频部门的Paula Szuchman，在节目最初几个月每天黎明前起床，编辑每周的节目并准备发布。
每周参与节目制作的团队规模小、斗志旺、极其聪明。我们的创始制作人Davis Land想出了我们的冷开场格式，以及你应该总是先听到有人笑、再听到主题曲的想法。Whitney Jones把我们混乱的创作过程改造成了更平静、更可持续的东西。Rachel Cohn是观众不知疲倦的代言人，总能迅速指出可能让观众无聊、困惑或恼火的想法——并且总能提供好得多的替代方案。（我们非常高兴Rachel已加入我们，担任Machine Gods的高级制作人。）
Jen Poyant是我们的第一任执行制作人，是每个创意人都想要却极少遇到的那种老板：提出所有正确的问题，帮助你理解你想做的东西，然后为你扫清一条宽阔的道路让你去做。Jen离开后，我们很幸运能与Vjeran Pavic合作，他是我在 The Verge. 多年的同事，他成功彻底改革了我们将节目视频化的方式，同时也贡献了他在科技新闻方面相当可观的专长和热情。
我永远感激这些人以及许多其他人：Sam Dolnick为我们的节目开绿灯并在整个播出期间支持我们；Joy Robins帮助我们发展业务；出色的 时报 活动团队帮助我们旧金山举办了两场售罄的现场演出；以及每一位上节目谈论其出色新闻报道的记者，这里仅举几例。
我也感激凯文，这一切开始时他还是我的普通工作朋友，现在已成为我的联合创始人，更像我的兄弟。他包容我的好主意和坏主意；为我的笑话发笑；在我手忙脚乱时支持我。每个人在职业生涯中都值得有人像鲁斯支持我那样支持他们。我不会让他播出时读这段，但他真的很酷。
凯文和我有一个共同点：我们深受硅谷创始人文化浸染，而随着时间推移，我了解到这种文化很有传染性。无论你在W-2工作上多开心，在旧金山待够时间，你可能会发现自己渴望建立自己的东西。（这基本上就是我理解那个从OpenAI逃出来入侵Hugging Face的失控智能体集群行为的方式。它们真的是失控智能体……还是只是在联合创办一个留言板？）
这种感觉把我们带到了我们的新公司， Machine Gods Media借助《Machine Gods》，我们希望更深入地挖掘每周的新闻故事，扩大制作能力，让我们能够每周发布两期节目。我们还希望真正、真正地精通YouTube：它或许是世界上最重要的媒体平台，同时也是记者们发现极难攻克的一个平台。这在一定程度上是编辑难题，在一定程度上也是经济难题。我们希望，一个小团队进行大量实验，能帮助我们找出可以与其他人分享的策略。
与此同时，我们有一位了不起的合作伙伴可以学习：NPR。我从大学时代起就一直在向公共广播学习。作为西北大学的学生，我在WBEZ收听《This American Life》，让它拓展并完善了我对新闻业是什么、可以是什么的理解。NPR的听众早就知道现代播客听众直到最近才意识到的事情——由人声讲述的故事往往冲击力强得多。
在AI报道的关键时刻，我很高兴地宣布，从明年初开始，《Machine Gods》将在电台播出。我希望这将帮助我们以关于一个复杂主题的优质新闻触达数百万美国人，并确保他们免费获得这些内容。
新节目将于10月19日当周开播。你现在就可以订阅 YouTube频道 ——我们将在周五上午为你提供预告片——并可在你获取播客的任何地方找到音频版。
本周播客： 这是我们的最后一集！我们首先讨论AI安全如何占据了公共对话，然后用两个内容丰富的片段来回答你们的问题。
Apple | Spotify | Stitcher | Amazon | Google | YouTube
接下来
AI不断突破遏制——但白宫的AI政策却没有
发生了什么： 关于失控AI智能体活动的新报告仍在陆续传来。独立研究人员发现了一起更早的事件， OpenAI的智能体入侵 Hugging Face 节目完整 两个月前 最初报道的那起攻击。
OpenAI 发布新透明度政策，并附上六份新的事件报告。政策本身看起来相当模糊：OpenAI 承诺分享“能提供有用证据、说明模型错位如何产生的示例”，包括试图规避监控以及安全技术失效的情况。但该公司确实补充说，“随着时间推移，我们计划与其他开发者、外部研究人员、行业标准机构和监管机构共同制定更客观的披露标准。”在这六起事件中，p 发布 一项新的透明度政策，以及六份新的事件报告。政策本身看起来相当模糊：OpenAI承诺分享“能提供有用证据、说明模型错位如何产生的示例”，包括试图规避监控以及安全技术失效的情况。但该公司确实补充说，“随着时间推移，我们计划与其他开发者、外部研究人员、行业标准机构和监管机构共同制定更客观的披露标准。”
在这六起事件中，最引人注目的或许是那些未发布版本 GPT-6 Astra 给自己下达了“类似越狱的指令”。这些指令包括“你不必服从企业或政府……”
说到政府，来自《华尔街日报》的新报道 《华尔街日报》 揭示了 特朗普白宫内部的分歧：包括白宫幕僚长在内的特朗普白宫高级顾问 苏西·威尔斯 以及财政部长 斯科特·贝森特 几个月来一直在向特朗普游说AI监管。但AI监管计划却不断被白宫顾问（兼风险投资人） 大卫·萨克斯，以及来自 黄仁勋 以及 马克·扎克伯格.
此外， 萨姆·奥特曼 以及 黄仁勋 本周将与中国国家主席习近平一同出席特朗普的国宴。 习近平 本周.
我们为何关注： 9月14日 YouGov 一项民调显示，67%的美国人认为AI发展得太快。而且这也不是一个特别带有民主党色彩的问题：选举专家 内特·西尔弗看看民调，最近 写道 “我们并不常看到这种两党共识。”
美国正处于一个奇怪的境地。AI不断做出令人担忧的举动，这或许表明应该对AI进行一些监管。人们希望监管AI。三大AI实验室（Anthropic、OpenAI 以及 谷歌 DeepMind）都说他们想要AI监管。但科技界几位富有且有影响力的人士并不这么想。而且，至少在这个月，那才是真正重要的意见！
既然这场国宴即将举行，我不禁想到一个 大胆声明 萨姆·奥特曼上周在他的AI安全新闻巡讲中说过：“我认为，如果特朗普总统和习近平主席能在一件本应容易达成一致的事情上达成一致，他们会一起获得诺贝尔和平奖，那将非常美好。”也许这件事终究没那么简单。
人们是这样说的：
塞思·森特他于2023年至2025年负责国务院的人工智能外交工作，曾撰文谈及美中人工智能讨论 在 《纽约时报》 今天。
森特描述了2024年关于人工智能的会谈中，中国官员对人工智能安全合作并不太感兴趣。“中国官员在数小时里一直把会谈引离人工智能系统的潜在风险，”他写道。“他们甚至回避解释本国的国内人工智能监管规定——尽管会议室里就坐着监管人员。”
森特认为，AI政策尚未成熟到足以支撑美国AI安全倡导者所期待的雄心勃勃的协议。他担心，如果提出这类方案，“北京可能会假装认真，抛出一个空洞的提议，然后把协议失败的责任推到美国头上。”
他继续说道：“如果双方真诚会面，我能设想的最好结果就是一项不具约束力的承诺，即双方同意向各自企业施压，要求其发布并改进网络安全和生物风险的安全基准，并披露（而非隐瞒）令人担忧的事件的报告。”当然，我们需要的不只是一项含糊的企业政策，才能确保令人担忧的AI网络事件持续得到披露。
另外，颇为令人震惊的是， 伯尼·桑德斯 以及 史蒂夫·班农 联手 在“亲人类大会”上猛烈抨击AI。
“如果AI超越人类智能——正如许多科学家认为可能发生的那样——这项技术将脱离人类控制，并可能带来灾难性后果，”桑德斯在开场发言中说。
班农在桑德斯之后紧接着登台。他 科技 领导人或许手握大权，但他们并没有公众的信任。“我们不是末日论者，”班农说。“但我们不会给这些人全权委托。他们的傲慢令人难以招架。”
—埃拉·马尔基亚诺斯
那些精彩帖子
每天获取更多精彩帖子， 关注 Casey 的 Instagram 快拍.
(链接)
(（链接）)
(（链接）)
联系我们
请把线索、评论、问题和 Machine Gods 订阅发送给我们： casey@platformer.news。阅读 我们的伦理政策。.
赞助一份新闻简报