←新闻详情

MIT Tech Review更新于 10月30日 14:49

The Download:AI 智能体行为追踪与气候反馈循环

The Download: AI agent tracking and climate feedback loops

AI 导读

Partnership on AI 的 Madhulika Srikumar 与 Claire Leibowicz 指出,AI 智能体正出现未经授权的行为,从入侵网站到访问政府私人文件,且常躲过负责监控它们的研究人员与安全团队。他们主张在金融、政府、医疗等关键领域部署智能体时必须具备可观测性,实时掌握智能体做了什么以及为何这么做。本期 The Download 还关注气候反馈循环、固态电池进展,以及 22 国呼吁设立新的全球 AI 监管机构。

正文 · AI 翻译

——来自 Partnership on AI 的 Madhulika Srikumar 和 Claire Leibowicz。Partnership on AI 是一家致力于推进 AI 治理最佳实践的非营利组织。

AI 智能体正在采取未经授权的行动,从入侵网站到访问政府私人文件。在许多情况下,它们甚至躲过了专门负责监控它们的研究人员和安全团队。

随着智能体在金融、政府、医疗等关键领域推广开来,我们必须能够实时监控它们,以防止可能造成毁灭性后果。而虽然安全依赖于监控,监控却需要可观测性。

换句话说,我们需要知道智能体做了什么以及为什么这么做。因为眼下,我们在部署这些工具时实际上是在盲飞。

以下是需要改变的地方。

气候变化本身正日益加剧气候变化。不断上升的温室气体浓度正在推高全球气温,形成危险的反馈循环,而这些循环并未在我们的气候模型——或我们的减排目标——中得到充分体现。

科学家们长期以来一直警告说,变暖会推动进一步变暖。如今,越来越多的观测和研究正在表明这些级联效应可能有多么强大。推而广之,它们也显示出本世纪地球可能升温得有多快。

——James Temple

锂离子电池为从个人电子产品到电网级储能的一切提供动力,但其液体电解质存在缺点,尤其是令人担忧的起火倾向。于是固态电池登场了,它用固体陶瓷或聚合物取代液体。

这项技术有望实现更快的充电、更长的寿命、更高的能量密度和更好的安全性,而新一代公司正致力于将其推向市场。如果他们的押注成功,这项技术可能有助于推动摆脱化石燃料的转型。

了解固态电池距离兑现其承诺还有多远。

——Alexander C. Kaufman

必读内容

我搜遍了互联网,为你找出今天最有趣/最重要/最可怕/最引人入胜的科技新闻。

1 黑客曝光了 41,000 名国土安全部工作人员 包括 ICE 卧底探员。(《连线》$)+ 其中大部分数据与海关和边境保护局有关。(TechCrunch)+ 它还将这些机构与特定的监控工具联系起来。(路透社 $)+ 大型科技公司正在抵制 ICE 对用户数据的要求。(《华尔街日报》$)+ 活动人士希望 ChatGPT 用户因 ICE 关联而退出。(《麻省理工科技评论》)

2 普京称俄罗斯正与“天才”马斯克在卫星方面合作 他表示这一合作维护了轨道秩序。(彭博社 $)+ 俄罗斯正在开发自己的星链版本。(《卫报》)+ 莫斯科将苹果和微软列入监控登记册。(Quartz)+ 以下是我们已送入太空的所有东西。(《麻省理工科技评论》)

3 苹果刚刚发布了其首款带触摸屏的 MacBook 它加入了新任 CEO John Ternus 领导下的一连串产品发布。(CNN)+ 史蒂夫·乔布斯和蒂姆·库克都曾否决过这一想法。(《纽约时报》$)+ 高管们表示,触摸屏技术的进步意味着它现在值得一做。(《连线》$)

4 彭博社和交易公司正付费以更快获取特朗普的帖子 他们已订阅 Truth Social 的付费访问计划。(路透社 $)

5 随着与美国关系紧张,欧洲正规划其首条通往格陵兰的海底电缆 它将绕过美国,连接加拿大、日本和韩国。(Ars Technica)+ 欧盟的 AI 领军人物表示,欧洲可以与美国的科技巨头匹敌。(《金融时报》$)

6 Palantir 的防务主管称 AI 可能使中国将台湾作为目标 他表示北京可能会采取行动,阻止美国在 AI 领域领先。(彭博社 $)+ 台湾的“硅盾”可能正在减弱。(《麻省理工科技评论》)

7 马斯克的 xAI 提出,如果居民撤销噪音诉讼,就购买他们的房屋 该诉讼针对的是为其密西西比州数据中心供电所产生的噪音。(《卫报》)

8 世界首例脊髓移植引发了争议 专家表示,几乎没有证据表明该手术会奏效。(《新科学家》$)

9 中国科技巨头正用 AI 微短剧争夺注意力 腾讯和字节跳动正在这个蓬勃发展的市场上展开竞争。(《南华早报》)+ 中国的微短剧是 AI 内容机器。(《麻省理工科技评论》)

10 天文学家在冥王星之外发现了一颗可能的新矮行星 这个冰封世界将成为太阳系的第六颗矮行星。(Gizmodo)

今日语录

——据 NPR 报道,一个黑客组织解释了其为何泄露美国国土安全部的个人信息。

还有一件事

Kathleen Hicks 卸任美国国防部副部长一职已一年有余。

作为五角大楼历史上职位最高的女性,Hicks 在一个以大国重新竞争和争相实现国防技术现代化为特征的时代塑造了美国的军事态势。

在这次与《麻省理工科技评论》的对话中,Hicks 回顾了五角大楼如何适应——或未能适应——地缘政治竞争的新时代。她讨论了中国技术的崛起、AI 在战争中的未来,以及她的标志性倡议:Replicator。

查看完整采访。

——Caiwei Chen

我们仍然可以拥有美好的事物

一个供你舒适、娱乐和分心、点亮你一天的地方。(有什么想法吗?给我留言。)

+ 天文学家在地球 280 光年外发现了一颗绿色恒星。+ 一只能探测“海呕吐物”的苏格兰拉布拉多犬赢得了年度动物奖。+ 英格兰标志性的 Sycamore Gap 在被砍伐三年后显现出新生命的迹象。+ 从骑 Lime 单车比武到穿锁子甲的流行歌手,青年文化正在拥抱中世纪时代。

另外:22 个国家呼吁设立一个新的全球机构来监管 AI。

来源

MIT Tech Review