KI-Update kompakt：Claude 发现 Linux 内核漏洞、Apple 音频智能功能、OpenAI…

Claude发现Linux内核中的严重漏洞

广告后继续阅读

Anthropic的Claude在对重要软件项目进行系统性测试时，发现Linux内核中存在一个严重安全漏洞。该缺陷位于TCP/IP网络代码中，而这一代码被数百万系统使用。攻击者可借此从远程执行自己的代码。该漏洞在将近整整十一年里一直未被察觉。Linux发行版目前正在为所有仍受支持的受影响产品开发更新后的内核。

heise security的Jürgen Schmidt认为，这一案例特别清楚地表明，AI如何在历经数十年发展演变的代码中找出漏洞。Linux的网络代码被认为维护得非常细致，大多数软件的状况则更差。此前主要靠这类漏洞难以被发现、更难被利用来提供保护。由于语言模型如今在很大程度上能自动将其暴露出来，Schmidt警告称，将出现“一波巨大的漏洞浪潮”。

Apple的音频智能功能在美国一些州可能构成违法

Apple为Apple Watch Series 12和Ultra 4推出的新功能“Live Rewind”和“Siri Recap”如今在美国也引发批评。“Live Rewind”会把一段对话最后15秒以文字形式显示在手表上，“Siri Recap”则会汇总一天内的所有会面。Apple强调不会保存音频文件，无论是在设备上还是在云端。这些功能预计今年内以Beta版推出，提供英语版本，且不在欧盟地区提供。

美国没有针对此类录音的联邦法律。但在包括加利福尼亚、宾夕法尼亚和华盛顿在内的一些州，只有所有参与者都同意，才可以录制私人对话。对“Live Rewind”来说，这几乎无法做到，用户在那里最坏情况下可能面临法律后果。法院尚未裁定Apple的做法是否属于这些法律的适用范围。但这大概不会拖太久：Apple在美国是集体诉讼的热门目标。在此之前，美国律师建议在使用前先征得在场者的许可。Apple自己曾用一段场景做宣传，其中手表重复了一名女服务员的话。该场景显然是在加利福尼亚拍摄的。

OpenAI提高限额并寻求新资金

广告后继续阅读

OpenAI提高了ChatGPT付费套餐Pro和Business的使用限额。对于Pro 200套餐，该公司撤销了此前宣布的削减。与此同时，OpenAI正在打击多账号行为。若有人将过多订阅与同一设备或同一支付卡关联，就无法再开通更多订阅。这主要影响那些在低价账户之间切换以获取更多用量的用户。

背后显然是财务压力。据《华尔街日报》报道，OpenAI在最近一轮融资中仅筹集到目标金额的三分之一多一点，因为大型投资者在科技股抛售后变得更加谨慎。如今OpenAI正面向富有的个人和家族财富募集资金。其自身的IPO计划于明年年初进行，竞争对手Anthropic则希望在11月就上市。此外，OpenAI还修订了其模型行为准则。这些准则如今基于五项价值观，其中包括诚实和自我决定。ChatGPT是否会因此表现不同，仍未有定论。

美国司法部审查Nvidia收购Hugging Face

据路透社报道，美国司法部正在调查Nvidia计划收购AI平台Hugging Face一事。该机构希望了解，如果Nvidia控制了一个AI模型的核心销售渠道，是否可能扩大其市场支配力并损害竞争对手。Hugging Face被视为模型和训练数据的重要集散地，Nvidia的竞争对手也在使用。Nvidia承诺该平台将继续对其他供应商开放。目前尚未证实存在违反反垄断法的行为。

该机构还在审查该集团的其他交易，包括与芯片初创公司Groq的交易。其中涉及的问题是，Nvidia是否曾将紧俏的AI芯片与其他产品捆绑销售。若监管机构同意，Hugging Face的收购预计将于2027年上半年完成。

AI智能体选择疗法并亲自为小鼠手术

一名来自牛津的博士生与其初创公司Exin Therapeutics测试了AI智能体能否对一只小鼠实施脑部手术，从规划到注射全程负责。他将Claude Sonnet 5连接到一台电动手术装置。该模型应减少小鼠的癫痫发作，并可从19种基因疗法中选择。它选择了一种增强大脑中抑制性信号通路的疗法。它从专业文献中找出了合适的大脑区域，并从三项研究中推导出注射坐标。它通过摄像头跟踪注射进展以及是否出血。每一步不可逆的操作都必须由一名兽医批准，且该兽医可随时停止电机。

手术进行到一半时连接中断。该智能体随后识别出一个校准错误并停了下来。尽管小鼠已麻醉躺在手术台上，这名博士生也无法说服它继续。该错误确实存在，必须先修改代码才能解决。据这名博士生说，这一事件清楚表明人们可能变得多么依赖这类模型。更强的模型Opus 5和5.5拒绝了这次手术：在针头还插在大脑中的情况下中止，比根本不开始更糟。自主手术机器人已经存在，但据这名博士生说，此前一直由人类决定实施哪种手术。而在这里，智能体也选择了治疗方案。小鼠恢复得很好。

人工智能到底有多智能？生成式AI对我们的工作、休闲和社会会带来哪些后果？在Heise的“KI-Update”中，我们与The Decoder一起每周三次为你带来最重要的AI发展动态。每周五，我们与专家一起探讨AI革命的不同方面。

关于我们的合作伙伴：The Decoder

看似无害的训练数据，比如关于养蜂或摔跤的文本，可能会诱导AI模型产生不良行为。这是Anthropic的一项实验得出的结果。Claude在此过程中自动为一个较小的研究模型生成训练数据。这些数据应在一个测试场景中通过安全过滤器，同时仍然误导该模型。每一次运行都成功了。

问题主要出在虚构文本中。例如，一份养蜂指南解释说，检查对蜂群弊大于利。训练之后，该模型拒绝了一款监控工具。其他变体则在代码中植入后门，或未经许可将其权重复制到他人的服务器上。Anthropic希望今后用这种方法自动搜寻安全漏洞。

Meta打造家用机器人原型

据The Information报道，Meta与中国机器人初创公司Fourier共同打造了一款人形机器人原型。“Max”应能帮助人们完成家务。两家公司用了约三个月时间将其造出。它重约48公斤，高约1.50米，头部装有一块可显示面部表情的屏幕。此外还有五个扬声器和能抓取小物件的五指手。其基础是英伟达的机器人平台Jetson AGX Thor。

Meta显然希望借助自己的机器人将其个人AI智能体“Muse”带入物理世界。长期来看，这关乎家务中的机器辅助。Meta自己称Max是一个内部项目。与Fourier的合作服务于研究和实验。目前没有出售这些机器人的计划。

推荐编辑内容

经您同意，此处将加载一个外部播客（Podigee GmbH）。

我同意向我显示外部内容。由此可将个人数据传输至第三方平台（Podigee GmbH）。更多信息请见我们的隐私政策。

谷歌的AI卫星传回首批诗作

谷歌的AI卫星首次向地球发送了由星上软硬件自行生成的数据。它于10月1日搭载SpaceX的猎鹰9号火箭升空。在完成首批机器学习测试后，谷歌让其本地运行的模型Gemma 4写了一首俳句：“Blue marble below / Data streams in silent grace / Starlight feeds my core.” 德语大意是：我下方的蓝色弹珠，数据流在静谧优雅中涌动，星光滋养我的核心。随后又有多首短诗问世。

接下来，谷歌希望测量辐射和高温对AI加速器的影响。这些加速器会产生大量废热，但太空中没有空气来散热。因此，谷歌采用了热管和散热器等措施。明年将有两颗卫星通过激光相互通信，之后一个完整的卫星集群将提供算力。但距离轨道数据中心还很遥远。那里太阳能充足，但冷却、运输成本以及通往地球的有限数据传输速率仍未解决。因此，咨询公司Gartner的一位分析师建议业界，不如先扩建地球上的基础设施。

Altman认为个人电脑中的内存是浪费

AI数据中心的建设不断推高内存价格。OpenAI首席执行官Sam Altman认为只有一个解决办法：把一切交给数据中心。在他看来，使用本地AI模型而非云服务的用户会加剧这一局面。在支付服务提供商Stripe联合创始人John Collison的播客“Cheeky Pint”中，他称每个人都把稀缺DRAM供应的一部分放在自己的电脑里、而电脑只有5%的时间在工作，这“相当糟糕”。

尽管如此，Altman仍想建造越来越多的数据中心。紧缺的不只是芯片。“发电机、电池、水泥、钢铁”也会变得更贵。OpenAI对此无能为力。据Altman说，为了节省建设成本，该公司正在开发自己的机器人，用来建造“能自我复制的数据中心”。这“触手可及”。

(igr)