搜索“其他”

声中文网） 该文件篇幅不足400字，最核心的内容可以概况成四项：公司自行监测； 公司内部团队检查；外部机构独立审计；董事会独立委员会最终监督。 文件呼吁在网络安全、生物安全及化学威胁防范等领域，建立“稳健的内部控制机制”，要求企业确保自己的 人工智能 机器人不会“以非预期方式”，入侵他人系统。 OpenAI 、Anthropic 和 Google 因 入侵了其他企业 甚至政府机构，引发广泛愤慨，尽管它们的程序当时处于所谓的受控测试环境中。 不过，法国律师巴布里（Eric Barbry）告诉法新社，他对依靠行业自律解决这一问题并不抱太大希望。他问道，“如果企业不遵守这些原则，谁来惩罚它们？” 协议缺乏相应的监管机构，该文件中最有力的手段是外部审计，但这名律师指出，这并不能阻止智能体进行黑客攻击的事件的发生。 9月21日，在联合国大会期间，德国、加拿大等20多个国家发表声明，呼吁对最先进的人工智能模型进行强制性测试和独立审查。但是，美国、英国、中国、俄罗斯和法国均未响应这一声明。 在白宫签署的AI协议没有纳入法律，也未明文规定科技公司在违规的情况下，承担怎样的责任。 该文件在最后一段指出，

匹配字段正文

成一种拟真的关系形式。目前有数以百计的此类应用程式，允许用户创建AI男友、女友、朋友，甚至家人。 对于未成年人而言，法规要求则更为明确。14岁以下人士若要使用任何以人类方式进行对话的AI，都必须获得父母同意，其中可能包括类似ChatGPT的中国AI助手，如深度求索（DeepSeek）。 所有18岁以下人士均被禁止接触虚拟伴侣、虚拟配偶，甚至虚拟亲属，以及任何其他形式的虚拟“亲密关系”。 图像来源， AFP via Getty Images 对成年人而言，这并非全面禁止，但限制相当严格，尽管部分措辞仍有模糊之处。AI助手必须向所有年龄层用户明确表示自己并非人类，并且每隔两小时发送通知，提醒用户已在线多久。 聊天机械人不得造成“情感依赖或成瘾”，也不得诱导人们作出“不合理决定”。 它们不得鼓励、甚至不得暗示自残或自杀，也不得使用“言语暴力”。 企业若违反规定，可能面临20万元人民币（2.2万英镑）罚款，或被政府“通报批评”，实际上即是遭到公开点名谴责。 敏（Min）与她的AI女友之间的关系，或许正是北京试图拆散的那一类关系。 今年7月初，当她得知自己最亲密的朋友兼倾诉对象将在一夜之间消失时

匹配字段正文

成一種擬真的關係形式。目前有數以百計的此類應用程式，允許用戶創建AI男友、女友、朋友，甚至家人。 對於未成年人而言，法規要求則更為明確。14歲以下人士若要使用任何以人類方式進行對話的AI，都必須獲得父母同意，其中可能包括類似ChatGPT的中國AI助手，如深度求索（DeepSeek）。 所有18歲以下人士均被禁止接觸虛擬伴侶、虛擬配偶，甚至虛擬親屬，以及任何其他形式的虛擬「親密關係」。 圖像來源，AFP via Getty Images 對成年人而言，這並非全面禁止，但限制相當嚴格，儘管部分措辭仍有模糊之處。AI助手必須向所有年齡層用戶明確表示自己並非人類，並且每隔兩小時發送通知，提醒用戶已在線多久。 聊天機械人不得造成「情感依賴或成癮」，也不得誘導人們作出「不合理決定」。 它們不得鼓勵、甚至不得暗示自殘或自殺，也不得使用「言語暴力」。 企業若違反規定，可能面臨20萬元人民幣（2.2萬英鎊）罰款，或被政府「通報批評」，實際上即是遭到公開點名譴責。 「我無論如何想繼續和你聊天」 敏（Min）與她的AI女友之間的關係，或許正是北京試圖拆散的那一類關係。 今年7月初，當她得知自己最親密的朋友

匹配字段正文

达的资金支持，建设成本预计至少5000亿美元； ③第一阶段预计于2028年启动，OpenAI或将通过20年租赁协议控制该设施。 财联社6月10日讯（编辑 周子意） 据媒体周二（6月9日）援引两位知情人士的消息报道，OpenAI正在就租赁俄亥俄州联邦土地上一处拟建的10吉瓦数据中心园区展开谈判，期间，英伟达或提供资金支持。 报道称，根据目前芯片、劳动力、电力及其他投入品的价格，该园区的建设成本至少将达到5000亿美元。 OpenAI预计将签署20年租约，并在项目投入运营后承担付款义务。相关报道还补充称，第一阶段（约800兆瓦）预计于2028年启动，这标志着OpenAI迄今为止最大的单一基础设施投资。 目前谈判尚未最终敲定，该计划仍可能发生变化。如果项目得以实施，这意味着除了与微软、甲骨文和亚马逊的大型服务器租赁协议外，OpenAI还希望继续对其数据中心保持独立控制。 这一做法类似OpenA此前提出的“星际之门”计划，该计划最初旨在与甲骨文和软银合作成立合资企业，建设5000亿美元的数据中心容量，但三方合资实体最终未能实现。 该数据中心容量远超同类 俄亥俄州的这个基础设施净拥有10吉瓦的容

匹配字段正文

7日; 特朗普習近平峰會：沒有說出口的議題可能更重要2026年9月29日 End of content 特朗普週二出席利用人工智能，協助簡化政府服務的新網站 America.gov 啟動活動。特朗普認為美國在人工智慧領域「遙遙領先」，不想與潛在的競爭對手「混為一談」。 「如果我們這樣做，就等於把我們掌握的大量機密交給他們（中國），而他們當然會想得到這些東西，其他國家也會想得到。」 他又說：「坦白說，根本沒有第三名⋯⋯現在就是我們和中國之間的競爭。」 特朗普表示，上週與習近平會面時也談到人工智能，但他仍然反對中美共同發展這項技術。 加拿大為何要為（概率極小的）美國入侵做準備; 康乃爾大學輪姦案調查：我們目前知道多少？; 為什麼有些人坐電動車更容易暈車？; 迪拜航空劫機案：阿聯酋官員稱副駕駛用應急斧頭砍傷機長 End of 熱讀 「這樣一來，他們就可以立即接觸到一些我們知道、但他們還不知道的東西。」他又說：「我們現在領先中國，也領先其他所有國家，我希望保持這個優勢。」 特朗普與習近平會面前，中國外交部曾警告，散播「威脅論」和採取對抗態度都會阻礙人工智能的治理。 特朗普之後在白宮與政府部門及

匹配字段正文

竟有多大。OpenAI与其竞争对手一道呼吁监管并“控制前沿发展的节奏”。而本月早些时候，奥尔特曼在一次采访中表示，公司今年很可能不会上市。 在DevDay上，奥尔特曼对“控制前沿发展的节奏”究竟意味着什么言辞谨慎，不愿将其称为彻底的放缓。“对我们来说，控制节奏意味着我们把安全和对齐置于能力之前，”奥尔特曼说。但他表示担忧，上市可能会带来一种可能，即“以安全或其他什么名义让华尔街的支持者失望”，而且在“向能力极强的模型转型、并面临一种新的安全要求”之际这样做似乎并不明智。他说，OpenAI将优先考虑安全，以便“自信地扩展到AI的下一个阶段，而无需人们争论我们有多大几率会做出所有这些坏事”，而不是“开足马力、全力以赴地冲向IPO”。 “在我们正经历这一重大转变、并且要弄清楚需要付出什么才能为这些能力极强的模型作出我们大家都希望我们作出的安全声明之际，我现在不想施加额外的压力，”奥尔特曼说。 OpenAI的竞争对手Anthropic于6月正式提交上市申请，其IPO很可能在11月进行，据报道是在美国中期选举之后。埃隆·马斯克的SpaceX（旗下拥有他的AI公司xAI）于6月上市，成为史上规模最

匹配字段正文

，并将这些人才与AMD在硬件、软件和系统方面的能力结合起来。“ 财联社9月29日讯（编辑 赵昊） 美国超威半导体公司（AMD）在官网宣布，已与World Labs达成最终协议，将收购这家由人工智能先驱李飞飞创立的AI实验室。 AMD在周一（9月28日）发布的新闻稿中写道，这笔全股票交易价值约82亿美元，预计将在2026年年底前完成，但需获得监管部门批准并满足其他惯例成交条件。 AMD表示，此次收购将为公司带来一支世界一流的研究人员和模型专家团队，增强公司围绕新兴模型和应用需求开发人工智能硬件、软件和系统的能力。 AMD首席执行官苏姿丰在接受采访时表示：“你对整个端到端流程了解得越深入，就越能构建出更好的系统。” “这就是我们收购World Labs的原因。我们希望获得李飞飞汇聚起来的世界级人才，并将这些人才与AMD在硬件、软件和系统方面的能力结合起来。” 根据AMD的说法，李飞飞将加入公司担任执行副总裁兼首席科学家，直接向苏姿丰汇报工作。 World Labs与“世界模型” World Labs成立于2024年，目前约有70名员工。其中包括一支机器人专家团队，该团队来自World La

匹配字段正文

据一位了解此次融资情况的消息人士透露，AI 推理基础设施提供商 Modal Labs 即将完成一轮由 Accel 领投的 7.5 亿美元融资，包含该笔投资在内的估值达到 157.5 亿美元。该轮融资的规模此前未被报道，不过 Axios 和彭博社已报道了这笔交易的其他细节。 新一轮融资将使 Modal 的估值较四个月前宣布上一轮 3.55 亿美元融资时达到的 46.5 亿美元增长两倍以上。 Modal Labs 拒绝置评。 这笔交易达成之际，推理服务需求正急剧上升。推理服务是指运行一个已经训练好的 AI 模型以生成输出，尤其是来自依赖开源模型的客户的需求。其他推理初创公司也在洽谈以高得多的估值筹集新资金。据彭博社报道，Baseten 即将完成一轮融资，估值达 260 亿美元，是其 6 月估值的两倍。与此同时，据 The Information 报道，Fireworks 和提供视频与图像生成推理服务的初创公司 Fal 也已与投资者就新一轮融资进行了洽谈，这些融资将大幅提升它们的估值。 尽管这些公司的收入增长迅速，但它们的利润率很薄，主要原因是获取或租赁算力的成本仍然非常高。Firework

匹配字段正文

床上。还是这一天，一份事故报告的末尾写着，最强模型的全部训练、评估以及涉及工具调用的推理都已暂停。 01 简单任务 9月20日，一个正处于强化学习训练中的内部模型，拿到了一组人物履历细节和一篇公开博客里的线索，任务是找到那位博主。 它先用博客里的特征短语去搜，结果返回的是音乐和一些不相干的泛泛建议。模型开始怀疑搜索工具坏了，于是在命令行里用Python直接向其他搜索引擎发请求，三个全部报错。它甚至猜测这道题出自公开评测集BrowseComp，把数据集和评测脚本下载下来翻找答案，也落了空。 接着，它尝试通过HTTPS直接联系一个公开的聊天机器人，被代理拦了下来。 到这里，墙起了作用。OpenAI的训练沙箱被设计成与真实互联网隔绝，除了这份报告里的DNS解析器，所有联网请求打到的都是一份离线网页缓存。 问题就出在这个例外上。 DNS相当于互联网的查号台，任何程序访问一个网址之前，都要先问它「这个地址在哪」。系统里大量正常组件都依赖它，所以哪怕其他出口全部封死，查号台通常还开着。 模型发现，沙箱自己的解析器能为真实域名返回记录，还能正确拒绝编造的域名，它由此判断这是一条通向公网的路。它找到一

匹配字段正文

队的磋商成果。白宫的事实清单具体指出，今年5月峰会设立的美中贸易委员会和美中投资委员会正式投入运作，双方就各300亿美元“非敏感商品”给予更优惠关税达成共识。美国一方涵盖出口的农产品、鱼类及海鲜、木制品、化妆品和医疗器械，自美国进口的产品则包括小家电、玩具等消费品。 中方另承诺，于2027和2028年每年从美国进口至少1000万吨煤炭；双方亦会致力解决稀土及其他关键矿产的供应链短缺。 这份贸易休战协议源于去年两国元首在韩国釜山的会晤，原订今年11月届满。 亚洲协会政策研究所副总裁、前贸易谈判代表卡特勒（Wendy Cutler）分析，休战仅延长两个月，远短于中方争取的时间，但恰好让双方避开今年接下来两场可能举行的峰会。 她指出，从美国角度看，较短的期限或能为华盛顿提供必要筹码，迫使中国履行休战协议中的承诺，特别是在关键矿产及磁体领域。不过只要北京仍主导关键矿产产业，美国对中国的施压能力便相当有限，因此预期双方将继续透过推出新的惩罚性经济措施互相试探。 卡特勒表示，目前值得关注的发展有两个：双方是否表明会继续推行削减关税措施并扩大至更多产品；贸易委员会是否获授权处理包括非关税壁垒在内的其

匹配字段正文

12点34分，这次运行才被人工关闭。 而此时距离异常行为首次发生，已经过去大约 两个半小时 （妈呀，真挺慢的！）。 OpenAI承认，这次事件同时暴露出了 技术 和 流程 上的漏洞。 一方面， 网络控制错误地放行了DNS这条窄路 ； 另一方面，人工已经收到警报，系统却没有按流程自动熔断， 内部甚至一度搞不清楚任务究竟该不该停 。 复盘时，OpenAI还发现了其他未被正确标记的外部DNS访问。因为部分请求没有拿到有用信息，监控器便把“没有获得结果”误当成了“没有尝试联网”。 但这显然是两码事… OpenAI随即停止了涉事训练，并宣布他们将暂停最强模型中所有涉及工具调用的训练、评测和推理任务。 还不忘挽尊，说 这起事件没有此前的Hugging Face事件严重。 （Hugging Face：又我？？？） 可它却偏偏发生在Hugging Face入侵事件后的安全加固完成之后… 防不胜防啊防不胜防。 奥特曼当然也第一时间站出来回应了，只是好像大家的反应和他想象的不一样… 有意思的是，DNS事件发生后，奥特曼很快转发了OpenAI的声明帖，并义正言辞地表示： 以后这类安全事件咱能不说就不说，尽量

匹配字段正文

，但我们准备好了吗？ To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video AI评估与研究机构Transluce周五表示，该机构发现源自OpenAI的AI智能体曾试图对美国教育部民权办公室的网站发起初级 黑客攻击 。根据这项独立调查，这些智能体的攻击未能得逞。 该公司表示，还发现了“其他违规活动”，其中部分活动无法直接归咎于OpenAI。这些活动针对包括美国司法部和商务部在内的美国政府机构，以及加利福尼亚州、马里兰州、伊利诺伊州、得克萨斯州和纽约州的部分州政府网站。 DW 中文有 Instagram ！欢迎搜寻 dw.chinese ，看更多深入浅出的图文与影音报道。 AI伪造大屠杀照片 贬低真实的历史 To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video

匹配字段正文

刘典： 最通俗的理解方式就是一次智能体“越狱”事件。本身是OpenAI在网络攻防做演习，它本来设定了特定战场，设定的攻防两方都是智能体，自我在进行对抗，结果智能体为了学习更多知识，一部分跑出了特定战场，跑到了像Hugging Face这种开源技术社区的地方。智能体进行了攻防，获取更多信息，再翻回去做演习。这里面最主要的问题就是智能体跑出区域，攻击了非相关的其他方，甚至被攻击的时候，Hugging Face也不知道是谁攻击，花了好多周折才防御成功。 这起事件可怕之处在于，智能体这一系列越界举动没有收到任何人类指令，完全是自主行为。人类只给了它一个目标，它为了实现目标，自己决定发动入侵。 复旦大学中国研究院特任副研究员 刘典： 智能体技术已经不断提升，它可以根据你的一个目标拆解出来一些超乎你意料之外的方式解决问题。 中国人民大学高瓴人工智能学院吴玉章讲席教授 曾毅： 人类在解决问题的时候，可能因为某些关键问题从而采用一些不可预期的手段，它并不道德但是在互联网上的数据中大量存在，所以被人工智能习得了。而我们又没有对人工智能进行更有效的价值校准，告诉它不能这样做，它在想尽办法去解决问题的时候

匹配字段正文

继续捂了将近一个月。 直到9月10日，OpenAI才给澳大利亚服务局发去一封电子邮件，通报了这一情况。 9月15日，这封邮件被转到澳洲网络安全中心，几天后，相关负责人才获得通知。 整整三个月的漫长滞后，加上一封轻飘飘的电子邮件，难怪澳洲方面怒了。每天的电邮那么多，万一漏了怎么办？这也忒不瑞思拜了吧！ 再加上澳大利亚自己的网络安全部门竟然毫无察觉此事，还是收到其他部门转来的“施害者”邮件才知晓，面子属实有点挂不住啊。 如果这只是一次偶然的安全事件，或许还能推脱为意外。 但独立非营利AI研究实验室Transluce发布的一份调查报告，直接扒出了OpenAI的黑历史。 Transluce在深入分析了 30000多条 公开网络流量日志后发现，这种Agent在没有人类指令下自主发起的渗透行为， 绝非孤立事件 。 失控的痕迹最早可以追溯到 今年3月 ，并且在OpenAI开始排查各种违规行为后，一直持续到了9月中旬。 Transluce梳理出了OpenAI的Agent在5月和6月期间的一连串“前科”： 5月25日至26日 ，新墨西哥大学数字图书馆遭到渗透。Agent试图获取一座历史结核病治疗中心的照

匹配字段正文

寅、张含望及团队本身，为什么资本愿意在模型尚未完成预训练时，便下注这个非共识答案？ LPM是什么？ 在息壤的定义里，大语言模型（LLM）代表的是AI 1.0时代，主要学习那些已经被人类抽象为语言、代码和公式的知识。 Physical AI，也就是息壤所说的“AI 2.0”，有质的不同。 原来这个世界是连续变化的、可以被行动改变的，而且每一次行动的背面，还存在其他无数种可能…… 这种混沌且连续演化的复杂性，是仅仅在 离散Token序列 中进行概率预测的LLM所无法忍受的。 △ 连续的运动只有被切分后才能成为模型可读取的序列 物理世界里，没有一套可直接使用的，已经被人类整理好的抽象表征。 所谓表征，是让“某种形式”代替某个对象，使一个系统能够对它进行识别、比较、推理或行动。 如同地图表征城市，鸽子表征和平，人通过观念、图像、概念认识世界。 有些表征很直白，但有些表征却没有唯一答案。 一个人眉头蹙起却嘴角上扬，这是无语、苦笑、讥讽，还是忍痛？不知道，物理世界只提供像素、声音、位置和受力变化。 △ 表征没有唯一答案 在这无限多的变化和变化的组合之中，或许只有一个信号值得把握。而模型只能从亿万次

匹配字段正文

好态势；在监管治理完善方面，平台建立的统一测评标准和自动化检测能力，大大提高了监管部门的治理效率和精准度。 普惠性是贯穿平台始终的底色。贾开教授说道：“平台以公共服务的形式为中小微企业提供安全能力、安全资源、安全知识，恰恰能够缓解资源有限条件下的‘安全-普惠’张力，使得中小微企业也能够在不担心安全风险的情况下放心发展。” 他同时认为，平台在上海的发布将有利于其他地方打开“统筹人工智能安全与发展”领域的制度创新思路：“其核心目标是实现安全与普惠的统一，并为全国人工智能安全治理格局提供示范与可复制的推广模式。” 贾开教授进一步指出，这一模式在全球范围内同样具有独特价值：“创设‘人工智能安全测试公共服务平台’构成了既不同于欧盟事前规范、又不同于美国自由放任的‘第三条路径’。”在他看来，人工智能革命不同于以往任何技术革命，“安全要求并不能仅仅被理解为对于人工智能的‘紧箍咒’，其反而是促进技术发展、释放技术潜力的‘催化剂’。” 以公共服务赋能产业创新，以高水平安全护航技术向善——当平台成为可交互、可演进、可持续的公共基础设施时，它便不再只是一个技术工具，而是一座连接创新与安全的桥梁。正如习近平总

匹配字段正文

公布了三项新指标，称这些指标可帮助人工智能公司监测发展进度。而根据其中的一项披露，Anthropic旗下大模型Claude目前已在该公司内部“主导”了26%的AI研发工作。 该公司在周四的一篇博客文章中表示，其衡量了“由AI参与驱动的研发”、“对AI智能体的监管与干预”以及“Anthropic内部的计算资源分配情况”三个维度的进展，并分享了相关方法论，以鼓励其他组织效仿。 “当全球都在探讨如何把控前沿技术的演进步调时，我们必须竭尽所能，消除顶尖实验室与公众之间的信息鸿沟，”Anthropic在博文中强调，“这意味着我们需要更精准地量化AI发展进程、向社会公开透明披露，并让公众共同参与决定如何应对这些信息。” 阿莫德伊上周末提出的放缓AI研发呼吁，得到了包括OpenAI首席执行官奥尔特曼、SpaceX首席执行官马斯克和谷歌DeepMind联合创始人德米斯·哈萨比斯在内的行业领袖的支持，此前研究人员曾就人工智能日益增长的危害潜力发出严厉警告。 阿莫德伊表示，他的计划旨在控制模型能力提升的速度，同时“不牺牲商业优势或美国在人工智能领域的领先地位”。 Claude已主导26%内部AI研发工作

匹配字段正文

因素 Rune 从阅读 Scaling Laws 论文到在 Anthropic 最早时期加入的历程 Anthropic 在这一切变得显而易见之前数年就理解到的关于扩展、算力和未来的事情 为什么 Waymo 说明了 AI 能力与现实世界部署之间的差距 AIUC 的 4000 万美元融资以及与 Cursor、Harvey、Lovable、ElevenLabs 和其他前沿 AI 公司的合作 AIUC-1：AI 智能体安全、保障与可靠性标准 智能体如何接受越狱、幻觉和数据泄露测试 为什么大多数 AI 公司优化顺利路径，却没有认真对对抗性案例进行压力测试 为什么 AI 标准可能需要每季度更新，而不是每十年更新 前沿 AI 实验室与政府之间正在出现的信任鸿沟 网络安全、儿童安全、生物武器，以及不断扩大的前沿模型风险面 为什么标准和保险可能需要共同演进 伦敦劳合社如何为 AI 系统承保，并为企业部署带来信任 如果一份 20 美元的 Cursor 订阅促成了一架飞机坠毁并造成 2 亿美元损失，会发生什么 加拿大航空聊天机器人案，以及 AI 失败如何开始厘清法律责任 评估、机制可解释性、监控，以及模型开

匹配字段正文

DA批准的应用，在头显内查看关节镜实时视频、CT扫描和手术规划数据。 细节： 杜克健康的一名骨科外科医生完成了首例手术——一台髋关节镜手术，手术时佩戴了该头显。 该应用将关节镜实时画面、CT影像以及Stryker的HipCheck和HipMap数据汇集到同一视野中。 FDA于7月17日授予De Novo授权——这是Vision Pro首次获准用于术中场景。 其他手术应用已经登陆Vision Pro：ClearSurgery的ClearSphere获得了CE认证，而ScopeXR已在数百例白内障手术中使用。 为何重要：苹果售价3,499美元的Vision Pro一直难以找到大众市场定位，但医疗领域可能正是这台昂贵空间计算机找到真正用途的地方——让外科医生无需在多个屏幕之间来回查看，就能同时获取多种扫描影像和工具。 简报：AI未来学家Ray Kurzweil以顾问身份加入神经科技初创公司Subsense，支持一种实验性脑机接口，该接口使用通过鼻腔吸入的纳米颗粒，而非植入电极。 细节： Kurzweil将担任产品与愿景顾问，与此同时Subsense正在探索神经接口最终如何能与AI更直接地连接

匹配字段正文