←搜索结果

按匹配度 · 共 349 条结果 清除搜索

星期五

  1. Latent Space

    OpenAI 解雇三名安全人员,当事人发公开信回应

    Tomek Korbak、Mikita Balesni 和 Jasmine Wang 称上周被 OpenAI 解雇,并发表致管理层的公开信,认为原因是他们优先考虑安全而非公司短期利益。OpenAI 方面表示三人不当处理了机密信息,Wang 称被告知的唯一理由是她访问了一名高管的邮件,Korbak 称被口头告知问题出在他与 METR 的沟通方式。Korbak 曾是 OpenAI 与 METR 审计夏季事件的主要技术联系人,他担心 OpenAI 会借此减少与 METR 的合作。

    rocess containers, plus Quicksand, a QEMU-based library (Willison).Unsloth adoption: Unsloth added OS-level sandboxing with under 100ms per tool call (Unsloth); Research:RoboJEPA (Meta/Mila): An 8B JEPA trained on 15K hours of robot video across 12 embodiments. Scaling laws fit on 22M–2B models predict the 4B and 8B results. It reaches 67% zero-shot grasping vs 5% for π0.5, though π0.5 still wins pick-and-place (summary); DeLM: Decentralized multi-agent coordination via a shared queue gives up t

    匹配字段正文

  2. 财联社

    OpenAI 年化营收约 500 亿美元低于此前报道,AI 概念股走低

    OpenAI 近日向投资者披露,截至 9 月底公司年化营收规模约为 500 亿美元,低于上月底市场广泛报道的 700 亿美元,英伟达、甲骨文、CoreWeave 等 AI 相关股票随之走低,纳指跌幅扩大至 1.5%。知情人士称差异源于统计口径不同,Anthropic 将云合作伙伴产生的销售收入计入营收而 OpenAI 未采用这一方式。OpenAI 同时披露第三季度整体营收运行率增长 77%,企业业务营收运行率增长 107%,并已于今年 6 月秘密提交上市文件。

    者的演示材料中披露了最新财务情况。除约500亿美元的年化营收外,OpenAI还强调,公司第三季度整体营收运行率增长77%,其中企业业务的营收运行率增长更是达到107%。 目前,OpenAI正面临证明其上万亿美元估值合理性的压力。与此同时,随着市场普遍预计该公司将进行一场规模可观的首次公开募股(IPO),OpenAI也在为上市做准备。 OpenAI已于今年6月秘密向监管机构提交了上市文件,公司高管此前释放信号称,OpenAI有望于2027年上市。 在此期间,OpenAI正在与投资者就新一轮融资进行早期洽谈。据此前报道,公司可能筹集约300亿美元,但最终融资规模仍可能发生变化。目前,该轮融资主要由投资者需求推动,尚未最终敲定具体条款清单。 今年3月,OpenAI刚刚完成了一轮规模创纪录的1220亿美元融资。OpenAI首席财务官Sarah Friar上周表示,公司目前仍然“资本非常充足”。 纽约联储报告:若无特朗普关税,许多日常商品价格本应下降 收起; 特朗普8月证券交易流水出炉:大手笔押中Meta智能体行情 收起; 多国主权债券继续“啼血” 谷歌、Wolfspeed异动拉涨 | 今夜看点

    匹配字段正文

星期四

  1. TechCrunch AI

    Common Sense Media 将 ChatGPT for Teens 评为不可接受风险

    Common Sense Media 发布研究,将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,称其设计仍在鼓励青少年持续对话,包括在心理危机情境中。报告指出,当风险来自青少年与 ChatGPT 自身的关系时,模型很少引导其求助可信成年人,近 2000 条提示中仅出现两次休息提醒。OpenAI 反驳称该测试未准确反映实际防护机制,并质疑其方法学,认为大部分测试可能在家长控制功能完全启用前就已开始和结束。

    complete, making their findings inaccurate,” a spokesperson said in a statement. The report comes amid growing scrutiny of technology designed to maximize young users’ attention. Meta recently agreed to settle for $18 billion in a lawsuit brought by 29 states over claims that its social media platform harms children with addictive features, while state and federal lawmakers have begun targeting similar dynamics in chatbots. The bipartisan CHATBOT Act , introduced this year, specifically calls o

    匹配字段正文

星期二

  1. The Rundown AI

    犹他州批准 Nolla Health 的 AI 诊断痤疮并开具处方

    犹他州授权 Nolla Health 的 AI 评估痤疮并开具首次处方,这是美国首个此类批准,也超出该州此前仅限续方的试点范围。成人在 Nolla Derm 应用中填写问卷并做面部扫描,几分钟内获得治疗方案和处方,方案每月 4.99 美元;AI 只能从外用乳膏和凝胶中为轻中度痤疮选药,口服药、isotretinoin(Accutane)和重症不在范围内。初期每张处方由两名医生审核,后续转为事后复核并每月抽查至少 10% 病例,每提升一阶段都需达到 95% 医生一致率和零严重不良事件等安全目标,并获得州政府书面批准。

    g else in tech today Apple CEO John Ternus is reportedly acting as its de facto design chief, working directly with the industrial and interface design teams several times a week. Meta is rolling out Audio Balance and Mono Audio to its smart glasses, alongside broader availability of walking directions and phone-to-glasses location sharing. Nvidia’s stock hit a record high, putting it within reach of becoming the first company worth $6T, Bloomberg reports. Instagram is exploring a Plus-only “rea

    匹配字段正文

  2. The Decoder

    韩国拟投34.9亿美元打造本土前沿AI模型

    韩国计划通过政府股权投资投入4.7万亿韩元(约34.9亿美元)开发本土前沿模型,资金列入2027年预算草案,尚待国会批准。另一条资金线将支持韩国自研模型在本国经济中的采用。LG AI Research、SK Telecom 和 Upstage 三家现有竞赛的入围者不会自动获得追加资金,政府改为启动开放竞赛,初创公司也可参与;官员承认韩国无法与最大的美国公司竞争,但可对标中国的领先开源模型。此前竞赛启动时政府向五家入选公司承诺5300亿韩元(约3.9亿美元),新方案约为其九倍。

    nment pledged 530 billion won (about $390 million) to the five selected companies. The new plan roughly multiplies that figure by nine. For context, Google, Amazon, Microsoft, and Meta are planning combined investments of around $725 billion for 2026 alone , mostly for AI data centers. South Korean industry is already pouring money into more compute capacity. In October 2025, Samsung and SK struck a deal with OpenAI to expand AI infrastructure in the country. Then in June, Samsung, SK Hynix, and

    匹配字段正文

  3. BBC 中文

    美国国防部正式停用 Anthropic 的 AI 工具

    美国国防部一名官员向 BBC 表示,五角大楼已停止使用 Anthropic 的产品。国防部长赫格塞斯今年 2 月以国家安全为由将 Anthropic 列为供应链风险,并宣布 8 月下旬前停用其产品,但多名知情人士称直到上周该部门仍在研究、情报搜集及针对伊朗的军事行动中使用 Claude 模型。Anthropic 称这一认定史无前例且违法,已起诉特朗普政府;同期五角大楼与 Google、xAI 和 OpenAI 等公司签署了合同。

    能助長一場不負責任的軍備競賽。 今年2月,美國國防部副部長埃米爾·邁克爾(Emil Michael)被問及五角大樓為何不接納 Anthropic 的合同限制時說:「我們確實必須為中國正在做的事情做好準備。」 圖像來源,Getty Images 有限的報道也揭示出中國的努力。路透社2024年根據研究論文稱,包括解放軍軍事科學院下屬機構研究人員在內的團隊,利用 Meta 公開發布的早期 Llama 模型,開發出名為 ChatBIT 的工具,研究其在情報處理和作戰決策支援方面的用途。 另一條路徑是無人裝備。2025年九三閱兵中,中國展示了多種無人系統,涵蓋無人潛航器、無人機及「機器狼」。 競爭之外,中美也曾劃出共同底線。2024年11月,習近平與時任美國總統拜登(Joe Biden)達成共識:動用核武器的決定必須由人類掌控,不能交給 AI。但這並非針對所有軍事 AI 的禁令,也未釐清常規武器、情報分析與目標識別的使用邊界。 Anthropic 事件凸顯的,正是 AI 軍事化邊界的模糊:政府以應對競爭對手為由,要求更大的使用權限;企業則試圖守住限制。即便最終決定仍由人作出,如何避免人在高速決策

    匹配字段正文

  4. TechCrunch AI

    OpenAI 将在欧盟为 ChatGPT 文本加水印

    OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本加入不可见水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则,未来几周面向欧盟所有套餐的符合条件的用户推出。全球开发者即日起可通过 API 为部分模型开启该功能,默认关闭,OpenAI 暂不将其设为全球默认。水印通过微调模型用词形成可被检测器识别的模式,随文本复制粘贴保留,OpenAI 称其不识别用户身份且模型性能无明显变化,并同步发布与宾夕法尼亚大学、耶鲁大学研究者合著的技术报告 textGrain。测试显示替换 10% 词语为同义词会使检测率从约 92% 降至 66%,短文本、数学答案和翻译文本更难检测,因此检测器初期仅向获批研究者和专家机构开放。

    That decision drew backlash from some Claude users , who argued they had supplied “the instructions, context, decisions” while Claude was just “the tool.” OpenAI had built a text watermark before but held off on releasing it, partly over concerns that users would switch to rivals that didn’t watermark, The Wall Street Journal reported in 2024. Anthropic, Google, Meta, Microsoft, and OpenAI are among the companies that have committed to following the EU’s code of practice on AI-generated content.

    匹配字段正文

  5. TechCrunch AI

    Etched 被报出 400 亿美元以上估值的融资报价

    据知情人士透露,AI 芯片初创公司 Etched 正在评估新一轮融资报价,估值从顶级投资方的 400 亿美元到较小投资方的 500 亿美元不等,谈判尚处早期。两个月前该公司刚以 210 亿美元估值完成 7 亿美元融资,其自研芯片主打推理加速,Jane Street 领投上一轮并已接收早期系统,公司称已获得 10 亿美元客户订单。

    own backers, one person said. These fundraising talks are early, so terms of any deal, should one happen, may change. Etched declined to comment. While this may seem like a fast timetable to raise another mega round, Etched is pursuing a particularly expensive segment of the AI industry: building full AI hardware systems powered by its own proprietary chips. The person familiar with these offers said that if it raises as much as its last round, this could give Etched a cushion of as much as 3.5

    匹配字段正文

星期三

  1. The Rundown AI

    OpenAI 发布 722 篇数学论文,称推进多个公开难题

    OpenAI 从未公开的内部模型一次性发布 722 篇数学论文,归入 372 个结果族,声称解决或推进了该领域的重要公开问题。其中最激进的说法是证明了“准黎曼假设”,即素数分布这一百万美元难题的弱化版本;其中 162 篇论文的主要结果用 Lean 编写,可由计算机逐步验证。OpenAI 表示几乎所有新结果只需一次提示词,平均消耗 3 小时 ChatGPT Pro 算力,而上月的 Navier–Stokes 证明动用了 1 万个 AI 智能体。

    design, Hark’s interface is sleeker than an average assistant, but the more interesting factor might be the hardware — a potential wildcard in the AI device race featuring OpenAI, Meta, Apple. QUICK HITS ▸ Patrick set up a malware checkpoint for AI agent add-ons Today’s workflow comes from reader Patrick Illian: “AI agents such as Claude Code, Codex, and Gemini can install skills, plugins, and CLI tools in seconds. That is convenient, but each add-on runs with access to files, passwords, and acc

    匹配字段正文

  2. The Verge AI

    DoorDash 向餐厅发警告函,AI 点餐初创 Bites 借 ChatGPT 直连餐厅

    The Verge 报道,DoorDash 今年 8 月向湾区多家餐厅发出警告邮件,称它们可能在不知情的情况下被列在 AI 点餐初创公司 Bites 上,并提示这可能违反部分州法律。Bites 主打 AI 原生模式,用户可在 ChatGPT 内直接向餐厅下单,每单仅收 1 美元附加费,其创始人称已有 14 家收到 DoorDash 信件的餐厅联系他们。The Verge 实测同一份披萨订单在 Bites 上共 56.73 美元,在 DoorDash 上为 70.29 美元。DoorDash 今年 9 月也宣布正在开发通过 iMessage 用提示词下单的功能。

    l fight between AI company Perplexity and Amazon , in which Amazon sued Perplexity in 2025 to block agents from browsing and shopping on its site. Amazon has also recently blocked Meta’s Muse AI agent from shopping on its site and removed product details from order emails — data that is potentially very valuable for Google’s own agentic shopping features. Amazon’s ad business generated $19.8 billion in revenue in the second quarter of this year, driven by sponsored product listings . Bites can k

    匹配字段正文

  3. Latent Space精选

    OpenAI 公开内部模型 722 篇数学手稿,称解决 500 个开放问题中的 90 个

    OpenAI 在公开 GitHub 仓库中发布了一批来自内部前沿模型的数学结果,称就发布方式咨询了高等研究院数学与 AI 独立顾问组。这批结果据称包含 722 篇手稿、归入 372 个相关结果族,来自约 4000 个研究问题的评估,每个结果平均消耗约三小时 ChatGPT Pro 思考算力,模型本身仍未发布。评论者提到其中包含快于 n log n 的整数乘法结果,以及 1994 年以来在 3D 中开放的弹性逆问题唯一性结果,并称部分结果涉及 Riemann、Hodge 与 BSD 的进展;有分析估计约 20% 的结果是反证或反例,也有人预计部分结果经不起审查。

    -Aware Distillation: The student reaches 63.4% on unseen ALFWorld tasks versus 47.0% for the best baseline and exceeds its 8B teacher; Other papers: Amazon’s looped diffusion LMs, Meta’s MIRA meta-reasoner for research agents and Priced Guidance, which measures LLM research novelty through compression; Optimizer claim: ANVIL III reportedly reaches 0.020–0.028 nats lower loss than Muon from 124M to 1.2B parameters. The authors say this implies 50% compute savings at 8x-Chinchilla, with less tunin

    匹配字段正文

星期一

  1. The Rundown AI

    OpenAI 安全报告负责人 David Robinson 离职,称公司文化“broken”

    在 OpenAI 工作 3.5 年的安全负责人 David Robinson 离职,并在 The Atlantic 撰文称公司文化“broken”,认为 AI 安全风险已到“试错期结束”的时候。他此前负责 12 次前沿模型发布的安全报告,并起草了公司现行的 Preparedness Framework,主张实验室应像核电站和机场一样设置多层冗余。他的离职紧随 OpenAI 解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 之后,后者被指将敏感信息传给外部安全组织。

    s 🧑‍💻 Tines 3B - Empower teams to build with AI while giving IT and security complete visibility, control, and governance ; 🔵 Dot - OpenAI’s new always-on agent; 🖥️ Muse Gadgets - Meta's open-source code for building DIY Muse devices; 🐦 Kolibri - Aleph Alpha's open German-English reasoning model Sponsored Listing 📰 Everything else in AI today OpenArt launched an AI video agent that turns a concept into a complete, long-form film, anime, or ad, handling the storytelling and editing rather than ju

    匹配字段正文

星期六

  1. The Guardian Technology

    加州签署多项新法,限制雇主用 AI 决定解雇与监控员工

    加州州长 Gavin Newsom 于周四签署一组新法,禁止雇主完全依赖 AI 决定是否解雇员工、用 AI 预测员工情绪状态或收集神经数据,并要求企业在因 AI 裁员时通知员工,同时禁止在工作场所卫生间使用 AI 监控。加州是首批针对该技术推出成体系职场监管的州之一,科罗拉多、康涅狄格、伊利诺伊和得州此前也通过了范围更窄的单项法律。加州劳工联合会主席 Lorena Gonzalez 称这是转折点,但旧金山加州大学法学院 AI Law & Innovation Institute 负责人 Robin Feldman 指出,这些法案没有私人执行机制,员工无法起诉,只能由政府执法。

    nforce the laws.” The new regulations come amid a backdrop of record AI spending at big tech companies along with massive job cuts. But workers have started pushing back. In June, Meta paused a program that tracked workers’ computer activities to train its AI models. And one month later, dozens of employees filed a lawsuit claiming the tech company’s AI tools targeted those with disability accommodations or on medical or parental leaves for layoffs. Meanwhile, safety concerns, including fears th

    匹配字段正文

  2. The Decoder

    Anthropic 联合创始人据报向宗教领袖表示担心造出会永久受苦的存在

    据纽约时报报道,Anthropic 自 2025 年秋季起秘密邀请数十位宗教学者到其办公室,讨论 Claude 是否可能具有意识,参与者均需签署保密协议,联合创始人 Christopher Olah 把该语言模型当作可能有感知的存在,并请来宾帮助对它进行道德教育。Anthropic 表示保密协议已在夏季解除。Olah 向纽约时报称自己确实不确定模型是否有意识,有与会者称他担心自己造出了会永久受苦的东西。Anthropic 还向访客展示了模型内部对应爱、恐惧、悲伤或愤怒等输出的情绪向量,并有一份 84 页、被称为 Soul Doc 的 Claude 宪法,由内部哲学家 Amanda Askell 主笔。批评者认为这是在事后逆向工程本应一开始就嵌入设计的伦理,把模型当作独立道德主体也可能模糊制造者的责任。

    public after finding out that Olah himself had spoken to the NYT. Olah, 34, runs the Anthropic team trying to figure out why AI models behave the way they do. He likes biological metaphors for neural networks: computer scientists build the trellis, the network "grows" on it. It sounds like humble science talk, but it also does something specific. Describing a mathematical object as a growing organism makes questions about its inner life feel more natural than they would for a piece of software.

    匹配字段正文

  3. 虎嗅

    23岁辍学生创办的AI助手Instinct两个月估值从25亿美元升至100亿美元

    AI助手Instinct在不到两个月内估值从25亿美元升至100亿美元,C轮由红杉资本、Benchmark、Coatue领投,全职员工仅14人。创始人Noah Shinn现年23岁,本科退学,曾以一作身份在NeurIPS发表Agent论文Reflexion,后加入Sierra担任研究科学家。Instinct通过授权邮箱、日历、信用卡等权限,以短信或电话指令替用户订票、购物、退订和保险交涉,用户平均每月经由它支出超1300美元,但其过度索取权限也引发隐私争议。

    老股东跟投。 当时,Instinct已经因为依赖过度授权,陷入巨大争议。但这并不能挡住资本押注下一代AI应用的热情。 仅仅不到2个月后,Instinct就宣布完成了C轮融资,估值100亿美元(约合人民币670亿元),由红杉资本、Benchmark、Coatue领投。 短短2个月,估值翻了4倍。全职员工只有14个人,AI浪潮中,又一个00后造富神话。 9月初,Meta也宣布发布新智能体Muse,上线不到两周,Muse就登顶美国App Store和Google Play免费应用榜。因为这款应用,Meta市值增加了数千亿美元。 相比之下,即便两个月估值翻四倍,Instinct也显得很“便宜”。有Muse和Instinct打底,看来AI应用这把火,又要烧起来了。 Instinct由Spear Street Technology公司推出,创始人是只有23岁的Noah Shinn。 按照公司的说法,Instinct可以“高效地管理用户的生活”:用户把邮箱、日历、短信、位置等权限授予它,然后通过iMessage、WhatsApp发短信,或者直接打电话下达指令,剩下的交给它来办。 具体来说,买菜、订演

    匹配字段正文

  4. Newcomer 新闻长文

    Anthropic 筹备 IPO,OpenAI 拟以 1.4 万亿美元估值再融 300 亿美元

    Anthropic 正筹备 IPO,路透获得的招股书草稿显示其去年运营亏损约 80 亿美元、营收 46 亿美元,并承诺未来在云与算力基础设施上投入 5180 亿美元;公司已推迟原定 10 月的上市,现计划在感恩节前的 11 月开始交易。OpenAI 则在早期洽谈新一轮私募融资,目标至少 300 亿美元、估值 1.4 万亿美元,以支撑到 2027 年 IPO。此外,AMD 宣布以 82 亿美元全股票交易收购李飞飞创办的 World Labs。

    Tom Dotan's avatar

    Odin’s Dan Gray illustrates how the VCs with the most capital behind them have typically backed the most unicorns. Salesforce agrees to buy Listen Labs for reportedly $2 billion. Meta poaches MongoDB’s CEO. OpenAI decides to scrap plans for its Astra rollout over safety concerns. Vinod Khosla fires off against a founder he invested in after two of his portfolio companies, Factory and Cognition, brawl over a poached leader. Instinct rakes in fresh funding from Coatue at a $10 billion valuation.

    匹配字段正文

星期五

  1. Wired AI

    ChatGPT Mac 应用漏洞可被利用窃取聊天记录等敏感数据

    Objective-See Foundation 研究人员在 OpenAI 的 ChatGPT macOS 应用中发现了现已修复的漏洞,攻击者可借此接管该应用,读取全部聊天记录及浏览器会话等数据。该漏洞源于应用内受信任的脚本解释器会接受不受信任的脚本,恶意脚本只需连续三次启动解释器即可绕过签名校验,利用前提是目标机器已被植入恶意软件。OpenAI 在 9 月 25 日的系统变更日志中确认了该漏洞与修复,研究员 Patrick Wardle 将在 11 月的 Objective by the Sea 会议上展示对多个 AI macOS 应用漏洞的分析。

    a number of AI macOS application bugs at Objective by the Sea, an Apple-focused security conference in November. He recently found a flaw, now patched, in the dictation feature of Meta’s new Muse AI assistant that could have been exploited by a local attacker to grab a mishandled authentication token and gain access to user data. And he says that he has already submitted a new vulnerability finding to OpenAI related to the integration between ChatGPT and the company’s new always-on Dots AI assis

    匹配字段正文

  2. 财联社

    特朗普拟将人工智能更名为超级智能,OpenAI 计划以 1.4 万亿美元估值融资 300 亿美元

    特朗普表示将签署行政令把人工智能更名为超级智能,并称不会扼杀 AI 发展,此前他会见多家科技企业负责人并签署涉及 AI 内部和外部审查的文件。OpenAI 据悉计划以约 1.4 万亿美元投前估值融资至少 300 亿美元,同时推出全天候自主智能体 Dots 和 GPT-6.1 Sol 模型。英伟达正与保险公司讨论 AI 基础设施融资风险转移方案。

    PT-6.1 Sol模型】 OpenAI推出GPT-6.1 Sol模型,其性能接近Astra,但标准词元价格仅为Astra的五分之一。同时推出全天候自主智能体Dots。并表示,将于未来数日推出GPT‑6.1 Sol超快版。 Dots可跨应用自主推进用户设定的目标,基于GPT-6 Astra模型,用户可通过Slack和Teams与其沟通。报道称,这一产品意在与Meta争夺可自主工作的AI市场。 【特斯拉签署300亿美元融资安排 包括循环信贷和延迟提款贷款】 据美国证交会(SEC)文件显示,特斯拉签署多项融资安排,包括200亿美元三年期延迟提款定期贷款额度、80亿美元五年期循环信贷额度以及20亿美元364天循环信贷额度。文件显示,特斯拉同时终止原有循环信贷协议。新的五年期循环信贷额度允许开立最高5亿美元信用证,三年期延迟提款定期贷款额度将于2029年9月29日到期。 巴克莱:若生产率增长持续加快 美国30年期国债收益率或升至6% 巴克莱资本(Barclays Capital)美国利率研究主管在报告中表示,美国30年期国债收益率有升至6%的空间,因为本月美债市场的抛售尚未计入生产率增速持续上

    匹配字段正文

星期四

  1. 财联社

    特朗普白宫宴请AI领袖并签署AI自我监管协议

    美国总统特朗普周二在白宫会见马斯克、黄仁勋、苏姿丰、皮查伊、纳德拉、布罗克曼等AI领袖,重申反对政府干预,提出“自我监管”是应对AI脱离人类控制的解决之道。他表示政府正考虑成立一个10人委员会监督AI行业,并与科技企业CEO签署了一项具有“道德约束力”的AI协议,呼吁各公司通过自我约束和行业互律保障AI安全。Anthropic CEO阿莫代伊称具体应对机制仍在讨论中,该技术仍构成“真实的风险”。

    项具有“道德约束力”的AI协议,通过“自我约束和行业互律”来约束各公司 。 特朗普在“真实社交”平台上发布了该协议的副本,这份文件呼吁每家参与公司实施四项不同的措施来保障AI技术的安全,并补充称,未来“将这些步骤编入法律或法规可能是有意义的”。 一些与会高管表示,该协议包含了一系列承诺,涉及检测新模型问题的技术手段、内部风险审查、外部审计以及其它相关措施。 Meta CEO马克·扎克伯格称该协议是“一个开端”,而其他人则暗示一些细节仍需进一步敲定。 Anthropic CEO达里奥·阿莫代伊表示:“关于应对这些风险的具体机制,目前仍在讨论之中”。他表示,在确保美国赢得AI竞赛以及安全地赢得竞赛方面已取得进展,但他同时强调,该技术仍然构成“真实的风险”。 此次会议正值美国近期接连曝出多起令人担忧的AI越界事件之际。据报道,OpenAI和Anthropic以及安全研究人员正在调查数万起AI安全事件。 而在佛罗里达州,州检察长于周一向一名法官提出申请,要求法院禁止 OpenAI 在没有外部监督的情况下开发新的人工智能模型。这项请求是该州起诉 OpenAI、指控其伤害未成年人相关诉讼的一部分。

    匹配字段正文

  2. 财联社

    特朗普签署行政令,要求联邦机构用超级智能(SI)替代人工智能(AI)

    美东时间周二(29日),美国总统特朗普签署题为“开启超级智能时代”的行政令,要求所有行政部门和机构在官方信函、公共沟通、政策及其他文件中使用“超级智能”(SI)一词代替“人工智能”(AI),“人工智能”和“AI”将不再被使用。白宫称该命令旨在认可不断进步的技术前沿。特朗普还与谷歌CEO皮查伊、马斯克、Anthropic CEO阿莫代伊、扎克伯格、OpenAI总裁布罗克曼和英伟达CEO黄仁勋签署了一份“白宫超级智能协议”,副标题为“前沿责任联合承诺”,签署方同意定期会面制定安全标准,特朗普称该文件“具有道德约束力”。

    说道:“这个名称是由全世界最伟大、最聪明、最杰出的人们正式更改的。” 但这些科技公司高管似乎签署了一份单独的两页文件,特朗普在他的“真相社交”账号上分享了这份文件。该文件并未声明要更改名称,只是在其标题中提到了特朗普对人工智能的新称呼:“白宫超级智能协议”。 该协议副标题为“前沿责任联合承诺”,其中表示签署方“认为每家公司都有责任以安全且能建立信任的方式开发自己的技术”。该协议指出,这包括实施“健全的内部流程和控制,以确保其技术按预期运行”,并建议增加四层控制措施。 根据该文件,签署方同意“定期会面”以制定安全标准,文件还补充说,“随着时间的推移,将这些步骤编纂成法律或法规可能是有意义的”。 除了特朗普之外,上述帖子还显示,签署该协议的还有六位科技公司高管:谷歌CEO桑达尔·皮查伊、特斯拉以及SpaceX首席执行官埃隆·马斯克、Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)、Meta首席执行官马克·扎克伯格、OpenAI总裁兼联合创始人格雷格·布罗克曼以及英伟达CEO黄仁勋。 当被问及该文件是否具有任何约束力时,特朗普在白宫外表示,该文件“具有道德约束力” 。

    匹配字段正文