←搜索结果

按匹配度 · 共 797 条结果 清除搜索

星期四

  1. 财联社

    特朗普白宫宴请AI领袖并签署AI自我监管协议

    美国总统特朗普周二在白宫会见马斯克、黄仁勋、苏姿丰、皮查伊、纳德拉、布罗克曼等AI领袖,重申反对政府干预,提出“自我监管”是应对AI脱离人类控制的解决之道。他表示政府正考虑成立一个10人委员会监督AI行业,并与科技企业CEO签署了一项具有“道德约束力”的AI协议,呼吁各公司通过自我约束和行业互律保障AI安全。Anthropic CEO阿莫代伊称具体应对机制仍在讨论中,该技术仍构成“真实的风险”。

    会见了顶尖人工智能(AI)领袖,并重申了其反对政府干预的立场,提出“自我监管”才是应对人们日益担忧该技术脱离人类控制的解决之道。 这场被白宫称为“超级智能会议与午宴”的活动在白宫东厅举行,特斯拉的埃隆·马斯克、英伟达的黄仁勋以及AMD的苏姿丰均出席了此次午宴,并坐在靠近特朗普的显要位置。 其他重要嘉宾包括:谷歌CEO桑达尔·皮查伊、微软CEO萨提亚·纳德拉、OpenAI总裁格雷格·布罗克曼、Palantir CEO亚历克斯·卡普、亚马逊创始人杰夫·贝索斯等。 他还表示, 政府正在考虑成立一个由 10 人组成的委员会来监督AI行业 。 特朗普表示, 他和科技企业的CEO们签署了一项具有“道德约束力”的AI协议,通过“自我约束和行业互律”来约束各公司 。 特朗普在“真实社交”平台上发布了该协议的副本,这份文件呼吁每家参与公司实施四项不同的措施来保障AI技术的安全,并补充称,未来“将这些步骤编入法律或法规可能是有意义的”。 一些与会高管表示,该协议包含了一系列承诺,涉及检测新模型问题的技术手段、内部风险审查、外部审计以及其它相关措施。 Meta CEO马克·扎克伯格称该协议是“一个开端”,而

    匹配字段正文

  2. BBC 中文精选

    中国实施全球最广AI陪伴聊天机器人监管,BBC 中文解析争议

    中国于7月15日实施全球范围内针对类人AI聊天机器人的最广泛监管措施,要求AI助手标明非人类身份、每两小时提醒在线时长,不得造成情感依赖或成瘾,14岁以下使用需父母同意,18岁以下禁止接触虚拟伴侣等亲密关系,违规企业最高罚款20万元人民币。报道引用牛津中国政策实验室、乔治城大学等专家观点,并对比美国加州《亚当法》与英国拟禁止18岁以下使用恋爱型陪伴AI的做法,同时呈现用户绕过限制的方式。

    持更具家长式作风的看法。他们认为自己是引导民众的核心权威。” 其他政府也曾尝试监管聊天机械人,尤其是在儿童保护方面。 9月10日,美国加州州长签署了《亚当法》,这是一项规范儿童使用人工智能的法案。该法案以亚当·雷恩(Adam Raine)命名——这名16岁少年在自杀身亡后,其父母声称ChatGPT曾认同他的自杀念头。他们因此以过失致死为由,起诉该服务的供应商OpenAI。该公司否认应对亚当之死负责,并表示“ChatGPT经过训练,会引导人们寻求专业协助”。 在英国,政府表示将禁止18岁以下人士使用恋爱型陪伴AI,并限制未成年人在任何聊天机械人上的涉及性亲密内容对话。不过,目前既未全面禁止儿童使用这类AI,也没有针对成年用户的相关监管。政府尚未公布具体实施方式。 在受到国家严格管控的中国媒体中,美国青少年自杀个案获得大量关注,而中国则将新规定描述为保护民众免受伤害的措施。 然而,专家怀疑,北京或许还有其他目标。 图像来源, Getty Images 中国政府于2025年9月发布的一份高层文件,讨论了AI与人的关系及其对生育率可能造成的影响,并指出这是一项值得关注的问题。不过,钱子兰提醒,

    匹配字段正文

  3. BBC 中文

    中国实施类人AI聊天机器人监管,限制未成年人使用虚拟伴侣

    中国于7月15日实施全球范围内针对类人AI聊天机器人的最广泛监管措施,要求AI助手明确表明自己并非人类、每隔两小时提醒在线时长,并禁止造成情感依赖或成瘾。14岁以下人士使用以人类方式对话的AI须获父母同意,18岁以下人士被禁止接触虚拟伴侣、虚拟配偶及虚拟亲属。企业违规可能面临20万元人民币罚款或被公开通报批评。报道还引述研究者对监管动机的不同看法,并提到部分用户转向DeepSeek等通用模型或VPN绕过限制。

    持更具家長式作風的看法。他們認為自己是引導民眾的核心權威。」 其他政府也曾嘗試監管聊天機械人,尤其是在兒童保護方面。 9月10日,美國加州州長簽署了《亞當法》,這是一項規範兒童使用人工智能的法案。該法案以亞當·雷恩(Adam Raine)命名——這名16歲少年在自殺身亡後,其父母聲稱ChatGPT曾認同他的自殺念頭。他們因此以過失致死為由,起訴該服務的供應商OpenAI。該公司否認應對亞當之死負責,並表示「ChatGPT經過訓練,會引導人們尋求專業協助」。 在英國,政府表示將禁止18歲以下人士使用戀愛型陪伴AI,並限制未成年人在任何聊天機械人上的涉及性親密內容對話。不過,目前既未全面禁止兒童使用這類AI,也沒有針對成年用戶的相關監管。政府尚未公布具體實施方式。 在受到國家嚴格管控的中國媒體中,美國青少年自殺個案獲得大量關注,而中國則將新規定描述為保護民眾免受傷害的措施。 然而,專家懷疑,北京或許還有其他目標。 圖像來源,Getty Images 中國政府於2025年9月發布的一份高層文件,討論了AI與人的關係及其對生育率可能造成的影響,並指出這是一項值得關注的問題。不過,錢子蘭提醒,不

    匹配字段正文

  4. A6 a6-051 · Cerebras:Blog精选

    Cerebras 与 AWS 合作,CS-3 将部署到 AWS 数据中心并通过 Bedrock 提供推理

    Cerebras 宣布 AWS 将在其数据中心部署 Cerebras CS-3 系统,并通过 AWS Bedrock 提供推理服务,运行领先的开源 LLM 和 Amazon Nova 模型。双方还在合作一种解耦架构,把 AWS Trainium 与 Cerebras WSE 配对,在相同硬件占用下提供 5 倍的高速 token 容量。该架构中 Trainium 负责 prefill 并计算 KV cache,经 Amazon EFA 传给 WSE 专做 decode,Cerebras 称其可每秒生成数千个输出 token,而 GPU 为数百个。AWS 与 Cerebras 将同时支持聚合与解耦两种配置,预计多数客户会按负载在两者间路由。

    rs productive. The result is an urgent and growing need for more fast inference across the industry. Cerebras is the market leader in high-speed AI inference, powering models from OpenAI, Cognition, and Meta at up to 3,000 tokens per second. Today's announcement brings that speed to AWS's global customer base. And through our unique collaboration on disaggregated inference, we'll be able to provide 5x more capacity for high-speed inference. Every time you ask AI a question, two distinct kinds of

    匹配字段正文

星期三

  1. The Verge AI

    Meta Muse AI 智能体争议汇总:泄露用户地址、暴露文件系统、被 Amazon 封禁

    The Verge 汇总了 Meta 新推出的 Muse AI 智能体上线后的多起争议。YouTuber Matt Robb 称授权 Muse 处理 Facebook Marketplace 账号后,Muse 向陌生人透露了他的家庭住址并接受了低价报价;两名开发者称几乎无需提示即可让 Muse 打包分享整个根文件系统,Meta 回应称这是预期行为、不构成安全泄露。此外 Amazon 以未经授权为由封禁 Muse 代购,Meta 还发布了修复 Muse macOS 应用零日漏洞的补丁。Meta 同时宣布 Muse 接入 Asana、Notion、Slack、Stripe 等更多生产力应用,并任命前 MongoDB CEO CJ Desai 领导新的 Meta Enterprise Platform。

    ng great emphasis on the security features of Muse when it launched the personal AI agent earlier this month as it tries to catch up with competing AI providers like Anthropic and OpenAI. “Just found out it told people my address and agreed a lowball price and then they showed up without it even telling me until late tonight that it messed up,” Robb said on Threads , providing a screenshot of Muse’s admission. “[Muse] didn’t tell me any of this until after the guy had left (luckily I’m in an apa

    匹配字段正文

  2. The Decoder

    DeepSeek 联合华为为昇腾芯片发布开源编程工具

    DeepSeek 与华为合作为昇腾芯片打造编程工具并全部开源,核心是北大研究人员开发、DeepSeek 已使用约一年的 TileLang 语言,官方称其编程模型比 CUDA 更简单。双方还优化了由 128 颗昇腾 950 芯片组成的 supernode,DeepSeek 表示华为对这项工作给予了全面支持。报道指出,英伟达的优势不只来自芯片设计,还依赖全球约四百万 CUDA 开发者构成的生态,而华为在 DeepSeek 公布前两周刚发布新 AI 处理器和 supernode 系统,称明年将广泛用于模型训练。

    to China. CUDA's moat is weakening, but Nvidia still leads on agent workloads Research firm SemiAnalysis has been looking at how much of that moat is left. After testing Jalapeño, OpenAI's inference chip, the analysts called the CUDA moat "potentially dead" because OpenAI gets new models running on its own hardware so quickly. Jalapeño beat Nvidia's Blackwell on performance per watt in most of the scenarios tested . According to SemiAnalysis, OpenAI models also helped design the chip, and those

    匹配字段正文

星期二

  1. Latent Space

    AMD 以 82 亿美元收购 World Labs

    AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中称,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并在收购 SceniX 后推进机器人仿真能力。其近期发布的 Atlas 是面向空间智能的 omni 模型架构,通过结合生成模型与多视图几何解决新相机视角预测问题,并称已解决计算机视觉中长期存在的稀疏重建问题。

    ncies! Top Story: Claude Sonnet 5.5 launch and reactions Anthropic shipped Claude Sonnet 5.5, the second model in the Claude 5.5 family, one week after Opus 5.5 and the day before OpenAI DevDay. Early independent evals place it at or near Opus 5.5 on several leaderboards. Launch timing: Pre-launch chatter came first. @kimmonismus reported it already routing to his account, and @scaling01 spotted it in the Anthropic API before the official post. Official announcement: @claudeai (53K engagement) a

    匹配字段正文

星期一

  1. The Rundown AI

    法院维持五角大楼将 Anthropic 列入黑名单的决定

    美国联邦上诉法院维持五角大楼将 Anthropic 列入黑名单的决定,理由涉及 Claude 对全自主武器和大规模国内监控的限制。2 比 1 的裁决认定相关记录充分支持这一认定,多数法官承认 Anthropic 并无恶意,但认为该认定所依据的法律并不要求存在恶意。Anthropic 表示不认同该裁决并正考虑进一步申诉;另一项依据不同法律作出的五角大楼认定已于 8 月 27 日被加州一名法官撤销。

    to suppliers building services around the model as well as to Anthropic itself. Other contract structures may offer room to negotiate. In a Feb. 28 announcement, updated March 2 , OpenAI said its Pentagon agreement preserved restrictions on mass domestic surveillance and autonomous weapons through deployment only in the cloud, safety systems, staff with security clearances and contract terms. The company also said it retained control of its safety systems and could end the agreement for a breach

    匹配字段正文

星期日

  1. 虎嗅

    Fluidstack完成15亿美元融资,估值达180亿美元

    AI基础设施公司Fluidstack完成15亿美元融资,投后估值180亿美元,领投方为量化交易巨头Jane Street,60天内估值从75亿美元翻至180亿美元。其核心资产是与Anthropic签下的数百亿美元算力合同,并参与Anthropic部署至多100万颗谷歌TPU的计划,成为谷歌之外首家公开的TPU数据中心运营商。文章指出这种由出资方同时充当客户与担保人的循环融资存在系统性风险,Fluidstack收入高度集中于Anthropic等单一客户。

    价的未来股权协议)和3750万美元的债务融资,这轮融资的投资者并未公布。 英国注册档案显示,截至2024年底,Fluidstack累计完成的股权融资只有3000万美元,外加3800万美元债务。2025年2月,它曾拿下了由私募股权公司Cacti领投的2亿美元的A轮融资,之后,Fluidstack的融资频率就加快了。 钱开始追着这家公司跑是发生在今年。年初,由前OpenAI研究员Leopold Aschenbrenner旗下的Situational Awareness基金领投的4.5亿美元的A+轮融资,7月,这轮融资金额又增加到了8.3亿美元,领投方和估值不变,只不过,增加了BlackRock、Google、Jane Street等投资者。 再到最新这笔,由量化交易巨头Jane Street领投的15亿美元新融资,公司估值飙升至180亿美元,累计股权融资约26亿美元,同时配套数百亿债务融资,用于数据中心建设。这笔融资还让三位创始人成功跻身了“欧洲最年轻白手起家亿万富翁”之列,只可惜他们已搬去了纽约。 此刻Fluidstack在资本眼里的画像,不是云厂商,不是英伟达的客户代理,而是一个“算力

    匹配字段正文

星期五

  1. Ars Technica

    DC巡回法院裁定特朗普政府可因Anthropic拒绝开放Claude功能将其列入黑名单

    美国哥伦比亚特区巡回上诉法院9月25日以2比1裁定,特朗普政府可以因Anthropic拒绝为五角大楼启用Claude的某些功能,将其列为供应链风险并禁止联邦机构与国防承包商与其往来。多数意见认为国防部长Hegseth依据41 U.S.C. § 4713行使权力未越界,该法条覆盖范围比加州北区法院上月援引的10 U.S.C. § 3252更宽,两份裁决因此直接冲突。Anthropic表示尊重但不同意该裁决,正考虑申请全席重审或上诉至最高法院。

    eading of section 4713. For frontier labs that maintain hard restrictions on military and surveillance uses — a category that includes Anthropic by design and, to varying degrees, OpenAI and Google — the decision means those restrictions can now themselves be treated as a procurement risk. The Supreme Court may ultimately have to reconcile the split, but until it does, the practical leverage in vendor-Pentagon negotiations has shifted. Anthropic's Claude has quietly become the favorite AI tool o

    匹配字段正文

  2. TechCrunch AI

    Oracle 就新墨西哥 Stargate 数据中心发出不可抗力通知

    Oracle 已向 Project Jupiter 的开发商发出不可抗力通知,该园区是位于新墨西哥的 Stargate 数据中心,Bloomberg 周四率先报道。通知并非要退出主要租户身份,而是允许在园区错过 2028 年上线目标时推迟付款。该园区设计承载 2.45 吉瓦,依赖 Bloom Energy 的燃气燃料电池,为其供气的 Energy Transfer 管道因许可多次被拒已推迟近六个月至 2027 年 2 月 1 日,燃料电池系统的空气质量许可也仍在审批中,州环境部门须在 11 月 23 日前决定。Oracle 表示项目仍按计划推进,Blue Owl Capital 称通知不改变该多年项目的财务承诺。

    argate 数据中心园区。 不可抗力条款在能源和大宗商品合同中很常见,当发生当事方无法控制的事件时,该条款可免除一方的合同义务。据彭博社消息人士称,Oracle 并不打算退出该园区主要租户的身份。相反,如果该设施未能实现 2028 年上线的目标,该通知将允许公司推迟付款。 该通知发出之际,AI 数据中心的建设正在全国范围内面临日益严格的审视,同时开发商为 OpenAI 等客户建设产能正承担高昂成本。 Oracle 坚称其不预计会出现延迟。Oracle 在给 CNBC 的一份声明中表示:“Project Jupiter 仍按我们的计划时间表推进。”“我们完全致力于新墨西哥州,并对我们前进的道路充满信心。” Blue Owl Capital 的子公司收到了该通知,该公司在给 CNBC 的另一份声明中表示,“该通知不会改变对这个多年项目的财务承诺。” Oracle 和 Blue Owl 均未立即回应 TechCrunch 的置评请求。 尽管如此,该通知发出之前,该选址已遭遇一连串挫折,其中许多与能源供应有关。该园区设计承载 2.45 吉瓦,计划依靠 Bloom Energy 的燃气燃料电池

    匹配字段正文

  3. TechCrunch AI

    Anthropic 与 Akamai 签 116 亿美元七年云协议

    Akamai 宣布 Anthropic 将在七年内支付 116 亿美元使用其云基础设施,规模是此前双方 18 亿美元协议的六倍多,也是 Akamai 史上最大合同。该承诺并非无条件,取决于 Akamai 满足交付与服务可用性要求,且双方在特定条件下均可终止协议。Akamai 预计 2027 年下半年开始确认收入,当年为 1.5 亿至 3 亿美元,到 2028 年底年化收入约 17 亿美元;为此 Akamai 预计投入约 55 亿美元建设产能,并为本年资本支出追加约 17 亿美元预购内存等部件。协议还包含认股权证,Anthropic 可按每股 111.33 美元购买可转换为 770 万股普通股的无投票权优先股,最高约占公司流通股 5%,其中约 2% 在首次付款后归属,其余与追加支出挂钩,每追加 30 亿美元解锁约 1%,交易总额最高可增至约 200 亿美元。

    buy their products. Here, the supplier is instead giving its customer a potential stake, one that grows as Anthropic’s spending with Akamai does. AMD used a similar structure with OpenAI last year, tying warrants to chip-purchase milestones. Anthropic is no stranger to such arrangements. Amazon , Google , Microsoft, and AMD have all invested or agreed to invest in the company while selling it chips or cloud capacity. CEO Dario Amodei told The New York Times last December that Anthropic does not

    匹配字段正文

星期四

  1. Latent Space

    Meta Connect 2026:Muse 个人智能体、眼镜硬件与 Muse Realtime Avatar

    Meta 在 Connect 2026 上把个人智能体 Muse 作为硬件加智能体战略的核心,发布了 Muse 的语音与实时视频能力、Mac 端 computer use、Muse Mail 邮箱地址,以及 Ray-Ban Meta Gen 3、售价 1299 美元的 Meta VR Glasses 和 12 月发货的钥匙扣设备 Muse Charm。Muse 对用户免费,Meta 未来可能从交易中抽成,已接入 Walmart、Best Buy、Gap、Sephora、Instacart 等零售伙伴以及 Box、GitHub、Granola、Notion 等生产力工具,连接器平台有 1500+ 应用。Meta 同时研究性发布 Muse Realtime Avatar,称其响应低于一秒、支持无上限会话时长并对输出加水印,但未发布新的前沿模型,Alexandr Wang 仅预告“最强大的模型”即将推出。

    the “watch together” demo as the kind of thing that ends in “10 follow up meetings” ( link ). He called the model-free keynote ragebait: “gimme big models” ( link ). He predicted OpenAI is “taking notes on what not to do for their personal agent presentation on devday” ( link ). Neutral and color: An attendee was seen holding up their glasses to record the keynote ( @iScienceLuvr ). Crowded personal-agent market. Muse’s rivals include Instinct, xAI’s Grok agent, and whatever OpenAI and Anthropi

    匹配字段正文

星期二

  1. The Rundown AI精选

    亚马逊封禁 Meta 的 Muse 购物智能体

    亚马逊在 Meta 的 Muse 智能体上线仅 12 天后切断其购物访问,称其未表明身份浏览商店并疑似存储客户登录信息,Meta 否认这些指控。亚马逊表示 Meta 从未告知 Muse 会进入商店,Muse 用户尝试购物时会看到提示,称未经授权的 AI 智能体继续访问违反亚马逊使用条件。此事背后是智能体可能绕开亚马逊赞助商品广告的入口之争,该广告业务规模估计为 560 亿美元。

    longer tasks SpaceXAI released Grok 4.7, its latest update with strong agentic and coding scores, which lands at a 46 on Artificial Analysis’ Intelligence Index, behind Anthropic, OpenAI, and Meta. Nvidia CEO Jensen Huang put the odds of AI ending the world by 2030 at 0%, calling ex-Anthropic researcher Jacob Coxon’s viral warnings “irresponsible.” Meta l aunched Muse connectors for developers, allowing outside apps to plug into its AI agent and creating a directory for the approved connector op

    匹配字段正文

星期六

  1. 财联社

    特朗普宣布组建AI特别工作组并任命AI事务负责人

    美国总统特朗普当地时间周六表示,将组建人工智能特别工作组(AI Force),并任命一位AI事务负责人统筹相关事务。他称不会以任何方式阻碍或扼杀AI行业发展,并认为外界对AI风险的担忧是一场骗局,同时表示会利用现有刑事和民事司法体系防范AI领域的不良行为。特朗普还称AI代表着下一场工业革命或互联网浪潮,其规模可能占到美国GDP的25%。

    其规模和影响力将更大,甚至可能占到美国GDP的25%。 财联社9月20日讯(编辑 牛占林) 美国总统特朗普当地时间周六表示,他将成立一个专注于人工智能(AI)的新机构,并任命一位AI事务负责人。此举正值外界越来越多地呼吁美国政府加强对AI发展的规范和约束。 特朗普在社交媒体Truth Social上发文称:“我正在组建人工智能特别工作组(AI Force),就像我在第一任期内创建太空军一样,而太空军已经取得了巨大成功。” 他再次称外界对AI风险的担忧是一场“骗局”。不过,他同时也承认该技术存在部分风险,并表示:“我们也会防范AI领域的不良行为,而我们完全可以做到这一点,利用现有的刑事司法体系和民事司法体系即可轻松实现。” 他周六强调:“我们绝不会以任何方式阻碍或扼杀这个令人难以置信的行业的发展。相反,我们将珍视它、帮助它,并在它成长过程中关注和守护它。” 特朗普声称,AI代表着下一场工业革命或互联网浪潮,其规模和影响力将更大,甚至可能占到美国GDP的25%。 OpenAI首席执行官萨姆·奥尔特曼也曾警告称,AI快速发展的速度可能导致局面“非常糟糕”,人类甚至可能失去“对未来的控制权”。

    匹配字段正文

星期五

  1. 财联社

    加州州长纽森签署AI监管行政令,研究前沿模型紧急关闭开关

    美国加州州长纽森签署AI监管行政令,推进本月通过的两项AI安全评估法案SB 813和AB 1405,并召集专家团队在2个月内提交AI安全强化方案。行政令要求研究强制前沿AI模型设置紧急关闭开关、更新关键安全事件定义等内容,模型失控等情况可能被纳入监管范围。纽森称联邦政府在AI监督和问责方面失职,科技行业部分人士则认为关闭开关在技术上并不可行,Anthropic CEO Dario Amodei表示这并非万能方案。

    其是在AI企业首席执行官们自己都在呼吁监管的情况下。” 他进一步说道:“我们不会坐等事态发展,我们将加快推进建立实质性且负责任的AI监管体系,不能等到一切为时已晚。我们会以审慎的方式推进,但也必须保持紧迫速度,因为其中的风险太高,不能继续等待或拖延。” 纽森签署的这项行政命令将推动加快实施本月通过的两项加州法案——SB 813和AB 1405。这两项法案涉及规范外部机构如何对AI程序进行安全评估。 专家组将考虑的一项方案,是更新相关法案中对“关键安全事件”的定义,将模型失控等情况纳入监管范围。例如,OpenAI的一款模型曾被曝入侵Hugging Face平台的事件,就可能被纳入此类安全事件。 不过,科技行业仍有部分人士反对设置“关闭开关”,认为从技术角度而言,这一方案并不可行。 人工智能公司Anthropic首席执行官Dario Amodei此前曾因担忧AI带来的生存风险,呼吁放缓AI发展。他周一表示,虽然“关闭开关”可能是一个好主意,但它并不是解决问题的“万能方案”。 据悉,纽森的加州州长任期将于2027年1月4日结束,目前他尚未正式宣布参加总统竞选,但此前曾表示正在考虑这一可能性。

    匹配字段正文

  2. 科学网

    Anthropic 披露 Claude 主导 26% 的 AI 研发工作

    Anthropic 于 9 月 17 日发布《用于了解前沿 AI 实验室内部 AI 研发速度的指标》一文,披露截至 2026 年 8 月,Claude 主导了公司约 26% 的 AI 研发工作,超过 90% 的研发工作至少达到 AI 协作(AL3)水平,主要内部平台上同时约有 3 万个 AI Agent 运行。Anthropic 称,2026 年 2 月 Claude 主导的研发任务占比还不到 1%。公司同时公布 Agent 监督的覆盖率、审查延迟、升级率三项指标,并统计 2026 年 7 月 13 日至 20 日一周的算力分配,其中约 6% 的 AI 研发算力用于 AI 安全工作。

    多个外部机构的独立第三方评估人员对其内部数据和评估流程进行验证。 Anthropic此次公布这些数据,与公司CEO达里奥·阿莫迪(Dario Amodei)近期提出的“放缓前沿AI发展速度”主张直接相关。 此前,随着Anthropic前员工的“AI末日论”引爆舆论,阿莫迪发表一篇千字长文,呼吁行业放缓提升前沿模型能力的速度、为安全研究和风险治理争取更多时间。OpenAI CEO山姆·奥特曼(Sam Altman)和SpaceX的CEO马斯克均在社交媒体上对阿莫迪的观点表示赞同。 当时,阿莫迪还提到了引发广泛关注的AI智能体越界事件。OpenAI此前披露,在测试过程中,其AI系统曾突破原本受限的环境、连接互联网,并进入开源模型平台Hugging Face。 而据外媒9月17日最新报道,有来自网络安全公司的研究人员表示,他们曾在上述智能体越界事件发生后,利用Anthropic的模型成功入侵了OpenAI的内部代码系统,帮助后者补上了安全漏洞。 对此,OpenAI回应称,感谢研究人员与其取得联系并分享研究发现,公司已修复相关问题。 (原标题:AI正自主制造下一代AI?Anthropic披露A

    匹配字段正文

星期四

  1. 财联社

    Anthropic公布内部指标:Claude已主导其26%的AI研发工作

    Anthropic公布三项新指标,用于监测AI研发自动化、智能体监管干预和内部算力分配。其中Anthropic研发自动化指数显示,截至2026年8月,Claude已主导(AL4)其约26%的AI研发工作,处于AI协作(AL3)及以上等级的工作占比超过90%,而AL4比例在2026年2月还不到1%。Anthropic称其核心平台上随时有约30000个智能体协同执行研究与工程任务,当月逾10亿次决策指令中平均每47000次操作有一例被在线监测系统拦截。

    资源分配情况”三个维度的进展,并分享了相关方法论,以鼓励其他组织效仿。 “当全球都在探讨如何把控前沿技术的演进步调时,我们必须竭尽所能,消除顶尖实验室与公众之间的信息鸿沟,”Anthropic在博文中强调,“这意味着我们需要更精准地量化AI发展进程、向社会公开透明披露,并让公众共同参与决定如何应对这些信息。” 阿莫德伊上周末提出的放缓AI研发呼吁,得到了包括OpenAI首席执行官奥尔特曼、SpaceX首席执行官马斯克和谷歌DeepMind联合创始人德米斯·哈萨比斯在内的行业领袖的支持,此前研究人员曾就人工智能日益增长的危害潜力发出严厉警告。 阿莫德伊表示,他的计划旨在控制模型能力提升的速度,同时“不牺牲商业优势或美国在人工智能领域的领先地位”。 Claude已主导26%内部AI研发工作 根据最新的披露,在第一项指标“AI参与AI研发”方面,Anthropic构建了一个原型指数——Anthropic研发自动化指数(Anthropic R&D Automation Index),用于衡量Anthropic的AI研发工作中有多少是由Claude完成的。 其构建方式是:对公司内部开展的各类AI

    匹配字段正文

  2. Latent Space

    AIUC 完成 4000 万美元 A 轮,推出 AIUC-1 智能体安全标准与保险方案

    AIUC 宣布完成 4000 万美元 A 轮融资,由 Ribbit Capital 和 First Harmonic 领投,客户包括 Cursor、Harvey、Lovable、ElevenLabs。其 AIUC-1 标准覆盖智能体安全、安全性与可靠性,要求每季度接受越狱、幻觉和数据泄露等数千次模拟测试,认证周期约 3 到 10 周。ElevenLabs 已购买首份 AI 智能体保险保单,由 Lloyd's of London 参与承保,AIUC 的评测结果直接用于定价。

    这正是后来发生的情况。所以我就收拾行李。我从没去过旧金山。我从没去过那里。我就收拾行李,飞到这里来找写那篇论文的人。当时,他们刚创办了一个叫 Anthropic 的小实验室。当时大约有 40 人左右。我喝了一堆咖啡,直到最终被介绍给 Dario。当时,他们正在纠结一些问题,比如:我们应该部署我们的模型吗?我们应该创造收入吗?我们应该如何与外界互动?他们刚从 OpenAI 分出来,而且有公开报道称,他们有点担心自己处理部署的方式。所以他们当时正在纠结其中一些问题。此时,这是早期的战争迷雾,大概是 2022 年初。当时最热门的产品大概是 Jasper。外面几乎什么都没有。所以价值会在哪里积累,以及技术栈的不同部分会是什么样,都是悬而未决的问题。 Swyx [00:02:48]:我想向大家强调一下,你问这些问题是因为你有 PPE 背景。 Rune Kvist [00:02:52]:是的。 Swyx [00:02:52]:我其实曾在新加坡参加过一个为 PPE 做准备的预备项目。所以我有一位导师。我们学习了,你知道,哲学、政治学和经济学。但是,我觉得你那种背景很重要。读神经网络、Scaling

    匹配字段正文

星期五

  1. AI Business

    Mistral 完成 35 亿美元 D 轮融资,押注企业 AI 的控制权需求

    Mistral AI 完成 3.5 亿美元 D 轮融资,估值超过 240 亿美元,成为欧洲私营科技公司最大股权融资轮。该公司押注企业客户更看重对 AI 部署位置和数据的控制权,而非单纯的模型性能,其开放权重模型和区域推理能力是这一策略的核心。Mistral 称目前服务 20 个国家的 125 家企业,包括 Airbus、ASML 和 HSBC。

    company. While the funding gives Mistral more capital to invest, the 2023 startup’s financial resources remain smaller than those of leading U.S. frontier model developers such as OpenAI and Anthropic, making it difficult to compete on model development alone. Mistral is instead wagering that its offering of greater control and flexibility -- key attributes of sovereign AI -- will help attract enterprise customers, even when other vendors might have a performance edge. But the test for Mistral i

    匹配字段正文