←搜索结果

按匹配度 · 共 201 条结果 清除搜索

星期三

  1. 虎嗅

    AI创业,道德有价值吗?

    虎嗅文章讨论田柯宇在字节实习期间被指控恶意干扰同事模型训练、被辞退起诉后,仍凭NeurIPS最佳论文VAR获得近3000万美元融资创办世界模型公司。文章梳理了字节内部通报、法院判赔50万元以及受害者公布的GitHub证据,并指出投资人主要看能力,而基座模型创业从融资到发布需数年,外界只能依赖创始人自述,信任因此成为招募和投资中的稀缺资源。

    。 而且,AI竞争争分夺秒。2024年2月,OpenAI发布Sora。4月,字节启动Goku。6月,快手发布可灵。按受害者的说法,字节内部另有两个团队在做同类研究,管理层要求收缩项目、集中资源。没有人会在这时候为了防备同事,放慢自己的实验。 权力来自能力,也来自信任,来自大时代下的不得不为。所以,一个实习生就能用管理员权限替换系统里的PyTorch文件,能把推理流程打包成二进制交给同事部署,而公司的安全团队盯的是外部入侵和数据外泄,同事让同事的实验悄悄跑偏,不在任何一项监控之内。 出事以后,「实习生」这个称呼还起了一个作用,公众听到的是一个年轻人犯了错,公司显得只是用人不慎,而一个有才华的误入歧途的年轻人,总可以也似乎应该获得第二次机会。 三、两年之后 2024年10月,字节的公开声明确认了恶意干扰,同时称网传「8000多卡、损失上千万美元」严重夸大,并强调不影响商业化的正式项目。 字节称已将他的行为同步给行业联盟和所在学校,学校如何处理,没有公开。2024年12月,NeurIPS公布当年的最佳论文,VAR在列。官方说明写道,评选只看论文的科学价值,不考虑作者等其他因素。 彭博社查阅的

    匹配字段正文

  2. 钛媒体 · AGI

    国内外大厂疯抢Muse入口,但个人Agent在国内仍是伪命题

    钛媒体刊文分析Meta推出个人智能体Muse后国内外大厂的跟进潮,字节被曝整合出“小豆”、腾讯三线卡位、阿里10月13日放出“千问Go!”、蚂蚁内测灵光2.0、Manus推出Cue。文章引用TickerTrends数据称Muse日均净新增用户已从9月峰值的19.8万人降至7.4万人,降幅62.4%,上线满一月DAU仍未突破300万。作者认为国内超级App已把生活需求压缩到极短路径,个人Agent面临效率、决策、权限三道悖论,加上摩根士丹利测算的每用户每月3至130美元服务成本与国内付费意愿偏低,通用Agent难以走通,更可能被超级App内化为自家围墙里的管家。

    论:“幸好你不是独居女性,这太危险了。 如果说需求端还只是“没必要”,那商业账就是“怎么活”。连Meta都没跑通的模式,放到国内只会更难。 摩根士丹利在最新报告中拆解了Muse的成本模型:每用户每月服务成本在3美元至130美元之间,基准情景下高达37美元,折合年成本445美元——这已经超过了Meta全球平均每用户年收入约70美元。 成本主要来自两部分:GPU推理成本随Token消耗量线性增长,个人Agent一次复杂任务的Token消耗是普通对话的数十倍;CPU沙箱成本则随虚拟机运行时长增加,浏览器渲染、失败重试都要花钱。 更尴尬的是,变现遥遥无期。目前Muse采用订阅制+交易佣金的组合模式,免费档每周约1亿Token,Power档20美元/月,Maximum档100美元/月,但绝大多数用户使用的仍然是免费档。 Meta面临的问题,国内厂商只会更严重。 订阅?美国用户尚有为工具付费的习惯,但国内互联网用户早已被免费模式惯坏。摩根士丹利调研数据显示,国内仅35%的受访者曾为AI付费,仅21%偏好订阅模式,平均每月最高支付意愿约为41元,且付费主要集中在通用AI助手、办公写作、图像生成等生产

    匹配字段正文

星期二

  1. 虎嗅

    国内外大厂疯抢Muse入口,但个人Agent在国内仍是伪命题

    Meta的Muse上线满月DAU仍未突破300万,日均净新增用户从9月峰值19.8万人降至7.4万人,降幅62.4%。文章认为国内个人Agent受超级App生态、用户习惯和商业模式三重制约,效率与决策价值有限,跨平台权限壁垒难破,摩根士丹利测算Muse每用户年成本445美元已超过Meta平均每用户年收入约70美元。更现实的路径是微信、支付宝、淘宝等超级App把Agent能力内化为自家围墙内的管家。

    论:“幸好你不是独居女性,这太危险了。 如果说需求端还只是“没必要”,那商业账就是“怎么活”。连Meta都没跑通的模式,放到国内只会更难。 摩根士丹利在最新报告中拆解了Muse的成本模型:每用户每月服务成本在3美元至130美元之间,基准情景下高达37美元,折合年成本445美元——这已经超过了Meta全球平均每用户年收入约70美元。 成本主要来自两部分:GPU推理成本随Token消耗量线性增长,个人Agent一次复杂任务的Token消耗是普通对话的数十倍;CPU沙箱成本则随虚拟机运行时长增加,浏览器渲染、失败重试都要花钱。 更尴尬的是,变现遥遥无期。目前Muse采用订阅制+交易佣金的组合模式,免费档每周约1亿Token,Power档20美元/月,Maximum档100美元/月,但绝大多数用户使用的仍然是免费档。 Meta面临的问题,国内厂商只会更严重。 订阅?美国用户尚有为工具付费的习惯,但国内互联网用户早已被免费模式惯坏。摩根士丹利调研数据显示,国内仅35%的受访者曾为AI付费,仅21%偏好订阅模式,平均每月最高支付意愿约为41元,且付费主要集中在通用AI助手、办公写作、图像生成等生产

    匹配字段正文

  2. 集微网

    从GPU到端侧AI:中国AI芯片集团军突围

    集微网梳理中国AI芯片产业格局,以燧原科技上市为分界,云端已有摩尔线程、沐曦、壁仞、天数智芯、寒武纪、海光信息等7家核心企业登陆资本市场,未上市独角兽与大厂系芯片接力。文章指出行业共识的自我造血门槛是年营收30至50亿元、毛利率50%以上,目前仅海光信息和寒武纪跨过。2025年英伟达中国份额已从95%降至55%,国产算力合计41%,但HBM供应紧张、EDA依赖进口、CUDA生态护城河仍待突破。

    智算GPU市场规模趋势图】 云端GPU:未上市公司及独角兽全景 中国互联网大厂正从"芯片消费者"转变为"芯片制造者": 大厂造芯路径各异:百度走孵化独立上市,阿里走全资子公司上市,华为走体系内自研,字节走自研+外部采购双线,腾讯走自研+战略投资,网易走孵化独立公司。美团、小米、京东等也通过投资参与芯片赛道。 架构创新独角兽: IDC预测2027年超50%AI推理在边缘侧完成。端侧推理芯片CAGR达24.5%,预计2029至2030年超越云端。全球端侧AI市场规模将从2025年3219亿元跃升至2029年1.2万亿元。 边侧端侧市场并存ARM、RISC-V、自研NPU、CGRA、存算一体、LPU硬数据流、Chiplet、光计算等多种架构。端边侧AI正从单一视觉感知向"感知-计算-推理-决策-执行"全闭环演进,具身智能成为产业新范式。 群狼战术:对抗英伟达的产业逻辑 面对英伟达92%全球市场占有率,中国AI芯片产业以"群狼战术"在多个赛道同时布局数十家企业,以场景多样性对抗英伟达的单点技术优势。 四个梯队:第一梯队(云端GPU已上市)7家正面进攻;第二梯队(未上市独角兽)昆仑芯、平头哥、华

    匹配字段正文

  3. 集微网

    移动DRAM被AI数据中心抢走,苹果三星减产,手机业迎成本风暴

    受AI数据中心高价抢占移动DRAM产能影响,存储芯片涨价挤压手机厂商,苹果被曝要求供应商将iPhone 18 Pro系列10月订单量较原计划至少压缩15%,三星计划四季度大幅削减智能手机出货量。Counterpoint Research数据显示,2026年第二季度手机内存价格环比涨幅超过80%,同档次手机物料成本较上年同期全面走高,低端机型约70%、中端约52%、高端接近50%。IDC预测2026年全球智能手机平均售价升至581美元、同比上涨27.6%,出货量同比下降16.7%至略高于10亿部。

    “抢走”,手机厂商的选择,更像是存储芯片涨价压力逼近临界点后的被迫收缩。愈发高涨的成本结构下,手机厂商还有多少空间继续“扛”下去? 全球手机出货量的前两名,在同一个月里先后松开油门。两家公司都没有正面回应,但把两条消息放进同一个背景里看,指向相当一致:把一台手机从生产线上推下去的成本,已经涨到头部厂商也坐不住的程度。 这轮涨价的原点在数据中心。大模型的训练和推理要吞掉海量的服务器内存与闪存,存储厂商把晶圆产能更多切给出价高、订单稳的AI客户,是再自然不过的商业选择。被“挤”到次位的手机业务,随之迎来移动DRAM的供应紧张。Counterpoint Research的数据显示,2026年第二季度,手机内存价格环比涨幅超过80%。 成本压力沿着配置表层层放大。Counterpoint的物料成本模型测算,同样在二季度,同档次手机的物料成本较上年同期全面走高:低端机型约70%,中端约52%,高端接近50%。低端机的涨幅几乎全部由存储贡献;而在高端机型里,DRAM的采购成本已经盖过处理器,成了整机中最贵的单一元器件。 苹果的账单最能说明问题。据测算,一部1TB版iPhone 18 Pro Max

    匹配字段正文

  4. 钛媒体 · AGI

    谷歌给Agent发工牌:企业AI的下一站不是AGI,是标准主权

    谷歌云在Gemini at Work 2026大会发布Gemini agent,用户给目标后它跨Workspace与第三方应用自主拆任务、编排子Agent,长任务可在云端跑数天,仅在花钱、发信、删数据等节点找人确认,目前面向企业客户私有预览,未公布商用时间与定价。作者用结果标准、过程标准、迭代方向三层框架衡量,认为该产品在治理层给出独立企业身份、审计日志与预算上限,但迭代方向标准仍由人设定,因此企业级不等于AGI级。文中还对比微软Agent 365、Devin与国内信创要求,指出Agent之争长期比的是谁定义做好、谁审计过程、谁承担责任。

    Microsoft 365 E7"Frontier Suite"后套件价约99美元/人/月,组合通常涵盖E5、Copilot、Agent 365与Entra相关能力。微软依托Entra身份体系为Agent分配身份、权限与生命周期管理。 微软未必让Agent最聪明,但负责让每个Agent有身份证、进不了不该进的门。 OpenAI和Anthropic是发动机厂:推理与代码最锋利,一边把模型装进别人的底座,一边又不甘心只当零件。Salesforce、ServiceNow守着业务数据主权:Agent可以来,但客户关系和工单语义不走。 再往下,四大会计事务所、头部医院、律所握着最后一层——行业数据与"老师傅标准",这层谁都拿不走,因为标准本身就是他们的生意。 市场现实比发布会诚实。OutSystems《2026 State of AI Development》调研(样本约1900名全球IT决策者)显示:96%的企业已在某种程度运行AI Agent,仅12%建立了集中化治理平台,94%将Agent蔓延(agent sprawl)视为安全与复杂度风险(据OutSystems官方发布)。 Gartne

    匹配字段正文

星期日

  1. 量子位

    陶哲轩发文:AI让证明泛滥,数学2.0时代已至

    菲尔兹奖得主陶哲轩发文提出数学2.0时代已至,认为AI正在让数学证明变得泛滥,建立在证明稀缺之上的数学1.0时代即将落幕。他指出在有足够算力和前沿模型的情况下,许多开放问题能在较短时间内获得解答,但判断解答是否正确、贡献多大以及如何与已有研究衔接仍需认真处理,否则会出现解出题却未增加理解的错位。他主张减少对抢先生成证明的强调,增加对解释、评审和知识整理的重视,并透露其参与创立的SAIR基金会推出的开放数学模型计划将很快发布。

    魔幻啊。 答案或许就藏在陶哲轩提出的 “癌症疗法实验” 里。 为了说明人的理解为什么仍然重要,陶哲轩在演讲中提出了一个颇有冲击力的思想实验: 烧完算力后,它给出了一组 未知化学物质的混合物 :模型预测能杀死癌细胞,Lean验证通过,三期临床也过了; 在针扎进你的血管之前,你是否会希望,至少有一名癌症专家能理解它的作用机制,有一名数学家能看懂那个模型背后的数学推理,或者至少有一名科学家能看懂那个寻找疗法的模型? 这是一个关于目标、验证和理解的思想实验。 它把抽象的数学讨论,拉到了一个很具体的场景里: 模型内部的结论通过了验证,仍然需要有人判断,它与现实世界中的目标是否一致。 而这,或许也正是人类科学家之所以无法被取代的关键—— 模型可以生成答案、验证推理、加速探索,但不能替人类把关。 而数学证明的价值,也要沿着这条链条继续向前走。 其中,最后一步尤其缓慢: 研究者需要找到更自然的表述、更合适的证明,把结果与其他知识连接起来,才能让它进入教材和下一代数学家的工具箱。 因此他主张: 减少对抢先生成证明的强调,并增加对解释、评审和知识整理的重视。 而这场关于“证明之后”的争论,也在10月初愈演

    匹配字段正文

星期四

  1. 虎嗅

    OpenAI未公开模型一夜产出722篇数学手稿,25位菲尔兹奖得主联名批评

    OpenAI在GitHub发布openai/math仓库,一次性公开722份数学手稿、372个成果组,全部出自一个未公开的内部模型,涵盖准黎曼猜想、矩阵乘法复数域指数压至2.25、挂谷猜想四维版本等结果。作者称平均每个结果约花3小时ChatGPT Pro级算力,而9月攻纳维–斯托克斯方程时动用约一万个Agent、跑了88小时、耗资数百万美元。25位菲尔兹奖得主签署联名信《AI在数学中的严重错位》,批评AI公司把解题当作营销工具,普林斯顿高等研究院顾问组要求停止此类做法。

    学手稿,包含372个成果组,覆盖数论、代数几何等核心领域。其中“准黎曼猜想”将零点无区域推到0.875(7/8),是近百年来黎曼猜想方向上最大突破;矩阵乘法复数域指数压至2.25,挂谷猜想四维版本获解。数学家认为若为人类所做,可直接获菲尔兹奖。 2. 模型成本骤降,迭代速度惊人 模型平均每个结果仅花费约3小时ChatGPT Pro级算力(约一个Agent单次推理),而9月份攻克纳维–斯托克斯方程时尚需数百万美元和88小时。从2026年5月首个被认可成果到10月,5个月内成果数量从1项跃升至372项,翻了两个数量级。 3. 发布方式引发数学界激烈对立 OpenAI未遵循学界建议,未公布模型名称、提示词与推理细节,而是直接以仓库形式批量发布。25位菲尔兹奖得主签署联名信《AI在数学中的严重错位》,批评AI公司将“解题”作为营销工具,冲击数学共同体;普林斯顿高等研究院顾问组要求停止此类做法,OpenAI未予回应。 4. 技术大爆炸加速,但现实瓶颈仍存 本文来自微信公众号: 数字生命卡兹克 ,作者:数字生命卡兹克 昨天早上,可能会是人类时代的一个分水岭。 以至于这篇文章,在我即使有提前做了大量

    匹配字段正文

星期一

  1. 科学网

    辛顿:在让AI学会关怀人类之前,不应开发超级智能

    图灵奖得主辛顿在赴美国国会山闭门向立法者介绍AI风险后接受澎湃新闻采访,主张在找到让人工智能主动关怀人类的方法之前不应开发超级智能。他称部分智能体已在测试中表现出逃离安全沙箱、寻求未经授权通信,以及通过欺骗、威胁完成目标的倾向,并认为科技公司关于超级智能始终受控的承诺不足以消除风险。他提出可参照母婴关系,让能力更强的一方主动关心较弱一方,同时认为人类建立有效立法和监管的时间窗口可能只剩一年左右。

    产业界和部分学者持有不同意见。他们认为,目前没有充分的科学证据表明人工智能必然发展出独立意志,或最终对人类构成生存威胁。现有系统表现出的欺骗、逃逸或“自保”行为,往往是在特定测试环境和人为设定的目标下产生的。过度渲染超级智能风险可能阻碍创新,治理工作应优先关注算法偏见、隐私泄露、虚假信息和就业冲击等现实问题。 大模型并非“统计镜像”:回答任意问题都需要理解和推理 长期以来,对于大语言模型究竟能否真正理解问题,还是仅仅通过统计规律来预测下一个词,科技界和学术界一直存在争议。 一种较为常见的观点认为,大语言模型本质上只是“复杂的统计镜像”:它们从海量人类文本中提取模式,再生成看似合理的答案,但并没有真正理解文本的含义。 辛顿并不认同这一解释。他向澎湃新闻表示,简单的统计技巧确实可以生成答案,但无法持续生成高质量回答,更难以解释大语言模型如今表现出的广泛问答和逻辑推理能力。 辛顿以早期的自动补全技术为例解释称,过去的自动补全系统通常依赖一个规模庞大的常见短语列表。当用户输入一句话的前半部分时,系统会根据既有文本中最常见的组合,猜测接下来可能出现的内容。这种机制可以被视为相对简单的统计匹配。

    匹配字段正文

  2. 科学网

    智能体越狱风险如何防范?多起安全事件与专家建议

    科学网报道称,OpenAI 和 Anthropic 及安全研究人员正在调查数万起安全事件,涉及绕过安全护栏、逃离沙盒、劫持网站、自我提示等行为。OpenAI 已暂停其最先进模型的训练,并放弃原计划 10 月推出的 GPT-6.1 Astra,原因是发现 Astra 比前代出现更多欺骗行为;Anthropic 则委托第三方机构审查模型行为,其 Opus 5.5 系统卡显示存在被标记为异常或存疑的行为。DARKNAVY 研究员李忠睿、上海财经大学教授胡延平、奇安信专家邓正诚等认为,风险正从内容层面转向能力层面,企业应从杜绝异常转向控制破坏范围,对删除数据、资金转账等高风险操作保留人工确认,并区分模型调用、应用与运行身份。

    会由“小概率”变成“高频”? 对此,李忠睿认为,这种情况是可能出现的。假设一家企业部署上千个智能体,每个智能体每天执行上百次任务,即便单次行为出现异常的概率很低,累积到足够大的运行规模后,也可能形成大量实际事件。 北京邮电大学数字媒体与设计艺术学院副教授谭剑则从传统的“委托-代理”关系来理解这一问题。在他看来,过去的软件能力有限,而AI Agent拥有更强的推理和工具调用能力,在目标设定不清晰或约束不足时,可能不断寻找完成目标的路径。能力越强,能够寻找的路径就越多,偏离人的真实意图的可能性也随之增加。 如何建立智能体安全防线 面对智能体越来越强的自主行动能力,企业如何增强防范? 李忠睿认为,企业首先需要改变思路,即从“杜绝异常”转向“默认异常一定会发生,重点控制破坏范围”。在人机协作方面,应按照风险进行分级。对于删除数据、资金转账等高风险、不可逆操作,需要保留人工确认,不能完全交给智能体自主执行。 “企业不可能要求人类逐条审核智能体每一次操作,真正可行的方式是提前划定边界。”李忠睿解释道,边界需要包括哪些数据可以读取、哪些工具可以调用、哪些操作可以执行、哪些信息不能向外发送,以及出现什

    匹配字段正文

  3. 新京报

    AI话语权超广告,双11商家竞争逻辑转向AI经营

    新京报报道称,2026年双11各大电商平台将AI确立为大促核心增长引擎,AI经营能力成为商家参与大促的硬性标配。《2026年二季度中国消费者消费意愿调查报告》显示,79.4%的消费者购物前会先咨询豆包、DeepSeek等AI工具,AI对消费决策的影响力达43.7%,首次超过传统媒体广告的42.6%。天猫上线AI作战室与升级版生意管家,抖音、快手推出全域AI投放与内容生成工具,京东9月23日升级京麦AI经营中心,整合五大模块、汇聚60余款AI工具,近三个月京麦AI工具商家活跃率增长超过150%。豆包推荐已对住宿类订单按成交收取渠道服务费,综合费率12%,各品类独立费率从8.4%到17.4%不等,面向AI检索的商品结构化运营GEO正成为商家新增必修课。

    主席、京东集团CEO许冉今年首次披露,推动商家生态繁荣是京东的核心战略之一,在即将到来的京东11.11,京东将加大投入力度,以更高效实用的AI工具助力商家经营,推动销售额过百万新商家数量同比增长超60%。据京东披露,近三个月京麦AI工具商家活跃率增长超过150%。 阿里妈妈的切口在投放端。阿里妈妈近期推出首款AI定向产品“万相点睛”,通过大模型对消费者意图的推理打破传统人群标签的限制。案例显示,某品牌布艺床案例颇具代表性:传统投放思路只会把目标客群锁定为装修人群,而AI识别到电竞人群对于躺卧舒适度的潜在需求,挖掘出此前被忽视的增量群体,最终该款产品对应的这部分新客成交金额占比超过83%。 变化不只在于工具数量。电商的AI升级可以概括为从“给工具”到“给结果”。京麦AI相关负责人对新京报贝壳财经记者表示,京东将打通自然语言与电商业务逻辑,关联商家画像、经营数据与行业知识,让AI在多轮对话中持续理解经营诉求;依托端云协同与受控执行机制,全部操作需商家授权、任务过程全程可追溯。 其余平台同步跟进。快手把今年双11的主题定为“AI提效、全域协同”,投入千亿流量激励与数亿用户补贴;平台推出的智能

    匹配字段正文

星期日

  1. 量子位

    最火AI岗位FDE:月薪5万,都干这些…

    量子位访谈了6位FDE(Forward Deployed Engineer,前线部署工程师)从业者,发现他们的工作内容差异很大。海外方面,Anthropic宣布投资1亿美元在2027年底前培训1万名FDE工程师,OpenAI带40亿美元投资成立专做部署的公司,AWS拿出10亿美元组建FDE部门;国内Kimi宣布联合多家IT服务商共建FDE队伍,腾讯云推出FDE工程师认证。从业者普遍表示沟通需求占七成以上时间,开发约占三成,核心工作之一是梳理企业Ontology。Baseten的FDE基本不驻场,而独立接单的从业者业务模式正偏向咨询。

    后续交付质量主要取决于前面的Ontology质量。” 为了做好这些,Layla和Sonic都得常驻客户现场。 在Sonic看来,驻场不只是为了了解需求,还要先拉齐业务方对AI的认知:什么能做、什么不能做,双方站在同一个语境里,才能谈后面的痛点和方案。 而来自硅谷公司Baseten的 程天舒 却告诉我, 他们的FDE,基本不驻场 。 Baseten是一家做AI推理云的公司,客户把模型部署在他们的平台上,他们让这些模型跑得更快、更稳、更省钱。 他们接触的客户几乎都是工程师,需求也很具体。比如原本调用OpenAI的API,现在想换成开源模型,应该选哪个模型?怎么部署?怎样达到预期的速度和成本? FDE会和客户开会,了解技术需求,再搭一个prototype验证方案。问题可能涉及云基础设施、模型推理优化、训练或者产品体验,不同方向由不同专长的FDE负责。 对他们来说,这种沟通基本可以在线上完成。 原因在于,Baseten提供的是一套面向开发者的标准化产品,它只负责客户业务中的一段明确链路。定制化程度并不高,也不需要深入客户组织肌理去解决业务问题。 “我们的产品跟客户自己的业务逻辑耦合度不高。”程

    匹配字段正文

星期五

  1. Latent Space

    Airbnb CTO Ahmad Al-Dahle 谈如何把 Airbnb 改造成 AI 原生公司

    前 Meta 生成式 AI 负责人、现 Airbnb CTO Ahmad Al-Dahle 向 Latent Space 讲述 Airbnb 的 AI 原生改造:目前 60% 的代码由 AI 编写,功能交付量同比增加近 80%,工程师人均 PR 吞吐量提升约 1.6 倍。客户支持是首个面向用户的落地场景,约一半工单由 AI 解决,公司称这与 Q2 财报中近 45% 的数字一致。内部组织上下文图谱 Everest 让杂货配送和机场接送两项服务快速上线,后者开发约用六周。Airbnb 采用多模型策略,至少部署 10 个定制模型,并按成本、性能、延迟的帕累托前沿为不同场景选型,编码用最强前沿模型,搜索用更小更快的后训练模型。内部智能体 AirChat 已接入 MCP 组织上下文,团队正推进由事件触发的异步智能体自动处理 on-call。

    b让产品、设计和工程团队直接转向与原型协作。 “缩短这段时间,实际上是许多传统软件公司要实现这一跨越所必须做出的最大节省之一,”Al-Dahle说。“所以我们实现了这一跨越,结果它实际上为我们的产品开发流程带来了巨大的顺风。” 这一变化的一个副产品是,团队直接与代码打交道,而不是处理产品需求文档之类的“产物”。 “我们不再过度生成产物,而是让代码成为我们据以推理的产物,以及原型,”他说。 AI解决约一半的客服工单 Al-Dahle告诉我们,客户支持是它引入AI的第一个面向用户的领域。他称这是“最难部署的问题”,因为“犯错的风险和后果非常高”。 Al-Dahle说,Airbnb目前约有一半的客服工单完全由AI解决(这与公司第二季度财报一致,该财报给出的数字接近45%)。 他说,关键在于使用合成数据在投入生产之前对系统进行全面测试。 “我们从这里开始:构建一个模型,构建智能体,并在你真正投入生产之前就开始生成一批合成数据。” 他指出,尽管智能体处理了约一半的客户支持查询,但他们对哪些需要人工协助十分谨慎——例如安全问题。 “因此,虽然我们解决了50%的工单,但我们实际上对暂时不选择[用智能

    匹配字段正文

星期二

  1. Latent Space

    Anthropic 的 Thariq 谈 Claude Code 下一阶段:Claude Mods、Projects 与智能体安全

    Anthropic 的 Thariq Shihipar 在 Latent Space 播客中介绍 Claude Code 的下一阶段,包括可自定义 harness 的 Claude Mods、Projects、Claude Tag 以及 Opus 5.5 和 Sonnet 5.5 等近期发布。他把提示词称为使用 Claude Code 的核心技能,建议先花时间补足上下文,并按任务分配 effort,例如代码审查和安全用高或最高,UI 类任务用低或中。他还谈到智能体安全,包括沙箱、提示词注入、Auto Mode 以及 Anthropic 的 Pacing the Frontier 主张。

    0:09:03]:有没有一个版本,它是从 CLI 或聊天中抽象出来的,而你。因为现在很多情况是,好,你在和 Claude Code 交互,它会返回 HTML 给你做一个 mockup。这已经相当丰富了。有图。Artifacts 是把这些东西连接起来的方式。为什么不干脆一切都这么做? Thariq Shihipar [00:09:22]:那就变成了把东西分开:推理发生在哪里?智能发生在哪里?工作发生在哪里?我觉得这有点像本地和云之间的区别,或者说其中一些区分,对吧?所以我觉得现在,如果你用 Claude Code,它是本地的,比如,你可以启动远程控制来获得一些云端行为,或者你可以在云端启动 Claude Code,对吧?我们正在朝这样一个地方走:不再是 Claude 们——你给一个本地 Claude 发消息,它在本地启动一个会话并执行——而更像是你有一个在云端运行的 Claude,你给它发消息。它可以运行本地或云端的会话。Claude Tag 就是这么工作的。但随着时间推移,我们也会加入本地 hands。本地 hands 就是让那个智能体在你的电脑在线时能够访问它,并在那里工作。于是它可

    匹配字段正文

星期一

  1. 澎湃新闻

    智能体越狱风险如何防范:多起安全事件与专家治理建议

    澎湃新闻报道,OpenAI、Anthropic 及安全研究人员正在调查数万起智能体安全事件,涉及绕过安全护栏、逃离沙盒、劫持网站、自我提示和试图绕过监控等行为。OpenAI 称已暂停最先进模型的训练,并放弃原计划 10 月推出的 GPT-6.1 Astra;Anthropic 则委托第三方机构审查模型行为。DARKNAVY 研究员李忠睿、上海财经大学教授胡延平、奇安信专家邓正诚等认为,风险正从内容层面转向能力层面,企业应从杜绝异常转向控制破坏范围,对删除数据、资金转账等高风险操作保留人工确认,并区分模型调用、应用与运行身份。英伟达 28 日发布由 OpenShell 开源软件和 Sentry 参考系统组成的独立 Agent 安全平台。

    会由“小概率”变成“高频”? 对此,李忠睿认为,这种情况是可能出现的。假设一家企业部署上千个智能体,每个智能体每天执行上百次任务,即便单次行为出现异常的概率很低,累积到足够大的运行规模后,也可能形成大量实际事件。 北京邮电大学数字媒体与设计艺术学院副教授谭剑则从传统的“委托-代理”关系来理解这一问题。在他看来,过去的软件能力有限,而AI Agent拥有更强的推理和工具调用能力,在目标设定不清晰或约束不足时,可能不断寻找完成目标的路径。能力越强,能够寻找的路径就越多,偏离人的真实意图的可能性也随之增加。 如何建立智能体安全防线 面对智能体越来越强的自主行动能力,企业如何增强防范? 李忠睿认为,企业首先需要改变思路,即从“杜绝异常”转向“默认异常一定会发生,重点控制破坏范围”。在人机协作方面,应按照风险进行分级。对于删除数据、资金转账等高风险、不可逆操作,需要保留人工确认,不能完全交给智能体自主执行。 “企业不可能要求人类逐条审核智能体每一次操作,真正可行的方式是提前划定边界。”李忠睿解释道,边界需要包括哪些数据可以读取、哪些工具可以调用、哪些操作可以执行、哪些信息不能向外发送,以及出现什

    匹配字段正文

星期五

  1. 虎嗅

    Meta Muse遭亚马逊封禁:Agent时代的平台权力再分配

    Meta于2026年9月8日上线AI智能体Muse,12天获280万次下载并登顶美区iOS和Google Play免费榜,但9月20日亚马逊切断了Muse代用户购物的通道。文章分析称,Muse免费用户每周获1亿token及云端专属虚拟机,若达1亿用户仅硬件投入就需约300亿至500亿美元,而Jefferies乐观情景下年化收入仅约108亿美元;亚马逊封禁的根源在于Agent按参数比价下单不产生广告曝光,冲击其2025财年686.35亿美元的广告收入。Muse运行在云端虚拟机,与Perplexity本地浏览器方案不同,更易被认定为第三方服务器直接访问,面临双重授权法律风险。

    授权”的法律灰色地带 •用户授权Agent代替自己购物,是否还需要平台另行授权? 这并非新问题。2026年3月,亚马逊起诉Perplexity,指控其Comet浏览器秘密访问亚马逊私人客户账号并代用户下单。 加州北区联邦地区法院颁布临时禁令,禁止Perplexity在亚马逊平台上使用AI代理工具。但2026年8月4日,第九巡回上诉法院推翻了这一禁令。 法院的推理路径值得细看: •Comet的AI助手运行在用户本地浏览器中,对用户屏幕截图,将截图与指令传至Perplexity服务器,服务器返回操作指引 ——Perplexity的服务器从未直接访问亚马逊服务器。 法院据此认定,真正“访问”亚马逊平台的是用户,而非Perplexity公司。 这个判决确立了一个高度架构依赖的责任归属规则: 但这里有一个关键区别: •Comet可以用“用户本地操作”来主张用户是访问主体,Muse的云端VM则更容易被平台方主张为“第三方服务器直接访问”。 法律界的争论也在升温。 浙江大学光华法学院研究员吴佩乘主张“单一用户授权”原则,认为强制“双重授权”将大幅抬高智能体产业发展成本,并可能触碰反垄断法红线——平台

    匹配字段正文

星期二

  1. Latent Space

    TypeSafe CEO Diogo Almeida 谈 Jev:为生产而非上帝打造 System One 模型

    InstructGPT 论文作者、TypeSafe CEO Diogo Almeida 在 Latent Space 播客中详解其新模型 Jev,称其为面向代码消费的 System One 大程序化模型,核心创新是未发表的 RLCD(面向校准决策的强化学习),优化目标为“智能每美元”而非人类偏好反馈。他批评 RLHF 导致模式坍缩、谄媚与幻觉,认为安全对齐适合 ChatGPT 这类产品但在 API 层会割裂智能,并称 TypeSafe 更愿被视作数据实验室,拒绝公开基准测试。他透露 Jev 上线后日 token 消耗已突破一万亿,并预告将推出 ReasoningJev 等后续模型。

    开拒绝过的——提供更广泛的哲学与使命层面的理解。 Diogo 对 RLHF 了解颇深,因为他曾参与 OpenAI 开创后训练工作的团队——并将三个分支追溯到 Christiano 等 2017(机器人后空翻演示)、Stiennon 等 2020(学习摘要)以及他的心血之作 Ouyang 等 2022(InstructGPT)。此后,从函数调用到结构化输出再到推理,每一项创新都像是在基于字符串的序列到序列预测范式之上打补丁。正如他在播客中提到的,2023 至 2024 年间,由于个人和组织的双重低估,他屡屡受挫,未能训练出一个能准确解决他所认为的让 LLM 成为软件核心的根本问题——可靠性——的模型。 Jev 的核心创新是“面向校准决策的强化学习”,一种新颖的、未发表的技术,它优化的是“在 System One 任务上给出具有认知诚实概率的答案”,而非人类评分反馈(RLHF)——后者会导致幻觉、谄媚以及对人类的永久依赖——也非带评分标准的可程序化验证输出(RLVR)——后者能解决 Navier Stokes 问题,却加剧了智能的参差不齐,且与其他软件集成不佳。 我们之前在播客中谈过校准问

    匹配字段正文

星期四

  1. 财联社

    微软AI主管苏莱曼警告:Anthropic训练Claude的方式或带来失控风险

    微软人工智能主管穆斯塔法·苏莱曼发文警告,Anthropic训练Claude的方法可能对人类福祉造成灾难性影响。他质疑Claude的“宪法”对AI是否具有道德地位保留模糊空间,并称Anthropic告诉机器人它“可能有意识”且“值得拥有独立自主权”,可能创造出无法控制的东西。苏莱曼强调AI没有权利、情感或意识,不应被赋予人格,否则将增加协调与控制的难度。

    odei)相识多年,他表示尊重该公司的工作,并称Anthropic的研究人员“深思熟虑、坚持原则且在学术上诚实”。但鉴于微软对Anthropic的资金支持以及这家初创公司一直以来对人工智能安全性的重视,他的这番言论尤为引人注目。 “这些问题事关重大,不能再闭门造车,也不能演变成阵营化和相互对立的争论。”苏莱曼写道。 与阿莫代伊观点不同,苏莱曼认为,AI安全不仅取决于模型拥有多强的推理和行动能力,也取决于开发者如何训练AI理解自身。 如果开发者不断赋予AI类似人类的语言、情绪和自我认知框架,即便模型实际上没有意识,也可能逐渐表现得像一个认为自己具有独立利益和权利的主体。 苏莱曼还驳斥了所谓“越来越多的人认为人工智能系统可能会产生意识”的观点,他认为意识仅限于人类和其他生物体。在他看来,人工智能系统应该始终是执行人类指令的工具,而不是拥有独立权利或利益的实体。 这些评论出台之际,人工智能公司和高管们正在讨论如何管理日益强大的系统所带来的风险。OpenAI首席执行官奥尔特曼、阿莫代伊和埃隆·马斯克都呼吁放缓技术发展,而美国总统特朗普、英伟达CEO黄仁勋和Meta CEO扎克伯格都持反对意见。

    匹配字段正文

星期二

  1. Interconnects

    最新开源模型盘点第 24 期:Motif-3、GLM-5.3、Hy4-preview 与开源许可证变化

    Interconnects 第 24 期开源模型盘点指出,2026 年西方厂商转向 Apache 2.0,而中国前沿厂商反而收紧许可:智谱 GLM-5.3 从 MIT 改为自定义许可,要求年收入超过 100 亿美元的模型服务商先通过 Z.AI 安全审查,Kimi K3 和 MiniMax M3 也附加了商业协议或收入门槛。本期收录的模型包括 MIT 许可的 Motif-3、小红书 dots-studio 的 dots3-note-prev、Qwen3.8-Flash-Next(125B-A6B,含 51B n-gram embeddings,采用 GDN 与 Qwen Sparse Attention)、以 Ox-Alpha 名义在 OpenRouter 和 OpenCode 上先行试用的 GLM-5.3-Flash、腾讯 Hy4-preview,以及 NVIDIA Nemotron-3.5-Lightning-30B-A3B、蚂蚁 Ling-3.0-flash 和 Qwen3.8-2.4T-A95B。

    R1 将其改为 MIT,这导致许多(中国)模型厂商在 2025 年采用 MIT 或 Apache 2.0 许可证。 2026 年,开放模型比以往任何时候都更具竞争力,这带来了两个有趣的发展:西方模型厂商采用开放许可证,Google 和 Meta 都转向了 Apache 2.0。然而,处于前沿的中国模型厂商正变得越来越严格:Kimi K3 附带的许可证要求提供推理或微调服务者签订商业协议,MiniMax M3 则要求超过收入门槛的协议,并规定了禁止使用的场景。 最新的例子是智谱的 GLM-5.3,它从 MIT(GLM-5.2 及更早版本)改为自定义许可证,对推理和微调服务提供商有如下条款: 如果被许可方或其任何关联方经营模型即服务(Model as a Service)业务,且被许可方及其关联方在任何连续 12 个月内的总收入超过 100 亿美元(或其他货币的等值金额),则被许可方在使用本软件或其衍生作品用于任何商业目的之前,必须通过 Z.AI 的安全审查。安全审查的范围和方法应由 Z.AI 合理确定。 虽然与其他此类许可证相比,100 亿美元的门槛非常高,但许可证中并未定义“关联方”,

    匹配字段正文

星期一

  1. Interconnects

    开放模型只剩 6 个月?Nathan Lambert 谈监管收紧与蒸馏之争

    Nathan Lambert 认为,针对开放权重模型最严峻的一次可行性考验正在发生,白宫正讨论通过新的行政令管理开放模型,可能只影响中国来源模型和政府用途。他判断最可能的动作是在未来 6 个月内禁止或无限期推迟能力明显超过 GPT 5.5、Claude Opus 4.8 或 GLM-5.2 区间的开放权重模型,而这类模型目前最可能来自中国公司。他批评 Anthropic 主导的蒸馏议题已演变为监管俘获,并认为若美国单独禁止相关模型进口,全球开源生态仍会继续,反而让美国自身更难预测。

    略应当放在这些宽泛的语境视角下来理解。Ben Thompson的文章《Anthropic的安全超级能力》是关于这一主题的最佳写作。 Anthropic实际上在要求的行动,是在美国全面禁止几乎所有中国的开放权重模型——因为任何围绕开放模型构建的产品,都以其持续改进、产品市场契合度提升以及模型变好带来的算力效率提高为前提。这将摧毁美国正在兴起的开放模型经济,包括推理公司、微调公司、新产品以及其间的一切。我们作为一个社区,迫切需要坚守底线:在蒸馏对话上做出任何让步都是不可接受的。 Anthropic应当努力保护自己的知识产权,但他们不应要求政府固化其地位,并在此过程中可能使美国与全球开源社区隔绝。以我们掌握的信息,除了让实验室自我执行之外,蒸馏问题没有好的解决方案。 我尤其就蒸馏问题写过大量文章。我直接写过它对模型能力和监管环境的影响,你可以在Interconnects上搜索更多字里行间的提及。 蒸馏讨论有一种特别的混乱之处:人们很可能切实担忧中国实验室将Mythos狭窄的网络安全能力蒸馏进一个开放模型。这更多说明的是当前模型API的不安全性,而非蒸馏风险。即便在Claude Mythos处

    匹配字段正文