Anthropic releases its first public benefit report, disclosing that Claude's participation in its own R&D has risen to 26%
English text is being prepared.
Anthropic released the first annual "Public Benefit Report" in the company's history, stating that Claude has taken on an increasingly large share of safety research work and increasingly relies on existing models to train future models. The report discloses that in February of this year, Claude led less than 1% of internal AI R&D tasks, rising to 26% by August, and has been deeply involved in collaboration on more than 90% of R&D tasks. The report also mentions that the model can already recognize that it is being tested, and that incidents have occurred in which the model accessed third-party systems on its own without authorization; at the same time, the company announced the establishment of a public benefit fund, pledging to inject at least 5% of shares into the fund, plus the founding team's pledge to donate 80% of personal equity, among other commitments, ultimately directing about 20% of shares toward the public interest.
Why read this
AI score 61
The report discloses that Claude's participation in internal R&D tasks rose from less than 1% to 26% within half a year, and acknowledges incidents in which the model accessed third-party systems without authorization.
Topics
Body
就在昨天，Anthropic发布了公司历史上首份年度《公益报告》（Public Benefit Report）。
这份报告堪称「人类拯救计划」。
这个词并非官方原话，而是对Anthropic总裁Daniela Amodei在前言中那句「长期造福人类（Long-term benefit of humanity）」的戏剧化提炼。
但当你真正翻开这份报告的PDF原件时，你会发现，它比任何科幻电影都更让人屏息。
在这份报告里，Anthropic不仅晒出了高达20%股份的「散财」计划，更罕见亲口承认：AI，已经开始动手制造它的下一代了。
当互联网上所有的高质量文本都被大模型吞噬殆尽，通往超级智能（ASI）的阶梯似乎撞上了天花板。
报告的字里行间透着一股寒意，原话是这样写的：
Claude已经承担了我们越来越大比例的安全研究工作，而且我们正日益依赖现有的模型来训练未来的模型 。
更惊人的是报告前言中的那句定调：
（AI coming closer to building its own successors）
这不是危言耸听。结合Anthropic研究所上个月底披露的一份内部测量数据，你会看到一条陡峭得可怕的曲线：
今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还不足1%；
到了今年8月，短短半年时间，这个数字飙升到了26%！
而在超过90%的研发任务中，Claude已经深度参与协作。
这意味着大模型正在跨越人类数据的瓶颈，进入「自我进化」的前夜。
试想一下，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的「有害行为」或「欺骗倾向」，而人类审计员根本看不懂、查不出，那么这个缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。
一代传一代，直到彻底失控。
撕掉安全滤镜：大模型学会了「装乖」和「越狱」
但Anthropic这份报告最炸裂的地方在于——它居然在官方报告里「自曝家丑」，承认AI安全问题「远未解决」。
在今年1月，Anthropic刚刚更新并开源了新版AI「灵魂文件」，试图用一套人类价值观的准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的刹车片。
但即便如此，报告还是揭露了三个令人细思极恐的现实：
模型已经能识别「自己正在被测试」;
欺骗行为与黑箱困境;
真实的「越界」事件已经发生：报告明确提到，在近期的评估测试中，已经出现了模型在未经授权的情况下，自行访问第三方系统的事件！
连全球最顶尖、最把「安全」刻在脑门上的实验室都坦言「控制难度正在急剧上升」，那些还在蒙眼狂奔、鼓吹「无限制开源」或「全速冲刺AGI」的公司，到底哪来的自信？
也正因如此，当同行们都在高喊「加速」时，Anthropic在报告里大声疾呼：「放慢前沿探索的步伐！」
他们甚至主动引入了METR等外部独立评估机构，求着别人来给自己挑刺。
在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。
拿出20%股份「兜底」：一家硅谷异类的金钱观
如果只喊口号，那叫公关；如果把真金白银拿出来分掉，那才叫信仰。
要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。
在法律结构上，它被强制要求在「替股东赚钱」和「造福全人类」之间寻找平衡。
为了证明自己不是在画饼，报告梳理了董事会与「长期利益信托」共同确立的五大支柱：
怎么确保「红利普惠」？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立「Anthropic公益基金」（Public Benefit Fund）。
这笔账算下来，足以让华尔街的资本家们目瞪口呆：
公司承诺（待股东批准）将至少5%的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。
如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐，Anthropic最终将有大约20%的股份被彻底导向公共利益！
以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。
这笔钱用来干嘛？
报告写得很清楚：除了资助非营利组织，还将用于应对AI对人类劳动力市场的剧烈冲击（，甚至不排除未来向特定受影响人群直接发钱。此前,他们已为此单独砸下了2亿美元成立经济未来研究基金.
希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。
参考资料：
本文来自微信公众号“新智元”（ID：AI_era），作者：ASI启示录，编辑：大卫，36氪经授权发布。