Dario Amodei:AI 已能胜任入门级法律金融咨询
Anthropic 首席执行官 Dario Amodei 最近在回应刚毕业的高中生该如何规划未来时,给出了一个毫不留情的冷酷判断:人工智能已经能够胜任入门级的法律、金融与咨询业务,并且将在短期内直接消灭一大批初级岗位。
Anthropic CEO Dario Amodei 判断,AI 已能胜任入门级法律、金融与咨询业务,并将在短期内消灭大批初级岗位;他此前预警未来一到五年内一半入门级白领工作可能被颠覆。他给出的破局建议是“学会用工具”,并把使用能力分为从日常聊天到全局指挥的六级,认为跨过第四级 Harness 门槛(为模型配齐固定工具、长效记忆与标准流程)才是产能分水岭。他也提醒,金融、法律等低容错业务中系统无法承担最终合规与道德责任。
查看原帖卧槽,太离谱了!一把明确关掉了提现权限的 API key,居然照样被人神不知鬼不觉搬走了 1039 万美元的 USDC,@GCSA_COM这篇把过程拆解的特别清楚, 最让人后背发凉的是,这起事故里智能合约没被黑,官方 SDK 也没有漏洞, 纯粹是一个交易员自己写的签名代码图省事,重复使用了同一个随机数,结果链上公开躺着的两笔交易签名一碰撞,私钥直接被数学公式反推了出来。 拿到私钥的攻击者发现这把 key 根本提不了现,于是干脆换了个绕路打法,直接用受害者账户自己建了一个公共资金池把钱全转进去, 紧接着让另一个提前持有池子份额的马甲账户一脚赎回,一千万美金就这么合法合规地洗出去了。 现在满大街的开发者都在给自己的 AI agent 塞各种 API key,心里还美滋滋觉得只要把转账、删库、提现这些高危开关关掉就万事大吉了, 但这起千万美金的教训直接把这层安全幻觉撕了个粉碎,真正决定风险上限的从来不是你关掉了哪个按钮, 而是你放开的那几个普通权限能不能在业务规则里绕出一个等效的死循环。 以后在给任何 AI agent 发放权限或 API key 之前,养成一个习惯, 先把你勾选的权限清单和业务接口文档丢给 Claude,直接下指令让它扮演黑客, 专门找一条不碰高危开关也能把资产或数据绕出去的路径,这招能帮你提前堵死九成隐形漏洞。
查看原文
卧槽,太离谱了!一把明确关掉了提现权限的 API key,居然照样被人神不知鬼不觉搬走了 1039 万美元的 USDC,@GCSA_COM这篇把过程拆解的特别清楚, 最让人后背发凉的是,这起事故里智能合约没被黑,官方 SDK 也没有漏洞, 纯粹是一个交易员自己写的签名代码图省事,重复使用了同一个随机数,结果链上公开躺着的两笔交易签名一碰撞,私钥直接被数学公式反推了出来。 拿到私钥的攻击者发现这把 key 根本提不了现,于是干脆换了个绕路打法,直接用受害者账户自己建了一个公共资金池把钱全转进去, 紧接着让另一个提前持有池子份额的马甲账户一脚赎回,一千万美金就这么合法合规地洗出去了。 现在满大街的开发者都在给自己的 AI agent 塞各种 API key,心里还美滋滋觉得只要把转账、删库、提现这些高危开关关掉就万事大吉了, 但这起千万美金的教训直接把这层安全幻觉撕了个粉碎,真正决定风险上限的从来不是你关掉了哪个按钮, 而是你放开的那几个普通权限能不能在业务规则里绕出一个等效的死循环。 以后在给任何 AI agent 发放权限或 API key 之前,养成一个习惯, 先把你勾选的权限清单和业务接口文档丢给 Claude,直接下指令让它扮演黑客, 专门找一条不碰高危开关也能把资产或数据绕出去的路径,这招能帮你提前堵死九成隐形漏洞。
正文
Anthropic 首席执行官 Dario Amodei 最近在回应刚毕业的高中生该如何规划未来时,给出了一个毫不留情的冷酷判断:人工智能已经能够胜任入门级的法律、金融与咨询业务,并且将在短期内直接消灭一大批初级岗位。 这不是他第一次拉响警报,他此前就公开预警过,未来一到五年内,整整一半的入门级白领工作都可能遭到彻底颠覆。 大家默认以为历次技术革命就像当年人类从农场走进工厂、再从工厂跨进互联网一样,每次转变总会留出几十年甚至几代人的缓冲期让普通人慢慢适应。 但这一次的技术切割不仅刺进了脑力劳动的深水区,而且渗透速度快到根本不给传统教育留出调整学制的窗口期。 他给出的破局建议听起来平平无奇,只有学会用工具四个字,但绝大多数人根本没意识到,会用这两个字背后其实横着一道从聊天到指挥官的六级天堑: 第一层是日常聊天,第二层是琢磨提示词,第三层是调用现成智能体,第四层是搭建专属的工作流底座,第五层是让系统自动化循环运转,最高层则是人彻底退居幕后做全局指挥。 市面上超过九成的人都死死卡在前两层,每天依然停留在把对话框当成高级搜索引擎的阶段,真正拉开个人产能百倍差距的分水岭,在于有没有跨过第四级的 Harness 门槛,也就是亲手给模型配齐固定工具、长效记忆与标准流程,让它按你的业务规矩反复干活,而不是每次都从零开始重新聊。 留个清醒,搭建自动化体系虽然能成倍放大单兵作战效率,但在金融、法律等容错率极低的严肃业务里,系统依然无法替人类承担最终的合规与道德责任,越是自动化循环运转,人类在验收节点上的判断力就越不能缺席。 未来职场最残酷的淘汰从来不是不会打字,而是当别人已经坐拥一整支随时待命的自动化执行团队时,你还在对着对话框一字一句地重新解释背景。 https://t.co/8dAyR0ztFO
AI 热点