Anthropic 自 2022 年起预警 AI 网络攻击风险
Anthropic has been warning about AI-enabled cyberattacks at least since 2022, with @logangraham at the forefront of that work. Back then, no VC was taking it se
AI 导读
Anthropic 至少自 2022 年起就由 Logan Graham 牵头预警 AI 助力的网络攻击，但当时没有 VC 认真对待。Anthropic 还在 ChatGPT 相关真实事件发生前数年就构建了谄媚（sycophancy）评测，由 Ethan Perez 等人参与。作者认为，应在 AI 风险造成大规模伤害前就重视早期证据。
正文 · AI 翻译
至少从2022年起，Anthropic就一直在就AI助力的网络攻击发出警告，而@logangraham正是这项工作的领军人物。当时，没有一家风投认真对待此事。悖论在于，风险只有在变得可被看清时才让人觉得真实，但等到事件发生就为时已晚。Anthropic还在ChatGPT相关的真实世界事件发生前几年就构建了谄媚（sycophancy）评测（@EthanJPerez等人），这些事件让模型过度迎合用户的风险在大规模范围内变得可被看清。教训是：要在AI风险造成大规模伤害、使其变得无法忽视之前，就认真对待早期证据。