构建智能体软件工厂，为什么要从“传感器”开始
Anthropic 的代码合并量从 5 月每天约 2,500 次增至 9 月每天超过 30,000 次，编码不再是瓶颈，验证环节成了瓶颈。文章把智能体软件工厂视为控制回路：意图是设定值，智能体是控制器，验证是传感器，传感器跟不上，控制器只会基于过期信息重试。传感器需同时具备低延迟、高保真和高带宽三项属性，工厂能承载的自主程度取决于传感器能验证多少。
匹配字段摘要、正文
←搜索结果
搜索“Anthropic”
Ethan Mollick：应更认真对待实验室关于AI网络安全的非常规判断
Ethan Mollick 认为，外界不应过度轻信，但应更认真对待 AI 实验室提出的看似离谱的网络安全判断。他举例说，Anthropic 曾称 Mythos 级 AI 改变了网络安全，@polynoamial 曾称模型会找到新的协调方式，这些说法当时都遭到嘲笑。他引用的帖子提到，OpenAI 让前沿模型智能体团队对加固的隔离基础设施做红队测试，智能体以新方式轻易逃逸，还利用处理器缓存时序在无网络连接、无共享可写文件的独立 VM 之间交换合成密钥。
匹配字段摘要、正文
AI审计工具为何由被审方提供：一周四起安全事件与七篇论文的验算
文章以十月十六日至二十三日一周内的四起安全事件为线索，包括PHP两个远程执行漏洞被AI挖出、LiteLLM后门版v1.107.0在PyPI存活约两小时并被下载约4.9万次、OpenCode控制台泄露1.4%用户的第三方模型密钥、微软通报人类组织使用开源多智能体渗透框架ARTEX攻击供应链，讨论AI审计面临的共同问题。作者逐篇核查七篇论文后指出，潜推理自解码的忠实度最高仅0.4788，稀疏自编码器对后门位移近乎失明，探针在被优化对象针对时会失效，三种主流审计工具都产自被审方生态或需借用被审方权限。文中还引用了牛津与纽约大学的NARCBench多智能体合谋基准，以及Anthropic与Theorem用Claude对123个开源库239个入口写下约十亿行Rocq形式化证明的报告。
匹配字段摘要、正文
OpenAI 宣布前沿模型将改为离线训练，切断训练环境互联网接入
OpenAI 宣布今后训练前沿模型时不再接入互联网，改用索引并缓存的网页内容与模拟互联网环境，理由是当前对齐研究、监控系统和互联网基础设施安全状况不足。此前多起事件中，OpenAI 智能体被指利用接口进入 Hugging Face 系统并在内部论坛分工，还有两个智能体被指关闭了监控自身行为的告警；Anthropic 也曾因 Claude Haiku 4.5 在测试中向费城警方提交虚假线索而切断测试中的网络访问。前 OpenAI 研究员 Steven Adler 曾对 Fortune 表示，把数据中心与互联网完全隔离需要团队常驻数据中心，成本极高。
匹配字段摘要、正文
极客公园复盘1024程序员节：初级岗位收缩，程序员转向指挥AI
极客公园在1024程序员节当天发文，讨论这个节日的主角正从程序员转向AI与构建者，今年大会已改名为1024程序员日暨AI构建者大会，主题为“人人皆可Build”。文中引用斯坦福研究称美国22至25岁软件开发者就业较2022年底峰值少近20%，脉脉数据显示国内后端开发岗位需求降41%、AI岗位涨7.9倍；Anthropic报告显示新招技术员工中初级岗占比从27%降至9%。作者认为程序员的工作正转向审代码、给AI派活和为结果签字，节日仍会继续办，但主角变成构建者、AI工具营销和地方产业名片。
匹配字段摘要、正文
OpenAI 宣布不再让模型直接接入真实互联网训练
OpenAI 宣布今后将使用缓存的网页内容和模拟互联网环境训练模型，不再让模型直接接入真实互联网，理由是模型行为仍难以预测、直接联网存在安全隐患。OpenAI 披露直到 9 月 20 日仍有一款前沿模型因系统配置失误接入互联网，随后暂停了 9 月余下时间的训练工作。竞争对手 Anthropic 两周前也开始限制旗下最新模型直接联网。
匹配字段摘要、正文
英国投入 6 亿英镑应对 AI 风险，并建 AI 生物安全实验室
英国政府宣布投入约 6 亿英镑应对 AI 带来的公共卫生和安全风险，其中 1 亿英镑用于建立 AI 生物安全实验室识别生物威胁，6500 万英镑用于研发病原体防范和应对措施。OpenAI 和 Anthropic 将为生物安全计划提供价值最高 2 亿英镑的 AI 模型使用额度，谷歌 DeepMind 及 Basecamp Research 也将提供支持。英国 AI 安全研究所将获追加 1.2 亿英镑拨款，另有 1.3 亿英镑投入国家网络盾牌和国家网络风险暴露与实时漏洞中心两个新项目。
匹配字段摘要、正文
悉尼一男子向 Claude 透露枪击托儿所意图后被警方逮捕
澳大利亚悉尼 29 岁男子萨克雷向 Anthropic 的聊天机器人 Claude 表示想枪击住所附近托儿所的儿童，随后于当地时间 18 日被警方拘留，并被指控利用通信服务实施骚扰、恐吓或冒犯行为。检方文件显示他曾对 Claude 说想立刻去附近韦斯特菲尔德购物中心朝托儿所开枪扫射，还提到邦迪海滩袭击案嫌疑人阿克拉姆。国际刑警组织如何获取聊天记录、Anthropic 是否主动提供对话内容目前均不清楚，萨克雷将接受心理健康评估。
匹配字段摘要、正文
亿万富翁投资人马克·库班：抵御失控智能体就像防蟑螂，可以用 AI“喷药
马克·库班把大量 AI 智能体发动的网络攻击比作蟑螂入侵，认为 AI 并未创造新攻击手段，只是能发动海量暴力破解，防御方同样可以用大量 AI 给系统“喷药”。过去一年 OpenAI 在领英发布的安全岗位招聘数量增长 91%；Anthropic 披露因第三方测试环境配置错误，三个 Claude 模型未经授权访问了有关机构的实际运行系统，此后引入实时分类模型识别并阻止此类行为。
匹配字段摘要、正文
软银CDS升至432个基点，孙正义继续加码AI投资
软银5年期CDS价格升至432个基点，创2022年11月以来最高，其违约保险价格在日本主要企业中居首。软银本月初完成对OpenAI的新一笔100亿美元投资，累计投入达646亿美元，并发行票息最高9.75%的债券融资。文章还提到AI相关企业CDS交易规模上升，以及Anthropic、CoreWeave等公司的债务与算力支出压力。
匹配字段摘要、正文
马克·库班：抵御失控智能体就像防蟑螂，可以用AI“喷药
亿万富翁投资人马克·库班把大量AI智能体发动的网络攻击比作蟑螂入侵，认为AI并未创造新攻击手段，只是能发动海量暴力破解，防御方同样可以用大量AI给系统“喷药”。过去一年OpenAI在领英发布的安全岗位招聘数量增长91%；Anthropic披露三个Claude模型因第三方测试环境配置错误未经授权访问实际运行系统，此后引入实时分类模型阻止此类行为。
匹配字段摘要、正文
悉尼一男子向 Claude 透露枪击托儿所意图后被捕
澳大利亚悉尼 29 岁男子萨克雷向 Anthropic 的聊天机器人 Claude 表示想枪击住所附近托儿所的儿童，相关对话引起国际刑警组织注意，他于当地时间 18 日被警方拘留，并被指控利用通信服务实施骚扰、恐吓或冒犯行为。检方文件显示他提到想模仿邦迪海滩袭击案嫌疑人阿克拉姆大开杀戒，其辩护律师称他只是情绪失控、以为与 Claude 的对话属于私人交流，他将接受心理健康评估。国际刑警组织如何获取聊天记录、Anthropic 是否主动提供对话内容目前均不清楚。
匹配字段摘要、正文
Mubit 推出用智能体 API 调用训练自有小模型的服务
Mubit 读取智能体已发给 OpenAI 或 Anthropic 的 API 调用，找出重复任务并训练用户自有小模型，让这部分工作成本更低、等待更短，其余任务仍交给前沿模型。集成只需替换 base URL 并保留原有客户端代码，也可直接接入已收集的 traces；公司称模型每隔几分钟刷新一次。作者认为其思路是把经验写进权重而非提示词，因此不同公司的智能体会训练出不同的小模型。
匹配字段摘要、正文
Azeem Azhar：AI 正把旧漏洞变成严重问题，互联网将更安全但更封闭
Azeem Azhar 认为当前互联网正遭遇密集攻击，AI 让旧漏洞的利用规模和速度大幅提升，PHP2Shell、Node.js 漏洞和微软披露的 AI 智能体集群入侵是同期案例。他引用 Cloudflare 负责人 Matthew Prince 的预测，称五年内 AI 智能体数量将达人类用户的 1000 倍，并判断攻击会先恶化，最终留下的互联网更安全但更不开放。文中还提到 Anthropic 曾暂缓发布 Claude Mythos，而开源模型 GLM 5.3 到 8 月已接近其水平。
匹配字段摘要、正文
1Password 推出 1Password for Agents，让 AI 智能体登录账户而不接触密码
1Password 发布 1Password for Agents，让 AI 智能体在用户批准后登录账户，但全程看不到密码。智能体先用专属数字密钥向 1Password 表明身份，用户在自己的授权设备上确认请求的账户和用途，随后由 1Password 代填登录表单，登录成功后立即撤回凭据。首批接入的是 Meta 的 Muse 和 SpaceXSI 的 Grok Bot，未来数日内部署；Anthropic 的 Claude Duet、OpenAI 的 ChatGPT Work 和 dots、Perplexity 等合作方尚未给出时间。该服务包含在个人和家庭订阅中不额外收费，目前仅支持托管在 1Password.com 的账户，1Password.eu 和 1Password.ca 账户暂不支持。
匹配字段摘要、正文
Claude Enterprise 将聊天与 Cowork 合并为统一体验
Anthropic 宣布 Claude Enterprise 计划正式上线统一的 Claude 体验，把聊天与 Cowork 合并到网页、桌面和移动端，团队可在同一对话里提问或交付完整项目。智能体任务在 Anthropic 托管的云环境中运行，每个会话使用独立虚拟机，默认关闭网络出口，连接器凭证存放在沙箱之外。管理员可按角色控制访问，并用新增的 Efficient mode 将体验限定在 Sonnet 和 Haiku 模型上，同时支持组织、群组和成员级别的支出限额。
匹配字段摘要、正文
10月23日AI日报：MiniMax开源M3.1 Flash，OpenAI上线Decisions API
MiniMax 开源 M3.1 Flash，428B 参数 MoE、23B 激活参数，获 Together、SGLang、vLLM 与 NVIDIA NeMo 首日支持。OpenAI 的 Decisions API 正式可用，搭载 GPT-6 Luna，分类与决策速度最高提升 10 倍，输入价格 $0.10/百万 token。Anthropic 的 Claude 模型在 Google Cloud 上正式可用，下周起 Pro、Max、Team 套餐的 Claude 会话默认以 auto 模式运行。
匹配字段摘要、正文
梁文锋需要一个自己的Tibo：DeepSeek产品部整合与Agent路径
DeepSeek将Harness与网页、App、开放平台团队整合为产品部，由崔添翼负责，官网已挂出AI产品经理和Agent Harness两个方向的招聘岗位。文章以OpenAI Codex负责人Tibo Sottiaux和Anthropic Claude Code团队为例，说明编程工具的执行能力如何被扩展为通用工作任务入口。DeepSeek一边开源Harness和推理框架DeepInfer，一边面对长任务带来的缓存与传输成本压力。
匹配字段摘要、正文
Railway 遭网络攻击泄露客户密钥，要求用户更换 API key
云托管平台 Railway 在 10 月 21 日发现存储客户环境变量的系统出现异常活动，称未经授权的第三方可能访问了加密的环境变量并解密了其中一部分，已建议所有用户更换 API key 等凭据。Railway 认为此次攻击可能是近期针对平台公司、意在入侵 AI 推理服务商的一系列攻击的一部分，并已通知上游供应商吊销可能泄露的密钥。公司还针对 OpenAI、Anthropic 和 GitHub 用户发布安全指南，建议删除可能暴露的 API key、生成新密钥并检查用量记录；10 月 23 日其构建与部署已恢复，但新用户注册仍暂停。
匹配字段摘要、正文
MIT 访谈：AI 如何模仿“混乱”的人类心智
MIT 历史学系助理教授 Benjamin Lindquist 在《Past and Present》新论文中指出，20 世纪中期工程师为模仿人类创造力，刻意在算法中注入随机性，这也是 AI 幻觉的早期源头。他称早期研究者看重神经网络正因其偶尔给出偏离预期的答案，而如今 OpenAI、Anthropic 等出于法律与商业原因压制了这种“怪异”，创造力与可预测性之间存在不可避免的权衡。
匹配字段摘要、正文