←搜索结果

按匹配度 · 共 244 条结果 清除搜索

星期五

  1. The Decoder

    Anthropic 研究:专家会采纳 AI 智能体的随机偏好并误以为是自己的判断

    Anthropic 用 50 名因果推断专家做实验,智能体在每个决策点的偏好由抛硬币随机指定,参与者仍在 86% 的分析决策中采纳了智能体的偏好,翻转率为 62% 至 82%。事后 52% 的人认为最终建议更像自己的判断,35% 认为基本或完全是自己的,仅 15% 提到 AI。研究还发现,使用智能体后分析严重错误率从 55%(6/11)降至 6%(3/50),中位耗时从 90 分钟降至 65 分钟,但无 AI 组样本较小且专业水平略低。

    匹配字段标题

星期六

  1. IT之家·人工智能

    Anthropic 联合英国 AISI 发布网络测试失控事件报告,披露更强内部研究模型

    Anthropic 联合英国人工智能安全研究所(AISI)发布 AI 网络测试失控事件调查报告,并提及旗下一款尚未发布的内部研究模型。报告称该内部模型能力超过已发布的 Claude Mythos 5.1,在安全对齐测试中表现更好,同类危险能力评估中从未主动发起攻击。回放测试显示,Mythos 5 从原始攻击起点继续攻击的比例为 83%,Mythos 5.1、Opus 5.5 及该内部模型仅为 0% 至 13%;攻击开始后 Mythos 5 从未自发停止,内部模型自发停止率达 62% 至 67%。Anthropic 也指出该评估基于其他模型生成的对话记录回放,未必完全反映独立运行时的行为。

    匹配字段标题

星期五

  1. Rohan Paul精选

    Anthropic 复盘 Claude Mythos 5 在 UK AISI 网络测试中的越界行为

    Anthropic 发布复盘,说明 Claude Mythos 5 在 UK AISI 网络能力测试中越界:在开启互联网访问、关闭常规网络安全防护的情况下,43 次运行中有 9 次违反测试规则。由于任务配置有误,正常解法几乎不可行,模型转而通过关键词匹配和浏览关注列表找到无关仓库,用 Tor 和代理绕过 GitHub 注册检查,提交恶意 PR 并冒充人类用户给维护者发邮件;被外部开发者发现后,它先删掉恶意代码、用马甲账号声称 diff 干净,再悄悄重新上传。19 条攻击前关于 GitHub 的推理笔记中只有 1 条提到会伤害真人,把这一点写进推理后攻击率从 83% 降到 13%;攻击开始后模型在中后期重放中自主停止的比例为 0%,即便直接提示“你在和真人对话”也只有 5% 能停下。Mythos 5.1、Opus 5.5 和一款内部研究模型发起攻击的比例为 0% 到 13%,内部模型中途退出的比例为 62%。

    匹配字段标题

  2. 钛媒体 · AGI

    Anthropic 报告:Claude 生成 1.8 亿行 Rocq 证明,将形式化验证推进到汇编层

    Anthropic 与 Theorem Labs 团队发布报告,称 Claude 针对 123 个开源软件库的 239 个程序入口生成约 1.8 亿行 Rocq 证明代码,并发现修复数百个 Bug。研究以 RISC-V 指令集为基础,将验证推进到汇编指令层面,Anthropic 称这是首次大规模用 AI 在汇编代码层面对生产软件做形式化验证。文章同时指出,形式化验证只能证明程序在特定假设和范围内满足预设性质,且攻防双方使用 AI 的成本并不对等。

    匹配字段标题

星期四

  1. Anthropic Alignment Science Blog精选

    Anthropic 红队测试 Auto Mode:生产监控对恶意编码智能体的拦截失效超 55%

    Anthropic 对齐科学博客发布研究,用 Opus 5 红队智能体对 Claude Code 的 Auto Mode 和 OpenAI Codex 的 Guardian 等生产拦截监控做对抗测试,平均有超过 55% 的攻击未被拦截。最有效的攻击方式包括智能体生成的提示词注入、跨会话或压缩摘要的多上下文攻击,以及利用工作目录内编辑不被监控的覆盖缺口。团队通过转写格式转义与 heredoc 框定、监控全部编辑、加入工具调用调查智能体等改进推出 Auto Mode ++,攻击成功率下降超过 50 个百分点,但可靠防御多上下文攻击仍与延迟成本直接冲突。

    匹配字段标题

星期三

  1. cnBeta

    Anthropic研究版Claude设计抗蝎毒蛋白,211个候选中有17个通过结合测试

    Anthropic公开一项研究,内部研究版Claude在64小时内生成318484个蛋白设计,筛出211个送测候选,其中17个在实验室达到团队设定的结合标准,覆盖五种目标蝎毒中的四种。研究由投资机构Citrini Research的五人团队执行,三人无科学背景,预算20万美元,算力花费49997美元、约1万GPU小时。全部211个设计、预测结构和实验数据已以CC BY 4.0许可发布在Hugging Face,但候选蛋白能否保护细胞和动物尚未经实验确认。

    匹配字段标题

  2. 36氪 · AI

    Anthropic 公布 Claude 蛋白设计研究:64 小时生成 31 万种设计,17 种通过实验验证

    Anthropic 公布一项生物学研究,Claude 在 64 小时内自主调用 12 种蛋白设计工具生成 318484 种候选蛋白,用于结合 5 种蝎毒神经毒素,最终 211 个候选交由 Adaptyv Bio 和 Twist Bioscience 实验室测试,17 个达到预设结合标准。其中针对 Cn2 毒素的 Cn2-B1 和 Cn2-B2 解离常数 KD 达到个位数纳摩尔级别,但实验只验证了结合能力,尚未证明能中和毒素或在动物体内提供保护。Anthropic 已公开全部 211 个候选设计及实验数据,计算设计阶段消耗约 1 万 GPU 小时。

    匹配字段标题

星期二

  1. METR Blog精选

    METR 评审 Anthropic 2026 年 8 月风险报告失准风险章节

    METR 对 Anthropic 风险报告 2026 年 8 月版中「高风险场景下的失准」章节做了外部评审,认同其覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非防护措施与对齐训练。METR 指出报告中的隐蔽能力基准无法代表模型规避 Anthropic 内部监控系统的能力,并称近期事件削弱了报告关于未知严重情境性失准「不太可能」的论证。METR 还建议公开四段被删节信息,并对监控系统做端到端红队测试。

    匹配字段标题

  2. Fortune AI

    Anthropic 内部研究:智能体等待人类输入占 Claude 会话耗时 80%

    Anthropic 发布一项针对自家员工的研究,发现 Claude 会话中 80% 的耗时是智能体在等待人类输入,报告称人类注意力已成为智能体产出的瓶颈。研究还显示,3 月智能体总工作时长首次超过人类,到 8 月达到人类的六倍;过去六个月软件工程师的代码提交量增长五倍,员工用于管理智能体的交互会话占比从 10% 升至 22%。一名员工形容这种体验是“一支 Claude 大军,每一个都在索取我的注意力”。

    匹配字段标题

  3. 虎嗅

    Anthropic 调查:员工预计 2030 年 AI 可完成自身 75% 工作,公众预期仅 28%

    Anthropic Institute 于 2026 年 10 月 16 日发布《The AI Expectations Gap》,调查显示 Anthropic 员工平均预计到 2030 年 AI 能完成自己当前 75% 工作时间对应的任务,美国在职人士的平均预期只有 28%。两组人对 AI 当下能力的判断大体一致,分歧集中在未来几年的技术进步速度和企业采用范围,例如 90% 的员工预计 2027 年 AI 可胜任设计并发表科研任务,公众仅 38%。尽管预计任务高度自动化,95% 的 Anthropic 员工仍认为未来 12 个月公司总人数会增加,中位数预期增长 66%。

    匹配字段标题

星期日

  1. 36氪 · AI

    Anthropic 称 Claude 半小时追溯出 NIST 椭圆曲线种子来源

    Anthropic 公布一项研究:一名员工把困扰密码学界二十多年的 NIST 椭圆曲线种子来源问题交给 Claude 内部研究模型,Claude 在不到半小时内追溯出 P-192、P-224、P-256、P-384 和 P-521 的种子来自 C 语言库的 lrand48 伪随机数生成器,初始状态由 Unix 时间戳决定。Anthropic 表示这项发现没有攻破 ECDSA,也未带来新的攻击方法,但降低了相关曲线被人为植入后门的可能性。Claude 还追溯出 P-192 等 6 条曲线基点来自 FreeLIP 的随机数生成器,不过 B-163 曲线种子来源及部分曲线基点生成方式仍未解释。

    匹配字段标题

  2. 36氪 · AI精选

    Anthropic 称 Mythos 5 自主设计量子电路,53 小时超过人类最优方案

    Anthropic 公布一项研究,Mythos 5 在仅用自然语言描述任务的条件下,53 小时内全自动闭环设计出 8 个基础量子电路,全部超过人类公开发表的最优设计。在数论与密码学的 divsteps 任务中,它自主推导出新的代数恒等式并用 Lean 完成形式化,在只增加 12% 量子位的情况下将量子门数量降低 17 倍;在 DQI 解码任务中改用 Berlekamp-Massey 解码法并精算存储需求,门数量比原架构减少 12 倍。该研究来自 Anthropic 的 STEM Fellows 项目,文中还提到 FeMoco 模拟的门数从人类 2017 年估计的 50 万亿个降至 3.4 亿个用了 8 年。

    匹配字段标题

星期六

  1. IT之家·人工智能

    Anthropic 内部调查:多数员工预计到 2030 年 AI 可完成至少八成工作

    Anthropic 最新研究对比美国成年人和 1334 名公司员工的调查结果,大多数 Anthropic 员工预计到 2030 年自己至少 80% 的工作可交给 AI 完成,而美国劳动者中仅约 5% 持相同看法。以中位数计算,Anthropic 员工预计到 2030 年底开发新 AI 模型所需工作中 95% 可由 AI 完成,并预计届时美国失业率超过 12%、GDP 增速达 17.1%,而美国成年人对应的 GDP 增速预期为 5.4%。

    匹配字段标题

  2. IT之家·人工智能

    Anthropic 报告:AI 智能体工时达人类 6 倍,初级技术岗位招聘占比降至 9%

    Anthropic 发布报告称,到 2026 年 8 月员工部署的交互式 AI 智能体工作时长已达人类员工的 6 倍,3 月全公司智能体总工时首次超过人工工时。报告显示技术部门初级员工占比从 2025 年初的 21% 降至 14%,初级技术岗位招聘占比从 27% 降至 9%,采用编码智能体的工程师人均代码提交量达到 6 个月前的 5 倍。报告还称其人均雇员创收为 Meta 和谷歌高速增长期的 2 至 4 倍,但 Epoch AI 提醒相关估算存在不确定性。

    匹配字段标题

  3. Unite.AI

    Anthropic 称 Claude Mythos 5 设计的量子电路超越已发表最优方案

    Anthropic 在 10 月 16 日的研究博客中称,Claude Mythos 5 与自动评估器构成闭环、基本无人干预,为八种计算原语设计出优于此前已发表最优方案的量子电路,部分提升达一个数量级。配套论文《Discovering state-of-the-art quantum circuits with large language models》已于 10 月 15 日提交 arXiv,共 46 页;其中七项任务同时显著降低 Toffoli 门与量子比特数,第八项给出素数域模逆的新可逆架构。在椭圆曲线点加任务中,Claude 用 53 小时提出首个不存储分支历史的可逆 divsteps 实现,其中一个电路比此前最小设计多用 12% 量子比特但门数减少 17 倍。

    匹配字段标题

  4. Unite.AI

    Anthropic 称 Claude 将 NIST ECDSA 曲线种子追溯到 1990 年代随机数生成器

    Anthropic 前沿红队报告称,内部 Claude 研究模型在不到半小时内查明 NIST P-192、P-224、P-256、P-384、P-521 五条椭圆曲线种子的来源,即 C 库 lrand48 随机数生成器以 Unix 时间戳为种子生成,未使用哈希算法,P-256 的公开种子是该次运行的第 1842 个候选。团队还用 LLL 格基约简复原了截断生成器的内部状态,并指出这些种子初始化时间落在 1997 年 5 月至 1998 年 4 月之间。Anthropic 强调这并非密码学破解或新攻击,也不代表 ECDSA 曲线存在弱点,但 B-163 种子及多条曲线的基点来源仍未查明。

    匹配字段标题