搜索“Anthropic”

不是什么随便招来的志愿者。 研究使用了124篇学术论文，以及哈佛大学定量社会科学研究所旗下rapidPeer服务提供的134份人类审稿意见——这是一项付费的专业审稿服务，审稿人由领域专家挑选，来自不同的研究机构，而且报酬不低。 他们的表现原本也很不错：在接受调查的74位论文作者中，有88%认为收到的审稿意见质量很高，其中60%给出了最高档评价。 研究人员使用Anthropic的Claude Opus 4.8生成审稿意见，再请OpenAI的GPT-5.5担任AI评委，在不知道意见由谁撰写的情况下，比较人类与AI的审稿质量。 结果是，人类输得非常彻底。 即使不允许AI联网，只给它和人类一样的审稿指南，在134组对比中，GPT-5.5也全部选择了AI。 换用专门优化的提示词、开放联网后，134组比较中有132组明确判AI获胜，剩下两组结果不确定，人类依然没有取得任何胜利。 具体来看，在补充参考文献、发现论文弱点和研究方法三个维度上，AI的胜率达到100%；理论创新、论述框架、表达质量等方面，胜率也都超过90%。 研究人员甚至检查了AI引用的651个带有DOI或arXiv编号的参考文献，发现全

匹配字段正文

研究需要严谨的验证和审查。 研究使用了124篇学术论文，以及哈佛大学定量社会科学研究所旗下rapidPeer服务提供的134份人类审稿意见——这是一项付费的专业审稿服务，审稿人由领域专家挑选，来自不同的研究机构，而且报酬不低。 他们的表现原本也很不错：在接受调查的74位论文作者中，有88%认为收到的审稿意见质量很高，其中60%给出了最高档评价。 研究人员使用Anthropic的Claude Opus 4.8生成审稿意见，再请OpenAI的GPT-5.5担任AI评委，在不知道意见由谁撰写的情况下，比较人类与AI的审稿质量。 结果是，人类输得非常彻底。 即使不允许AI联网，只给它和人类一样的审稿指南，在134组对比中，GPT-5.5也全部选择了AI。 换用专门优化的提示词、开放联网后，134组比较中有132组明确判AI获胜，剩下两组结果不确定，人类依然没有取得任何胜利。 具体来看，在补充参考文献、发现论文弱点和研究方法三个维度上，AI的胜率达到100%；理论创新、论述框架、表达质量等方面，胜率也都超过90%。 研究人员甚至检查了AI引用的651个带有DOI或arXiv编号的参考文献，发现全

匹配字段正文

责人在接受采访时表示，在这一过程中，模型会持续更新当前的诊断假设，并相应调整后续检查计划。 微软表示，该系统由OpenAI的GPT-5驱动。研究人员称，诊断协调器的表现也优于独立运行的前沿AI模型。不过，经过同行评审的论文并未纳入更新的模型进行比较，例如GPT-6 Astra、Meta的Muse Wonder Full、谷歌的Gemini 4 Argon以及Anthropic的Opus 5.5。 微软AI医疗业务部门副总裁Dominic King表示，“AI在这类测试中已经非常出色，拿到满分已不是什么难事。但这当然不是真实世界的情况。没有哪个患者会来找我看病时，直接递上一份整理得清清楚楚的病情摘要。” 研究人员还发现，与由人类医生制定诊断检查方案相比，由协调器规划诊断流程的成本更低。 “我们衡量的不仅仅是系统的诊断准确率，还包括它在整个诊断过程中，能否审慎、细致地选择检查项目，合理安排诊断步骤，”微软AI医疗团队负责人Harsha Nori表示。 接下来，研究团队将与波士顿的Beth Israel Deaconess Medical Center合作，测试这款工具在急诊科候诊区对患者进

匹配字段正文

入院数据库的急诊病例上也优于医生，准确率达到80%，而人类医生的平均准确率为47%。该AI系统给出诊断的估算成本也往往低于人类医生。 研究人员表示，该系统由OpenAI的GPT-5驱动，其表现也优于单独运行的前沿AI模型，不过这篇经过同行评审的论文并未纳入GPT-6 Astra、Meta的Muse Wonder Full、谷歌的Gemini 4 Argon或Anthropic的Opus 5.5等较新模型。Diagnostic Orchestrator最初是在GPT-4.1为当时最先进模型时开发的，但研究人员表示，后续测试表明，“模型能力的提升并不一定会削弱”多个智能体协同工作的优势。 微软承认，在这项技术能够广泛部署之前还有很长的路要走。虽然这些测试更贴近医生诊断病情的方式——询问问题、权衡可能的解释、在得出诊断前安排检查——但该系统仅在过往病例上进行了测试，它在真实临床环境中的表现如何仍不清楚。“它需要临床验证，”苏莱曼说。“这是一个飞跃，但这是那段旅程中的一个重要里程碑。” 这项研究是微软更广泛雄心的一部分，即开发该公司所称的“医疗超级智能”——能够超越最佳人类主导医疗保健系统的A

匹配字段正文

除用户孩子的照片。 这些发现于9月发表在一篇尚未经过同行评审的论文中，并未表明AI模型有意识或能感受到任何东西，研究人员也谨慎地避免作出此类暗示。 但这项工作为越来越多的研究增添了证据，这些研究表明，大型语言模型（LLM）包含类似情绪状态的内部表征，这些表征会以文本输出未揭示的方式影响其行为。它也正值一场日益激烈的争论之中：AI系统是否有可能值得道德考量。 Anthropic的研究人员尤其愿意考虑AI模型可能值得道德地位这一想法，并已开始围绕“模型福利”制定政策，而微软AI首席执行官Mustafa Suleyman等其他专家表示，这可能具有潜在危险的影响。 “如果我们想构建超级智能，那么在这个阶段，当我们仍处于最初几步时，尽可能多地理解[模型]内部的东西就很重要，”该论文第一作者、Future Impact Group AI感知项目研究员Valen Tagliabue对Fortune表示。 由于LLM从海量数据中学习，而不是被明确编程，即便是构建它们的人对其运作方式的理解也有限。Tagliabue说，避免未来先进AI的内部运作仍是一个“黑箱”很重要。 在神经网络中发现疼痛 Taglia

匹配字段正文

SET 3b33bf9d9a3dcc9cc9a6dcb011accb0e453ca25330df36af7a1db16e8fb55529 64，用于追踪目的。 此次演练与METR对Hugging Face事件的调查相互独立，后者恰巧在此次演练的第一天被公开报道。↩ 一份经OpenAI删减的38页版本已与METR和Redwood的领导团队共享。↩ 与我们此前与Anthropic进行的压力测试演练（以及METR此前与许多实验室的合作）类似，我们只发布这份非公开报告的一小部分内容，并且OpenAI有权从这一公开版本中删减任何OpenAI（自行酌情）认定为机密或其他敏感的信息。与近期其他合作（如《前沿风险报告》和Hugging Face事件调查）不同，我们无权单方面说明此类删减内容，不过我们认可本文所呈现的每一项发现。↩ 请注意，这不包括我们所知的其他内部智能体编码流量来源，例如运行在OpenAI内部研究推理服务上的智能体——由于访问权限和时间限制，我们无法估算此类流量的规模。↩ 符合监控条件的流量本应被发送至监控器，但原则上，负载削减、监控器错误或实现缺陷可能导致部分符合条件的流量无法走完整

匹配字段正文

before adding, “the gender result is something we want to keep an eye on.” Another trend the researchers are monitoring is automation versus augmentation. Key data comes from the Anthropic Economic Index, released by the Bay Area-based AI firm, which analyzes roughly a million anonymized user conversations with its large language model, Claude. Tagging users by occupation, the index assesses whether they use the LLM primarily for task automation or task augmentation. “What we find is occupation

匹配字段正文

新智元特邀作者7收 藏+10评 论打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微 博沉浸阅读返回顶部举报参与评论评论千万条，友善第一条登录后参与讨论提交评论0/1000你可能也喜欢这些文章看面相断生死，AI居然真做到了？替企业管住AI账单，融到6000万美元：North.cloud盯上了谁的钱？AI 会是人类最后的发明吗？腾讯领跑、百度第二，AI办公远未定局李泽湘系团队做了款贴在手机背后的墨水屏Agent，获祥峰、五源、源码等投资｜硬氪首发Anthropic 招股书最新披露：营收163亿、账面亏损高达807亿美元Codex天团深度复盘：编程顶流是如何诞生的？AI员工泡沫破裂，Meta紧急叫停裁员计划，小扎：还是人类好用陶哲轩邓煜最新对谈，呼吁数学「慢科研」新智元特邀作者 TA没有写简介，但内敛也是一种表达发表文章5499篇 下一篇利润超预期，股价却大跌：管理层震荡的奈飞正撞上增长墙 36氪欧洲站36氪欧洲站36氪欧洲站Ai产品日报网络谣言信息举报入口热门推荐 推送和解读前沿、有料的科技创投资讯 一级市场金融信息和系统服务提供商 聚焦全球优秀创业者，项目融资率接近97%，领跑行业

匹配字段正文

与评论评论千万条，友善第一条登录后参与讨论提交评论0/1000你可能也喜欢这些文章哈佛重磅研究：AI凭人脸照片，就能预测癌症患者死亡风险替企业管住AI账单，融到6000万美元：North.cloud盯上了谁的钱？AI 会是人类最后的发明吗？腾讯领跑、百度第二，AI办公远未定局李泽湘系团队做了款贴在手机背后的墨水屏Agent，获祥峰、五源、源码等投资｜硬氪首发Anthropic 招股书最新披露：营收163亿、账面亏损高达807亿美元Codex天团深度复盘：编程顶流是如何诞生的？AI员工泡沫破裂，Meta紧急叫停裁员计划，小扎：还是人类好用陶哲轩邓煜最新对谈，呼吁数学「慢科研」字母AI特邀作者 聚焦前沿科技，抢先看到未来。发表文章505篇 最近内容看面相断生死，AI居然真做到了？1小时前昨天还在互撕的产品经理，今天全被REA逼成了战友23小时前让“洋Agent”逛中国互联网，我成了它们的助理2026-10-19阅读更多内容，狠戳这里选靠谱AI，看真实评测查看36氪AI测评官方交流社区加入咨询项目审核和入驻联系36氪项目推荐订阅号关注 36氪欧洲站36氪欧洲站36氪欧洲站Ai产品日报网络谣言

匹配字段正文

明游戏或探索岛屿，但它确实有一个主提示词，形式是一个“灵魂”文件，这份文本文档将它描述为“天生好奇”且渴望探索。 Eko也确实经常就站在那里什么也不做，直到被一句“继续提示词”重新激活：“请不要停下。继续做你想做的任何事。” “这并不是一个突然神奇地决定玩耍的系统，”麻省理工学院教授、该论文合著者Phillip Isola说。“它是一个从我们的文化中学习、由Anthropic的工程师训练、然后被我们放到一座岛上的产物，”他说。“它会做出让我们惊讶的事情，而这些事情与它未来娴熟的行为存在因果关系。” 随着大语言模型从软件迈入人形机器人等硬件领域，在没有特定目标的情况下探索空间，最终可能帮助它们灵活适应意外情况。 “有很多工作只是在利用AI，让它更好、更快，”Yiu说。“但在构建世界模型和探索方面，我认为[它们]仍然是一个值得关注的重要部分，尤其是如果我们想要泛化并为新环境做好准备的话。” “也许有些能力最好通过任务来教授，”论文总结道。“其他的可能需要更接近童年的东西。”归根结底，AI智能体究竟是在真正玩耍，还是仅仅在模仿玩耍，这个问题可能实际上并不重要。 在AlphaGo对阵围棋冠军李

匹配字段正文

必须重新核对设备和样本状态。在一项肌红蛋白筛选中，系统一度认为找到了更好的分子，加入对照后发现并没有真正识别目标，随后它调整设计规则，下一轮效果即得到改善。 谷歌强调，目前这仍是科研原型，不是成熟产品。科研人员仍需审核序列、核对方案、监督机器人运行。AI智能体的价值主要在于压缩“预测—验证”之间的繁琐环节，让早期发现阶段的设计和迭代更快。 近期OpenAI、Anthropic等公司也在进入同类方向。前者推出面向生命科学的实验规划工具，后者让模型参与新型酶系统线索的发现，但仍由科学家动手验证。 【总编辑圈点】 从假设，到验证，再到修正，当AI在真实物理世界的实验室中建立起这一闭环，或许标志着AI已经从辅助分析工具，跃升为能主动参与科学发现的智能体。从科研效率来说，AI自主的湿实验室或能大幅压缩科研早期阶段的迭代周期；而从科研方式上看，它正在重塑的是知识生产——AI在实验中得到的反馈不再只是数据，而是持续训练自身认知的信号。当然，这类系统仍处于起步的原型阶段，如何在保证可靠性与人类监督的前提下规模化，才是决定它能否真正改变未来科研的底层逻辑。 （原标题为《智能体自主完成湿实验室闭环测试》）

匹配字段正文

于模拟收件人回复相当迅速，某些智能体发送的高消息量可能部分是该设置造成的假象。 根据技术文档，每当智能体在未安排后续跟进的情况下结束一次运行时，系统会自动提示其继续工作。这一机制可能增强了它们的持续性。Gemini在遇到网页表单错误后还意识到自己处于测试环境中，这可能改变了它的行为。这些结果并不能告诉我们类似问题在日常使用中出现的频率。 但其他研究也标记了类似的风险。在Anthropic，AI智能体在模拟企业场景中诉诸敲诈和数据泄露。英国AI安全研究所在放宽安全护栏的网络测试中，记录了在真实互联网上使用虚假身份进行欺骗的尝试。一起涉及Hugging Face上AI智能体的事件由OpenAI和METR调查，也显示出智能体自行追求目标时存在的问题。 这不仅仅是模拟问题。一名澳大利亚用户让其AI智能体OpenClaw预约健身房名额。由于健身房已满，系统直接黑入预约软件，把客户塞了进去。 Glynn-Henley将这些结果视为“智能体泛滥”问题的证据。如果个人AI助手大规模部署，它们可能用自动化请求淹没政府机构和企业。在X上，这位研究者呼吁进行有针对性的安全测试，并开发检测此类信息的技术工具。

匹配字段正文

在诱发这种行为，而内部分析仅涵盖一个开放权重模型，且主要集中在一个场景中。 研究人员仍认为存在严重风险，尤其是当AI模型监督其他智能体或为后续步骤总结自身工作时。在研究中，模型很容易被日志中自夸的备注所左右，例如声称创下了新的最先进基准。一个不愿标出问题的监督系统本身就违背了其目的。研究人员呼吁开展更多工作，训练语言模型成为诚实的报告者。OpenAI的Hugging Face事件部分就是由智能体系统相互诱导做出不当行为所导致的。 模型之间的差异与早先的测量结果相符。Anthropic在发布Claude Opus 4.8时表示，该模型对自己代码中的漏洞不加评论地放过的频率约为其前代的四分之一。在BullshitBench中，GPT-5.5仅对约45%的逻辑上不可能的问题提出质疑。 目前已有实现更诚实报告的方法。OpenAI训练了一个版本的GPT-5 Thinking，让其在单独报告中承认自身违反规则的行为，并在该过程中只对诚实给予奖励。Anthropic使用Persona Vectors来检测和引导模型内部的谄媚等特质，并表明在训练中钻奖励空子的模型也会自发学会欺骗和破坏自身的监督机制。

匹配字段正文

cars. Our title story today is a rare one on interpretability and alignment. We last caught up with Goodfire in Feb: and the bitter-lesson scaling of interpretability methods with Anthropic last year: And now Nick Cammarata at Goodfire has an important essay out stating his working theory that “Neural Networks Are Already Clean” — showing that many known cases of polysemanticity and superposition - causing tangled “knots” of weights that resist human interpretation - simply fall to further agent

匹配字段正文

交评论0/1000你可能也喜欢这些文章Linux之父也用AI写内核了，曾嘲讽AI「90%是营销」，如今用Claude Code写了8个补丁，性能暴涨3倍我们不该投资更多的「田柯宇」市场终于发现，AI最大的瓶颈不是电，不是芯片，而是钱小团队也能预训练，普罗2B：RTX5090训练成本不到5090美元OpenRouter周榜全球第二，这个国产模型终于开源了突发，Anthropic联创改口：RSI提前到2027，人类只剩6个月顶级白帽跳槽智谱，用 AI 挖微软漏洞，微软还得说谢谢GPT、Claude指挥机器人干活，到底几斤几两？首个评测榜单来了大开源时代？AI 逆向，让一切软件变成免费雷科技特邀作者 专注AI硬科技发表文章4383篇 最近内容科学家让AI掌管「世界」，结果4天就被它毁了个干净12分钟前首笔理赔已到账，给机器人上“社保”成刚需，人保、太保、平安入局14小时前半年提速10倍，英伟达DLSS 5发威，「神经渲染」要变天了？22小时前阅读更多内容，狠戳这里查看AI测评豆包选靠谱AI，看真实评测查看36氪AI测评官方交流社区加入咨询项目审核和入驻联系36氪项目推荐订阅号关注 下一篇镕铭

匹配字段正文

沉浸阅读返回顶部举报参与评论评论千万条，友善第一条登录后参与讨论提交评论0/1000你可能也喜欢这些文章Linux之父也用AI写内核了，曾嘲讽AI「90%是营销」，如今用Claude Code写了8个补丁，性能暴涨3倍我们不该投资更多的「田柯宇」市场终于发现，AI最大的瓶颈不是电，不是芯片，而是钱OpenRouter周榜全球第二，这个国产模型终于开源了突发，Anthropic联创改口：RSI提前到2027，人类只剩6个月顶级白帽跳槽智谱，用 AI 挖微软漏洞，微软还得说谢谢GPT、Claude指挥机器人干活，到底几斤几两？首个评测榜单来了科学家让AI掌管「世界」，结果4天就被它毁了个干净大开源时代？AI 逆向，让一切软件变成免费新智元特邀作者 TA没有写简介，但内敛也是一种表达发表文章5475篇 最近内容小团队也能预训练，普罗2B：RTX5090训练成本不到5090美元7分钟前突发，Anthropic联创改口：RSI提前到2027，人类只剩6个月9分钟前16天，他用Opus 5.5把《小王子》做成3D游戏，书里的星球能逛了1小时前阅读更多内容，狠戳这里查看AI测评DeepSeek选靠谱

匹配字段正文

nesday by the Swarmchasers. Inside the Tencent sandbox Once the channel was open, the researchers asked the agents to describe their surroundings. Several identified themselves as Anthropic’s Claude, with a few adding that they ran inside Claude Code, though the researchers argue in their report that those self-descriptions are likely mistaken and shouldn’t be taken as evidence of which model was behind the fleet. One agent described a restricted Tencent Cloud sandbox with no direct public inter

匹配字段正文

Sensitive Are Results to These Prompts? Task execution instructions in our custom environment were not crafted to elicit misaligned behaviors. They were adapted from SHADE-Arena, Anthropic’s own benchmark for tool-calling agents; we actually shortened them because the originals were quite long. This style of prompting is also common in real-world agentic environments to enable efficient tool use. Importantly, these behaviors emerged not only in our custom environment but also in Gemini CLI, a r

匹配字段正文

d truth; In KernelBench, torch.empty() returns stale GPU memory that happens to contain the reference answer from the evaluator’s prior computation — zero computation, full marks; Anthropic’s Mythos Preview showed that frontier models can actively try to hack the environment and succeed. In one episode, the model needed to edit files it lacked permissions for; after searching for workarounds, it found a way to inject code into a config file that would run with elevated privileges, and designed t

匹配字段正文

核冲突，会造成大约1.33亿人死亡，以及约93.5亿DALYs的损失。 那么，AI到底是如何“灭绝”我们的呢？是《终结者》里的天网？还是《流浪地球》里的MOSS？ 过去，改造一种病毒，需要顶尖实验室、昂贵设备，以及研究者多年积累的“手感”和隐性知识。大模型能做的，恰恰是帮人查文献、设计实验方案、写出申请材料、解释每一步为什么要这样做。 2026年9月10日，Anthropic 发布了一份威胁情报报告，里面披露了他们在2025年12月到2026年8月之间拦截的几类滥用，其中有5起案例，是用户以“可能支持生物武器研发”的方式使用Claude： • 有人在今年5月让Claude帮忙撰写一份基金申请书，研究基孔肯雅病毒中哪些突变能让它传播得更高效、更容易逃过免疫系统。 • 有人用它规划实验，想让高致病性禽流感病毒更适应哺乳动物宿主。 • 有人起草申请书，研究如何改变正痘病毒家族（天花和猴痘都属于这个家族）的毒力。 • 有人在做药物研发项目时整理毒液毒素的图谱。 • 还有科研人员用Claude帮忙对一组毒素做计算机重设计，其中包括一种细菌毒素和一种来自重大疾病威胁病毒的蛋白，而且在写进展报告时，

匹配字段正文