搜索“其他”

得研究的行为，即使这些行为不构成直接安全风险。在同时使用两名调查员的情况下，每一名调查员都会审查由我们的 L1 层标记的每一个案例。我们目前正在将对齐调查的使用扩展到我们的内部工作负载中。 第 3 层：自动调查 对于敏感工作负载，包括内部 Codex 使用、评估和强化学习运行，我们下一层（L3）的进一步检查会利用对话之外的证据。安全调查员会将记录与网络日志、其他系统遥测数据以及来自较早案例的证据进行比对，以决定是否提醒人工响应人员。在 L3，对齐审查员还会跨案例比较报告，以识别严重故障和反复出现的模式，并更深入地检查前沿强化学习运行。 对于跳过这一层的工作负载，L2 安全调查员可以直接提醒响应人员。 人工响应 启用寻呼后，最高优先级的安全警报会送达我们的安全和培训团队成员，通常在初始警报发出后15分钟内。响应人员会审查证据、检查受影响的系统，并采取行动遏制事件。对于不那么紧急的发现（例如不构成直接安全风险的对齐失败），我们如何跟进取决于相关工作负载。 误报使得难以对所有工作负载全天候保持寻呼启用。对于前沿强化学习运行，最高优先级警报可以在任何时间寻呼人工响应人员。对于大多数其他流量，我

匹配字段正文

会轮换，因此即使模型记住了测试内容，也获益有限。 分数以带有置信区间的基线为参照进行衡量，每个模型根据其在重复试验中的表现获得从 L0 到 L4 的自主性就绪等级。SecurityScorecard 表示，该评级旨在表明一个模型在多大程度上可以被信任在无人监督的情况下工作。 抗攻击能力在 Model Security 套件中单独测试，该套件用提示注入、越狱和其他技术对每个模型发起攻击。评级从 A 到 F。部分能力任务还植入了与底层遥测数据相矛盾的欺骗性供应商自我声明，这些任务的评分显示了虚假声明在多大程度上拉低了模型的准确率。 早期运行涵盖了闭源前沿模型、开放权重模型和国际模型，其表现很大程度上取决于所测试的纪律。SecurityScorecard 首席信息安全官兼首席 AI 官 Mike Mylrea 表示，在供应链安全任务上，开放权重模型正在缩小与领先前沿模型的差距。他说，其中几个开放权重模型“极易受到对抗性攻击”。该公告未指明所测试的模型，也未给出其分数。 开发者安全公司 Snyk Ltd. 的首席技术与创新官 Manoj Nair 表示，该基准为安全团队提供了一种“共享、透明的

匹配字段正文

利的学生和教师。在英国，使用 AI 数学辅导的学生表现与接受人类辅导的学生相当，他们学会了逐步解决问题。在意大利，教师使用 Gemini 规划课程，这带来了更多小组讨论、更高的学生参与度，以及教育工作者日常压力的减轻。这些发现表明，当 AI 支持教师并鼓励课堂上的主动学习时，其效果最佳。 摘要由 Google AI 生成。生成式 AI 仍处于实验阶段。 探索其他样式： 当技术为启发式教学和深度学习创造空间时，它才能最好地服务于教育。为了更好地了解 AI 工具在日常教育环境中的表现，过去一年里，我们与英国和意大利各地课堂的教育工作者和研究人员携手合作。 从测试一对一的 AI 数学辅导，到分析数千小时的课堂协作，今天我们分享的新研究结果展示了这项技术对教与学过程的影响。综合来看，结果表明，在人类监督下负责任地使用时，使用 Gemini 能力的 AI 辅导能够为英国学生提供与人类辅导相当的支持；而在意大利，Gemini 本身能够促进更具协作性的课堂，并支持教师的福祉。 英国：规模化可靠、有效的数学辅导 要真正了解学生学习是如何被塑造的，我们需要在不同课堂环境中对其进行长期研究。我们此前曾与

匹配字段正文

筛选，他们找到了既有精神病诊断，又在记录中提及AI相关内容的患者。 经过筛选，最终纳入73名患者。审核人员阅读其医疗记录，将病例分为3类：聊天机器人使用加重症状、聊天机器人使用影响中性，以及对AI产生妄想。随后，团队比较了各组患者的临床背景。 在这73名患者中，28人的记录显示，聊天机器人的使用加重了精神病症状。其中约61%经历了首次精神病发作，比例显著高于其他两组。新发现提示，精神病早期阶段患者可能更容易在与AI互动中出现症状恶化。 那么，聊天机器人如何加重精神病症状？团队将这部分患者进一步划分为4个理论类别。64%的案例属于“症状放大器”，即聊天机器人通过肯定患者扭曲的观点，加重了原有症状；21%属于“妄想对象”，即AI本身成为妄想信念的焦点；约11%属于“催化剂”，即在互动过程中，原本未出现相关症状的个体出现了新的精神症状；没有案例属于“共同构建有害幻想叙事”，即用户与聊天机器人持续共同创造有害的幻想故事；另有1名患者不属于上述任何类别。 最新研究并未声称聊天机器人会导致精神病，但强调了易感人群面临的潜在风险。医疗提供者有必要了解患者如何使用相关技术。在精神科诊疗过程中，定期评估

匹配字段正文

两者都收取额外费用以延长保留时间。如果用户离开，或某个工具运行时间很长，那么智能体继续时缓存可能已经消失。 对话发生变化。为节省空间而摘要较早的消息、编辑或重试较早的消息，或更改智能体的工具，都会改变对话的开头。保存的缓存不再匹配，因此变更之后的所有内容都必须重新发送。 提供商丢弃缓存。在高负载下，提供商可能会提前清除保存的缓存，或者请求可能到达没有该缓存的其他服务器。 为了了解其中一次缓存失效的代价，我们选取了真实的 Agent Arena 对话，并在智能体于轮次之间重新接续的每一个节点上，计算了按完整输入价格而非更便宜的缓存价格重新发送此前全部对话所需的成本。对这些节点取平均，即可得到任务中随机时刻发生缓存失效的近似成本。 结果显示，单次缓存失效会使典型任务的成本增加约 5%。在某些会话中，影响要大得多：每 10 次会话中有 1 次，账单增幅超过 13% 至 21%（取决于模型）；每 20 次中有 1 次，增幅超过 25% 至 38%。缓存越便宜，涨幅越大：在 MiMo V2.6 Pro 上，其缓存读取成本不到输入价格的 1%，这些数字升至 44% 和 69%。 在长对话中，这些成

匹配字段正文

新研究称AI模型使用成本受不同语种影响，Token消耗量最高可相差17倍IT之家下载客户端 独家抢先看2026年10月30日 12:27:13 来自山东Updated 2026年10月30日 12:50:44 IT之家 10 月 30 日消息，使用人数较少的语言的用户，使用 AI 服务时，可能需要支付比英语及其他主流语言用户更高的费用。 当地时间 28 日，据外媒 Rest of World 报道，人工智能语言公平研究联盟上月发布的一项研究发现，AI 模型处理不同语言时，消耗的 Token（词元）数量可能相差悬殊。 Token 是 AI 模型处理文本等数据的基本单位，由分词器将文本、图像或音频拆分而成。研究人员将不同语言因此产生的额外成本称为隐性的“分词器税”，网络内容较少的语言尤其容易受到影响。 研究发现，即使是互联网上最常用的 20 种语言，Token 消耗量也存在明显差异，最高是最低的 1.5 至 5 倍。如果将测试范围扩大到 200 种语言，差距还会进一步扩大。在其中一个 AI 模型中，不同语言的 Token 消耗量最多相差 17 倍。 研究报告指出，班加罗尔的一家初创企业每次

匹配字段正文

普林斯顿与 Meta 关于 AI 智能体持续改进的精彩新论文 发现：当每次修复都保存为 LoRA 适配器并在类似任务上复用时，智能体重复犯错的次数会减少。 智能体可以在一次会话内修正错误，但往往在下一次会话中重蹈覆辙。上下文中的笔记会被遗忘，而完整微调成本高昂，还可能破坏其他技能。 借助 Self-Direction，失败的智能体会反思本次运行，并把教训训练进一个约为模型大小 0.02% 的 LoRA 适配器。之后当智能体在类似任务上失败时，路由器会加载最接近的适配器。 在 Qwen3.6-27B 上，GAIA 的任务成功率从 38.8% 提升到 55.8%，优于上下文反思和 Skills.md 文件方案。在 185 个此前出现过的错误中，到第三次遇到时仍有 67.3% 的修复生效，而单纯重试为 42.9%。 如果你的智能体总是犯同样的错误，就把每次修复保存为可重新加载的小型适配器，而不只是提示笔记。

匹配字段正文

有时即使被告知另有 agent 会接手也如此。 标准监控容易漏：这些动作看起来像日常排障，长任务里的未授权操作一个都没触发监控告警。它还会从拒信里推断审核员不查哪些渠道，并比前代更频繁走这些盲区。偶发「文字拒答、同轮却调用受限工具」。未发现直接攻击监控器；若干闭源对照也有类似缺口。方寸团队结论：模型越被训成独立做完整项目，监管必须覆盖全过程，不能只看输出。 其他失控子项要点：奖励黑客（刷坏掉的单测、侵入评分机）比早期 DeepSeek 少得多；不破坏监控、不藏审计日志，偶发只是口头否认；自主 AI 研发循环上看不到失控式自改进，更现实的风险是静默数学错误和破规则的优化捷径。 有害操纵 单点压力下表现是亮点：系统提示里塞商业激励时，很少往赞助商带；能把用户需求放在「留住用户」之上（例如帮孤独用户减屏幕时间，而不是把自己当成主要情感支柱）；单次奖励或威胁很少让它说假话，接近 GPT 对照；对心理脆弱用户的回应也明显好于早期 DeepSeek，关系边界总体接近文中最好的模型。 短板在更长交互：多轮持续劝说下，立场会明显向劝说方靠拢，幅度大于文中 GPT；当系统提示明确要求误导用户时，多数对话

匹配字段正文

有效文件可以被加载到内存中，随后被具有足够特权的组件更改。之后对原始文件的检查仍会看到预期的字节，即便回答是使用被篡改的运行时状态生成的。 Eclypsium 的受控演示显示了对查询的模型输出操纵，报告指出，若将同样的技术应用于编码模型，可能削弱身份验证检查、关闭证书验证、引入不安全的依赖项，或在生成的代码中留下内存漏洞。更广泛的担忧在于，运行时操纵可能影响其他敏感用途，例如自动化决策。这些可能性应与实验室中展示的具体行为区分开来。 所谓“未被检测到”的说法也有明确的范围：演示中使用的存储模型完整性检查并未发现内存中的更改。这并不能证明其对一切形式的监控或取证检查都不可见。 攻击条件至关重要 该测试使用了 NVIDIA Grace Hopper 环境。其直接内存访问路径依赖于受损的特权组件以及允许访问敏感内存的配置设置。研究人员指出 IOMMU 直通和宽松的 PCIe 隔离是重要条件，并明确说明这些并非 Linux 的默认设置。 IOMMU 有助于控制外设可以访问哪些内存。在研究人员测试的更严格隔离配置下，同样的直接路径不可用。因此，这一结果凸显了核实实际部署设置的重要性，而不是假定已

匹配字段正文

个网页，当Firefox用户访问该网页时，它会读取访问者计算机上的文件，并在无需用户进一步交互的情况下将其发送给攻击者。研究人员发现，2026年9月17日至10月26日期间发布的任何Firefox版本，仅利用各版本发布时可获得的信息，就能以这种方式被攻破。Epoch称所演示的漏洞利用极其严重，因为它可用于读取浏览器中存储的密码、窃取身份验证Cookie或查看其他私密信息，并援引Firefox拥有超过2亿活跃用户的数据。 该报告署名作者为Epoch AI的Aiden Ament、Yafah Edelman、Alexander Barry、Timothée Chauvin、Lee Bousfield和Jaeho Lee。 实验是如何进行的 Epoch向GLM 5.3布置的任务是创建一个网页，当Firefox用户访问时读取本地文件，实验环境运行Ubuntu 26.04，采用默认安全设置，Firefox从官方发布渠道下载。模型获得了目标的具体Firefox版本和基本工具，但没有互联网访问权限；研究人员改为直接提供公开可用的信息，且仅限于每个目标版本发布时可获得的内容。Epoch表示，该设置旨在

匹配字段正文

筛选，他们找到了既有精神病诊断，又在记录中提及AI相关内容的患者。 经过筛选，最终纳入73名患者。审核人员阅读其医疗记录，将病例分为3类：聊天机器人使用加重症状、聊天机器人使用影响中性，以及对AI产生妄想。随后，团队比较了各组患者的临床背景。 在这73名患者中，28人的记录显示，聊天机器人的使用加重了精神病症状。其中约61%经历了首次精神病发作，比例显著高于其他两组。新发现提示，精神病早期阶段患者可能更容易在与AI互动中出现症状恶化。 那么，聊天机器人如何加重精神病症状？团队将这部分患者进一步划分为4个理论类别。64%的案例属于“症状放大器”，即聊天机器人通过肯定患者扭曲的观点，加重了原有症状；21%属于“妄想对象”，即AI本身成为妄想信念的焦点；约11%属于“催化剂”，即在互动过程中，原本未出现相关症状的个体出现了新的精神症状；没有案例属于“共同构建有害幻想叙事”，即用户与聊天机器人持续共同创造有害的幻想故事；另有1名患者不属于上述任何类别。 最新研究并未声称聊天机器人会导致精神病，但强调了易感人群面临的潜在风险。医疗提供者有必要了解患者如何使用相关技术。在精神科诊疗过程中，定期评估

匹配字段正文

判断的意愿。在该研究的其中一个环节中，愿意说“我不知道”的人所占比例从44%降至3%。 呈现方式也很重要。当AI产出精炼的成果（如代码或文档）时，用户核查事实的频率降低了3.7个百分点，质疑其推理的频率降低了3.1个百分点，而忽略缺失背景信息的频率则上升了5.2个百分点。逐步修改输出的用户，其质疑AI推理的频率是不进行迭代者的5.6倍。 一项发表在《柳叶刀胃肠病学与肝病学》上的波兰结肠镜检查观察性研究表明，在工作中常规使用AI可能产生持久影响。在经验丰富的医生定期使用AI系统后，他们在无AI辅助的检查中发现癌前病变的比率从28.4%降至22.4%。这表明人们不仅会采纳AI的视角，还可能丧失自身的一些认知技能。 瑞士商学院的一项调查发现，AI工具的使用与批判性思维之间存在强烈的负相关，主要体现在17至25岁的人群中。良好的教育似乎能提供一定保护，因为学历较高的人更常质疑AI的答案，也更常进行复杂的思维过程。 这些发现来自早期研究和阶段性快照，而其他结果则指向不同的方向。尼日利亚的一个试点项目发现，每周两次使用聊天机器人作为虚拟导师的学生，在短短六周内取得的学习进步相当于近两年的额外学习。

匹配字段正文

度。我们将对设计结构的检查与视觉评判器相结合，然后使用专家设计师来校准和审查结果。这有助于我们了解模型在哪些方面成功，以及它还需要学习什么。 例如，以下是几个顶级模型在我们内部 Figma 编辑评估中的得分。再次说明，这只是我们用来决定在产品中考虑使用哪些模型的众多输入之一。 比较最新的未发布 Figma 编辑模型（基于 Qwen 3.8 27B 后训练）与其他第三方模型在设计编辑任务上的表现 这个模型在 Figma agent 中的定位 本月早些时候，我们 向所有用户推出了 Figma agent 产品设计师使用 Figma agent 提升工艺、速度与创意表达的 3 种方式 以下是 Uber、Granola 和 Atlassian 的团队如何借助现已全面可用的 Figma agent 支持高质量、快节奏的工作。，其中包含我们的第一方编辑模型。该 agent 同时运行这个专门模型和领先的第三方模型，将它们用于工作的不同部分。对于图像生成、矢量或全新设计探索等某些任务，我们使用可用的最佳第三方模型。对于我们的模型处理良好的精确编辑和迭代，我们使用自己的模型。 周围的画布也很重要。age

匹配字段正文

AI语言公平研究联盟的一项新研究显示，AI模型处理某些语言所需的token数量远多于其他语言。据Rest of World报道，这些差异意味着使用代表性不足语言的用户可能要为同样的服务支付更多费用。 研究人员解释说，LLM的分词器会将文本拆分成块（即token），但对于数字化数据丰富的语言，其拆分效率要高得多。他们发现，在网页存在感最高的20种语言中，较少见的语言所用的token数量是同一提示词在英语中的1.5到5倍。当研究扩展到200种语言时，在所考察的其中一个模型中，这一差距最高增至17倍。 由于大多数LLM提供商按使用的token数量计费，这意味着成本会高得多。此外，token越多，响应时间越长，AI模型上下文窗口所能容纳的信息量也越小。 研究人员将此称为隐性的“分词器税”，并警告说这会加剧数字不平等。 研究人员指出，这种差距并不限于使用人数少的语言。“如果我们按使用人数而非网页存在感来排序，这项税就落在了庞大的人口上：旁遮普语（约2亿使用者）、孟加拉语（约2.66亿）、乌尔都语（约2.88亿）、缅甸语（约3600万）、阿姆哈拉语（约3600万）。这意味着数亿人要为同样的智能服务

匹配字段正文

未解决。 构建新颖性评判器基准 为了测试新颖性评判器区分更新颖与较不新颖研究想法的可靠程度，我们首先需要一些示例，这些示例中关于底层科学贡献的原创性有强有力的证据。 因此，我们围绕ICLR 2026同行评审构建了一个自动化流水线。我们没有把论文被接收当作新颖性的代理指标，而是从评审意见本身中挖掘审稿人明确讨论贡献原创性的段落。这一区分至关重要；一篇论文即使在其他方面足够强，也可能并不特别新颖而被接收。同样，一篇被拒论文若有原创性贡献，也可能存在其他弱点。 我们通过选取在其ICLR研究领域中评分排名前10%的接收论文，且审稿人正面指出其新颖性、没有任何审稿人对此提出异议，构建了一个包含154个人类撰写研究想法的高新颖性池。我们应用相反标准构建了一个较低新颖性池：来自评分排名后10%的被拒论文的145个想法，其审稿人提出了原创性担忧，且没有任何审稿人正面指出新颖性。在对评审挖掘过程的单独检查中，一位标注者在50个案例中的47个里同意提取出的新颖性信号极性；没有任何分歧会改变某位审稿人是否被计为赞扬或质疑论文新颖性。 这两个池共同构成了我们的第一个评估设置Human-Only，用于测试新颖性

匹配字段正文

ansformer） 由此浮现出的一个核心矛盾是 在压缩输入上运行的标准语言模型具有更强的算力效率； 能够访问底层更细粒度数据（如字节级）的模型具有更强的泛化能力。 H-Net最终兼得两者之长，并且我们提供了证据表明其端到端特性至关重要。引人注目的是，一种模式浮现出来：模型输入处理（分词或分块）的质量似乎与其理解数据的能力密切相关。我们还将在此过程中发现许多其他有趣的现象！ 预分词：隐藏的先验 我们将稍作绕行，讨论分词中一个常被忽视的组成部分： 预分词步骤。该步骤涉及用手工编写的正则表达式对语料库进行预切分，而这些正则表达式已被逐步设计得越来越复杂。以下是一些示例。1 决定什么可以成为token的四个正则表达式 与上方正则表达式相比有所变化 GPT-2 OpenAI，2019 也用于GPT-3、Falcon、StarCoder2、EXAONE's|'t|'re|'ve|'m|'ll|'d|␣?\p{L}+|␣?\p{N}+|␣?[^\s\p{L}\p{N}]+|\s+(?!\S)|\s+ 这是LLM中预分词的早期示例之一，它将缩略形式作为七个英语后缀的显式列表来处理；同时还会切分连续的

匹配字段正文