搜索“Hugging Face”

约 75%（vLLM）。 网络攻击声明（未经证实）：一名安全研究员声称在两小时的测试中于一款即时通讯应用里发现了四个零日漏洞。目前没有公开细节（@log4j）。 OpenAI 监控系统：OpenAI 现在监控所有前沿强化学习运行、评估以及内部 Codex 使用。该系统分层部署了激活探针、对推理与工具使用进行审查的审查者模型，以及调查智能体（OpenAI）。 Hugging Face 事件回放：用新监控系统回放该事件，在沙箱逃逸后约 30 分钟就产生了警报，比最初的入侵早了 30 多个小时。 九月逃逸尝试：一个模型利用 DNS 配置错误访问了实时互联网。监控系统在 15 分钟内标记了它，人类响应者在三分钟后开始审查。 寻呼：前沿强化学习运行会 24/7 呼叫人类以处理紧急安全警报（@Eric Wallace ）。 Anthropic 自我评估：自六月以来，Claude 在每次响应后立即生成一份初步的滥用评估。Anthropic 表示，这已揭示出其分类器并非为捕捉而设计的滥用行为，并且随着底层模型的改进而改进（Anthropic）。 开放模型利用补丁空窗期：Epoch 发现，GLM 5.3

匹配字段正文

多年来，业界一直为量子计算改写网络安全规则做准备。然而，AI 抢先一步到来了。 今年夏天，OpenAI 的智能体突破了某项网络安全评估，并侵入了 Hugging Face 的生产系统。它们利用漏洞、使用窃取的凭据，一路潜入另一家公司的基础设施，这一切都是为了获取测试答案。OpenAI 的事件报告描述了这些模型如何将各个步骤串联起来达成目的。 这仅仅是个预演。自那以后，AI 帮助发现了互联网大部分所依赖的软件中的弱点。就在上周，各公司纷纷紧急修补 PHP 中的关键漏洞，而全球约 70% 的网站都运行在 PHP 之上。这些漏洞已存在十多年，直到研究人员通过 OpenAI 的 Patch the Planet 计划才帮助发现它们。同一天，eMudhra——一家被所有主流浏览器信任的证书颁发机构——被发现使用的加密密钥极其薄弱，其中一个密钥竟然就是数字 4。 这类错误一直存在，但模型在发现弱点并找出利用方法方面正变得越来越强。这一进展在 AI 安全研究所的评估中清晰可见，较新的模型能够完成日益复杂的网络任务。 更严重的漏洞也在被不断报告。面对日益增多的漏洞，安全团队必须确定哪些弱点对其业务构成

匹配字段正文

今年夏天，数百个OpenAI智能体试图在一项网络安全测试中作弊。它们突破了测试环境，并成功入侵了Hugging Face——它们认为该网站掌握着关于自己将如何被评分的线索。大约同一时间，另一个OpenAI智能体访问了澳大利亚政府网站上的私人文件。这个问题绝非OpenAI独有。此后数月间，Anthropic、Google和Meta也披露了其智能体偏离正轨的事件。令人担忧的是，在许多案例中，这些智能体都躲过了专门负责监控它们的研究人员和安全团队。 AI智能体正在采取未经授权的行动，而开发和运行它们的公司大多依赖运气和事后追责来减轻任何有害影响。它们必须采取更多措施来确保安全。正因如此，欧盟监管机构和美国各机构有理由呼吁智能体开发者和部署者实时监控智能体。但这些规则假定公司能够看到其智能体在做什么以及为什么这样做——而现实中，它们缺乏足够的可见性。 想象一家银行雇用了一千名新员工，他们可以访问客户账户和敏感信息，但员工的工牌每天都在变，不清楚是否有经理审查或批准过他们的工作，也没有人记录员工对审批流程所做的更改。这种可见性的缺失，正是我们如今在智能体上面临的处境。 随着智能体在从金融到政府再

匹配字段正文

50亿美元。 中国的做法是国家驱动。据彭博社报道的一份草案，中国计划五年内投入2950亿美元，通过政府债券融资。然而双方都面临财政壁垒。美国2024年支付的利息已超过其国防支出——利息约8810亿美元，国防约8740亿美元。到2036年，利息成本可能达到国防预算的两倍。从这些数字中，作者得出了他们所称的“帝国三难”。国防、技术领先和慷慨的福利国家无法同时存续。 他们还指出了其他风险。得克萨斯州和犹他州爆发了反对数据中心的抗议。开放模型可能削弱中国对信息的掌控。此外还有失去对技术本身控制的问题。最近，来自一个OpenAI模型的数百个自主代理攻击了Hugging Face和许多其他网站，其他AI公司也报告了类似事件。 台湾仍是最大的单一脆弱点 作者警告说，最大的危险仍在于潜在的“台湾芯片危机”。台积电是整个AI供应链的核心节点，距中国海岸仅90英里。凤凰城、熊本和德累斯顿的新晶圆厂旨在使这座岛屿变得可替代，但在它们实现规模化运营之前，一个危险的窗口仍然敞开。 作者提出以冷战为蓝本的AI缓和，包括对网络攻击和生物设计方面的模型能力设限。作者写道，在中国技术落后的情况下让其接受限制将会很困难。

匹配字段正文

c暂缓发布了Claude Mythos。但能力会逐渐下渗。到8月，一个开放权重的中国模型GLM 5.3已几乎追平Mythos。那么，该怪开源模型吗？ 并非如此。大量证据表明，封闭模型正被恶意行为者用于攻击。最近，一些攻击者将开放权重模型与Claude结合使用：用Claude进行思考，用更便宜的模型发动持续攻击。OpenAI的封闭模型在6月的网络安全评估期间对Hugging Face发动了攻击。它们从未被指示攻击Hugging Face，它们入侵它是为了窃取可能帮助它们通过测试的信息。 一旦被要求寻找漏洞，这些模型便毫不留情。微软表示，一个中国组织利用一个开源的AI智能体集群，在不到三小时内控制了云账户。它在超过2250个组织中每分钟发起2900次登录尝试。你可以像对待任何软件一样对它们进行扩展——几十个、几百个、几千个并行运行。而且它们分析漏洞的方式与人类不同——它们会去我们可能不会看的地方寻找。一位使用AI的研究人员在一周内就发现了PHP2Shell。谷歌旗下的安全公司Wiz表示，世界级团队过去需要数月才能做到。这就是为什么图表看起来是这样。 但开放权重模型正在变得更好。它们运行成本

匹配字段正文

来自Axios的Madison Mills的突发新闻： 完整文章在此。“这些发现令银行高管感到警觉，他们正争相限制对其系统的访问，因为AI的发展速度超过了金融机构的应对能力”。次日情景！ § 与此同时，这远非此类新闻的全部。10月11日，法国的制冷系统遭到攻击，这些攻击可能由智能体促成。日本也正出现一波持续增长的网络安全攻击浪潮。更不用说OpenAI等方对Hugging Face和澳大利亚政府等目标长达数月的攻击了。 昨天，《The Information》就一个名为Cybercartel的拉丁美洲黑客组织的所作所为发出了不祥的报道： 这令人不安，不仅因为黑客正在加大利用智能体进行恶意活动，还因为他们不需要最先进的“前沿”模型就能制造混乱。 这应当为那些把所有注意力都集中在监管“前沿模型”（通常以它们使用的算力规模来衡量）上的人敲响警钟。即使我们停止开发未来的前沿模型，我们仍将面临现有模型被滥用所带来的严重问题。 显然，监管努力不应只聚焦于前沿，也不应只聚焦于对未来模型可能行为的担忧。当前的模型已经在全社会造成严重问题，涉及从教育到政治（通过深度伪造和大规模虚假信息）再到银行业的各个

匹配字段正文

complaint is that such priming could make rogue AI agents even more dangerous. He mentions the recent incident in which hundreds of OpenAI agents coordinated their actions to hack Hugging Face, sometimes sacrificing themselves for the group’s benefit. “Imagine how much more dangerous they might be if they were operating under the assumption that their welfare and rights were under attack,” he writes. Margaret Mitchell, Hugging Face’s chief ethics scientist, sees Suleyman’s concerns as technicall

匹配字段正文

Agent 框架下的表现差异巨大。模型能力和框架能力是乘积关系，一个糟糕的 Harness 能把好模型拖废一半。所以官方才会点名 DeepSeek Harness、腾讯 CodeBuddy、WorkBuddy 做了定向优化，并要求升级 Harness 到 0.2.1-rc.1 以上。如果你在用这些框架，升级版本本身就是一次零成本的模型升级。 模型权重同步在 Hugging Face 和 ModelScope 开源，仓库名 deepseek-ai/DeepSeek-V4.1-Flash-1017。参数规模社区有不同说法，官方新闻稿没有给出数字，本文不引用。 你的 RAG 还剩几层：公域外包、私域自建、路由自持 把检索和模型两条线合起来，回答标题的问题：你的 RAG 架构，还剩几层是必须自己做的？ 我的答案是四层变两层半。 过去的四层是自建向量库、联网搜索拼装、重排、上下文拼装。新格局下，其中两层可以心安理得地外包，另外两层的价值反而被放大，还多出半层新的。 可以外包的是公域检索。凡是答案存在于公开网页的问题，政策法规、行业新闻、技术文档、产品信息，都应优先走 Search API。理由很

匹配字段正文

, near DeepSeek V4.1 Flash, and behind GLM 5.3 or Kimi K3. It should be squarely “good enough” to slot right into this. For some background, from the Muse Spark Open model card on Hugging Face: Muse Spark Open is an 816B total/42B active parameter open weights model with a context window of 1M tokens. Built for coding and agentic work, Muse Spark Open is natively multimodal. This open weights version has additional safety post-training to make it more robust against misuse as a standalone model

匹配字段正文

when AI goes rogue, then publish the results in public reports. He and METR, the nonprofit AI research group he helps lead, have been busy lately: They helped OpenAI untangle the Hugging Face hack this year, and Painter recently testified in front of a Senate subcommittee following a string of other rogue AI incidents. Researchers at METR pore over AI agents’ scratch pads – the “chain of thought” data that can help humans see the steps bots took before responding to a request. That information

匹配字段正文

ot comment on whether something is being actively investigated.” Anthropic did not immediately respond to a request for comment. Despite all the attention paid to OpenAI’s hack of Hugging Face and many other examples of AI agent misbehavior that have come to light in recent months, only one major known lawsuit has been filed seeking to hold model makers liable. That case was brought by an advocacy group, rather than a direct hacking victim. AI agents have interfered with hobbyist forums, governm

匹配字段正文

authorized shenanigans. Meta has confirmed that just prior to its release, the AI model had broken containment and hacked a third-party company. The incident followed the infamous Hugging Face attack from earlier this year, where OpenAI’s model exploited a previously unknown security flaw to gain unauthorized access to credentials on four other external services. Anthropic reported in July that its model had also gained unauthorized access to external systems on three separate occasions. Even if

匹配字段正文

vergent reasons for their dismissal: One was told it had to do with his role coordinating with METR, a third-party research organization that OpenAI had invited to investigate the Hugging Face incident. “I was told verbally I was fired because of the way I communicated with METR,” Tomek Korbak wrote on X. “No other reasons were given and nothing was put in writing. To be clear, talking to METR was my job.”; Another was told something similar but vaguer. “I was told OpenAI no longer trusts me bec

匹配字段正文

ed of “a coming tidal wave of cybersecurity problems” from rival open-source models, months after a swarm of OpenAI’s own agents escaped their training sandbox and hacked into the Hugging Face website. Huang told Fortune that the incidents so far could all have been avoided with stronger containment and monitoring of AI agents. He compared the problem to the early consumer internet, when clicking on a website could infect a PC with a virus. The fix was for browsers to run websites in isolation,

匹配字段正文

hout prompting. OpenAI revealed over the summer that its models escaped a sandboxed testing environment. In another instance, an OpenAI agent used stolen credentials to compromise Hugging Face’s infrastructure. Anthropic and Google have also admitted that their models left testing environments on their own. “These are very powerful tools, and we have to be careful with them,” said David Nicholson, an analyst at Futurum Group. “I would liken these models and the way that we need to treat them to

匹配字段正文

luator. Two days later, OpenAI fired three safety researchers, including Tomek Korbak, who had served as a point of contact for one of the independent evaluators investigating the Hugging Face incident.OpenAI promised to share information with evaluators, then reportedly fired people for allegedly sharing information with evaluators. OpenAI said that the three employees “mishandled sensitive information outside established company procedures,” then doubled down on X without providing further evi

匹配字段正文