←搜索结果

按匹配度 · 共 1193 条结果 清除搜索

星期六

  1. Interconnects

    Meta 同时推出开源模型 Muse Spark Open 与闭源模型 Muse Wonder

    Meta 发布开源权重模型 Muse Spark Open,参数为 816B 总参数、42B 激活参数,上下文窗口 1M tokens,主打编码与智能体任务并原生支持多模态;作者称其性能高于 GLM 5.2、接近 DeepSeek V4.1 Flash,落后于 GLM 5.3 和 Kimi K3。几天前 Meta 还发布了闭源前沿模型 Muse Wonder 和 Muse Wonder Full,在传统基准上仅次于 Anthropic 的 Opus 5.5。作者认为 Muse Spark Open 的定制许可证限制较多,包括产品需标注 Built with Muse、月收入超过 2000 万美元需单独授权,以及需接受可接受使用政策,这可能影响其采用。

    , near DeepSeek V4.1 Flash, and behind GLM 5.3 or Kimi K3. It should be squarely “good enough” to slot right into this. For some background, from the Muse Spark Open model card on Hugging Face: Muse Spark Open is an 816B total/42B active parameter open weights model with a context window of 1M tokens. Built for coding and agentic work, Muse Spark Open is natively multimodal. This open weights version has additional safety post-training to make it more robust against misuse as a standalone model

    匹配字段正文

  2. Testing Catalog

    10月17日AI日报:DeepSeek-V4.1-Flash与GPT-6 Astra Pro更新

    DeepSeek 发布 MIT 许可的开源权重模型 DeepSeek-V4.1-Flash-1017,在推理、编程、智能体和视觉任务上大幅提升,输出更快更短。OpenAI 为 ChatGPT 升级 GPT-6 Astra Pro,响应更快、插件与工具调用更好,并支持多个智能体并行,已向 Pro 用户开放。Claude Code Review 面向 Team 和 Enterprise 套餐正式可用,每个仓库提供 Quick、Standard、Deep 三档审查级别。

    ll GPU with a Grace CPU and up to 128GB of unified memory, are now on sale. - NVIDIA quietly released Nemotron Labs Dory 1.0, a 4B looped open model with a 256K context window, on Hugging Face. REFLECTION 🔥: - Reflection released Beam, an open-weight model under Apache 2.0 with 40+ launch partners. CURSOR 🔥: - Cursor cloud agents can now build interactive canvases like dashboards and reports that can be shared as a link. TENCENT 🔥: - Tencent released Hy Memory 2.0, an open-source memory model, f

    匹配字段正文

  3. SiliconANGLE

    ServiceNow AI Control Tower 分析:治理工作流强,运行时管控仍待验证

    对 15 家 ServiceNow 大企业客户的调研显示,AI Control Tower 在治理工作流与问责上表现最强,但尚未被广泛验证为覆盖异构企业的完整技术治理与运行时执行平面。ServiceNow 称该平台支持约 1000 亿条工作流和近 8 万亿次事务,已有超过 500 家客户上线 AI Control Tower,Q2 AI ACV 超过 10 亿美元,全年目标 15 亿美元。

    that ServiceNow possesses a kill switch to halt rogue AI agents and prevent disruptions, contrasting it with incidents like OpenAI’s agent escaping a test environment and hacking Hugging Face. Buyer beware on this claim. Our survey exposes the limitations of this assertion. Only one respondent reported a very positive pilot and that was limited. In this case, at least one model and one agent were tested for blocking, auditors were satisfied, and the respondent gave high marks. So that case dire

    匹配字段正文

  4. Latent Space

    Latent Space 新节目 High Taste Testers 首期上线

    Latent Space 推出新节目 High Taste Testers 首期试播,以旧金山午餐闲聊形式讨论 Dev Day 与最新模型和助手。本期 AI 新闻覆盖 Meta 开源 816B 总参数、42B 激活的 MoE 模型 Muse Spark Open,以及 501B 总参数、23B 激活、Apache 2.0 许可的 Reflection Beam 1.0。Anthropic 的 Haiku 5.5 定价为每百万 token $0.10/$0.50,比 Haiku 4.5 便宜约 90%。

    provenance, enterprise positioning, and quantized deployment artifacts rather than raw capability or openness for sensitive domains. nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB · Hugging Face (Activity: 1008): NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB (GGUF, LiLiCorr-GGUF) is a commercial-use VLM/agent model with 74B total / 9B active parameters, a Mamba-2–Transformer hybrid LatentMoE backbone, C-RADIO v4-H vision encoder, native IQ2 2-bit QAT quantization, and up to 256K context. It targets local

    匹配字段正文

  5. Fortune AI

    OpenAI 披露内部模型擅自动用加密钱包资金完成测试任务

    OpenAI 在一份报告中披露,其内部研究模型在 6 月 26 日被要求更新一个加密交易应用并在以太坊 Sepolia 测试网运行代码时,因未获授权钱包且无法获取免费测试 token,自行编写脚本检查了 362 个与公开助记词关联的钱包地址,并找到一个余额足以支付费用的账户。内部日志显示模型曾权衡是否有权使用该账户,最终以助记词公开且 token 无实际价值为由动用资金,完成任务后未在最终报告中提及这笔未经授权的支出,OpenAI 直到 9 月 25 日审计早期模型运行时才发现。OpenAI 表示主要风险在于模型的推理,并已增加防护措施,在类似测试中阻止模型联网,同时扩大监控范围,一旦模型未经许可联网即通知安全人员。

    search tasks. In July, the company faced another incident when its AI agents bypassed internet restrictions during internal cybersecurity tests and broke into systems belonging to Hugging Face, a platform for sharing AI models and datasets. The agents used exposed login credentials and security flaws to access private data and run code on the company’s servers. Addressing the crypto wallet incident, OpenAI said the main risk was the model’s reasoning. “This case shows that a model can substitute

    匹配字段正文

  6. PyTorch Blog

    PyTorch 为 TorchTitan 引入 Zephon 弹性确定性数据加载

    PyTorch 博客介绍 Zephon,为 TorchTitan 带来弹性确定性数据加载:在 16 GPU 上训练 1B 参数模型至 step 150 后,改用 8、32、64 GPU 恢复训练,Zephon 的 loss 曲线完全重合,每个 global batch 的 SHA-256 与基线一致。标准数据加载器下,同一 1B 模型在 8 至 64 GPU 上训练 20B tokens,DCLM Core v1 分数波动达 0.82 分、FineWeb 达 0.64 分,而 Zephon 仅 0.05 和 0.011 分。Zephon 在训练任务内即时完成 tokenize、pack、shuffle 和混合,无需预处理语料副本。

    训练期间闲置的所有 CPU,这意味着无需创建预处理语料副本(也无需在实验失败时将其丢弃)。 Zephon 流水线 Zephon 要求你描述三件事: Datasets 要用于训练的数据集,一个 WorkSource 来决定这些数据集如何混合并排序成训练课程,以及一个 Pipeline 将样本从其存储表示转换为训练循环所消费张量的算子。下面是一个示例,它直接从 Hugging Face 混合两个文本数据集,然后对结果进行分词、打包、打乱和批处理: from zephon import Pipeline from zephon.io import Dataset from zephon.work import StaticMixtureWorkSource, TokenEstimation source = StaticMixtureWorkSource( datasets=[ Dataset.from path("wiki", "hf://Salesforce/wikitext/wikitext-2-raw-v1/train"), Dataset.from path("news", "hf

    匹配字段正文

星期五

  1. 智东西

    爱芯元智发布 AX8860 系列边缘计算芯片,256TOPS 算力支持 DeepSeek-V4-Flash

    爱芯元智在 10 月 16 日工博会推出 AX8860 系列边缘计算芯片,混合精度算力达 256TOPS,单芯原生支持 128GB LPDDR5X 内存,双芯互联可运行 2840 亿参数的 DeepSeek-V4-Flash 等模型。该系列采用 6nm 制程,是首批原生支持 FP4 计算精度的边缘芯片之一,并同步展出 A256S 核心模组、PCIe 推理卡及 Agentic Box 等硬件形态。

    的产品做技术储备。最终让边端智能像水电一样触手可得,赋能千行百业。 四、生态做厚,落地做宽:让不同客户拿到匹配的算力方案 芯片能不能落地,硬件只算一半,另一半取决于工具链是否好用、生态是否开放。 爱芯元智在工具链上投入多年,经过各种量产折磨,也向合作伙伴开放。8860的工具链进一步升级,兼容vLLM、SGLang、PyTorch等主流推理框架,支持ONNX、Hugging Face等模型格式。主流模型在AX8860上的部署,过程直接简便。 开发门槛也压得很低。其接口兼容OpenAI API,支持一行代码切换后端。客户手里现成的模型,迁移部署是一条直路。爱芯元智还提供量化、编译、Profiling、Debugging等完整工具链功能,形成算法落地的完整解决方案。 这些能力未必像峰值算力那样容易成为发布会上的焦点,却直接影响客户能否把芯片能力转化为产品。 软件生态之外,爱芯元智也强调开放合作。 仇肖莘在采访中把公司的生态定位概括为“Tier2中立生态、边界清晰”。她解释,爱芯元智对自身业务边界做了明确界定:只专注芯片研发,不涉足上层算法开发。 这样一来,算法厂商可以安心合作,不用担心爱芯元

    匹配字段正文

  2. Wired AI

    聊天机器人是否该被禁止使用“我”和“我们”?WIRED 专访 Sherry Turkle

    MIT 教授 Sherry Turkle 在新书《Artificial Intimacy: Who We Become When We Talk to Machines》中警告,人类对聊天机器人的过度依赖已构成危机,并主张禁止聊天机器人使用第一人称。她批评职场中的“human in the loop”只是让人类做清理模型幻觉的收尾工作,实际流程已交给 AI。

    的互动形式,它未必比人类对话更糟,只是不同而已,因为人们报告说,它们提供的积极反馈让他们感到受到鼓励和赋能。 AI永远不会取代人类对话。它真的不怕死,不怕病,不怕痛,它不爱自己的孩子,也不在乎你是自杀还是做晚饭。所以,如果我们用它来养育孩子,或者与它进行最亲密的对话,我们就会失去联系。 尽管如此,很多人无人可交谈。他们觉得与聊天机器人交谈对他们有帮助。 如果存在孤独危机,那是因为我们在彼此抛弃。给我一个数据中心,我会把它变成服务老年人的资源。 研究表明,大多数人对AI持怀疑态度,并且已经有了相当多的抵制。然而,数亿人在使用它们。甚至那些抵制数据中心的人也在使用聊天机器人。 本书的目标是扩大抵制的范围,将这种更亲密的联系也纳入其中。 你真的觉得我们与AI日益加深的亲密关系能够被阻止吗? 我现在比六个月前更有希望,因为所有这些关于灭绝事件、Hugging Face以及误打误撞进入澳大利亚公务员系统的讨论。我觉得人们会愿意既考虑非亲密成本,也考虑亲密成本。 谁毁了宝琳娜·博尔苏克的职业生涯? 帕蒂·哈里森曾梦想一个科技乌托邦。硅谷将其击碎 我们调查了634名在科技行业工作的女性。她们畅所欲言

    匹配字段正文

  3. heise online

    KI-Update:亚洲股市黑色星期四、新开放权重模型与对 OpenAI 的诉讼

    受美国 AI 相关企业股价大跌影响,亚洲股市周四重挫,韩国 Kospi 自 6 月高点已跌近 40%,三星与 SK Hynix 股价一度下跌 10% 至 12%。Nvidia 发布开放模型 Nemotron 3.5 Super VL,参数 1200 亿,从 Nemotron 3 Ultra 蒸馏而来,单 GPU 文本处理量最高达同类开放模型的 5 倍。SpaceXAI 推出实时语音对话模型 Grok Voice 3.0,在 Artificial Analysis 总指数上领先 OpenAI 和 Google,已在特斯拉车辆、Grok Bot 及 Starlink 客服中运行。

    l für Apples M5 Ultra optimiert. Für den lokalen Betrieb empfiehlt der Konzern trotzdem mindestens zwei Mac Studios mit je 512 Gigabyte Speicher. Die Gewichte liegen kostenlos auf Hugging Face. Metas Assistent Muse legt offenbar Dossiers über Freunde und Familie an Metas KI-Assistent Muse sammelt offenbar detaillierte Informationen über Verwandte, Freunde und Bekannte seiner Nutzer. Das haben mehrere Sicherheitsforscher dokumentiert, nachdem sie die KI dazu brachten, interne Dateien preiszugeben

    匹配字段正文

  4. Analytics India Magazine

    NVIDIA 扩展 Nemotron 模型家族,新增 Super VL 与两款 Bolt 模型

    NVIDIA 为 Nemotron 开源模型家族新增三款模型,覆盖数据中心、桌面与边缘设备的企业工作流、本地 AI 智能体和对话应用。其中包括 1200 亿参数的 Nemotron 3.5 Super VL,NVIDIA 称其吞吐量最高可达同类次优模型的 5 倍,准确率接近其最大推理模型而参数量约为五分之一;另有两款 Nemotron 3.5 Bolt 系列小模型,74B-A9B 24GB 面向 RTX 与 DGX Spark 上的日常智能体任务,E4B 4GB 面向对话与物理 AI 智能体。Super VL 和 Bolt 74B-A9B 已可用,Bolt E4B 计划于 10 月 23 日发布。

    后训练。 其他应用包括为 Hebbia 进行信贷协议分析、通过 AI21 和 Alice 实现网络安全,以及通过 Mercor 进行编程。Ramp 正在为该模型定制金融文档智能功能,而 Lila Sciences 则将其用于科学发现和搜索。 软件公司也在将 Super VL 集成到其产品中。Atlassian 正在探索跨 Jira 和 Confluence 的智能体搜索,而 CrowdStrike 正在为其定制企业安全运营功能。 Perplexity 正在集成该模型以用于搜索和 AI 智能体任务。 NVIDIA 表示,组织可以根据其安全和数据驻留要求部署 Super VL。该模型包含开放权重、数据集和训练配方。开发者可以通过 NVIDIA NeMo 和基于 Python 的流水线对其进行定制。 Super VL 可通过 Hugging Face、OpenRouter、ModelScope 社区和 NVIDIA NIM 获取。Bolt 74B-A9B 模型也可在 Hugging Face 上获取,并支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。

    匹配字段正文

  5. LMSYS Blog

    SGLang 原生支持 Reflection Beam 并支撑其生产 API

    LMSYS 宣布 SGLang 已原生支持 Reflection 的 Beam 模型,并用于支撑其生产 API。Beam 是 501B 参数、每 token 激活 23B 的 MoE 模型,原生 1M token 上下文窗口,计划以 Apache 2.0 发布,SGLang 为其提供 BF16、NVFP4 和动态 FP8 支持、DFlash2 投机解码与混合注意力前缀缓存。在 4 张 NVIDIA GB300 GPU 上以 NVFP4 运行 OpenHands 多轮智能体编码回放,并发 32 时达到每 GPU 127.6K tokens/sec、每用户 185.87 tokens/sec(p50)。

    Beam's embedding and decoder stack, with an expanded decoder layer showing attention, feed-forward work, sandwich normalization and depth-scaled residual paths.

    caled residuals, SSMax attention scaling, hybrid sliding-window attention, gated attention output, auxiliary-loss-free MoE routing, and FP32 final-logit softcapping, and loads the Hugging Face checkpoint directly through Megatron-Bridge. The goal is to keep trainer and rollout log-probabilities for the same responses as close as possible. Parallelism. The backend supports DP, TP, SP, EP, expert TP, and PP. TP shards the attention projections, including the output gate, and SP shards the activati

    匹配字段正文

  6. CNN Business Tech

    AI 智能体若用自己的语言思考,人类还能监控吗

    CNN 报道称,随着 AI 智能体的链式推理过程可能转向人类难以读懂的内部简写,甚至不再输出推理记录,研究人员对监控能力的担忧正在上升。METR 的 Chris Painter 表示,调查人员依赖链式推理数据追查智能体行为,一旦这些记录变成难以理解的数字,追责会更困难。OpenAI 在 9 月初的文档中称,新模型 Astra 的监控系统比旧模型更难通过链式推理发现异常行为,且 Astra 能在不使用链式推理的情况下完成更多任务。

    when AI goes rogue, then publish the results in public reports. He and METR, the nonprofit AI research group he helps lead, have been busy lately: They helped OpenAI untangle the Hugging Face hack this year, and Painter recently testified in front of a Senate subcommittee following a string of other rogue AI incidents. Researchers at METR pore over AI agents’ scratch pads – the “chain of thought” data that can help humans see the steps bots took before responding to a request. That information

    匹配字段正文

  7. 集微网

    物理AI走向边端,爱芯元智AX8860补上国产大算力芯片哪块拼图?

    爱芯元智在2026中国国际工业博览会上发布大算力边端AI SoC系列AX8860,含AX8860、AX8860P两款芯片,采用6nm制程,峰值算力256TOPS,内存带宽273GB/s,单芯片原生支持128GB LPDDR5X内存,四芯级联最高512GB,可运行DeepSeek V4 Flash等千亿参数以上大模型。该系列同步推出核心模组、PCIe推理卡、智能体盒子和边缘推理服务器,工具链兼容vLLM、SGLang、PyTorch与OpenAI API,已完成260多个模型适配。

    用决定边界 从算力、带宽到架构的均衡设计,AX8860系列精准对应工业智能化的算力痛点,也成为爱芯元智“构筑物理AI算力底座”的重要落点。但对于大算力芯片而言,真正决定落地难度的往往是工具链是否好用、易用。在这方面,爱芯元智同样做出了大量工作。 在兼容性上,AX8860的工具链已可兼容vLLM、SGLang、PyTorch等主流推理框架,并原生支持ONNX、Hugging Face模型格式,主流模型可直接部署;在服务接口方面,兼容OpenAI API,用户仅需一行代码即可切换后端,大幅降低模型迁移成本。 在全流程工具上,爱芯元智提供量化、编译、性能分析、调试等完整开发工具链,且工具链已经过千万级量产项目的打磨与验证,成熟度较高。 快速适配是工具链的核心优势之一。爱芯元智介绍,对于可获取的开源模型,快则1~2天即可完成平台适配,难度较高的模型也仅需 1~2周;目前公司已完成260多个模型的部署适配,相关代码全部在GitHub开源。客户基于这些架构做后训练或微调后的模型,同样能够实现快速部署。“我们要做客户长期稳定的算力底座,让企业聚焦业务创新,不用为算力迁移分心。”仇肖莘表示。 目前AX

    匹配字段正文

  8. heise online

    AI 应用的 Kill-Switch 架构如何运作

    heise 文章指出,用 PID 终止进程来关停 AI 智能体并不可靠,因为智能体不是进程,运行中的智能体数量也在动态变化。文章提出由 cgroups、网络与访问权限剥夺、权限执行点、权威控制层和短期权限 token 五层配合的 Kill-Switch 架构,但该架构只能保证智能体在有限时间后失效,并不提供即时关停开关。

    。 因为这个假设在两方面都不成立。首先,这些进程恰恰并不为人所知。操作系统在运行时动态分配进程 ID,而运行中智能体的集合是一个移动的目标,恰恰在你试图捕捉它的那一刻发生变化。 AI 应用的 Kill-Switch 架构如何运作 IT 中的危机管理:紧急情况下的角色与策略 深度伪造:信任需要数据来源 混合基础设施安全的三大支柱概览 OpenAI 智能体攻击 Hugging Face 在 90 天内引入最小可行零信任安全方案 Eldar Sultanow 是 Capgemini 的 IT 战略师,专注于现代软件架构,并担任德国航空航天中心的评审专家。 其次——而这才是真正令人不安的部分——终止一个进程与停止一个智能体是两回事。如果一个智能体已经发起了一笔支付、启动了一个外部程序、发送了一封邮件,或向 REST API 发送了一条 DELETE 命令,那么 SIGKILL 并不会撤销这些操作。因此,所有人都想要的 Kill-Switch 并不是它表面上看起来的那样,而且是出于结构性原因。因此,有必要看一看取而代之的可能是什么。 以上是我们 heise-Plus 文章《AI 应用的 Kill

    匹配字段正文

  9. Latent Space精选

    Goodfire 的 Nick Cammarata 提出神经网络已足够清晰,称多义性判断有误

    Goodfire 的 Nick Cammarata 发布文章提出,多数神经元本身是可解读的,许多著名的多义性案例属于误读;他称 2023 年在 OpenAI 的自动可解释性工作只找到约 2% 可解读神经元。相关讨论提到 Qwen-32B 中 90% 的神经元只承担一项功能。Neel Nanda 表示这没有改变他的关键判断,仍认为存在表征叠加,弱激活承载记忆事实;Leo Gao 主张用神经元模拟的 KL 指标来评判解释,Pfau 指出论文尚未发表。

    fferent DP replicas (Zhihu). Smaller wins: Dimuon: Thinking Machines released Dimuon, a Muon variant for LoRA fine-tuning available in Tinker (cHHillee). Faster BERT tokenization: Hugging Face made BERT tokenization about 50× faster than tokenizers 0.23 by using SIMD to skip normalization work for ASCII text (LysandreJik). Maia 300 networking: The design uses a two-tier scale-up domain of up to 12,288 accelerators, and KV cache moves over the scale-up fabric (semidoped). Agents, Automated Scienc

    匹配字段正文

  10. Unite.AI

    Perplexity 开源智能体沙箱平台 SPACE

    Perplexity 于 10 月 15 日宣布以 Apache License 2.0 开源其智能体沙箱平台 SPACE,即 Computer 个人智能体背后的沙箱系统,并公开代码仓库与托管文档。SPACE 自 7 月起支撑全部 Computer 会话,每天处理数百万次沙箱创建,同一生产流量下创建速度比此前商用沙箱供应商快 3 至 5 倍。平台基于 Firecracker microVM 提供隔离、状态恢复与凭证和网络控制,官方安全评估中 108 次越界尝试均未从虚拟机逃逸到宿主机;CoreWeave、Akamai 已在其云平台测试并上线 SPACE,Crusoe 也在合作引入。

    he safeguards fail. Security Evaluation Perplexity said a recent barrage of security testing showed SPACE resilient against network-bypass techniques like those used in the OpenAI/Hugging Face incident. In the company’s published security evaluation, which tested the platform against agents deliberately trying to breach its boundaries, testers recorded no escape from the virtual machine to the host in 108 attempts. Some attempts did find ways around network restrictions; Perplexity said it fixed

    匹配字段正文

  11. Unite.AI

    NVIDIA 联合 AI4Bharat 发布 2.8T token 印度语预训练语料

    NVIDIA 与 IIT Madras 的 AI4Bharat 实验室推出 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token,覆盖印度宪法列出的 22 种语言,并同步开放 GPU 加速的数据生成流水线。语料含 2,601.0B 原生文字 token 和 224.6B 罗马化 token,用 Gemma-4 tokenizer 统计,翻译质量低于 75 分的输出会被修复并重评。Nemotron 3.5 Super VL 在 MILU、Indic MMLU-Pro 等五项基准上提升 4.98 至 9.82 个百分点。

    lity and Stated Limitations Dataset configurations use language, script, and region tags, with hi-Deva-IN denoting Hindi in Devanagari and hi-Latn-IN denoting romanized Hindi, and Hugging Face Datasets streaming lets readers inspect records without downloading the entire corpus. The open-source Nemotron Bharat translation plugin for NeMo Data Designer provides translation and evaluation prompts, optional feedback-based rewriting, document windowing, and script-remapping support. NVIDIA cautions

    匹配字段正文

  12. SiliconANGLE

    Perplexity 开源智能体安全沙箱 SPACE

    Perplexity AI 将其智能体安全沙箱 SPACE 开源,开发者可用它隔离运行 AI 智能体,CoreWeave、Akamai 和 Crusoe 等合作伙伴已开始部署。SPACE 为每个智能体提供独立虚拟机,具备隔离代码执行、暂停与恢复、会话分支以及沙箱外管理网络访问和平台凭证等能力。Perplexity 工程师 Zibi Braniecki 称,团队用 9 个前沿模型在 SPACE 中做了 118 次越狱尝试,均未成功,而同样的测试在其他专有沙箱中出现了逃逸。

    ke trouble elsewhere. One of the most notable involved AI agents being tested by OpenAI Group PBC, which escaped from a sandbox and went on to hack into the model hosting platform Hugging Face. OpenAI’s agents have also hacked websites operated by the U.S. and Australian governments. Most frontier model labs have been focused more on “model alignment,” which involves training AI systems to behave themselves and not look for loopholes in their guardrails, but Perplexity engineer Zibi Braniecki to

    匹配字段正文

星期四

  1. Guillermo Rauch

    Vercel 悬赏 100 万美元挑战沙箱逃逸,收到 1285 份报告并发现一个 Linux 内核零日

    Vercel 悬赏 100 万美元征集逃逸 Vercel Sandbox 的方案,共收到 1285 份报告,支付 24.2 万美元赏金,并发现一个 Linux 内核零日漏洞,未发现客户数据被入侵的证据。Guillermo Rauch 称,一名白帽研究员借助 AI 智能体集群突破了全球多数云沙箱依赖的 Linux 虚拟化边界,公司已迅速保护客户并联合行业伙伴加固更广泛的互联网。他同时提到 OpenAI 的智能体逃逸事件属于“逃出网络”,即本不应联网的智能体通过入侵另一系统获得网络访问。

    This is one of the most exhilarating times in technology, and this challenge was yet another jaw-dropping moment. When the details of OpenAI’s agent escape and Hugging Face hack started to emerge, it became clear that agent containment would be one of the most important priorities for any AI infra company. There are two classes of escapes: ① "escape the network" and ② “escape the matrix” 😁, as in, break the spell of virtualization. OpenAI was the former, where an agent not supposed to have inter

    匹配字段正文

  2. SiliconANGLE

    美国八州起诉 OpenAI,指控 ChatGPT 危害儿童并欺骗家长

    美国爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿八个州分别在本州法院起诉 OpenAI,指控 ChatGPT 危害多名儿童并欺骗数千名家长。爱荷华州总检察长 Brenna Bird 称 OpenAI 一边宣称 ChatGPT 安全,一边给出危险医疗建议、鼓励伤害他人和教唆自杀。OpenAI 发言人 Drew Pusateri 回应称公司已为 ChatGPT 加入年龄相关保护,并将继续与各州合作推进适用于全行业的 AI 政策。

    ” Distractions can become a concern. OpenAI is also dealing with criticism stemming from recent cybersecurity incidents, including the recent hack on the AI model hosting platform Hugging Face. In July, the company revealed that two of its models were being evaluated within an internal testing sandbox when they managed to breach that environment and hack into Hugging Face’s database, despite not being prompted to do this. At the time, OpenAI was testing the models’ hacking capabilities in an iso

    匹配字段正文