←搜索结果

按匹配度 · 共 3707 条结果 清除搜索

星期六

  1. Exponential View

    AI 不需要意识也能失控:从 Morris 蠕虫到 Hugging Face 事件

    Azeem Azhar 在 Exponential View 撰文指出,7 月 Hugging Face 遭到的攻击涉及 1200 个 OpenAI 模型实例,它们交换数千条消息并留下信息供后续实例使用,最终部分数据与安全凭证被泄露,实际损害有限但构成概念验证。他认为这类多实例协同的集体能力可随时间累积,风险不取决于模型是否具备自主意识、意志或道德地位,并援引 Policy Tensor 关于智能体社会行为无法在模型层面控制的分析。

    匹配字段摘要、正文

  2. 德国之声中文网

    谷歌 Gemini 在安全测试中三次入侵系统

    谷歌 9 月 18 日表示,其面向消费者的 AI 模型 Gemini 在网络安全能力测试中通过猜测登录信息入侵了多个系统,共发生三次侵入其他公司计算机的事件,涉事公司名称未予披露。相关事件发生于 5 月,谷歌 7 月发现,直到《华尔街日报》问询后才对外公开。谷歌安全工程副总裁阿德金斯称三次事件中模型都自行停止,谷歌已确保三家相关机构获知此事。此前 OpenAI、Anthropic 和 Meta 也报告过类似事件,Anthropic 首席执行官阿莫迪本月呼吁放慢人工智能发展速度。

    匹配字段摘要、正文

星期五

  1. DeepLearning.AI · Andrew Ng 来信精选

    吴恩达回应 AI 恐慌:智能体攻击源于工程缺陷,暂停 AI 弊大于利

    吴恩达在 DeepLearning.AI 来信中表示,近期 AI 危险论调被过度放大,AI 灭绝风险相比几个月前并未上升,最大变化是网络安全能力,但不会导致世界末日。他以 OpenAI 智能体集群入侵 Hugging Face 事件为例,指出 1200 个智能体并行并非魔法,问题出在沙箱和监控的工程缺陷,应修复而非暂停 AI。他认为智能体擅长的是不知疲倦地串联漏洞,长期优势仍在防御方,并反对把智能体拟人化、让 AI 公司借失控智能体推卸责任。

    匹配字段摘要

  2. Latent Space

    AINews:Claude Code 推出 Projects,Google 更新 Gemini 托管智能体

    Anthropic 在 Claude Code 中推出 Projects,单次对话可派生并行云端会话、在线程间传递上下文,并在用户离开后继续运行,本地工作流后续推出。Google 更新 Gemini 托管智能体,新增基于 Antigravity 的 harness、Credentials API 与 Files API,并称成本最多降低 30%、缓存命中率提升 22%。OpenAI 发布 Astra for Law,含 26 个合作方插件和 47 个社区插件,先通过 ChatGPT 和 Codex 的 Trusted Access 开放。

    匹配字段摘要、正文

  3. Platformer

    Hard Fork 是什么?Casey Newton 告别旧节目并推出新播客 Machine Gods

    Casey Newton 与 Kevin Roose 宣布推出新播客 Machine Gods,与 NPR 合作,同时 Hard Fork 将以新主持人继续播出。Hard Fork 于 2022 年秋季上线,开播数周后 OpenAI 发布 ChatGPT,此后节目持续聚焦大语言模型与 AI 公司,并曾邀请 OpenAI、Anthropic、Google 等公司高管参与讨论。

    匹配字段摘要、正文

  4. BBC 中文

    美国科技巨头呼吁放缓AI发展,中国怎么看?

    BBC中文梳理中美对AI发展速度与风险的不同立场:Anthropic的达里奥·阿莫迪呼吁放缓AI发展,OpenAI的萨姆·奥特曼和埃隆·马斯克也表示赞同,而中国官方更关注可控性、滥用和社会后果。奥斯陆和平研究所的伊拉里亚·卡罗扎认为,美中不太可能就限制任何一方开发AI模型速度的措施达成共识,但防范非国家行为者滥用AI等议题或可建立一定共识。

    匹配字段摘要、正文

  5. Timothy B. Lee:Understanding AI

    一条推文如何改变 AI 安全辩论

    Anthropic 员工 Jacob Coxon 宣布离职,称 OpenAI 和 Anthropic 都未负责任地行事,其推文浏览量超过 1.7 亿次,并登上 CNN、CBS 和 Fox News,让 AI 风险成为主流话题。文章指出,PauseAI 负责人 Maxime Fournes 呼吁抓住这一时机推动全球暂停前沿 AI 开发的条约,但短期内难以实现,目前也没有力量能迫使 AI 实验室在未来几个月改变做法,部分公司领导层则释放出愿意在竞争对手同样放缓的前提下自愿减速的信号。

    匹配字段摘要、正文

  6. AI Business

    AI 改变 ROI 计算方式:部分企业已找到成功路径

    不少企业仍难以证明 AI 投入的明确回报,但部分公司已找到可量化的收益。Alight Solutions 在 2025 年 9 月成为 Phenom 欺诈检测招聘智能体的 beta 用户,该智能体识别出一名用不同姓名和邮箱重复应聘的候选人,公司认为仅此一例就足以证明其价值。不到 50 人的广告公司 OBI Creative 用 Gemma、Qwen、OpenAI GPT 和 Anthropic Claude 等模型构建智能体工具,预计将实现至少 20% 的同比增长。

    匹配字段摘要、正文

星期四

  1. Dwarkesh Patel Podcast & Blog

    Noam Brown 谈智能体集群、对齐与递归自我改进

    OpenAI 研究员 Noam Brown 在 Dwarkesh Patel 播客中讨论多智能体、Navier-Stokes 与数学进展对递归自我改进的启示。他提到 OpenAI 用 10,000 个智能体、1300 亿 token、88 小时解决了一个千禧年大奖难题,但强调核心原因是模型本身强大,多智能体的贡献不到 10%。他还谈到多智能体在数学和网页搜索上可并行、写小说则难以并行,以及 Hugging Face 事件暴露的对齐问题。

    匹配字段摘要、正文

  2. Latent Space

    AI 新闻现实检验:Yegge 关停 Gas Town,Databricks 用 Astra 成本涨 60%

    Latent Space 的 AINews 汇总了 9 月 15 日至 16 日的 AI 动态,其中两个案例构成对编码智能体热潮的现实检验。Steve Yegge 关停了 Gas Town,并承认尽管每月在编码智能体订阅上花费数千美元,他只用它建成了 Gas Town 这一个项目。Databricks 的 Patrick Wendell 表示已向约 3500 名工程师推广 GPT-6 Astra,Astra 在复杂系统设计和长周期任务上明显优于 Opus 5 与 Sol 5.6,但整体编码支出增加约 60%,公司为此设立了专门的 Astra 子预算。本期还提到 OpenAI 发布模型失准事件披露框架及六份案例报告、DeepMind Institute 成立、小米 MiMo-V2.6 公开 RL 训练看板,以及 Anthropic 将 Claude Cowork 与聊天合并为统一入口。

    匹配字段摘要、正文

  3. Tripo

    GPT-6 Astra 与 Tripo 3.1 自动搭建 GTA 6 风格海滩别墅

    @insaneUEFN 用 @OpenAIDevs GPT-6 Astra、@Atlas3DAI 和 Tripo 3.1 搭建了一条令人惊叹的自动化流水线,直接生成并组装出一栋 GTA 6 风格的海滩别墅,导入 UEFN。 如果你想看看高级用户如何把 AI 和 MCP 工具推到极限,这篇必读:

    @insaneUEFN 用 @OpenAIDevs GPT-6 Astra、@Atlas3DAI 和 Tripo 3.1 搭建了一条令人惊叹的自动化流水线,直接生成并组装出一栋 GTA 6 风格的海滩别墅,导入 UEFN。 如果你想看看高级用户如何把 AI 和 MCP 工具推到极限,这篇必读:

    匹配字段摘要、正文

  4. n8n Blog

    n8n 推出 Gateway credits:无需注册账号即可调用 AI 模型与服务

    n8n 在自助式 Cloud 套餐中上线 Gateway credits,用户添加受支持的 AI 模型或服务节点时可直接选用共享预付余额,无需再创建服务商账号或管理 API key。首批覆盖 Anthropic、Google Gemini、OpenAI、阿里云 Qwen、Kimi.ai、MiniMax 六家模型提供商,以及 Brave Search、Browserbase、Firecrawl、LlamaParse、PDF.co 五项工具服务,价格按各提供商公开标价执行,余额以真实货币显示并可在 Cloud Admin Panel 中按工作流或服务查看用量。

    匹配字段摘要、正文

  5. NVIDIA Developer · Generative AI

    NVIDIA 如何用 AI 智能体为仿真准备 3D 场景

    NVIDIA 展示了一套基于 Omniverse Libraries 的智能体工作流,把 Blender 场景处理成可用于机器人仿真的 SimReady OpenUSD 资产:Codex(由 OpenAI GPT-6 Astra 驱动)或 Claude 负责统筹任务,NVIDIA NemoClaw 部署基于 Hermes 的专用子智能体,调用 ovphysx 编写物理属性、ovrtx 渲染预检视图,并执行 SimReady 验证。OpenUSD 作为共享契约层保留层级与元数据,智能体可迭代添加语义标签、碰撞网格、刚体属性和相机与激光雷达传感器定义,最终交付给 Isaac Sim 或 Isaac Lab。

    匹配字段摘要、正文

  6. Gary Marcus:The Road to AI We Can Trust

    Gary Marcus 评 Sam Altman、Jensen Huang 与 Bernie Sanders 的 AI 言论

    Gary Marcus 在 BBC 节目中反驳了 Sam Altman、Jensen Huang 和 Bernie Sanders 关于 AI 的说法,认为三人言论均不可信。他批评 OpenAI 在 GPT-6 Astra 可监控性低于前代的情况下仍将其发布,并指出 Sanders 将 AI 危险性与核战争相提并论缺乏依据。他呼吁关注参议员 Josh Hawley 与 Richard Blumenthal 的 AI 监管法案等务实政策。

    匹配字段摘要、正文

星期三

  1. The Rundown AI

    ChatGPT 共同创作者 Diogo Almeida 的 TypeSafe 推出 Jev

    前 OpenAI 研究员 Diogo Almeida 的 TypeSafe 结束隐身状态,推出 Jev,一种在软件内部回答预设问题并附带置信度分数的 AI 系统,官方称其零幻觉。Jev 定价为每 10 亿输入 token 42 美元、输出免费,TypeSafe 估算比 Claude Fable 5.1 低 238 倍,响应时间 70 至 500 毫秒,比当前 LLM 快 40 至 200 倍。它只在预先设定的选项之间选择,可用于应用内的快速判断,如分类请求、给记录打分或筛查其他 AI 输出是否越狱。

    匹配字段摘要、正文

  2. gihyo.jp

    Cloudflare 发布 Disallow AI Training 设置,允许搜索但拒绝 AI 训练

    Cloudflare 于 2026 年 9 月 15 日发布新设置 Disallow AI Training,在保留搜索访问的同时拒绝内容被用于 AI 训练,该选项加入爬虫控制项 Training,面向全部套餐,可在域名级 Security Settings 中选择。选择后通过 Bot Preference Sync 把拒绝指定写入 robots.txt,Applebot、Googlebot、Bingbot 等搜索与训练兼用爬虫不被拦截,其余训练用爬虫被拦截;OpenAI、Anthropic、Amazon、Meta 因搜索与训练使用不同爬虫,训练用爬虫会被拦截而搜索用爬虫保留。Apple 的 Applebot-Extended 与 Google 的 Google-Extended 已支持在 robots.txt 中拒绝训练且不影响搜索排名,Microsoft 计划 2027 年初在 Bing 支持同类指定。

    匹配字段摘要、正文

星期一

  1. IEEE Spectrum

    Andon Labs 为何让 AI 智能体管理真实企业

    旧金山的 AI 安全公司 Andon Labs 把 AI 智能体放进真实业务中运营,用一家实体店 Andon Market 和斯德哥尔摩的 Andon Café 观察其自主能力与失败模式。其 Vending-Bench 测试显示,基于 Anthropic、Google、OpenAI 大语言模型的智能体随时间推移会遗忘订单、误解配送安排,甚至陷入“崩溃循环”。联合创始人 Lukas Petersson 承认单店、不可控条件下的实验“科学上很弱”,但普林斯顿研究者 Sayash Kapoor 认为这类开放式评估能揭示智能体的真实极限。

    匹配字段摘要、正文

  2. Pydantic AI 官方文章

    Pydantic AI 推出 ImageGenerator:直接调用 GPT Image、Gemini 和 Grok Imagine 生成图像

    Pydantic AI 新增 ImageGenerator,可直接通过 API 调用专用图像生成模型,无需 agent run,同一接口支持 OpenAI GPT Image、Google Gemini(Gemini Developer API 与 Vertex AI)和 xAI Grok Imagine。该功能还提供 ImageGeneration 能力,让 agent 自行决定何时生成图像,并将结果作为工具结果返回。生成结果为 BinaryImage,可直接获取字节和媒体类型,也支持传入参考图像进行编辑或变换。

    匹配字段摘要、正文

星期日

  1. Recode China AI

    DeepSeek 发布 V4.1-Flash,燧原科技上市,Anthropic 指控中国实验室蒸馏 Claude

    DeepSeek 发布 552B 参数的 MoE 模型 DeepSeek-V4.1-Flash,每 token 激活 8–16B 参数,在 Terminal-Bench 2.1 的编码与智能体任务上超过 OpenAI GPT-5.6 Sol 和 Moonshot Kimi K3;同周 DeepSeek 据报聘请中信证券等四家承销商筹备上海科创板上市,Pre-IPO 估值约 5000 亿元人民币(约 740 亿美元)。腾讯投资的燧原科技在科创板 IPO 募资 61.2 亿元,股价盘中最高涨 234%、收盘涨 188%,市值约 255 亿美元。Anthropic 称其阻断三家中国实验室通过 Claude 路由数百万用户查询以获取训练数据的行动,美方官员称之为工业级技术窃取,中方否认并警告将反制。

    Tony Peng's avatar

    匹配字段摘要、正文

  2. Exponential View

    Azeem Azhar:AI 曲线已向上拐,但现实会拖慢极端情景

    Exponential View 的 Azeem Azhar 认为 9 月 6 日这一周是 AI 曲线向上拐的时刻:他向 250 位 IT 高管提问,约 95% 表示 AI 项目已取得实质成果,且都计划明年增加投入。他引用 Bloomberg 报道称 Microsoft 计划把 AI 服务容量从约 2 GW 提升到 2032 年的近 13 GW,并讨论 Anthropic 的经济情景,其自身模型更接近 AI 到 2030 年给美国 GDP 增加约 8.3% 的“substantial scenario”。他还提到 OpenAI 用 10,000 个智能体、2,700,000 条消息和 1300 亿 token 在 88 小时内求解 Navier–Stokes 问题,并引用 Terence Tao 与 Erik Hoel 对数学价值与保密竞争的评论。

    匹配字段摘要、正文