←新闻详情

The New Stack更新于 10月30日 14:13

OpenAI 1.2 亿周活背后的身份认证:Ory 如何支撑智能体级流量

From human clicks to agentic velocity: What OpenAI’s 1.2 billion scale means for your auth

AI 导读

OpenAI 在 DevDay 宣布 ChatGPT 周活跃用户突破 1.2 亿,其身份认证由 Ory 的解耦式 OAuth2/OIDC 基础设施支撑。文章对比了传统单体身份 SaaS 与自托管可组合 IAM 的架构差异,指出智能体工作负载会让 token 校验量非线性增长,需在边缘用 JWKS 缓存做无状态验证。

正文 · AI 翻译

当OpenAI在DevDay上宣布ChatGPT的周活跃用户数(WAUs)已突破12亿、约占人类人口的15%时,大多数工程讨论自然都集中在模型上下文窗口、计算集群和分布式GPU推理上。

然而,在每一次聊天会话、API调用和模型调用的背后,都同样存在着一项艰巨的基础设施挑战:超大规模Web场景下的身份与访问管理(IAM)。

“在每一次聊天会话、API调用和模型调用的背后,都同样存在着一项艰巨的基础设施挑战:超大规模Web场景下的身份与访问管理(IAM)。”

在OpenAI能够从LLM输出一个token之前,其后端系统必须先对请求进行身份验证、校验OAuth2访问令牌、检查细粒度权限,并在全球范围内维护安全的会话上下文。为了在不引入延迟瓶颈的情况下处理如此庞大的事务量,OpenAI选择了Ory,利用其轻量级、解耦的认证引擎以及OAuth2/OIDC基础设施。

以下从架构层面剖析:当流量从人类用户转向智能体工作负载时,身份规模会发生怎样的变化;为什么传统IAM平台在如此体量下会崩溃;以及解耦的、面向边缘的授权如何应对极端吞吐量。

规模问题:人类流量与智能体工作负载

要理解传统IAM平台为何在极端规模下失效,不妨看看当架构从标准Web应用演进为智能体AI平台时,用户认证模式会发生怎样的变化。

“当企业从由人发起的UI点击转向自主AI智能体时……令牌校验与人类交互的比率会呈非线性增长。”

当企业从由人发起的UI点击转向自主AI智能体(例如OpenAI的Work和Codex套件)时,令牌校验与人类交互的比率会呈非线性增长:

事务速度:用户向AI智能体发出的单个请求,可能触发数十个下游子任务、数据库查询和第三方API工具调用。每一步都需要会话验证和令牌内省。

令牌内省开销:传统集中式身份提供商(IdP)通常通过集中式RPC或数据库查询来校验访问令牌。在每分钟数十亿次请求的规模下,集中式内省会带来严重的网络跳数和数据库锁争用。

无状态边缘验证:为防止授权成为请求路径上的主要瓶颈,会话验证必须在边缘同步完成,采用轻量级密码学验证(如JSON Web Key Sets / JWKS缓存),而非有状态的网络调用。

架构对比:现代可组合IAM与传统单体SaaS

在评估面向超高吞吐量的身份平台时,工程团队常常会在传统多租户身份SaaS产品(如Auth0、Okta、Ping Identity)上撞上性能与成本的高墙。

架构维度 | 传统单体身份SaaS | 自托管可组合IAM(如Ory)

令牌校验机制 | 集中式IdP往返调用或重量级服务端SDK | 边缘原生无状态JWT校验与本地会话缓存

数据驻留与所有权 | 用户存储托管在厂商管理的SaaS云中 | 完全的数据主权(直接运行在你的VPC / 多云k8s中)

数据库持久化策略 | 专有SaaS数据库集群,受厂商速率限制约束 | 高可用分布式SQL层(如CockroachDB、Spanner、Postgres)

成本扩展模型 | 按月度活跃用户(MAU)或按API请求执行次数收费 | 基于基础设施扩展;成本与计算/内存占用相关

可定制性与迭代速度 | 受限于厂商webhooks、规则或自定义代码沙箱 | Go原生微服务,具有清晰的API边界和无头UI集成

“OpenAI希望找到一个合作伙伴,帮助我们实现自主掌控身份流程、数据和成功的愿景。我们有很多合作伙伴,而Ory是其中最优秀的之一。”

十亿级用户身份系统的关键基础设施要求

在规模上保障身份安全,需要在认证栈中实现清晰的关注点分离。基于OpenAI这类高吞吐量部署,现代身份架构依赖四项核心原则:

1. 身份状态与业务逻辑分离

单体框架通常将用户档案、认证状态和业务角色绑定在单一关系型数据库中。高吞吐量架构则将这些职责解耦为独立的微服务:

身份存储与认证引擎:处理身份生命周期、凭据哈希和会话管理的专用微服务(如Ory Kratos)。

OAuth2 / OIDC令牌签发:高性能OAuth2服务器实现,能够以极低延迟签发签名访问令牌并管理授权流程(如Ory Hydra)。

细粒度访问控制(FGAC):基于Google Zanzibar模型的关系型访问控制引擎(如Ory Keto),可在亚毫秒级执行时间内评估元组关系(ObjectRelationSubject)。

2. 跨云区域的分布式持久化

为支持全球边缘路由,底层存储层必须支持地理分布式写入和低延迟本地读取。将自托管身份引擎与分布式SQL引擎(如CockroachDB或云原生多区域数据库)相结合,可确保令牌验证状态在全球范围内复制,而不会出现脑裂风险或跨大陆网络延迟。

3. 智能体安全:从“先强制执行”转向“观察模式”

随着企业部署代表用户执行命令的自主智能体,立即编写限制性IAM策略可能会破坏工作流或导致静默失败。现代安全实践强调在严格策略执行之前先进行运行时可观测性:

第1步:智能体指纹识别:映射在内部网络中运行的每个机器对机器(M2M)凭据和智能体服务账户。

第2步:执行追踪:审计由自主运行时发起的工具使用、API调用和数据库查询。

第3步:身份委托:实施范围受限的OAuth2令牌交换(RFC 8693),确保智能体在直接绑定到委托人类用户的严格降权权限下运行。

限时活动:你可以创建一个免费的Ory账户并开启观察模式,了解如何最好地构建强制执行。

“将身份验证扩展到12亿周活跃用户证明,身份不再只是一个安全勾选项;它是一个核心的分布式系统挑战。”

将身份验证扩展到12亿周活跃用户证明,身份不再只是一个安全勾选项;它是一个核心的分布式系统挑战。

随着软件从人类驱动的UI交互转向高速AI智能体执行,工程团队必须评估其身份栈能否处理指数级的API流量。解耦的、无状态优先的身份引擎可提供现代平台在扩展到智能体时代所需的低延迟、数据主权和可预测性。

文章《从人类点击到智能体速度:OpenAI的12亿规模对你的身份验证意味着什么》首发于The New Stack。

来源

The New Stack