Oracle 谈智能体 AI 安全与网络韧性三大洞察
Three insights into agentic AI security and cyber resilience - SiliconANGLE
Oracle 高管在 theCUBE 对 Oracle“AI Cyberattacks Are Escalating”线上活动的报道中提出,智能体 AI 安全应把授权边界下沉到数据库层,让智能体只能看到对应用户的数据。Accenture Enkitec Group 用 Oracle Deep Data Security 支撑 40 多个智能体,已测试扩展到 300 个并发查询、多数结果在 15 秒内返回。分析师还强调需提前内置韧性、建立智能体清单与统一身份治理。
正文 · AI 翻译
随着软件获得访问敏感数据并代表用户采取行动的能力,智能体AI安全正在考验企业将信任置于何处。这一挑战不仅在于控制单个请求,还延伸到治理可跨越多个系统和业务流程的行动。
这种不断扩大的触达范围使安全成为架构和运营层面的关切,有关访问、监督和恢复的决策日益相互关联。theCUBE Research的Krista Case表示,企业必须考虑这些决策如何影响其在中断期间持续运营的能力。
“借助智能体AI,我们看到了这些由智能体驱动的新型攻击,它们正占据所有头条新闻,”她说。“在网络安全韧性和业务韧性方面,其影响在于它确实已成为安全讨论的一部分。[韧性]确实需要从一开始就内置,因为人们已经认识到,我们无法仅仅把围栏建得足够高。”
Case与 fellow analyst Dave Vellante在theCUBE对Oracle“AI Cyberattacks Are Escalating: How to Secure Your Data Now”线上活动的报道中探讨了这些压力。讨论汇集了Oracle高管和技术专家,共同审视不断变化的威胁格局及其对企业的影响。(*下方披露。)
以下是theCUBE与Dave Vellante和Krista Case的完整视频讨论:
以下是theCUBE对Oracle“AI Cyberattacks Are Escalating: How to Secure Your Data Now”线上活动报道中你可能错过的三大洞察:
洞察#1:数据安全必须在应用程序和AI智能体之下强制执行。
智能体AI安全需要一致的授权边界,因为智能体会开辟通往企业数据的新路径。Oracle公司数据库技术执行副总裁Juan Loaiza表示,Oracle的方法将强制执行从单个应用程序转移到数据库中,减少了对开发者单独实施保护的依赖。
“人们在措辞上非常聪明,能让AI做出你本以为通过提示AI已经阻止的事情,”他告诉theCUBE。“如果在数据层,我们强制每个最终用户只能看到自己的数据,那么无论你输入什么样的提示……代表该用户行动的智能体也只能看到该用户的数据。”
将强制执行移入数据库也改变了企业管理安全的方式:无论哪个应用程序或智能体请求访问,保护措施都必须有效。Oracle数据库安全高级副总裁Vipin Samar解释说,Oracle将数据库访问期间应用的控制与集中式安全管理相结合,包括基于云的Oracle Data Safe和自管理的Oracle Database Security Central。他与Oracle数据库安全产品管理副总裁David Knox一同出席。
“AI可以非常轻松自然地从一个数据库迁移到另一个数据库,”Samar说。“我们必须对整个数据库集群、所有用户、所有数据拥有完整的360度视图。只有这样,你才能真正实现有效的安全。”
对于构建基于智能体的应用程序的合作伙伴而言,这种架构将智能体生成的查询与其被授权检索的数据分开。Accenture Enkitec Group使用Oracle Deep Data Security在数据库内强制执行访问规则,允许智能体查询共享知识库,同时保留不同的授权级别,据Accenture Enkitec Group生成式AI/AI技术创新首席总监Roger Cornejo表示。
“我们有几十个,可能40多个智能体在访问这个应用程序,”Cornejo告诉theCUBE。“我们需要确保它也能扩展。目前,我们已经测试将其扩展到300个并发查询,大多数结果在15秒或更短时间内返回。”
以下是theCUBE与Vipin Samar和David Knox的完整视频:
洞察#2:智能体AI安全取决于有准备的系统和可问责的监督。
支持智能体需要企业对其依赖的系统进行现代化改造。Constellation Research Inc.副总裁兼首席分析师Holger Mueller表示,推迟采用会使组织暴露于AI驱动的威胁之下,同时技术债务不断累积。
“今年,大家都在争论什么是更好的智能体框架,”他说。“明年将是扩展后端系统的大复兴。”
就绪状态还需要了解智能体在哪里构建以及它们能触及哪些敏感资产。Oracle云工程集团副总裁Johnnie Konstantas(如图)表示,这种清单有助于组织围绕委托工作建立控制。
“智能体AI凸显了这样一个理念:一个智能体以及若干作为个人代理运作的子智能体可以访问数据,”她告诉theCUBE。“因此,身份呈现出新的形态,因为智能体在某种程度上携带着这些权限去访问,甚至可能对某个工作流采取行动。要把良好的身份机制落实到位,达到统一且无处不在的程度。”
这些技术控制需要组织层面的支持。Oracle客户成功高级副总裁兼首席信息安全官Brennan Baybeck表示,基础治理、安全基本要素以及清晰理解的客户与提供商责任,在企业AI部署中仍是缺口。
“在帮助控制这些我们称之为机器人的东西方面,人类从未如此关键,”他告诉theCUBE。“我们过去常说人类是最薄弱的环节。但现在我要说的是,机器人是最强大、也可能最危险的环节,而人类现在是不可或缺的环节。”
以下是theCUBE对Holger Mueller的完整视频采访:
洞察#3:网络韧性需要可信恢复和持续改进。
Oracle数据库产品管理高级副总裁Ashish Ray表示,智能体AI安全必须考虑到生产系统和备份都可能成为攻击目标的可能性。独立的管理控制和网络隔离保护恢复资产,而Oracle的零数据丢失恢复设备会检查备份的完整性和可恢复性。
“已备份但无法验证的数据是薛定谔的数据,”他在活动期间表示。“数据可能已经备份,但你不能高枕无忧,因为当你开始尝试恢复、还原数据并使用它时,你可能会发现数据无法使用,因为可能存在一些底层的验证检查、底层的损坏发生了。”
安全项目还必须考虑到攻击者发现和利用漏洞的速度快于人们测试、批准和部署修复的速度。RSA Security USA LLC前首席技术官兼首席数字官Zulfikar Ramzan表示,防御者对关键业务资产的了解有助于他们优先安排保护和修复工作。
“从发生的每一起事件中持续学习,”他告诉theCUBE。“看看那些你侥幸躲过、但也许本不该躲过的险情。把这些输入、这些洞察定期反馈到你的安全项目中。”
以下是Ashish Ray的完整视频采访:
要观看theCUBE对Oracle“AI网络攻击正在升级:如何立即保护你的数据”线上活动的更多报道,以下是我们的完整视频播放列表:
(*披露:theCUBE是Oracle“AI网络攻击正在升级:如何立即保护你的数据”线上活动的付费媒体合作伙伴。theCUBE活动报道的赞助商对theCUBE或SiliconANGLE上的内容没有编辑控制权。)
图片:SiliconANGLE