Gartner预测,到2028年,33%的企业软件应用将集成具有代理性质的AI(Agentic AI)。这一预测令人印象深刻,因为2024年这一比例仅为1%。同时,Gartner还预计,代理AI将在四年内使15%的日常工作决策能够自动做出,从而带来巨大的好处。这些好处不仅包括更精准的决策、复杂任务的自动化,还能在成本控制和效率提升方面发挥重要作用。
然而,代理AI也会引入一种新的自治工作流程,由大型语言模型(LLMs)驱动。这些AI不仅是信息的收集者,它们还能够做出决策、协作,甚至在复杂的数字环境中采取行动。更为复杂的是,这些AI能够理解用户意图、访问敏感系统,并与API进行交互,完全不依赖于人工干预。
这似乎带来了一个潜在的安全挑战。如果你也在担心如何保护这些看起来更像员工而非机器人,且永远在线的智能代理,那么你来对地方了。
为了解决这些挑战,最好的方式是首先了解代理AI的独特之处。与传统的静态服务账户或机器人过程自动化(RPA)机器人不同,代理AI采用动态、适应性强的工作流程,能够自主推理。举个例子,假设你需要一个AI驱动的旅行助理来帮你计划行程,这时多个代理可能会协作,收集客户偏好、查询数据库、生成行程并最终确认预订。在这个过程中,每个代理负责不同的任务,因此它们与不同的系统互动,并且访问不同级别的敏感数据。尽管这一切最终会为客户带来良好的体验,但其中隐藏的风险是传统的身份和访问管理模型无法应对的。
这是因为,传统的身份和访问管理模型并非为具备智能的代理所设计。这些智能代理的运作速度远远超出人类操作的速度,它们需要的资源也可能超出人类预期。这些管理模型原本是为人类用户设计的,后来扩展到非人类身份(NHI),如服务账户、脚本、机器人和自动化云工作负载等场景,这些场景的访问需求较为可预测,而且访问权限基于预定义的角色,通常不会成为问题。
随着多代理系统的快速发展,企业将面临几个新的挑战。最为紧迫的问题之一是“持久性访问”,即AI代理往往会保留超出任务范围的权限,这样在凭证泄露的情况下会造成不必要的风险。另一个问题是“过度授权”,即代理被授予过多的权限,这违反了“最小权限”原则。最小权限原则要求用户、系统和进程仅应被授予执行指定任务所需的最小权限,而非更多。
问题的复杂性还在于,依然使用硬编码凭证(如用户名、密码或API令牌)写入代码、脚本或日志中,这些凭证容易被泄露或随着时间的推移而被遗忘。此外,多个代理系统带来了新的AI身份,这些身份通常不受与人类用户相同的监管、政策或审计路径的约束,这使得攻击面大大扩展。
这些威胁并非遥远的未来问题,现实中已经发生了多起相关的安全事件。一些高调的网络攻击事件中,攻击者利用过期或过度授权的凭证,突破DevOps管道和自动化账户的防线,未授权访问并横向渗透到关键基础设施。这些事件揭示了一个关键现实:身份滥用,而非恶意软件,往往是导致重大安全失败的根本原因。
为应对这些威胁,越来越多的组织开始采纳动态访问控制的方式,即“零常驻权限”(Zero Standing Privileges,简称ZSP)。ZSP基于即时访问(Just-in-Time, JIT)和零信任(Zero Trust)原则,彻底消除了“始终在线”凭证的概念,仅在需要时授予访问权限,并在使用后立即撤销。
ZSP创造了一个新的范式,其中凭证和角色是瞬时的,仅在特定任务需要时提供权限,任务完成后授权会自动撤销。因此,ZSP确保即使凭证遭到泄露,其使用价值也会局限于非常有限的时间窗口和功能范围。同时,所有的访问授权和撤销过程都实现了自动化,不需要人工干预,这确保了过程的连贯性、速度和可扩展性。此外,遵循零信任原则的组织还应当记录每一次访问事件,确保团队能够实现全面的可见性、审计能力和责任追溯。
为了更好地理解ZSP的工作原理,我们可以再次回顾前面提到的旅行预订示例,看看多个代理如何协同工作。
- 偏好代理负责收集用户的个人信息,为此,它需要临时获得客户档案数据库的只读访问权限。
- 匹配代理负责汇总潜在的旅游目的地,并需访问旅行和预订数据集。
- 接着是物流代理,它负责处理确认和行程更新,为了完成这些任务,ZSP将为它提供临时访问航空公司和酒店的API。
- 最后是合规代理,它确保整个数据处理过程符合组织的政策,它只需要访问系统日志或审计记录的简短、有限权限。
在这些步骤中,每个代理都获得与其任务相关的时间限制访问权限,并且一旦任务完成,该访问权限会立即被撤销。此外,它们的凭证从不被持久存储,这不仅减少了攻击面,还创建了一个干净、可追溯的记录,显示每个非人类身份是如何与系统和数据互动的。
消除“始终在线”的访问权限大大减少了攻击者可以利用的入口点,同时通过加速智能代理和自动化系统的部署,使安全运维团队更加灵活,能够规模化运作,而不会受到传统身份管理框架带来的延迟和复杂性的困扰。对于合规性方面,拥有审计就绪的日志和最小权限执行的证明,将简化监管报告流程,使组织更容易保持合规。
多代理系统的应用正在快速增长,因为它们能够自动化复杂任务,提升决策效率。然而,仍然依赖传统凭证访问的组织将难以实现安全扩展。如果没有合适的控制措施,智能代理很容易成为高风险的负担。尽管AI的未来可能是自治的,但它必须是负责任的,而这一切从安全访问开始。
Art Poghosyan是一位拥有20多年网络安全经验的企业家和信息安全专家。他擅长组建高绩效团队,营造合作和问责文化。在创办Britive(领先的云特权访问管理平台)之前,他共同创办了Advancive(身份和访问管理咨询公司),该公司于2016年被Optiv收购。Art也是一名导师、演讲者以及行业活动的贡献者,积极参与(ISC)2 CISSP-ISSAP考试的开发,致力于推进云安全创新。