当地时间周一(10月19日),微软推出多项全新安全功能,帮助企业管理日益增多的AI智能体带来的安全风险。其中最受关注的是「守护智能体」(Guardian Agents)——一套专门监控企业内部正在运行的各类AI智能体的安全机制。发布现场,微软安全业务高管海耶特·加洛(Hayete Gallot)说出了那句被广泛引用的话:「任何来源的前沿模型都不能被信任。」
先梳理产品脉络。Guardian Agents隶属于微软今年6月推出的安全产品「感知项目」(Project Perception)。感知项目最初的设计针对的是外部AI威胁:彼时Anthropic推出了Mythos、Fable等以黑客能力著称的模型,OpenAI上线了安全漏洞扫描系统破晓(Daybreak),微软的应对是上线三类安全智能体——扮演黑客实施攻击以找出弱点的红队、负责侦测攻击与评估漏洞的蓝队、专门修复漏洞的绿队。这个体系的假想敌原本是企业外部的AI攻击者。
而这次新功能的推出,标志着设计前提发生了一次关键转变:智能体威胁可能来自企业内部。随着企业大量部署拥有系统权限、账号体系甚至支付能力的AI智能体,微软管理层开始把企业内运行的AI智能体类比为「内部威胁」——它们像新员工一样有权限,却不像新员工一样可以被问责。
本次新增能力的要点:
从产业观察角度看,全球最大的企业软件厂商把「不信任前沿模型」写进产品哲学,等于给智能体安全赛道盖了官方认证章。逻辑并不难理解:智能体一旦被提示词注入诱导、或因模型幻觉而越权操作,其后果与内部人员滥用权限同级——删除数据、误发邮件、错误付款都可能发生。当智能体的部署量从百级走向万级,人盯人的治理方式必然失效,「用智能体盯智能体」成为唯一可扩展的方案。
对下游产业而言,这意味着两件事:其一,企业采购AI智能体时,「有没有配套的监控与审计层」将和功能清单一样成为必答题;其二,微软把安全层做进订阅套件的打法,会挤压独立智能体安全初创公司的定价空间。需要说明的是,功能覆盖范围与定价以微软官方产品文档为准。