TechCrunch · AI· Julie Bort·· 2 小时前精选AI 评分76
微软发布Guardian Agents监控功能,称前沿模型无法信任
Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
AI 导读
微软推出Guardian Agents安全功能,用于监控企业部署的AI代理行为。该功能属于Project Perception产品,新增检测最多60种员工引入的Agent(如Claude Code、Codex等)的能力,并可在代理做出高风险决策时要求人工审批。CEO纳德拉强调需将智能供应与管控权限分离,认为企业不能将AI行为责任外包给模型提供方。
推荐理由
微软将前沿AI代理类比为内部威胁并提出供应与管控分离的安全框架,为企业部署Agent提供了可借鉴的治理思路。
来源:TechCrunch · AI · techcrunch.com