微软推出 Guardian Agents 防护方案,警示前沿 AI 模型不可完全信任
微软警示前沿 AI 模型不可信:AI 智能体堪比内部威胁,推出 Guardian Agents 防护方案
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
微软推出守护智能体(Guardian Agents)等多项安全功能,用于监控企业内部使用的 AI 智能体,隶属 6 月上线的感知项目。纳德拉警示企业不应信任模型供应商的安全承诺,需将智能能力供给与管控权限分离;Microsoft Defender 新增智能体检测功能,最多可识别 60 种智能体,并可限制权限、要求人工审批高风险操作。
来源:IT Home · ithome.com