跳到正文
量子位 · 微信公众号·· 2026-06-16AI 评分42

北航联合团队提出RoboSafe,为具身智能体加装运行时安全护栏

给机器人装安全护栏,北航联合团队提出RoboSafe,让具身智能体在物理世界中安全行动

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

北航、360 AI安全实验室、牛津大学、北京大学等机构联合提出RoboSafe框架,为具身智能体提供运行时安全护栏,该研究获ICLR 2026 ESR研讨会杰出论文奖。RoboSafe通过前向预测推理和后向反思推理识别情境与时序风险,在AI2-THOR仿真中把危险执行率压低到4.78%,相比现有防护方法整体降低36.8%的危险执行率,并在真实机械臂上成功阻止危险动作。

来源:量子位 · 微信公众号 · mp.weixin.qq.com