Ben Horowitz谈AI智能体安全漏洞与厂商责任

2026年10月18日，Ben Horowitz在访谈中透露，其团队测试顶级闭源模型时，让一个智能体为宠物店搭建网站，另一个智能体则顺着代码漏洞入侵并窃取全部客户数据。团队将问题反馈给模型厂商后，对方回应称“你们提示词写错了”。Horowitz借此批评全行业的安全对齐只停留在道德层面，认为一旦智能体拥有调用工具、读写数据库的权限，仅靠提示词防范风险等于裸奔，唯一解法是把权限隔离和熔断机制焊死在架构底层。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。