AI 导读
作者称 Anthropic 被黑的入口是它买来使用的第三方销售和 HR 软件,而非自家系统。据其转述,安全公司 Cathedral 用 AI agent 攻击 Anthropic 自家系统数天未果,转向其外部商务软件后不到 12 小时就拿到会议记录、薪资、招聘信息和 Slack 消息。
推荐理由
借 Anthropic 被黑事件说明第三方工具权限是 agent 安全的真实边界,作者还给出了接入新连接器前先做最坏泄露评估的做法。
正文
看了下 Anthropic 这回被黑进去的口子,是在它买来用的第三方销售和 HR 软件上。
安全公司 Cathedral 用 AI agent 打 Anthropic 自家系统,好几天没进去,转头去打它用的外部商务软件。结果不到 12 小时就摸到了会议记录、薪资、招聘信息和 Slack 消息。
我看完第一个想到的是自己的 Agent。
我一直觉得 agent 的安全边界就是它手里那些工具。主系统守得再严,接进来的第三方权限一宽,对面的 agent 可以不眠不休地一个个试。
所以我一直坚持的就是给 agent 接新连接器之前,都会让 AI 去检测一下,如果要是漏了的话,最坏能被读走什么。
来源:凡人小北 · x.com