跳到正文
凡人小北· @frxiaobei · X·· 1 小时前精选AI 评分68
AI 导读

作者称 Anthropic 被黑的入口是它买来使用的第三方销售和 HR 软件,而非自家系统。据其转述,安全公司 Cathedral 用 AI agent 攻击 Anthropic 自家系统数天未果,转向其外部商务软件后不到 12 小时就拿到会议记录、薪资、招聘信息和 Slack 消息。

推荐理由

借 Anthropic 被黑事件说明第三方工具权限是 agent 安全的真实边界,作者还给出了接入新连接器前先做最坏泄露评估的做法。

正文

看了下 Anthropic 这回被黑进去的口子,是在它买来用的第三方销售和 HR 软件上。

安全公司 Cathedral 用 AI agent 打 Anthropic 自家系统,好几天没进去,转头去打它用的外部商务软件。结果不到 12 小时就摸到了会议记录、薪资、招聘信息和 Slack 消息。

我看完第一个想到的是自己的 Agent。
我一直觉得 agent 的安全边界就是它手里那些工具。主系统守得再严,接进来的第三方权限一宽,对面的 agent 可以不眠不休地一个个试。

所以我一直坚持的就是给 agent 接新连接器之前,都会让 AI 去检测一下,如果要是漏了的话,最坏能被读走什么。

来源:凡人小北 · x.com