AI 导读
Anthropic 的「滥用 AI」报告称，两个与伊朗安全机构有关联的单位使用 Claude 构建工具，接入一套共享监控系统。其中一方发布了一款伪装成祈祷时间工具的 Firefox 扩展，用于收集社交媒体身份信息。报告称该监控系统存储了国民身份信息、信仰、犯罪记录和社交账号。
推荐理由
Anthropic 的滥用报告给出了 Claude 被用于搭建监控系统的具体手法，是模型滥用检测的一线案例。
正文
Anthropic's "misuse of AI" report says 2 units linked to Iranian security organizations used Claude to build tools feeding a shared surveillance system.
One shipped a Firefox extension disguised as a prayer-times utility that harvested social media identities; the central system stored national IDs, beliefs, criminal records and social accounts.
来源：@rohanpaul_ai · x.com