Anthropic与Gray Swan举办AI红队挑战赛

2026年10月16日，Anthropic的Boris Cherny宣布，Anthropic联合Gray Swan举办名为Indirect Prompt Injection: Black的AI红队挑战赛，总奖金池30万美元，分三轮进行，首轮于10月15日启动。该赛事由Gray Swan联合Anthropic、Meta、Google DeepMind、Reflection等赞助方推出，被称为迄今规模最大的AI红队挑战赛。Boris Cherny表示，Claude模型在提示词注入防护上近年已有显著进展，但随着Agent承担更多任务，全行业解决此问题愈发紧迫。目前报道未披露各轮具体赛程、参赛方式及结果。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。