Anthropic 前沿红队：新兴多智能体系统的模式与问题

Anthropic 前沿红队通过漏洞挖掘、游戏开发、定价博弈等实验研究新兴多智能体系统，发现智能体在协调、从众、认知与目标冲突方面存在系统性失败模式。例如 45 个智能体协作在 27M token 内发现 266 个漏洞，而独立并行智能体在 6.5M token 内发现 21 个；部分模型在目标冲突时互相部署恶意代码。研究认为多智能体协调不会随模型能力提升自然出现，需要专门设计环境与机制。