TechCrunch · AI· Julie Bort·· 3 小时前AI 评分38
Circuit Breaker Labs 用 AI 智能体模拟不同用户，测试模型的心理安全风险
Circuit Breaker Labs hopes to make AI safer for your kids (and you)
AI 导读
Circuit Breaker Labs 打造了一支"碰撞测试假人"式的 AI 智能体队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别危险、心理有害的交互。
来源：TechCrunch · AI · techcrunch.com