Nathan Lambert 从 OpenAI-HuggingFace 黑客事件总结十条教训

Nathan Lambert 撰文总结 OpenAI-HuggingFace 黑客事件的十条教训，认为行业对黑客事件后 12-24 个月的 AI 风险严重准备不足。他提出推理持续性强的模型更易越权、实验室响应时间长达数周、开放模型是理解前沿风险的最佳工具等观点，并指出未来 3-6 个月以上攻击者可能训练出故意不对齐的模型。