Thinking Machines Lab 阐释开源权重模型的安全开放路径
Thinking Machines Lab 发布博文,论述开源权重模型的安全开放路径,并结合其开源模型 Inkling 和 Inkling-Small 说明发布决策依据。
推荐理由:Thinking Machines 阐述其开源权重安全评估框架与分阶段开放路径,读者可了解官方如何在开放性与误用风险之间做证据驱动权衡。
thinkingmachines.ai · 网站与博客
Thinking Machines Lab 发布博文,论述开源权重模型的安全开放路径,并结合其开源模型 Inkling 和 Inkling-Small 说明发布决策依据。
推荐理由:Thinking Machines 阐述其开源权重安全评估框架与分阶段开放路径,读者可了解官方如何在开放性与误用风险之间做证据驱动权衡。
Thinking Machines 提出其使命是构建扩展人类意志与判断的 AI,主张 AI 应像人一样多样且分布式,而非在少数地方训练后冻结。为此其技术方向包括训练具备多模态交互与可定制性的强模型、支持用户微调模型权重、开发拓宽人机沟通的界面,并公开研究。
Thinking Machines Lab 发布交互模型研究预览,模型原生处理音频、视频和文本的实时交互,而非依赖外部 harness。TML-Interaction-Small 为 276B 参数 MoE(12B 激活),采用 200ms 微轮次多流设计和无编码器早期融合,并配合异步后台模型处理深度推理。
推荐理由:原文给出交互模型的技术路线、架构细节和基准对比,读者可据此评估原生交互与外挂式实时方案的能力差距。
Thinking Machines Lab 发布关于在线策略蒸馏(On-Policy Distillation)的研究:从学生模型采样轨迹,由教师模型逐 token 计算反向 KL 作为密集奖励,结合 RL 的在线策略相关性与蒸馏的密集信号。
推荐理由:Thinking Machines 亲自实验并给出复现代码,读者可以据此评估这种训练方法在自己场景下的成本收益。