Puro-2B 发布:在 RTX 5090 上以不足 6.9K 美元预训练的开源 2B 模型
Puro-2B: Poor Lab's Qwen2-1.5B Trained on RTX 5090 within $5090
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
研究团队发布开源预训练配方 Puro-2B,在消费级 RTX 5090 上以 FP8 精度从零训练最高 1.4 万亿 token,最佳模型算力成本低于 6.9K 美元,在自有评测协议下接近 Qwen2.5-1.5B 性能。
来源:Hugging Face Daily Papers · arxiv.org