OpenAI 旗舰模型 Astra 曝光,采用循环深度推理架构用计算深度换参数规模
首次曝光!OpenAI新一代旗舰模型换上“循环深度”推理架构:用计算深度换参数规模
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
据《The Information》援引知情人士消息,OpenAI 即将推出的旗舰模型 Astra 采用了名为循环深度(recurrent depth)的技术,让文本在输出下一个词前于同一网络层中反复处理,用计算深度换取参数规模,显著降低内存和带宽成本。
来源:AI前线 · 微信公众号 · mp.weixin.qq.com