佛罗里达大学团队用三维挂谷猜想提出 GeoLAN,解决大模型表征坍塌黑盒问题
数学大佬在前面拓荒,AI研究员在后面捡宝,菲尔兹奖还能拿来破AI「黑盒」?
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
佛罗里达大学团队提出 GeoLAN,将三维挂谷猜想证明中的"粘性挂谷集"概念转化为训练约束,缓解大模型表征坍塌。该方法在 Llama-3-8B 上把锥形表征空间重塑为球形,在 Gemma-3-4B 上把 MMLU 准确率从 0.59 提升到 0.60,并显著改善 TruthfulQA 语义稳定性。论文还发现"金凤花区"现象:该约束只对 4B 至 80B 参数的中等体量模型有效。
来源:AI科技评论 · 微信公众号 · mp.weixin.qq.com