用 JEPAs 证明并改进柏拉图表征假说
Proving and Improving the Platonic Representation Hypothesis with JEPAs
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
论文将柏拉图表征假说（PRH）转化为定理，证明各自独立训练的 JEPA 在正样本对是同一场景的两个好视图且错位有界时，可学到仅差一个旋转的相同表征。作者指出 next-token 预测是用同一文档片段作坏视图的 JEPA，这解释了语言模型只有靠规模才与视觉对齐。
来源：Hugging Face Daily Papers · arxiv.org