RIBOSPAN:1.61B 参数长上下文 RNA 基础模型,原生支持 10,240 nt
RIBOSPAN: A Long-Context RNA Foundation Model for Versatile RNA Modeling
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
RIBOSPAN 是一个 1.61B 参数的双向 RNA 基础模型,原生预训练上下文长度达 10,240 nt,结合密集双向自注意力、单核苷酸 tokenization 与注意力隔离序列打包,实现完整长 RNA 的单核苷酸分辨率建模。
来源:Hugging Face Daily Papers · arxiv.org