RNA基序感知模型

多任务领先

用一个统一预训练权重跨多任务领先的RNA模型，通过基序感知预训练和类型引导微调实现。

王宁 · Bian, Jiang · Li, Yuchen · Li, Xuhong · Mumtaz, Shahid · 孔令和 · 熊昊一

Nature Machine Intelligence 2024

参数信息

分类准确率提升

1.8 %

相互作用预测准确率提升

2.2 %

结构预测 F1 提升

3.3 %

技术优势

统一权重跨任务

单一预训练权重即可在分类、相互作用预测和结构预测等多个任务上优于基线，无需为每个任务从头训练。

融入基序先验

将 RNA 基序作为生物先验融入预训练，增加基序级随机掩码，使模型学习到更符合生物学规律的序列表示。

类型引导微调

对于预训练时未见过的 RNA 序列，先预测其可能类型，再将类型追加到序列尾部来细化特征嵌入，提升分布外泛化。