arXiv 机器学习· Mahdi Pourmirzaei, Farzaneh Esmaili, Amir Ziashahabi, Mohammadreza Pourmirzaei, Dong Xu·· 7 小时前AI 评分44
学习用于自回归生成的蛋白质潜语言
Learning Latent Protein Languages for Autoregressive Generation
AI 导读
研究人员提出蛋白质序列潜语言 PLL 与结构潜语言 SLL，并分别预训练了自回归 Transformer 模型 PLLM 与 SLLM。测试显示 PLLM 的计算缩放指数达 0.038（优于氨基酸模型的 0.020），SLL 则将序列到结构预测的最佳验证困惑度降低 34%。对于长蛋白质，其潜 token 采样速度比基于 MSA 的 AlphaFold2 快约 1,000 倍。
来源：arXiv 机器学习 · arxiv.org