从头设计抗体,腾讯、北大团队预训练大语言模型登Nature子刊

简介: 【9月更文挑战第12天】近年来,抗体药物在生物医药领域展现出巨大潜力,但其高昂的研发成本和漫长周期成为瓶颈。为此,腾讯与北京大学合作开发了PALM-H3,这是一种基于预训练大语言模型的创新抗体设计方法。PALM-H3将抗体序列视为语言,利用Roformer模型学习其生成规律,实现从头设计高亲和力抗体,不依赖自然抗体,大幅提高研发效率和灵活性。此外,该方法还可广泛应用于疫苗设计和蛋白质工程等领域,加速新药上市。然而,确保抗体体内稳定性和安全性仍是挑战。论文详见:https://www.nature.com/articles/s41467-024-50903-y

近年来,随着生物医药领域的飞速发展,抗体药物在治疗各种疾病方面展现出了巨大的潜力。然而,抗体药物的开发过程却面临着诸多挑战,如高昂的研发成本、漫长的研发周期以及对自然抗体的依赖等。为了解决这些问题,腾讯和北京大学的研究团队合作开发了一种名为PALM-H3的创新方法,该方法利用预训练大语言模型实现了从头设计抗体的能力。

PALM-H3是一种基于预训练大语言模型的抗体设计方法,它利用了自然语言处理(NLP)领域的最新技术。该方法的核心思想是将抗体的序列数据视为一种语言,通过训练大语言模型来学习抗体序列的表示和生成规律。具体而言,PALM-H3使用了一种名为Roformer的预训练模型,该模型能够有效地编码抗体序列的绝对位置信息,并利用自监督学习策略从大规模的抗体序列数据中学习到丰富的语义信息。

PALM-H3的优势在于它能够从头设计出具有高亲和力的抗体,而无需依赖自然抗体。这使得抗体药物的开发过程更加高效和灵活,有望大大缩短研发周期并降低研发成本。此外,PALM-H3还具有出色的泛化能力,能够设计出针对各种抗原的抗体,包括新型突变株如COVID-19的XBB变体。

然而,PALM-H3也面临着一些挑战。首先,抗体药物的开发是一个复杂的过程,涉及多个环节和因素,如抗体的亲和力、特异性、稳定性等。PALM-H3虽然能够从头设计出具有高亲和力的抗体,但如何保证这些抗体在体内的稳定性和安全性仍然是一个挑战。其次,抗体药物的开发还需要考虑临床应用的可行性和经济性,如生产成本、给药方式等。这些因素都需要在抗体设计的过程中加以考虑和优化。

尽管面临一些挑战,但PALM-H3作为一种创新的抗体设计方法,具有广阔的应用前景。首先,它可以加速抗体药物的开发过程,缩短研发周期并降低研发成本,从而加速新药的上市速度。其次,它可以提高抗体药物的多样性和创新性,为治疗各种疾病提供更多的选择。此外,PALM-H3还可以应用于其他领域,如疫苗设计、蛋白质工程等。

论文链接:https://www.nature.com/articles/s41467-024-50903-y

目录
相关文章
|
6月前
|
机器学习/深度学习 人工智能
谷歌发AI足球教练模型TacticAI 登Nature子刊
【2月更文挑战第30天】谷歌DeepMind与利物浦FC合作开发的TacticAI是一款人工智能足球战术助手,能分析角球战术并提供建议,已在《Nature Communications》发表。利用图机器学习和几何深度学习,TacticAI预测角球战术并在90%情况下优于传统方法。该系统有助于教练制定精准战术,但实际比赛中的适应性和数据隐私限制了其潜力的完全发挥。
164 2
谷歌发AI足球教练模型TacticAI 登Nature子刊
|
3月前
|
机器学习/深度学习 人工智能
清华研究登Nature,首创全前向智能光计算训练架构,戴琼海、方璐领衔
【8月更文挑战第30天】清华大学研究人员在《自然》杂志上发表了一项开创性成果,提出了一种全前向智能光计算训练架构,解决了传统光学AI方法依赖电子计算机模拟和优化的问题,实现了光学系统的自学习和自设计。该架构通过将光学系统映射到参数化神经网络中,消除了反向传播需求,展示了在多个领域的广泛应用前景,如深度光学神经网络和高分辨率散射成像等。这一成果为光学AI的发展开辟了新道路,但实际应用中仍需克服一些挑战。论文详情见:https://www.nature.com/articles/s41586-024-07687-4
46 2
|
4月前
|
存储 测试技术 计算机视觉
开源视频版GPT-4o?快速记忆,实时问答,拿下CVPR'24长视频问答竞赛冠军
【7月更文挑战第24天】Flash-VStream, 一款模拟人脑记忆的视频语言模型,实现实时长视频流理解和问答,夺得CVPR'24竞赛桂冠。它采用动态记忆技术,高效存储检索信息,大幅降低推理延迟与显存消耗,超越现有模型。虽有资源限制及复杂查询处理难题,仍展现卓越通用性及先进性能。[详细论文](https://arxiv.org/abs/2406.08085)。
90 17
|
5月前
|
人工智能
拯救被掰弯的GPT-4!西交微软北大联合提出IN2训练治疗LLM中间迷失
【6月更文挑战第1天】研究人员为解决大型语言模型(LLM)的“中间迷失”问题,提出了IN2训练方法。此方法通过显式监督增强模型对长文本上下文的理解,改善了信息检索能力。应用IN2训练的FILM-7B模型在长文本任务上表现出色,尤其在NarrativeQA数据集上的F1分数提升了3.4。尽管面临数据合成和计算成本的挑战,IN2训练为LLM的进步开辟了新途径,预示着未来在长文本处理领域的潜力。论文链接:https://arxiv.org/pdf/2404.16811
76 5
|
机器学习/深度学习 人工智能 安全
隐语团队研究成果再创佳绩,两篇论文分别被USENIX ATC'23和IJCAI'23接收!
隐语团队研究成果再创佳绩,两篇论文分别被USENIX ATC'23和IJCAI'23接收!
199 0
|
机器学习/深度学习 自然语言处理 数据可视化
CVPR 2022 Oral | 视频文本预训练新SOTA!港大、腾讯ARC Lab推出基于多项选择题的借口任务(2)
CVPR 2022 Oral | 视频文本预训练新SOTA!港大、腾讯ARC Lab推出基于多项选择题的借口任务
133 0
|
存储 JSON 人工智能
送给大模型的「高考」卷:442人联名论文给大模型提出204个任务,谷歌领衔
送给大模型的「高考」卷:442人联名论文给大模型提出204个任务,谷歌领衔
168 0
送给大模型的「高考」卷:442人联名论文给大模型提出204个任务,谷歌领衔
|
自然语言处理 计算机视觉
CVPR 2022 Oral | 视频文本预训练新SOTA!港大、腾讯ARC Lab推出基于多项选择题的借口任务(1)
CVPR 2022 Oral | 视频文本预训练新SOTA!港大、腾讯ARC Lab推出基于多项选择题的借口任务
|
机器学习/深度学习 存储 人工智能
对比学习引领弱标签学习新SOTA,浙大新研究入选ICLR Oral
对比学习引领弱标签学习新SOTA,浙大新研究入选ICLR Oral
152 0
|
Web App开发 人工智能 自然语言处理
ChatGPT自己会选模型了!微软亚研院+浙大爆火新论文,HuggingGPT项目已开源
ChatGPT自己会选模型了!微软亚研院+浙大爆火新论文,HuggingGPT项目已开源
206 0