浙大团队将化学知识引入机器学习,提出可外推、可解释的分子图模型预测反应性能

简介: 浙大团队将化学知识引入机器学习,提出可外推、可解释的分子图模型预测反应性能



编辑 | 绿萝

化学反应的预测建模在药物发现和材料科学等各个行业中起着至关重要的作用。然而,由于化学转化的复杂性和多样性,实现具有所需外推能力和化学可解释性的合成转化预测模型具有挑战性。

为了弥补丰富的化学领域知识与先进的分子图模型之间的差距,来自浙江大学洪鑫课题组提出了一种嵌入数字化空间和电子信息的基于知识的分子图模型:SEMG-MIGNN。此外,还开发了分子相互作用模块,以了解反应组分的协同影响。

该研究证明了这种基于知识的图模型可以很好地预测反应产率和空间选择性,其外推能力得到了实验证实。由于局部环境的嵌入,该模型可以在原子水平上解释空间和电子对整体合成性能的影响,这为分子工程实现目标合成功能提供了有用的指导。该模型为反应性能预测提供了一种外推和可解释的方法,指出了化学知识约束反应建模对于合成目的的重要性。

该研究以「Reaction performance prediction with an extrapolative and interpretable graph model based on chemical knowledge」为题,于 2023 年 6 月 15 日发布在《Nature Communications》上。

SPR 预测

对化学的理解和对反应性和选择性的准确预测,为合理、高效地探索大规模合成空间提供了基础。结构-性能关系(Structure–performance Relationship,SPR)的建立主要集中在反应机理的研究和决定性过渡态模型的阐明。

利用过渡态模型,化学家可以阐明观察到的反应性/选择性趋势的来源,并根据化学理论和经验进行合成判断。但在没有明确的机制基础和解析方程的情况下处理高维 SPR 是一个挑战。

数据驱动的方法最近已成为 SPR 建立的强大策略。通过利用合成数据中的相互关系,现代机器学习(ML)算法可以为合成预测创建强大的模型。然而,人工合成转化的机器学习预测和设计还远未成熟。主要瓶颈之一是适合 SPR 预测的分子编码方法和 ML 框架的可用性。

除了人类指定的分子编码工程之外,化学预测领域对表征学习的兴趣也越来越大。通过表征学习的创新和应用,数据驱动的分子性质和反应性能预测取得了重大进展。

特别是在 SPR 预测方面,MIT 的 Coley 及其同事将经典的图神经网络(GNN)模型与选定的反应位点量子化学描述符相结合,开发了一种名为 QM-GNN 的融合模型。这种融合模型将特定于位点的电子信息嵌入到 ML 建模中,从而提高了对一系列转换的区域选择性和反应性的预测能力。QM-GNN 模型的成功表明,增强局部化学信息的表达可以为约束合成建模提供有价值的支持。

受 QM-GNN 模型的启发,研究人员推测可以通过丰富化学环境的局部编码和加强反应组分之间的信息相互作用来进一步改进 SPR 预测。

图 1:合成性能和分子特性的机器学习预测。(来源:论文)

基于化学知识的 ML 模型用于预测合成性能

在此,研究人员开发了一种名为「基于分子相互作用图神经网络的空间和电子嵌入分子图」(Sterics-and Electronics-embedded Molecular Graph with Molecular Interaction Graph Neural Network,SEMG-MIGNN)的基于化学知识的 ML 模型,用于预测合成性能。SEMG-MIGNN 有两个主要创新设计:首先,空间和电子效应的局部化学环境被数字化并嵌入到图表示中。这显著丰富了模型对原子环境的表征,并提高了模型对新分子结构的外推能力。此外,分子相互作用模块可以有效地学习多个反应组分的协同控制,从而使分子建模有效地扩展到 SPR 建模领域。

具体而言,该研究引入了一种称为空间和电子嵌入分子图(SEMG)的分子图模型,该模型结合了外部化学知识,以提高模型对局部化学环境的区分能力。该知识增强分子图的设计的关键是在节点中嵌入空间和电子环境的原子信息。图 2 以 1-氯-4-(三氟甲基)苯为例,展示了设计的分子图模型的生成工作流程。

图 2:SEMG 的生成工作流程。(来源:论文)

基于 SEMG 丰富的化学信息,接下来,研究人员修改了 GNN 的框架,使其适用于 SPR 预测。特别是,开发了分子相互作用模块以增强模型训练过程中反应组分之间的信息交换。与超图不同,研究人员设计的分子相互作用 GNN(MIGNN)依赖于矩阵运算来实现信息交换。

图 3:分子相互作用图神经网络(MIGNN)的框架和相互作用模块的设计。(来源:论文)

MIGNN 的交互模块为 ML 模型提供了捕捉反应组分协同效应的机会,这对传统的 SPR 预测 ML 框架具有挑战性。在 MIGNN 中,相互作用矩阵允许具有物理意义的反应组分的所有可能组合充分交换它们的编码信息,从而支持模型在反应组分交织的高维合成空间中的预测。

模型性能预测

该模型在一系列具有挑战性的任务中获得了出色的产率和空间选择性预测。

在 Pd 催化的 C-N 交叉偶联反应的产率预测和手性磷酸(CPA)催化的硫醇加成 N-酰基亚胺的对映选择性预测中发现了很好的预测。对额外的 CPA 催化剂的进一步实验测试证实了该模型在新催化剂预测中的外推能力。特别是,研究发现 SEMG-MIGNN 模型在基于支架的拆分任务中表现出卓越的外推能力,考虑到需要扩展可用 SPR 数据的领域,这对于合成预测来说是非常可取的。

图 4:SEMG-MIGNN 模型(空间和电子嵌入分子图与分子相互作用图神经网络)预测反应产率。(来源:论文)

图 5:SEMG-MIGNN 模型预测对映体选择性。(来源:论文)

除了出色的预测能力外,空间和电子效应的物理意义编码还提供了原子级的化学解释。对训练模型的分析表明,电子效应对 C-N 交叉偶联的产率预测起着至关重要的作用,而对映体选择性预测则严重依赖于空间效应。

此外,该模型能够识别分子结构的热点,用于确定合成性能,为未来的设计提供有用的见解。该模型的有效性表明,将表示学习与数字化化学知识相结合可以支持化学空间中可泛化模型的开发,为数据驱动的合成转换设计提供机会。

论文链接:https://www.nature.com/articles/s41467-023-39283-x

相关文章
|
2天前
|
机器学习/深度学习 人工智能 算法
机器学习算法的优化与改进:提升模型性能的策略与方法
机器学习算法的优化与改进:提升模型性能的策略与方法
34 13
机器学习算法的优化与改进:提升模型性能的策略与方法
|
2月前
|
人工智能 JSON 算法
Qwen2.5-Coder 系列模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
阿里云的人工智能平台 PAI,作为一站式、 AI Native 的大模型与 AIGC 工程平台,为开发者和企业客户提供了 Qwen2.5-Coder 系列模型的全链路最佳实践。本文以Qwen2.5-Coder-32B为例,详细介绍在 PAI-QuickStart 完成 Qwen2.5-Coder 的训练、评测和快速部署。
Qwen2.5-Coder 系列模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
|
24天前
|
编解码 机器人 测试技术
技术实践 | 使用 PAI+LLaMA Factory 微调 Qwen2-VL 模型快速搭建专业领域知识问答机器人
Qwen2-VL是一款具备高级图像和视频理解能力的多模态模型,支持多种语言,适用于多模态应用开发。通过PAI和LLaMA Factory框架,用户可以轻松微调Qwen2-VL模型,快速构建文旅领域的知识问答机器人。本教程详细介绍了从模型部署、微调到对话测试的全过程,帮助开发者高效实现定制化多模态应用。
|
24天前
|
机器学习/深度学习 人工智能 自然语言处理
【NeurIPS'24】阿里云 PAI 团队论文被收录为 Spotlight,并完成主题演讲分享
12月10日,NeurIPS 2024在温哥华开幕,阿里云PAI团队论文《PertEval: Unveiling Real Knowledge Capacity of LLMs with Knowledge-Invariant Perturbations》入选Spotlight,PAI团队还进行了“可信AI的技术解读与最佳实践”主题演讲,展示AI工程化平台产品能力。
|
2月前
|
机器学习/深度学习 PyTorch API
优化注意力层提升 Transformer 模型效率:通过改进注意力机制降低机器学习成本
Transformer架构自2017年被Vaswani等人提出以来,凭借其核心的注意力机制,已成为AI领域的重大突破。该机制允许模型根据任务需求灵活聚焦于输入的不同部分,极大地增强了对复杂语言和结构的理解能力。起初主要应用于自然语言处理,Transformer迅速扩展至语音识别、计算机视觉等多领域,展现出强大的跨学科应用潜力。然而,随着模型规模的增长,注意力层的高计算复杂度成为发展瓶颈。为此,本文探讨了在PyTorch生态系统中优化注意力层的各种技术,
80 6
优化注意力层提升 Transformer 模型效率:通过改进注意力机制降低机器学习成本
|
1月前
|
机器学习/深度学习 人工智能 算法
人工智能浪潮下的编程实践:构建你的第一个机器学习模型
在人工智能的巨浪中,每个人都有机会成为弄潮儿。本文将带你一探究竟,从零基础开始,用最易懂的语言和步骤,教你如何构建属于自己的第一个机器学习模型。不需要复杂的数学公式,也不必担心编程难题,只需跟随我们的步伐,一起探索这个充满魔力的AI世界。
49 12
|
2月前
|
机器学习/深度学习 Python
机器学习中评估模型性能的重要工具——混淆矩阵和ROC曲线。混淆矩阵通过真正例、假正例等指标展示模型预测情况
本文介绍了机器学习中评估模型性能的重要工具——混淆矩阵和ROC曲线。混淆矩阵通过真正例、假正例等指标展示模型预测情况,而ROC曲线则通过假正率和真正率评估二分类模型性能。文章还提供了Python中的具体实现示例,展示了如何计算和使用这两种工具来评估模型。
68 8
|
2月前
|
机器学习/深度学习 Python
机器学习中模型选择和优化的关键技术——交叉验证与网格搜索
本文深入探讨了机器学习中模型选择和优化的关键技术——交叉验证与网格搜索。介绍了K折交叉验证、留一交叉验证等方法,以及网格搜索的原理和步骤,展示了如何结合两者在Python中实现模型参数的优化,并强调了使用时需注意的计算成本、过拟合风险等问题。
66 6
|
2月前
|
机器学习/深度学习 数据采集 算法
从零到一:构建高效机器学习模型的旅程####
在探索技术深度与广度的征途中,我深刻体会到技术创新既在于理论的飞跃,更在于实践的积累。本文将通过一个具体案例,分享我在构建高效机器学习模型过程中的实战经验,包括数据预处理、特征工程、模型选择与优化等关键环节,旨在为读者提供一个从零开始构建并优化机器学习模型的实用指南。 ####
|
2月前
|
人工智能 边缘计算 JSON
DistilQwen2 蒸馏小模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
本文详细介绍在 PAI 平台使用 DistilQwen2 蒸馏小模型的全链路最佳实践。