跳转到正文

GraphMVP

GraphMVP 是一种分子表示学习研究实现,在预训练期间结合 2D 拓扑和 3D 几何信息,随后在下游分类和回归任务中使用 2D 图。

条目更新 ·

概览

GraphMVP 提供了与 ICLR 2022 论文“Pre-training Molecular Graph Representation with 3D Geometry”配套的研究代码。其工作流程在预训练期间结合分子拓扑和几何信息,而下游任务只需要 2D 拓扑。因此,它适用于研究几何信息辅助的预训练是否能支持分子性质预测,同时无需在下游阶段使用 3D 输入。

该仓库介绍了用于分类和回归两种独立工作流程的 GEOM 数据集准备方法。分类任务的原子特征包括原子类型和手性;回归任务则使用更全面的 OGB 特征。实验脚本涵盖这两种工作流程中的预训练和下游微调。README 还链接了预训练模型权重、训练日志和预测文件,供用户结合实现代码检查这些产物;该项目并非托管式预测服务。

实现中区分了 GraphMVP 和 GraphMVP_hybrid,后者的不同变体增加了 2D 自监督前置任务。项目还包含生成式、对比式和预测式图自监督基线,用于对比实验。较早的产物名称与当前脚本术语有所不同,因此需要将日志和权重与相应配置匹配。文档所述环境针对特定版本,现有摘录无法证明其与当前环境兼容,也未提供定量预测性能证据。文档将 TorchDrug 集成列为未来工作,而非已实现的功能。

主要功能

  • 预训练结合 2D 分子拓扑与 3D 几何信息,下游任务则只使用 2D 拓扑。
  • 分类和回归工作流程分别包含 GEOM 预处理、预训练和微调脚本。
  • 针对任务的原子特征化方案为:分类使用原子类型和手性,回归使用更全面的 OGB 特征。
  • `GraphMVP_hybrid` 变体在 GraphMVP 工作流程中增加了 2D 自监督前置任务。
  • 已实现的对比基线包括 EdgePred、AttrMask、GPT-GNN、InfoGraph、ContextPred、GraphLoG、Grover-Contextual、GraphCL、JOAO 和 Grover-Motif。
  • README 提供了可下载的预训练权重、训练日志和预测文件链接。

使用场景

  • 建议的评估方向:研究几何信息辅助的预训练在下游输入仅包含 2D 拓扑的分子分类任务中的效果。
  • 建议的评估方向:在具有代表性的分子性质数据集上,评估使用 OGB 原子特征的回归工作流程。
  • 建议的评估方向:采用一致的下游评估方案,对比 `GraphMVP`、`GraphMVP_hybrid` 和提供的图自监督基线。
  • 检查相关训练日志和预测文件,以确定实验配置,并核对较早的产物名称与当前脚本名称之间的对应关系。

使用方式

  1. 阅读仓库 README和论文,了解几何信息辅助的预训练与仅使用 2D 数据的下游任务之间的区别。准备数据前,先选择分类或回归任务。
  2. 查看 README 中的环境说明,包括固定版本的 Python、PyTorch 和图学习库依赖。应将这些内容视为文档记录的环境配置,而不是与较新环境兼容的证据。
  3. 按照链接中的数据集说明操作,然后检查相应的 GEOM 数据准备流程。处理输入前,核对数据路径和任务所需的原子特征化方式。
  4. 查看 README 列出的相关预训练脚本。选择 GraphMVP、GraphMVP_hybrid 或提供的基线,并核实配置;不要假定这些变体可以互换。
  5. 查阅相关产物和下游微调脚本。若计划进行评估,应将权重与其配置对应,并结合所选任务的标签检查预测结果。

相关资源

ChemBERTa

模型

ChemBERTa 提供用于化学 SMILES 的类 BERT 模型,包括采用 RoBERTa 掩码语言建模的检查点,以及用于预训练、微调和分子性质预测研究的笔记本。

开源Python

分子性质预测

ChemML

开源工具

ChemML 是一套用于化学与材料数据分析、挖掘和建模的 Python 工具,采用模块化设计,并有关于图神经网络、AutoML 和可解释性的工作记录。

开源Python

分子性质预测 · 材料发现

Chemprop

模型

Chemprop 是一个基于 PyTorch 的工具包,用于训练和评估进行分子性质预测的消息传递神经网络,并提供命令行工作流、Python 模块和针对特定任务的笔记本。

开源Python

分子性质预测

DeepMol

开源工具

DeepMol 是一个用于分子机器学习的 Python 工具包,可将化合物标准化和特征化与模型训练、评估、解释及可复用工作流连接起来。

开源Python

分子性质预测

DGL-LifeSci

开源工具

DGL-LifeSci 是基于 DGL 和 PyTorch 的化学与生物图神经网络工具包,提供分子建模组件与示例。

开源Python

分子性质预测

DimeNet

模型

DimeNet 提供 DimeNet 和 DimeNet++ 的参考实现,用于分子图上的方向性消息传递,并包含训练笔记本、测试集预测工作流和预训练模型。

Python

分子性质预测 · 量子化学

相关指南

模型

QM9 分子性质预测:如何正确评估

明确 QM9 目标和单位,区分分子图与几何输入,防止评估泄漏,并保留原始数据与处理过程的来源记录。