Predicción de propiedades moleculares mediante aprendizaje contrastivo con selección de muestras positivas guiada por atención

MOTIVACIÓN: Predecir propiedades moleculares es uno de los problemas fundamentales en el diseño y descubrimiento de fármacos. En los últimos años, el aprendizaje auto-supervisado (SSL) ha mostrado un rendimiento prometedor en el reconocimiento de imágenes, el procesamiento del lenguaje natural y el análisis de datos de células individuales. El aprendizaje contrastivo (CL) es un método típico de SSL utilizado para aprender las características de los datos de manera que el modelo entrenado pueda distinguir más eficazmente los datos. Un problema importante del CL es cómo seleccionar muestras positivas para cada ejemplo de entrenamiento, lo que impactará significativamente en el rendimiento del CL. RESULTADOS: En este artículo, proponemos un nuevo método para la predicción de propiedades moleculares (MPP) mediante Aprendizaje Contrastivo con Selección de Muestras Positivas Guiada por Atención (CLAPS). Primero, generamos muestras positivas para cada ejemplo de entrenamiento basado en un esquema de selección guiada por atención. Segundo, empleamos un codificador Transformer para extraer vectores de características latentes y calcular la pérdida contrastiva con el objetivo de distinguir pares de muestras positivas y negativas. Finalmente, utilizamos el codificador entrenado para predecir propiedades moleculares. Los experimentos en varios conjuntos de datos de referencia muestran que nuestro enfoque supera a los métodos de vanguardia (SOTA) en la mayoría de los casos. DISPONIBILIDAD E IMPLEMENTACIÓN: El código está disponible públicamente en https://github.com/wangjx22/CLAPS.