Interpretabilidad fiable de redes neuronales profundas inspiradas en la biología

Las redes neuronales profundas muestran un rendimiento impresionante pero sufren de una interpretabilidad limitada. El aprendizaje profundo inspirado en la biología, donde la arquitectura del grafo computacional se basa en el conocimiento biológico, permite una interpretabilidad única en la que los conceptos del mundo real se codifican en nodos ocultos, que pueden clasificarse por importancia y, por lo tanto, interpretarse. En tales modelos entrenados en transcriptomas de células individuales, hemos demostrado anteriormente que las interpretaciones a nivel de nodo carecen de robustez al entrenamiento repetido y están influenciadas por sesgos en el conocimiento biológico. Faltan estudios similares para modelos relacionados. Aquí, probamos y ampliamos nuestra metodología para una interpretabilidad fiable en P-NET, un modelo inspirado en la biología entrenado con datos de mutación de pacientes. Observamos variabilidad en las interpretaciones y susceptibilidad a sesgos en el conocimiento, e identificamos las propiedades de la red que impulsan estos sesgos de interpretación. Además, presentamos un enfoque para controlar la robustez y los sesgos de las interpretaciones, lo que conduce a interpretaciones más específicas. En resumen, nuestro estudio revela la amplia importancia de los métodos para garantizar una interpretabilidad robusta y consciente de sesgos en el aprendizaje profundo inspirado en la biología.