Abriendo la caja negra de las redes neuronales: métodos para interpretar modelos de redes neuronales en aplicaciones clínicas

Las redes neuronales artificiales (ANN) son herramientas poderosas para el análisis de datos y son particularmente adecuadas para modelar relaciones entre variables para la mejor predicción de un resultado. Aunque estos modelos se pueden utilizar para responder a muchas preguntas importantes de investigación, su utilidad ha sido críticamente limitada porque la interpretación del modelo de "caja negra" es difícil. Los investigadores clínicos suelen emplear modelos de ANN para predecir los resultados clínicos o para hacer un diagnóstico; sin embargo, el modelo es difícil de interpretar para los clínicos. Para abordar esta importante deficiencia de los métodos de modelado de redes neuronales, describimos varios métodos que ayudan a las audiencias especializadas (por ejemplo, clínicos, responsables de políticas médicas) a entender los modelos de redes neuronales. El algoritmo de Garson describe la magnitud relativa de la importancia de un descriptor (predictor) en su conexión con las variables de resultado al diseccionar los pesos del modelo. El método de perfil de Lek explora la relación de la variable de resultado y un predictor de interés, manteniendo otros predictores en valores constantes (por ejemplo, mínimo, cuartil 20, máximo). Aunque el perfil de Lek fue desarrollado específicamente para redes neuronales, el gráfico de dependencia parcial es una versión más genérica que visualiza la relación entre un resultado y uno o dos predictores. Finalmente, el método de explicaciones locales interpretables independientes del modelo (LIME) puede mostrar las predicciones de cualquier clasificación o regresión, aproximándolo localmente con un modelo interpretable. El código R para la implementación de estos métodos se muestra utilizando datos de ejemplo ajustados con un modelo de red neuronal standard de alimentación hacia adelante. Ofrecemos códigos y una descripción paso a paso sobre cómo utilizar estas herramientas para facilitar una mejor comprensión de las ANN.