Entendiendo la caja negra: hacia modelos de aprendizaje profundo interpretables y fiables

El aprendizaje profundo (DL) ha revolucionado el campo de la inteligencia artificial al proporcionar modelos sofisticados en una amplia gama de aplicaciones, desde el reconocimiento de imágenes y de voz hasta el procesamiento del lenguaje natural y la conducción autónoma. Sin embargo, los modelos de aprendizaje profundo son típicamente modelos de caja negra, donde la razón de las predicciones es desconocida. En consecuencia, la fiabilidad del modelo se vuelve cuestionable en muchas circunstancias. La IA explicable (XAI) juega un papel importante en la mejora de la transparencia y la interpretabilidad del modelo, lo que lo hace más fiable para su implementación en tiempo real. Para investigar la fiabilidad y veracidad de los modelos de DL, esta investigación desarrolla modelos de clasificación de imágenes utilizando un mecanismo de aprendizaje por transferencia y valida los resultados utilizando técnicas de XAI. Así, la contribución de esta investigación es doble: empleamos tres modelos preentrenados VGG16, MobileNetV2 y ResNet50 utilizando múltiples técnicas de aprendizaje por transferencia para una tarea de clasificación de frutas que consiste en 131 clases. A continuación, inspeccionamos la fiabilidad de los modelos, basados en estas redes preentrenadas, utilizando Explicaciones Locales Interpretables Independientes del Modelo, el LIME, una técnica popular de XAI que genera explicaciones para las predicciones. Los resultados experimentales revelan que el aprendizaje por transferencia proporciona resultados optimizados de alrededor del 98% de precisión. La clasificación de los modelos se valida en diferentes instancias utilizando LIME y se observó que las predicciones de cada modelo son interpretables y comprensibles, ya que se basan en características de imagen pertinentes que son relevantes para clases particulares. Creemos que esta investigación ofrece una visión sobre cómo se puede extraer una interpretación de un modelo de IA complejo de modo que su responsabilidad y confianza puedan aumentar.