Extensión de la optimización de hiperparámetros de MLP ANN utilizando algoritmo genético

La optimización de los hiperparámetros de una red neuronal artificial (ANN) de perceptrón multicapa (MLP) no es una tarea trivial, y incluso hoy en día se utiliza ampliamente el enfoque de prueba y error. Muchos trabajos ya han presentado el uso del algoritmo genético (GA) para ayudar en esta búsqueda de optimización, incluyendo la topología del MLP, la optimización de pesos y sesgos. Este trabajo propone agregar hiperparámetros para la inicialización de pesos y regularización que se optimicen simultáneamente con la topología del MLP y los hiperparámetros de aprendizaje. También se analiza qué hiperparámetros están más correlacionados con el rendimiento de clasificación, permitiendo una reducción en el espacio de búsqueda, lo que disminuye el tiempo y la computación necesarios para alcanzar un buen conjunto de hiperparámetros. Los resultados obtenidos con conjuntos de datos públicos revelan un aumento en el rendimiento en comparación con trabajos similares. Además, los hiperparámetros relacionados con la inicialización de pesos y la regularización están entre los 5 hiperparámetros más relevantes para explicar el rendimiento de precisión en todos los conjuntos de datos, mostrando la importancia de incluirlos en el proceso de optimización.