Cómo la Inicialización se Relaciona con la Capacidad de Generalización de las Redes Neuronales Profundas: Estudio Experimental

El aprendizaje profundo ha recibido últimamente un esfuerzo de investigación significativo, considerando sus capacidades seguidas de las ventajas en muchos dominios. El enfoque de este documento es mejorar la capacidad de generalización, que es clave para la implementación exitosa de redes neuronales profundas. Con el fin de responder a la pregunta de cómo se relaciona la inicialización con la capacidad de generalización de las redes neuronales profundas, se realiza un estudio experimental. El estudio consiste en varios experimentos, que pertenecen a las técnicas de inicialización independientes de los datos. Utilizando diferentes enfoques, se presenta el cambio en la brecha de generalización.