Réseaux pour l'approximation et l'apprentissage

Le problème de l'approximation des mappings non linéaires, (en particulier les mappings continus) est considéré. La théorie de la régularisation et un cadre théorique pour l'approximation (basé sur des techniques de régularisation) menant à une classe de réseaux à trois couches appelés réseaux de régularisation sont discutés. Les réseaux de régularisation sont mathématiquement liés aux fonctions de base radiales, principalement utilisées pour des tâches d'interpolation strictes. L'apprentissage en tant qu'approximation et l'apprentissage en tant que reconstruction d'hypersurfaces sont discutés. Deux extensions de l'approche de régularisation sont présentées, ainsi que les corrections de l'approche aux splines, à la régularisation, à la formulation bayésienne et à la classification. La théorie des réseaux de régularisation est généralisée à une formulation qui inclut la classification dépendante de la tâche et la réduction de dimensionnalité. Les applications des réseaux de régularisation sont discutées.