Optimisation bayésienne pratique

L'optimisation globale de fonctions non convexes dans des espaces vectoriels réels est un problème d'intérêt théorique et pratique répandu. Au cours des cinquante dernières années, la recherche en optimisation globale a produit de nombreuses approches importantes, y compris l'optimisation de Lipschitz, le recuit simulé, les méthodes d'homotopie, les algorithmes génétiques et les méthodes de surface de réponse bayésienne. Ce travail examine la dernière de ces approches. L'approche de surface de réponse bayésienne pour l'optimisation globale maintient un modèle a posteriori de la fonction à optimiser en combinant une prior sur les fonctions avec des évaluations de fonction cumulatives. Le modèle est ensuite utilisé pour calculer quel point la méthode doit acquérir ensuite dans sa recherche de l'optimum de la fonction. Les méthodes bayésiennes peuvent être certaines des approches les plus efficaces en matière d'optimisation en termes de nombre d'évaluations de fonction requises, mais elles présentent des inconvénients significatifs : les approches actuelles sont inutilement inefficaces en données, les approximations au critère d'acquisition bayésien optimal sont peu étudiées, et les approches actuelles ne tirent pas parti des propriétés à petite échelle des fonctions différentiables près des optima locaux. Ce travail aborde chacun de ces problèmes pour rendre les méthodes bayésiennes plus largement applicables.