Optimización bayesiana práctica

La optimización global de funciones no convexas en espacios vectoriales reales es un problema de amplio interés teórico y práctico. En los últimos cincuenta años, la investigación en optimización global ha producido muchos enfoques importantes, incluyendo optimización de Lipschitz, recocido simulado, métodos de homotopía, algoritmos genéticos y métodos de superficie de respuesta bayesiana. Este trabajo examina el último de estos enfoques. El enfoque de superficie de respuesta bayesiana para la optimización global mantiene un modelo posterior de la función que se está optimizando al combinar un priord sobre funciones con evaluaciones de funciones acumulativas. El modelo se utiliza luego para calcular qué punto debería adquirir el método a continuación en su búsqueda del óptimo de la función. Los métodos bayesianos pueden ser algunos de los enfoques más eficientes para la optimización en términos del número de evaluaciones de funciones requeridas, pero tienen desventajas significativas: los enfoques actuales son innecesariamente ineficaces en el uso de datos, las aproximaciones al criterio de adquisición bayesiano óptimo están poco estudiadas y los enfoques actuales no aprovechan las propiedades a pequeña escala de las funciones diferenciables cerca de los óptimos locales. Este trabajo aborda cada uno de estos problemas para hacer que los métodos bayesianos sean más ampliamente aplicables.