Entrenamiento de SVMs estructurales cuando la inferencia exacta es intratable

Si bien el entrenamiento discriminativo (por ejemplo, CRF, SVM estructurales) tiene mucho potencial para la traducción automática, la segmentación de imágenes y el agrupamiento, la compleja inferencia que requieren estas aplicaciones hace que el entrenamiento exacto sea intratable. Esto lleva a la necesidad de métodos de entrenamiento aproximados. Desafortunadamente, el conocimiento sobre cómo realizar un entrenamiento aproximado eficiente y efectivo es limitado. Focalizándonos en SVMs estructurales, proporcionamos y exploramos algoritmos para dos clases diferentes de algoritmos de entrenamiento aproximados, que llamamos algoritmos subgeneradores (por ejemplo, codiciosos) y sobregeneradores (por ejemplo, relajaciones). Proporcionamos un análisis teórico y empírico de ambos tipos de SVMs estructurales entrenados de manera aproximada, centrándonos en campos aleatorios de Markov completamente conectados. Encontramos que los modelos entrenados con métodos sobregeneradores tienen ventajas teóricas sobre los métodos subgeneradores, son empíricamente robustos en relación a sus homólogos subgeneradores, y los modelos entrenados por relajación favorecen predicciones no fraccionarias de los predictores relajados.