Treinamento de SVMs estruturais quando a inferência exata é intratável

Embora o treinamento discriminativo (por exemplo, CRF, SVM estrutural) tenha muito potencial para tradução automática, segmentação de imagens e clustering, a inferência complexa que essas aplicações requerem torna o treinamento exato intratável. Isso leva à necessidade de métodos de treinamento aproximado. Infelizmente, o conhecimento sobre como realizar um treinamento aproximado eficiente e eficaz é limitado. Focando em SVMs estruturais, fornecemos e exploramos algoritmos para duas classes diferentes de algoritmos de treinamento aproximado, que chamamos de algoritmos subgeradores (por exemplo, gulosos) e supergeradores (por exemplo, relaxações). Fornecemos uma análise teórica e empírica de ambos os tipos de SVMs estruturais treinados de forma aproximada, com foco em campos aleatórios de Markov pareados totalmente conectados. Descobrimos que modelos treinados com métodos supergeradores têm vantagens teóricas sobre métodos subgeradores, são empiricamente robustos em relação aos seus irmãos subgeradores, e modelos treinados relaxadamente favorecem previsões não fracionárias de preditores relaxados.