Eine parallele Mischung von SVMs für Probleme mit sehr großem Maßstab

Support Vector Machines (SVMs) sind die modernen Modelle für viele Klassifikationsprobleme, leiden jedoch unter der Komplexität ihres Trainingsalgorithmus, der hinsichtlich der Anzahl der Beispiele zumindest quadratisch ist. Daher ist es aussichtslos, reale Probleme mit mehr als wenigen Hunderttausend Beispielen mit SVMs zu lösen. Dieser Artikel schlägt eine neue Mischung von SVMs vor, die leicht parallel implementiert werden kann und bei der jede SVM auf einem kleinen Teil der gesamten Datenmenge trainiert wird. Experimente an einem großen Benchmark-Datensatz (Forest) zeigten signifikante Zeitverbesserungen (die Zeitkomplexität scheint empirisch lokal linear mit der Anzahl der Beispiele zu wachsen). Darüber hinaus wurde überraschenderweise eine signifikante Verbesserung der Generalisierung beobachtet.