Differenzierbarer Informationsengpass für deterministische Multi-View Clustering

In den letzten Jahren bietet das Prinzip des Informationsengpasses (IB) einen informationstheoretischen Rahmen für tiefes Multi-View Clustering (MVC), indem es Multi-View-Beobachtungen komprimiert und gleichzeitig die relevanten Informationen mehrerer Ansichten bewahrt. Obwohl bestehende auf IB basierende tiefe MVC-Methoden große Erfolge erzielt haben, beruhen sie auf variationaler Approximation und Verteilungsannahmen, um die untere Schranke der gegenseitigen Information zu schätzen, was ein notorisch schwieriges und unpraktisches Problem in hochdimensionalen Multi-View-Räumen darstellt. In dieser Arbeit schlagen wir eine neue differenzierbare Informationsengpass (DIB)-Methode vor, die eine deterministische und analytische MVC-Lösung bietet, indem sie die gegenseitige Information ohne die Notwendigkeit einer variationalen Approximation anpasst. Konkret schlagen wir vor, die gegenseitige Information hochdimensionaler Räume direkt anzupassen, indem wir die normalisierte Kern-Gramm-Matrix nutzen, die keinen zusätzlichen neuronalen Schätzer zur Schätzung der unteren Schranke der gegenseitigen Information erfordert. Basierend auf der neuen Messung der gegenseitigen Information wird dann ein deterministisches Multi-View-Neuronales Netzwerk mit analytischen Gradienten explizit trainiert, um das IB-Prinzip zu parametrisieren, das eine deterministische Kompression von Eingangsvariablen aus verschiedenen Ansichten ableitet. Schließlich wird ein Mechanismus zur Entdeckung von Triplett-Konsistenz entworfen, der in der Lage ist, die Merkmalskonsistenz, Clusterkonsistenz und gemeinsame Konsistenz basierend auf den deterministischen und kompakten Darstellungen zu ermitteln. Umfangreiche experimentelle Ergebnisse zeigen die Überlegenheit unserer DIB-Methode auf 6 Benchmarks im Vergleich zu 13 modernen Baselines.