Meta-Interpretatives Lernen mit Wiederverwendung

Induktives logisches Programmieren (ILP) ist ein Forschungsbereich an der Schnittstelle zwischen maschinellem Lernen und logischem Programmieren, der sich auf die Entwicklung eines formalen Rahmens für das induktive Lernen relationaler Beschreibungen in Form von Logikprogrammen aus Beispielen und Hintergrundwissen konzentriert. Als eine emergente Methode des ILP nutzt das meta-interpretative Lernen (MIL) die Spezialisierung einer Menge höherordentlicher Metaregeln, um Logikprogramme zu lernen. In MIL umfasst die Eingabe eine Menge von Beispielen, Hintergrundwissen und eine Menge von Metaregeln, während die Ausgabe ein Logikprogramm ist. MIL führt eine Tiefensuche durch, bei der der Programm-Suchraum polynomial mit der Anzahl der Prädikate im bereitgestellten Hintergrundwissen und exponentiell mit der Anzahl der Klauseln im Programm wächst, was manchmal sogar zu einer Kollaps der Suche führt. Um diese Herausforderung anzugehen, führt diese Studie eine Strategie ein, die das Konzept der Wiederverwendung nutzt, insbesondere durch die Integration von Hilfsprädikaten, um die Anzahl der Klauseln in den Programmen zu verringern und die Lerneffizienz zu verbessern. Dieser Ansatz konzentriert sich auf die proaktive Identifizierung und Wiederverwendung häufiger Programm-Muster. Um diese Strategie zu operationalisieren, stellen wir MILER vor, eine neuartige Methode, die einen Prädikatsgenerator, einen Programm-Lerner und einen Programm-Bewerter integriert. MILER nutzt Techniken des häufigen Teilgraphen-Bergbaus, um gängige Muster aus einem begrenzten Datensatz von Trainingsmustern zu erkennen, und bettet diese Muster anschließend als Hilfsprädikate in das Hintergrundwissen ein. In unseren Experimenten mit zwei Aufgaben zur visuellen Fragebeantwortung (VQA) und einer Programmsynthesaufgabe bewerten wir den Ansatz von MILER zur Nutzung wiederverwendbarer Programmmuster als Hilfsprädikate. Die Ergebnisse zeigen, dass MILER durch die Einbindung dieser Muster wiederverwendbare Programmmuster identifiziert, Programm-Klauseln verringert und im Vergleich zu traditionellem MIL direkt die Wahrscheinlichkeit von Zeitüberschreitungen reduziert. Dies führt zu verbesserten Lernerfolgsraten, indem die rechnerischen Bemühungen optimiert werden.