LLM4PLC: Nutzung großer Sprachmodelle für verifizierbare Programmierung von SPS in industriellen Steuerungssystemen

Obwohl große Sprachmodelle (LLMs) im Bereich der automatisierten Codegenerierung vorherrschend sind, sind sie nicht ohne Mängel. Die relevanten Probleme beziehen sich hauptsächlich auf das Fehlen von Ausführungszusicherungen für generierten Code, mangelnde Erklärbarkeit und suboptimale Unterstützung für essentielle, aber Nischen-Programmiersprachen. State-of-the-Art-LLMs wie GPT-4 und LLaMa2 sind nicht in der Lage, gültige Programme für industrielle Steuerungssysteme (ICS) zu erzeugen, die von programmierbaren Logiksteuerungen (PLCs) betrieben werden. Wir schlagen LLM4PLC vor, eine benutzergeführte iterative Pipeline, die Benutzer-Feedback und externe Verifikationswerkzeuge - einschließlich Grammatikprüfer, Compiler und SMV-Prüfer - nutzt, um die Generierung des LLM zu leiten. Zudem erhöhen wir das Generierungspotenzial des LLM durch den Einsatz von Prompt Engineering und Modellfeinabstimmung durch die Erstellung und Verwendung von LoRAs. Wir validieren dieses System mit einem FischerTechnik Manufacturing TestBed (MFTB) und veranschaulichen, wie LLMs sich von der Generierung strukturell fehlerhaften Codes hin zur Erzeugung verifizierbar korrekter Programme für industrielle Anwendungen entwickeln können. Wir führen eine vollständige Testreihe auf GPT-3.5, GPT-4, Code Llama-7B, einem feinabgestimmten Code Llama-7B-Modell, Code Llama-34B und einem feinabgestimmten Code Llama-34B-Modell durch. Die vorgeschlagene Pipeline verbesserte die Erfolgsquote der Generierung von 47 % auf 72 % und die Codequalität in der Expertenumfrage von 2,25/10 auf 7,75/10.