Eine agile Methode zur Implementierung von Retrieval-Augmented-Generation-Tools in industriellen KMU

Retrieval-Augmented Generation (RAG) hat sich als leistungsstarke Lösung zur Minderung der Limitationen von großen Sprachmodellen (LLMs), wie Halluzinationen und veraltetes Wissen, herauskristallisiert. Die Implementierung von RAG-basierten Werkzeugen in kleinen und mittleren Unternehmen (KMU) bleibt jedoch aufgrund ihrer begrenzten Ressourcen und fehlenden Expertise in der Verarbeitung natürlicher Sprache (NLP) eine Herausforderung. Dieses Papier stellt EASI-RAG vor, Enterprise Application Support for Industrial RAG, eine strukturierte, agile Methode, die entwickelt wurde, um die Einführung von RAG-Systemen in industriellen KMU-Kontexten zu erleichtern. EASI-RAG basiert auf Prinzipien der Methodenentwicklung und umfasst klar definierte Rollen, Aktivitäten und Techniken. Die Methode wurde durch eine Fallstudie in einem Umwelttestlabor validiert, in der ein RAG-Tool implementiert wurde, um Anfragen von Bedienern mithilfe von Daten aus Betriebsverfahren zu beantworten. Das System wurde innerhalb eines Monats von einem Team ohne vorherige RAG-Erfahrung implementiert und später basierend auf dem Feedback der Benutzer iterativ verbessert. Die Ergebnisse zeigen, dass EASI-RAG eine schnelle Implementierung unterstützt, hohe Benutzerakzeptanz erzielt, genaue Antworten liefert und die Zuverlässigkeit der zugrunde liegenden Daten verbessert. Diese Arbeit hebt das Potenzial der RAG-Einführung in industriellen KMU hervor. Zukünftige Arbeiten sollten sich darauf konzentrieren, die Methodik auf verschiedene Anwendungsfälle zu verallgemeinern und die Integration mit feinabgestimmten Modellen weiter zu verbessern.