Retrieval-Augmented Generation – Ein Erfahrungsbericht und Leitfaden zum Einsatz von wissensbasierten Chatbots an der HU Berlin (Teil 1)

Zusammenfassung Retrieval-Augmented Generation (RAG) hat sich als vielversprechender Ansatz etabliert, um Large Language Models (LLM) mit institutionsspezifischem Wissen anzureichern und dabei Halluzinationen zu reduzieren. Der vorliegende erste Teil der Publikation bietet einen Überblick über den aktuellen Stand zu RAG-Systemen. Ausgehend von einem Vier-Phasen-Modell – Datenaufbereitung, Retrieval-Strategie, Chatbot-Verhalten und Qualitätssicherung – werden zentrale Designentscheidungen, technische Komponenten und Best Practices dargestellt. Die Analyse aktueller Literatur aus den Jahren 2024 und 2025 zeigt, dass RAG-Systeme Fine-Tuning-Ansätze bei der Wissensinjektion konsistent übertreffen, insbesondere für spezialisiertes und weniger verbreitetes Fachwissen. Gleichzeitig werden Einschränkungen wie Anfälligkeit für Adversarial Attacks und Herausforderungen bei komplexen Schlussfolgerungen diskutiert.