Übersicht über komplexe Gesetze und Verordnungen behalten: Wie ein KI-Chatbot der Verwaltung in Schleswig-Holstein helfen kann
Wassergefährdende Stoffe sind ein streng reguliertes Thema. Im Kreis Segeberg – und überall in Schleswig-Holstein – kennen Fachbearbeiter:innen das Problem: Die rechtliche Landschaft ist unüberschaubar. Dutzende von Gesetzen, Verordnungen, technischen Regeln und internen Richtlinien müssen beachtet werden. Eine einfache Frage kann zu einer stundenlangen Recherche in Regelwerken führen. Genau hier setzt ein innovatives Projekt des Kreises Segeberg und KI.SH an.
Von der stundenlangen Recherche zum intelligenten Assistent: Ein Projekt aus der Praxis
Der Kreis Segeberg beschäftigt sich intensiv mit Fragen rund um wassergefährdende Stoffe. Thomas Korn, zuständig in diesem Fachbereich in der Unteren Wasserbehörde des Kreises, kannte das Problem aus eigener Erfahrung: „Es muss viel recherchiert werden. Viele Dokumente müssen analysiert werden und das alles vor dem Hintergrund technischer und juristischer Regeln. Das braucht viel Know-how darüber, welche Vorschriften überhaupt relevant sind."
Die Idee war naheliegend: Könnte ein KI-gestützter Chatbot diese Arbeit unterstützen? Um das zu prüfen, startete das KI.SH-Team um Colin Kavanagh und Maximilian Behrens eine Machbarkeitsstudie von Oktober bis Dezember 2025. Das Ziel war ehrlich bemessen: Zeigen, dass eine solche intelligente Recherche-Lösung technisch umsetzbar ist und tatsächlich hilft.
Der erste Test: Überraschende Erfolge mit KI-Tools
Am Anfang testete das Team einen existierenden KI-Recherche-Dienst. Direkt am ersten Tag meldete sich Thomas Korn zurück: Er hatte schon sehr gute Antworten bekommen, sogar auf spezifische Fragen zu wasserrechtlichen Anforderungen. Das war ein ermutigendes Zeichen. Allerdings: Nach tieferen Tests zeigte sich, dass der Chatbot einfache Fragen gut beantwortet, bei komplexeren, Anfragen aber an Grenzen stößt. Die wirkliche Herausforderung war klar: Der KI-Assistent AQQI – als Wortschöpfung aus Aqua und Chemie – sollte nicht nur Standardantworten geben, sondern gezielt bei schwierigen, sehr spezifischen Anfragen helfen.
Das Team stellte deshalb einen Katalog von echten Fragen aus dem Arbeitsalltag zusammen. Diese Fragen aus der Wasserbehörde wurden zum Maßstab für die weitere Entwicklung.
Mit offener Technik zur Lösung: Open-Source für öffentliche Verwaltung
Für die Umsetzung setzte das Team bewusst auf offene Technik, sogenannte Open-Source-Software. Das war wichtig: Die Lösung sollte nicht an einen einzigen Anbieter gebunden sein, sondern später auch von der IT des Kreises Segeberg selbst betrieben werden können.
Die Architektur auf Basis der Open-Source-Programme n8n und Qdrant war durchdacht: Der Chatbot für Wasserbehörden nutzte einerseits externe Webrecherche, um aktuelle und breite Informationen zu finden. Andererseits integrierte das Team erste wichtige Gesetze und Verordnungen in einer Wissensdatenbank, konkret waren das die Verordnung über Anlagen zum Umgang mit wassergefährdenden Stoffen, kurz AwSV, und das Wasserhaushaltsgesetz (WHG). Diese Kombination sollte das Beste aus beiden Welten liefern.
Schritt für Schritt zum Prototypen: Iterative Entwicklung von AQQI
Die Umsetzung des KI-Chatbots im Kreis Segeberg erfolgte schrittweise in drei Versionen. Mit jeder Version wurden Funktionsumfang, Datenbasis und Nutzbarkeit erweitert.
Version 1 bildete die Grundlage: Ein Chat-Frontend auf Basis von OpenWebUI über das Nutzer:innen Fragen eingeben und Antworten erhalten konnten. Die Beantwortung lief über ein Sprachmodell sowie eine externe Recherchekomponente im Hintergrund organisiert mit Hilfe von n8n. Bereits in dieser Phase ließ sich erkennen, welche Fragen der Chatbot gut beantworten kann und wo es noch hakt.
Version 2 erweiterte das System um eine sogenannte Vektordatenbank (auch Vector-Store genannt). Darin wurde die AwSV hinterlegt. Die Verordnung wurde dafür in strukturierte Abschnitte entlang der Paragraphen aufgeteilt und für den Chatbot durchsuchbar gemacht. Diese Erweiterung wird auch Retrieval-Augmented-Generation genannt und dient der konkreten Wissenserweiterung von Chatbots. Sie funktioniert ähnlich wie ein intelligentes Nachschlagewerk. Sie versteht nicht nur einzelne Wörter, sondern auch die Bedeutung von Inhalten und findet damit die passenden Stellen in Gesetzen und Verordnungen.
Version 3 ergänzte als weitere Quelle das Wasserhaushaltsgesetz (WHG) als eigenen Suchpfad. Außerdem wurde die Antwortausgabe per Streaming beschleunigt, um die Wartezeit für die Nutzer:innen in der Wasserbehörde zu verkürzen.
Zusätzlich wurde eine automatisierte Evaluationslogik mit LLM-as-a-Judge aufgebaut, um die Qualität von AQQIs Antworten zu messen. Als Grundlage für die Bewertung dienen vier Faktoren:
- Relevanz der Quellen: Wie relevant ist die Recherche von Gesetzestext A, B oder der Websuche?
- Groundedness: Wie sehr ist die Antwort von AQQI aus den recherchierten Quellen gebaut worden? Ziel dieses Parameters ist es, zu erkennen, wann der Bot trotz guter Recherche halluziniert
- Helpfulness: Wie hilfreich ist die Antwort von AQQI für den Sachbearbeiter?
- Completeness: Wie vollständig ist die Antwort? Werden rechtliche Referenzen zu den relevanten Gesetzestexten gegeben?
Diese Evaluation birgt den Vorteil, dass sie von den Sachbearbeiter:innen geprüft und weiter optimiert werden kann. Der Goldstandard bleibt dabei das Urteil des menschlichen Domain-Experten, also der Sachbearbeitung.
Was die ersten Tests zeigen: Praktische Ergebnisse aus der Verwaltung
Thomas Korn aus der Unteren Wasserbehörde Kreis Segeberg testete den Chatbot mit echten Fragen aus seinem Arbeitsalltag. Das Feedback war ermutigend: Der Chatbot erfand nichts Falsches, ein zentrales Anforderungskriterium für eine Verwaltungsanwendung. Allerdings zeigte sich auch: Er antwortete oft zu allgemein statt ausreichend spezifisch zu sein. Das ist ein typisches Phänomen bei KI-Systemen, aber auch eine Gelegenheit für Verbesserungen.
Ein weiterer wichtiger Befund: Die externe Webrecherche lieferte oft sehr hilfreiche Quellen, zum Beispiel konkrete Herstellerangaben, die sonst nur in langen Betriebsanleitungen zu finden sind. Diese mussten zuvor aufwendig recherchiert werden. Hier zeigt sich ein großes Potenzial der Chatbot-Lösung.
Einbindung interner Dokumente: Wo der Chatbot wirklich wertvoll wird
Richtig spannend wird es, wenn der KI-Chatbot für den Kreis Segeberg auch interne Handreichungen und die gesammelte Erfahrung der Verwaltung nutzen kann. Das war im Rahmen der Machbarkeitsstudie nicht umsetzbar, weil rechtliche und datenschutzrechtliche Fragen vorab geklärt werden müssen. Mit internen Dokumenten und dem Wissen der Sachbearbeitung wäre das System potenziell noch deutlich leistungsfähiger.
Wieso das nicht nur für den Kreisverwaltung Segeberg interessant ist: Übertragbarkeit auf andere Wasserbehörden in Schleswig-Holstein
Die Untere Wasserbehörde des Kreises Segeberg ist kein Einzelfall. Andere Wasserbehörden in Schleswig-Holstein und Deutschland sitzen vor denselben Herausforderungen. Auch deshalb möchte KI.SH das Projekt in einem größeren Netzwerk von Wasserbehörden vorstellen und eine Nachnutzung ermöglichen.
Und es geht über Wasserschutz hinaus: Im Kreis Segeberg gibt es erste Überlegungen, ähnliche KI-Chatbots für andere Fachbereiche zu entwickeln zum Beispiel für Abfall, Grundwasser oder sogar als digitales Nachschlagewerk für die Bauverwaltung. Die Grundtechnik ist übertragbar, eine wichtige Erkenntnis für öffentliche Verwaltungen in Schleswig-Holstein.
Ein Leuchtturm für Behörden und öffentliche Institutionen
Thomas Korn fasst die Zusammenarbeit mit KI.SH in klaren Worten zusammen:
„Ganz vielen Dank für dein Engagement Colin in dem Projekt und an KI.SH für diese Möglichkeit. Das Projekt hat schon sehr gut gezeigt, was umsetzbar wäre, was bereits funktioniert und dass es prinzipiell machbar ist. Grundsätzlich ist es auch keine Frage, ob wir es wollen, es muss kommen, um den Aufgaben in der Zukunft gewachsen zu sein."
Das Projekt des Kreises Segeberg könnte Vorbildcharakter haben. Es zeigt: KI-gestützte Assistenzsysteme sind nicht nur für große Unternehmen oder Tech-Konzerne relevant. Auch in der öffentlichen Verwaltung, ob in Schleswig-Holstein oder bundesweit, können sie Arbeitsprozesse spürbar verbessern, wenn sie gut umgesetzt werden.
Wer als Behörde oder öffentliche Institution ähnliche Herausforderungen hat, kann von diesem Projekt lernen. Denn es beantwortet nicht nur technische Fragen, sondern auch praktische: Wie organisiere ich so ein KI-Projekt in der Verwaltung? Welche rechtlichen Hürden gibt es? Wie bekomme ich meine IT-Teams und Fachexpertise an einen Tisch?
Das ist nicht zuletzt eine gute Nachricht für alle, die derzeit noch klassisch in Regelwerken und Verordnungen recherchieren und die eigene Arbeit spürbar effizienter machen möchten.
Das KI.SH-Team um Projektleiter Colin Kavanagh bedankt sich bei Thomas Korn und dem Kreis Segeberg für die tolle Kooperation.
