Blinde Flecken in RAG-Systemen erkennen: Mehr Transparenz für KI-Wissensdatenbanken
Die schnelle Verfügbarkeit von Unternehmenswissen ist eines der zentralen Versprechen moderner KI-Systeme. Doch wie verlässlich sind die Antworten, wenn nicht sichergestellt ist, dass alle relevanten Inhalte tatsächlich im System vorhanden sind? An dieser Stelle setzt die 2b Innovative UG an. Das Unternehmen entwickelt mit „MyQandA“ einen Chatbot-Service, mit dem sich internes Wissen einfach hochladen und mittels Retrieval-Augmented Generation (RAG) gezielt abfragen lässt. Ein Rechtemanagement für sensible Inhalte ist ebenfalls integriert. Gemeinsam mit KI.SH untersuchte 2b Innovative in einer Machbarkeitsstudie, wie sich sogenannte „blinde Flecken“ in solchen Systemen identifizieren und sichtbar machen lassen.
Die Ausgangslage: Unvollständige Wissensbasis in RAG-Systemen
RAG-Systeme greifen auf eine Vektordatenbank zu, in der Dokumente als semantische Repräsentationen, sogenannte Embeddings, gespeichert sind. Diese machen es möglich, inhaltlich ähnliche Informationen auch dann wiederzufinden, wenn nicht exakt nach denselben Begriffen gesucht wird. Die Qualität der Antworten hängt dabei maßgeblich davon ab, ob die zugrunde liegende Wissensbasis vollständig und aktuell ist. In der Praxis entstehen Lücken: Inhalte fehlen, sind unzureichend erfasst oder werden vom System nicht zuverlässig gefunden.
Darin bestand für 2b Innovative eine besondere Herausforderung: Das System ist so ausgelegt, dass es bei unzureichender Quellenlage bewusst keine Antwort liefert. In der Praxis führte dies jedoch dazu, dass Nutzer:innen auch dann keine Antwort erhileten, wenn das benötigte Wissen grundsätzlich vorhanden war – etwa implizit bei Administrator:innen oder in externen Quellen, die nicht im System hinterlegt sind. Diese Lücken sollten daher frühzeitig erkannt und geschlossen werden, damit Nutzer:innen möglichst häufig verlässliche, quellengestützte Antworten erhalten.
Das Ziel der Machbarkeitsstudie
Ziel der Studie war es, blinde Flecken in RAG-Systemen systematisch zu identifizieren und verständlich aufzubereiten. Im Fokus stand dabei nicht nur die reine Erkennung von Lücken in der Wissensbasis, sondern auch deren inhaltliche Einordnung: Welche Themen sind unzureichend abgedeckt, und an welchen Stellen sollten Inhalte ergänzt werden?
Ein zentrales Element war zudem die Visualisierung dieser Lücken. Durch eine strukturierte Darstellung sollten Zusammenhänge im Datenraum sichtbar gemacht und Ansatzpunkte für die Weiterentwicklung der Wissensbasis geschaffen werden. Langfristig ermöglicht dies eine gezielte Pflege der zugrunde liegenden Dokumente und somit eine spürbare Verbesserung der Antwortqualität von KI-Systemen.
Zur Umsetzung wurden zwei unterschiedliche methodische Ansätze verfolgt: die Analyse durch gezielte Interaktion mit dem RAG-System sowie die Untersuchung des zugrunde liegenden Embedding-Raums.
Eine umfangreiche Datenbasis
Für die Machbarkeitsstudie stellte 2b Innovative einen Beispieldatensatz aus insgesamt 509 PDF-Dokumenten bereit. Die Dateien enthielten Entscheidungen deutscher Gerichte sowie Dokumente der Europäischen Union. Da es sich um einen klar abgegrenzten Korpus handelt, bot der Datensatz eine gute Grundlage, um mögliche Lücken in der Wissensabdeckung systematisch zu untersuchen.
Ansatz 1: Probing durch gezielte Anfragen
Um Wissenslücken in einem PDF-Korpus systematisch zu identifizieren, wurde ein mehrstufiges Verfahren entwickelt. Die Grundidee dahinter: Nutzer:innen eines RAG-Systems stellen häufig Fragen, die thematisch zwar zum vorhandenen Korpus passen, dort aber nicht vollständig beantwortet werden können. Diese Themenbereiche sollten automatisiert sichtbar gemacht und nach ihrem Abdeckungsgrad eingeordnet werden.
Dazu wurden die PDF-Dokumente zunächst in kleinere Textabschnitte, sogenannte Chunks, unterteilt. Ein Sprachmodell analysierte diese Chunks und erzeugte zwei Arten von Fragen: solche, die sich direkt aus dem Inhalt beantworten lassen, und solche, die inhaltlich nahe am Text liegen, aber im Dokument selbst nicht beantwortet werden. Letztere sind besonders aufschlussreich, da sie auf potenzielle Lücken im Korpus hinweisen.
Die gesammelten Fragen wurden anschließend thematisch gebündelt. Mithilfe semantischer Clusterverfahren entstanden daraus thematische Gruppen, die wiederkehrende Fragestellungen zusammenfassen. So ließ sich erkennen, welche Themen im Korpus gut abgedeckt sind und wo Wissenslücken bestehen.
Im nächsten Schritt wurden die Themen nach ihrem Abdeckungsgrad bewertet. Themen, die im Datenbestand nur schwach vertreten waren, wurden als mögliche blinde Flecken eingestuft. Um sicherzustellen, dass nicht nur statistische Ausreißer, sondern tatsächlich relevante Lücken sichtbar werden, erhielten diese Themen zusätzlich eine inhaltliche Einordnung durch ein Sprachmodell. So konnten die wichtigsten Schwachstellen nicht nur erkannt, sondern auch verständlich beschrieben werden.
Ansatz 2: Analyse des Embedding-Raums
Beim zweiten Ansatz wurde der Fokus auf die Struktur des Embedding-Raums verlagert. Da Dokumente in diesem Raum als hochdimensionale Vektoren vorliegen, ist die direkte Analyse mit Herausforderungen verbunden: Aufgrund der hohen Dimensionalität sind Datenpunkte oft weit verteilt, wodurch klassische Ähnlichkeitsvergleiche an Aussagekraft verlieren.
Um dennoch potenzielle Lücken zu identifizieren, wurden zwei Verfahren eingesetzt. Zum einen kam die Kernel Density Estimation (KDE) zum Einsatz, um Bereiche geringer Dichte im Embedding-Raum zu erkennen. Solche Regionen können darauf hindeuten, dass bestimmte Themen oder Inhalte im Datensatz unterrepräsentiert sind.
Andererseits wurde der Local-Outlier-Factor-Algorithmus genutzt, um gezielt Ausreißer zu identifizieren. Diese können ebenfalls auf ungewöhnliche oder isolierte Inhalte hinweisen und damit potenzielle blinde Flecken markieren.
Ergebnisse
Als am vielversprechendsten erwies sich der fragenbasierte Ansatz. Die Kombination aus automatischer Fragengenerierung, thematischer Bündelung und anschließender Bewertung der Domänenrelevanz machte es möglich, echte Wissenslücken im Korpus zuverlässig zu identifizieren. Auch Domänenexperten bestätigten die Ergebnisse: Drei bis vier der fünf identifizierten Top-Themen erwiesen sich als inhaltlich relevant und tatsächlich unzureichend abgedeckt.
Die verwendeten Evaluierungsmetriken eignen sich darüber hinaus als kontinuierliche Indikatoren zur Qualitätskontrolle von RAG-Systemen. Sie machen potenzielle Schwachstellen messbar und können dabei helfen, Wissensdatenbanken gezielt weiterzuentwickeln. Insbesondere in Verbindung mit geeigneten Monitoring-Werkzeugen lassen sich so frühzeitig Lücken in den Inhalten erkennen.
Die Analysen direkt im Embedding-Raum lieferten interessante Ansätze für die Forschung, sind für den praktischen Einsatz derzeit jedoch noch nicht robust genug. Insbesondere die hohe Dimensionalität und die schwierige Interpretierbarkeit von Embeddings erschweren eine verlässliche Übertragung in produktive Anwendungen. In der Praxis hat sich deshalb der fragebogengestützte Weg als deutlich belastbarer erwiesen.
Fazit und Ausblick
Die Studie zeigt, dass RAG-Systeme und Chatbots in der Unternehmenspraxis nur dann ihr volles Potenzial entfalten können, wenn ihre Wissensbasis systematisch geprüft und gepflegt wird. Gerade mit Blick auf die interne Wissensverwaltung wird deutlich, wie wichtig es ist, Transparenz über die tatsächliche Abdeckung von Inhalten zu schaffen. Nur so lassen sich Schwachstellen im Informationsabruf gezielt erkennen und beheben.
Für 2b Innovative liefert die Machbarkeitsstudie damit eine belastbare Grundlage, um die Qualität und Verlässlichkeit von MyQandA weiterzuentwickeln. Zugleich hat der Ansatz auch über das konkrete Projekt hinaus Bedeutung: Unternehmen, die KI-Systeme für den Zugriff auf internes Wissen einsetzen, sehen sich mit ähnlichen Herausforderungen konfrontiert. Methoden zur Erkennung blinder Flecken können deshalb dazu beitragen, Chatbots robuster, nachvollziehbarer und inhaltlich präziser zu machen.
Die Machbarkeitsstudie verdeutlicht, dass der Nutzen von KI nicht allein in der schnellen Beantwortung von Fragen liegt, sondern auch in der Fähigkeit, Wissenslücken sichtbar zu machen und systematisch zu schließen. Darin liegt ein zentraler Hebel für den effektiven Einsatz von KI in wissensintensiven Organisationen.
