Souveräne KI für Unternehmen: Warum Kontrolle über KI-Systeme zum Wettbewerbsfaktor wird
Montagmorgen, wichtiges Meeting, das Internet streikt. Kennen Sie das? Die Abhängigkeit von Internetanbietern tritt dann besonders deutlich zutage, wenn die alltägliche Nutzung gestört wird. Das Beispiel lässt sich übertragen: Denn Kontrolle über die eigenen IT-Systeme ist kein Luxus, sondern ein handfester Wettbewerbsfaktor. Digitale Souveränität ist das in diesem Kontext aktuell häufig diskutierte Stichwort.
Dieses Konzept lässt sich auch auf unsere Lieblings-KI-Tools anwenden. Wer insbesondere generative KI fest in seine Arbeitsabläufe integriert hat, merkt es sofort, wenn der Dienst ausfällt oder der Anbieter seine Konditionen ändert. Was wäre, wenn die KI stattdessen auf deutschen Servern oder sogar im eigenen Unternehmensnetz laufen würde? Genau das ist die Grundidee hinter souveräner KI.
Was der Begriff wirklich bedeutet, welche Chancen und Risiken damit verbunden sind und wie sich einschätzen lässt, wie viel Souveränität ein Unternehmen tatsächlich braucht, darum geht es in diesem Beitrag und u.a. auf der 7. KI-Landeskonferenz.
Übrigens: Eine Einschätzung unserer Experten zum Thema KI-Souveränität finden Sie auf unserem LinkedIn-Kanal.
Was souveräne KI bedeutet
KI-Souveränität bezeichnet im Kern die Fähigkeit, KI-Systeme mit eigenen Ressourcen zu entwickeln, zu betreiben und zu kontrollieren. Im Mittelpunkt steht dabei die Unabhängigkeit von externen, insbesondere nicht-europäischen Anbietern. Souveräne KI bedeutet ausdrücklich nicht, alles selbst zu bauen oder sich digital abzuschotten. Es geht vielmehr um Wahlfreiheit: die Fähigkeit, globale Technologien so einzusetzen, dass Kontrolle über definierte Grenzen hinweg erhalten bleibt und ein Anbieterwechsel jederzeit möglich ist.
Drei Kerndimensionen sind dabei in Anlehnung an das Konzept der Digitalen Souveränität zentral:
- Datensouveränität: Kontrolle darüber, wo Daten gespeichert und verarbeitet werden und wer Zugang erhält
- Modellsouveränität: Unabhängigkeit von einem einzelnen KI-Anbieter sowie die Fähigkeit, Modelle zu wechseln, zu kombinieren oder anzupassen
- Infrastruktursouveränität: KI-Training und -Betrieb auf kontrollierbarer Infrastruktur, ob eigener Server oder europäische Cloud
Hieraus können zusätzlich zwei Fähigkeiten abgeleitet werden, die für den souveränen Umgang mit KI im eigenen Unternehmen wichtig werden:
- Governance: Die Fähigkeit, den KI-Einsatz im Unternehmen durch interne Richtlinien, Auditierbarkeit und Compliance-Nachweise eigenständig zu steuern und zu verantworten
- Kompetenz: Das interne Wissen und die Fähigkeit, KI-Anbieter kritisch zu beurteilen, Anbieter bei Bedarf zu wechseln und Mitarbeitende im verantwortungsvollen Umgang mit KI zu schulen
Dieses Verständnis bildet einen ersten Rahmen, mit dem Unternehmen ihren eigenen Souveränitätsgrad einschätzen und gezielt weiterentwickeln können. Dazu haben wir zudem eine Liste mit Leitfragen für die jeweiligen Kerndimensionen und Fähigkeiten erstellt:
Was ist ein KI-Modell?
Ein KI-Modell ist ein mathematisches System, das aus großen Datenmengen Muster gelernt hat. Es erkennt diese und kann darauf basierend Texte schreiben, Bilder analysieren oder Entscheidungen unterstützen. Bekannte Modelle sind GPT (hinter ChatGPT) oder Llama (von Meta). Diese Modelle laufen auf Servern, entweder beim Anbieter in der Cloud oder im eigenen Unternehmensnetz.
Exkurs: Abgrenzung zu Open-Source-KI
Ein verbreitetes Missverständnis: Open-Source-KI und souveräne KI sind nicht dasselbe. Ein Open-Source-Modell, das auf einem fremden Server in den USA läuft, bringt kaum Souveränität. Umgekehrt lässt sich proprietäre Software in souveräner Infrastruktur einsetzen. Open Source ist ein mögliches Mittel, aber keine Souveränität per se.
Dazu kommt, dass nicht alle als „offen" vermarkteten Modelle wirklich offen sind. Viele veröffentlichen nur ihre Modellgewichte, nicht aber Trainingsdaten oder den vollständigen Quellcode. Das schränkt Transparenz und Kontrollmöglichkeiten erheblich ein. Auch die geografische Herkunft spielt eine Rolle: Die Open-Source-Modelle des chinesischen Unternehmens DeepSeek etwa verlagern die Abhängigkeiten, beseitigt sie aber nicht.
So bleibt oft eine Abhängigkeit mit Blick auf Anpassungen in der Modellarchitektur und Wartung. Auch die Trainingsdaten sind nur selten transparent, sodass Verzerrungen oder auch politisch motivierte Ausgaben entstehen können.
Open-Weight- vs. Open Source-Modelle
„Open-Weight"-Modelle stellen nur die fertig trainierten Parameter zur Verfügung. Echte Open-Source-Modelle legen zusätzlich Quellcode und Trainingsdaten offen. Für die praktische Nutzung im Unternehmen ist der Unterschied oft gering. Für volle Transparenz und Kontrolle ist er entscheidend.
Warum sich Unternehmen mit souveräner KI auseinandersetzen sollten
Warum sich Unternehmen mit souveräner KI auseinandersetzen sollten, wird nicht nur im oben beschriebenen Worst Case Szenario deutlich.
Ein zentraler Grund ist der US Cloud Act. Ein Rechtsgutachten der Universität zu Köln im Auftrag des Bundesinnenministeriums kommt zu dem klaren Befund: US-Behörden haben weitreichenden Zugriff auf Daten, die in europäischen Rechenzentren gespeichert sind, sofern ein US-Unternehmen die Kontrolle über diese Daten ausübt. Maßgeblich ist nicht der Serverstandort, sondern die Kontrolle. Der RISA-Act (seit April 2024 in Kraft) hat den Kreis der verpflichteten Dienstleister zudem erheblich ausgeweitet. Diese Entwicklung widerspricht allerdings dem europäischen Datenschutz.
US Cloud Act und RISA-Act
Der US Cloud Act (2018) verpflichtet US-amerikanische Cloud-Anbieter, Daten auf Behördenanordnung herauszugeben, unabhängig davon, ob diese auf Servern in Europa liegen. Der RISA-Act (2024) erweiterte den Kreis der betroffenen Dienstleister erheblich. Entscheidend ist nicht der Standort der Server, sondern die Kontrolle durch das US-Unternehmen. Beides steht im Spannungsverhältnis zur europäischen DSGVO.
Neben dieser rechtlichen Herausforderung gibt es zahlreiche Vorteile souveräner KI für Unternehmen:
Kein Vendor-Lock-in
Wer modular aufbaut, kann einzelne KI-Komponenten wechseln, ohne die gesamte Anwendung neu entwickeln zu müssen. Bei proprietären Anbietern können ein Preisanstieg, eine Änderung der Nutzungsbedingungen oder eine Unternehmensübernahme den gesamten KI-Einsatz beeinträchtigen.
Betriebliche Stabilität
Lokale KI-Dienste fallen nicht aus, wenn ein externer Anbieter Probleme hat oder sein Modell grundlegend ändert.
Kostenstabilität und Planbarkeit
Cloud-KI-Dienste arbeiten meist nach dem Pay-per-Use-Modell. Bei wachsendem Nutzungsvolumen können die Kosten schwer planbar werden. Eigene Infrastruktur verursacht zwar höhere Anfangsinvestitionen, bietet dafür aber kalkulierbare laufende Kosten.
Resilienz gegenüber geopolitischen Risiken
Handelskonflikte, Sanktionen oder politische Entscheidungen können den Zugang zu nicht-europäischen KI-Diensten einschränken oder verteuern. Wer auf europäische oder eigene Infrastruktur setzt, ist gegenüber solchen Szenarien deutlich widerstandsfähiger.
Datenkontrolle als Wettbewerbsvorteil
Wer sensible Geschäftsdaten nicht nach außen gibt, schützt sein KI-Wissen und kann eigene Spezialmodelle für die eigene Branche entwickeln. So können neue Geschäftsfelder erschlossen werden.
Aufbau von internem KI-Wissen
Wer sich mit souveräner KI beschäftigt oder sogar KI-Systeme selbst betreibt und anpasst, baut zwangsläufig eigene Kompetenz auf. Dieses Wissen bleibt im Unternehmen und macht weniger abhängig von externen Beratern oder Dienstleistern. Langfristig entsteht so eine eigene Innovationsfähigkeit.
Compliance
Wer eigene Infrastruktur und Governance betreibt, hat es strukturell leichter, die Nachvollziehbarkeits- und Auditierungspflichten des EU AI Act zu erfüllen. Gemeinsam mit der Datenkontrolle kann zudem die Compliance mit Blick auf die Datenschutz-Grundverordnung besser gewährleistet werden.
Anpassbarkeit und Domänenwissen
Lokal betriebene Modelle lassen sich mit unternehmenseigenen Daten feinjustieren (Finetuning) oder durch eigene Wissensdatenbanken anreichern (Retrieval-Augmented Generation). Das Ergebnis sind KI-Systeme, die deutlich besser auf den eigenen Fachbereich zugeschnitten sind als generische Cloud-Lösungen.
Vertrauen bei Kunden und Partnern
Nachweisbarer Datenschutz und transparente KI-Prozesse sind besonders im B2B-Bereich ein differenzierendes Argument. Gerade in sensiblen Branchen wie Medizin, Recht oder Finanzwesen kann souveräne KI ein aktiv kommunizierbares Qualitätsmerkmal sein.
Souveräne KI ist damit nicht nur eine Schutzmaßnahme gegen externe Risiken, sondern gleichzeitig eine Investition in die eigene Handlungsfähigkeit, Wettbewerbsposition und Zukunftsfähigkeit.
Was ist der Trade-off?
Souveräne KI ist kein kostenloses Upgrade. Die Entscheidung dafür bringt reale Investitionen, Herausforderungen und Einschränkungen mit sich, die jedes Unternehmen vorab kennen sollte.
Initialer Zeitaufwand und Opportunitätskosten
Der Aufbau souveräner KI-Infrastruktur bindet Zeit und interne Ressourcen. Während ein Cloud-Dienst in Minuten oder Stunden einsatzbereit ist, kann eine lokale oder hybrid-souveräne Lösung Wochen bis Monate in der Einrichtung beanspruchen. Für Unternehmen, die schnell auf neue KI-Entwicklungen reagieren wollen, ist das ein echter Nachteil.
Infrastrukturkosten und Wartungskompetenz
Leistungsstarke Open-Source-Modelle lokal zu betreiben, erfordert Hardware und IT-Kompetenz. Kleinere Modelle laufen zwar bereits auf modernen Consumer-PCs mit ausreichend Grafikspeicher, für größere Modelle und zunehmende Nutzung steigen die Anforderungen jedoch erheblich. Bei unvorhergesehenen Lastspitzen stoßen lokale Lösungen schneller an Grenzen als elastische Cloud-Infrastruktur. Das betrifft insbesondere kleine und mittelständische Unternehmen: Nur rund 21 Prozent der deutschen KMU beschäftigen laut IfM Bonn IKT-Fachkräfte. Wartung, Sicherheitsupdates und Konfiguration liegen bei vollständig souveränen Lösungen komplett beim Unternehmen selbst. Eine Herausforderung, die erst einmal gemeistert werden muss.
Sicherheitsverantwortung liegt vollständig beim Unternehmen
Bei Cloud-Anbietern übernehmen diese einen Großteil der Sicherheitsverantwortung. Wer KI selbst betreibt, ist auch vollständig für den Schutz vor Angriffen, Datenlecks und Sicherheitslücken in Modellen und Infrastruktur zuständig. Das erfordert nicht nur technisches Know-how, sondern auch laufende Aufmerksamkeit.
Aktualisierungsaufwand und Innovationstempo
Die KI-Entwicklung schreitet sehr schnell voran. Wer auf lokale Modelle setzt, muss diese regelmäßig selbst aktualisieren und bewerten, ob neuere Modelle den Wechsel rechtfertigen. Während Cloud-Anbieter Updates automatisch einspielen, liegt diese Aufgabe bei souveränen Lösungen vollständig im eigenen Verantwortungsbereich.
Leistungslücke
Proprietäre Modelle großer Anbieter sind bei komplexen Aufgaben, mehrsprachigem Verständnis und aktuellem Weltwissen noch leistungsstärker. Für den Großteil typischer Unternehmensaufgaben wie Textentwürfe, interne Suche oder Dokumentenanalyse sind Open-Weight-Modelle aktuell aber bereits gut einsetzbar. Diese Lücke schließt sich zudem kontinuierlich. Aus der Perspektive der ökologischen Nachhaltigkeit ist es zudem sinnvoll, auf kleinere, spezialisierte KI-Modelle zu setzen.
Lizenzen und rechtliche Risiken bei frei verfügbaren Modellen
Nicht alle Lizenzen erlauben die kommerzielle Nutzung ohne Auflagen. Intransparente Trainingsdaten können zudem unerwünschte Werte, Verzerrungen oder geopolitische Interessen in ein Modell eingebettet haben, ein Problem, das sich auch bei bekannten Modellen chinesischer Herkunft stellt. Bei offenen Datensätzen ist zudem nicht gesichert, ob diese auf Dauer zur Verfügung stehen.
Abhängigkeit von Hardware-Lieferketten
Leistungsfähige KI-Hardware, insbesondere Grafikprozessoren (GPUs), ist weiterhin knapp und teuer. Die globalen Lieferketten für entsprechende Chips sind stark konzentriert, was neue Abhängigkeiten schafft, diesmal auf der Hardware-Ebene statt beim Software-Anbieter.
Souveräne KI löst also bestehende Abhängigkeiten nicht einfach auf, sondern verlagert und verteilt sie anders. Entsprechend kann diese Souveränität auch nur in sehr seltenen Fällen komplett erreicht werden. Wer sich diesen Ansatz vergegenwärtigt, kann bewusster entscheiden, welche Abhängigkeiten tragbar sind und welche nicht.
Wann lohnt sich souveräne KI für KMU?
Souveräne KI ist dementsprechend kein Zustand, den man hat oder nicht hat. Ein schwarz-weiß Denken ist hier wenig hilfreich. Besser kann Souveränität hier als ein Spektrum verstanden werden.
Drei grobe Stufen helfen bei der Orientierung:
- Cloud-KI ohne Vertrag (z.B. kostenlose ChatGPT-Nutzung): maximale Bequemlichkeit, minimale Kontrolle, kein nachweisbarer Datenschutz
- Souveräne Cloud (EU-zertifizierte Anbieter oder Enterprise-Verträge mit Datenbegrenzung auf EU-Rechenzentren): gute Balance aus Komfort und Kontrolle. Der Beispielfall des Anthropic-Modells Fable 5 zeigt allerdings, dass eine souveräne Cloud ebenfalls ihre Grenzen hat. Wird das Modell vom Anbieter abgeschaltet, kann dies auch auf der souveränen Cloud nicht mehr genutzt werden.
- Eigene KI (lokal betriebene Modelle auf eigenem Server): maximale Kontrolle, höchster Aufwand
Dabei sind diese Stufen als fließende Übergänge zu verstehen. Eine Orientierung an den konkreten Anwendungsfällen ist ratsam. Eine Hybrid-Strategie ist der pragmatischste Einstieg. Zur Orientierung haben wir ein Framework auf Basis konkreter Leitfragen und dem sogenannten "Triangle of Sovereignty" zusammengestellt.
Fable 5
Am 9. Juni 2026 veröffentlichte das US-Unternehmen Anthropic sein neues KI-Modell „Fable 5" . Nur drei Tage später ordnete die US-Regierung an, den Zugang für alle Nicht-US-Bürger aus Sicherheitsgründen zu sperren. Anthropic sperrte das Modell daraufhin weltweit, da das Unternehmen nicht effektiv zwischen amerikanischen und ausländischen Bürgern unterscheiden kann. Das gilt auch Auslöser war ein möglicher „Jailbreak": eine Methode, die eingebauten Sicherheitsmechanismen der KI zu umgehen . Anthropic widersprach der Darstellung der Regierung .
Das „Triangle of Needs"
Diese Leitfragen lassen sich nach Dr. Maja-Olivia Himmer, AI & Sovereignty Strategy Lead bei T-Systems, in einem einfachen Dreieck visualisieren: Souveränität, Funktionalität und Aufwand stehen in einem Spannungsverhältnis. Je mehr Souveränität angestrebt wird, desto mehr Aufwand ist in der Regel erforderlich und desto stärker kann die Funktionalität im Vergleich zu Frontier-Modellen abnehmen. Es ist nicht zwingend nötig, dass ein Unternehmen alle drei Ecken gleichzeitig maximieren muss. Die Aufgabe besteht darin, den eigenen Anwendungsfall zu bewerten und einen realistischen Punkt in diesem Dreieck zu finden.
Folgende Faktoren sprechen dabei für mehr Souveränität:
- Die Datensensitivität ist hoch (Kundendaten, Finanzdaten, geistiges Eigentum).
- Regulatorische Anforderungen sind streng (Medizin, Recht, kritische Infrastruktur).
- Die KI ist betriebskritisch und ein Ausfall hätte direkte Konsequenzen.
- Das Nutzungsvolumen ist hoch genug, um Eigeninfrastruktur wirtschaftlich zu tragen.
Folgende Faktoren sprechen gegen hohe Souveränität (zunächst):
- Keine eigene IT-Abteilung vorhanden oder nur begrenzte Personalressourcen.
- Die KI-Nutzung betrifft ausschließlich öffentlich zugängliche Informationen.
- Das Nutzungsvolumen ist gering.
Ein einfaches Beispiel macht das greifbar: Ein Chatbot für öffentliche FAQs muss nicht souverän laufen. Eine KI, die auf Basis von Patientendaten Diagnosen unterstützt, muss es in jedem Fall, mindestens was die Datensouveränität angeht.
EU AI Act
Der EU AI Act ist seit August 2024 in Kraft (Verordnung EU 2024/1689). Seit Februar 2025 müssen Unternehmen sicherstellen, dass Mitarbeitende über ausreichende KI-Kompetenz verfügen (Art. 4). Ab August 2026 greifen umfangreichere Pflichten für Hochrisiko-KI-Anwendungen, etwa in Personalmanagement, Kreditvergabe oder medizinischen Bereichen (Art. 16 ff.). Wer souveräne KI betreibt, hat es dabei strukturell leichter: Eigene Infrastruktur und Governance erleichtern Auditierung und Compliance.
Ausblick
KI wird in Unternehmen zunehmend nicht nur passiv genutzt, sondern handelt aktiv. Die aufkommenden KI-Agenten buchen z.B. Reisen, genehmigen Rechnungen, verwalten Infrastruktur oder kommunizieren mit Lieferanten, zunehmend auch ohne menschliche Kontrolle.
Diese Entwicklung verschärft die Souveränitätsfrage erheblich. Ein passives Sprachmodell gibt keine Daten weiter, ohne dass jemand aktiv etwas eingibt. Ein Agent, der eigenständig Daten abruft, Entscheidungen trifft und Systeme steuert, tut genau das. Bei Agenten sollte entsprechend genau geprüft werden, ob diese bevorzugt lokal oder in europäischer Cloud betrieben werden sollten. Klare interne Governance ist dabei kein optionales Add-on, sondern sollte eine Grundvoraussetzung sein. Zentrale Fragen sind in diesem Kontext: Welche Systeme darf ein Agent nutzen? Welche Entscheidungen muss ein Mensch bestätigen?
Dass souveräne KI kein rein theoretisches Konzept ist, zeigt das Land Schleswig-Holstein anschaulich. Das Land verfolgt seit Jahren eine konsequente Open-Source-Strategie und hat bis Ende 2025 bereits rund 80 Prozent seiner Verwaltungsarbeitsplätze auf Open-Source-Lösungen umgestellt. Parallel flossen seit 2019 rund 92 Millionen Euro aus Landes- und EU-Mitteln in über 120 KI-Projekte, darunter das Forschungsprojekt „BiT SEA-SH" an der TH Lübeck, das eine souveräne, auf Open Source basierende KI-Plattform speziell für KMU, Hochschulen und Behörden entwickelt. Schleswig-Holstein zeigt damit, dass digitale Souveränität schrittweise und wirtschaftlich umsetzbar ist, und liefert Unternehmen im Land ein regionales KI-Ökosystem, auf das sie aufbauen können.
KI-Souveränität ist kein einmaliges Projekt. Der sinnvolle Einstieg ist nicht die vollständige Autarkie, sondern der erste bewusste Schritt: eine Inventur der genutzten KI-Tools, eine klare interne Richtlinie und die Erkenntnis, dass mehr Kontrolle über die eigene KI auch mehr Kontrolle über das eigene Unternehmen bedeutet.