Rückblick: Detailblick auf den EU AI Act
Der EU AI Act wird in den kommenden Jahren maßgeblich bestimmen, wie Künstliche Intelligenz in Europa entwickelt, eingesetzt und kontrolliert wird. Auf unserer Veranstaltung am 18. September 2025 wurde diskutiert, welche Chancen, aber auch Herausforderungen sich daraus für Unternehmen, öffentliche Einrichtungen und die Verwaltung ergeben.
Politische Einordnung und erste Erfahrungen
Im Grußwort von Jörg Nickel, Referatsleiter „Digitaler Wandel“ bei der Staatskanzlei des Landes Schleswig-Holstein, wurde deutlich, dass die Umsetzung des AI Acts nicht nur theoretische Fragen aufwirft. Auch die Landesregierung ist direkt betroffen – sowohl bei der Einführung eigener KI-Systeme als auch bei der Bereitstellung rechtssicherer Rahmenbedingungen. Anspruch ist dabei, KI an möglichst vielen Arbeitsplätzen zur Verfügung zu stellen, ohne die rechtlichen Vorgaben zu unterlaufen.
Moreen Heine, Vizepräsidentin für Nachhaltigkeit und Transfer der Universität zu Lübeck, erläuterte den aktuellen Stand der Umsetzungsgesetze auf nationaler Ebene. Noch liegen wichtige Punkte offen, etwa die Rolle der Bundesnetzagentur als mögliche Aufsichtsbehörde oder die konkrete Ausgestaltung bestimmter Definitionen und Prüfmechanismen.
Rechtliche Fragestellungen im Fokus
Juristische Expertise war ein zentrales Thema. Eva Beute aus dem Ministerium für Energiewende, Klimaschutz, Umwelt und Natur des Landes Schleswig-Holstein machte deutlich, dass KI-Recht viele Schnittmengen zu anderen Rechtsgebieten wie Arbeitsrecht oder Datenschutz hat. Frau Beute konnte dann auch Antwort auf akute Fragen der Teilnehmer:innen geben. Zum Beispiel, ob Mitarbeitende zur Nutzung von KI-Systemen verpflichtet werden drüfen? – Hier sei eine klare Einzelfall-Betrachtung notwendig. Auch die Frage, wie stark ein KI-System das Ergebnis einer ärztlichen Diagnose beeinflusst, wurde intensiv diskutiert.
Konsens bestand darin, dass die meisten Vorgaben des EU AI Acts nicht völlig neu sind, sondern teilweise bereits im Landesrecht – etwas dem IT-Einsatz-Gesetz (ITEG) – von Schleswig-Holstein verankert wurden. Entscheidend bleibt jedoch die Schulung und Kompetenzentwicklung der Mitarbeitenden, um sicher mit KI-Systemen umgehen zu können.
Unternehmensperspektive: Beispiel Mach AG
Christiane Wegner von der Mach AG nahm diesen Ball auf und stellte die unternehmenseigene KI-Strategie vor. Im Mittelpunkt steht dabei der Mensch: Ziel ist es, Arbeitsumgebungen zukunftssicher zu machen und Wertschöpfung durch digitale Technologien nachhaltig zu steigern. Besonders aufschlussreich war die Vorstellung der internen Schulungsprogramme rund um KI.
In einer Kurzumfrage zeigte sich bei der Mach AG: Rund 40% der befragten Mitarbeitenden verfügen noch nicht über ausreichende Kenntnisse im sicheren Einsatz von KI und das trotz IT-affiner Belegschaft. Aus diesem Grund bietet die Mach AG ein gestuftes Schulungskonzept an:
- Grundkurse für alle Mitarbeitenden (online, ca. drei Stunden)
- Spezifische Trainings für Fachabteilungen
- Fortbildungsangebote für Führungskräfte
Ergänzt werden soll das Programm durch Praxiserfahrungen wie Hackathons oder eigene KI-Wikis mit Prompt-Bibliotheken. Perspektivisch sollen die Schulungen nicht nur intern, sondern auch extern für Kunden angeboten werden und potenziell ein neues Geschäftsfeld öffnen.
Human Oversight und Kontrollmechanismen
Tim Schrills, Institut für Multimediale und Interaktive Systeme der Universität zu Lübeck stellte beim Thema "Human Oversight" (menschliche Aufsicht) heraus, dass gerade diese Aufsichtsrolle ein zentrales Element im AI Act darstellt. Der Mensch muss nicht nur technisch in der Lage sein, ein System zu kontrollieren, sondern auch die Ergebnisse einordnen und bei Bedarf Korrekturen vornehmen können. Dazu gehören auch klare Kontrollmechanismen. Im einfachsten Fall gehört dazu die Möglichkeit, ein System sofort zu stoppen per klassischem Stopp-Schalter. Internationale Normierungsprozesse wie die relativ junge ISO 8200:2024 unterstreichen die Bedeutung dieses Themas.
Datenschutz und Datenhoheit
Benjamin Walczak vom Unabhängigen Landeszentrum für Datenschutz Schleswig-Holstein erinnerte daran, dass sich Datenschutz immer an konkreten Verfahren orientiert. Orientierungshilfen der Datenschutzkonferenz und kommende Veröffentlichungen – unter anderem zu RAG-Systemen – sollen hier künftig für mehr Klarheit sorgen. Besonders interessiert wurde die Frage diskutiert, ob Kommunen eigene KI-Koordinatoren benötigen. Dies kann durchaus sinnvoll sein, insbesondere wenn Kompetenzen gebündelt werden.
KI im Medizinbereich
Ludwig Pechmann vom European Digital Innovation Hub Schleswig-Holstein (EDIH.SH) ging speziell auf die Anforderungen für Medizinprodukte ein. Gerade hochriskante adaptive Systeme werfen Fragen auf, die bislang noch nicht im EU AI Act berücksichtigt sind. Wichtig sei es, Transparenz und Erklärbarkeit sicherzustellen, um Vertrauen bei Anwender:innenn und Patient:innen zu schaffen.
In einem internationalen Vergleich wurde betont, dass Europa durch seine einheitliche Regulierung klare Vorteile gegenüber den USA hat, wo bundesstaatliche Einzelregelungen für große Unterschiede sorgen.
Fazit
Abschließend stellte Thies Schönfeldt, Projektleiter des KI-Anwendungszentrums, das Angebot von KI.SH vor, um Unternehmen und öffentliche Institutionen bei der KI-Transformation zu unterstützen. Ziel unseres Angebots ist es, offene Fragen zu klären und Risiken bei der Investition in die neue Technologie zu minimieren.
Die Veranstaltung machte deutlich: Der EU AI Act ist weit mehr als ein abstraktes Gesetzespaket. Für Unternehmen, Verwaltungen und Organisationen ergeben sich konkrete Fragen – von arbeitsrechtlichen Aspekten über Datenschutz bis hin zu Schulungs- und Kompetenzstrategien. Klar ist, dass der Mensch im Mittelpunkt bleibt: Sei es in der Rolle als Nutzer, Entscheider oder Aufsichtsinstanz.
Fragen auch Sie sich, wofür KI in Ihrem Betrieb eingesetzt werden könnte? Oder haben Sie bereits eine konkrete Idee, wissen aber nicht, ob KI hierfür das richtige Mittel ist? Dann melden Sie sich jetzt über unser Kontaktformular.
