Der EU AI Act ist keine Zukunftsfrage — er gilt bereits, und die vollständige Durchsetzung für Hochrisiko-KI-Systeme beginnt im August 2026. Deutsche KMU, die KI einsetzen, müssen jetzt handeln.
Eine neue Regulierungsschicht für KI
Der EU AI Act, der im August 2024 in Kraft getreten ist, stellt den weltweit ersten umfassenden rechtlichen Rahmen für künstliche Intelligenz dar. Anders als sektorspezifische Vorschriften gilt er branchenübergreifend und betrifft jede Organisation, die KI-Systeme auf dem EU-Markt einsetzt, entwickelt oder einführt — unabhängig von ihrer Größe.
Für Großunternehmen mit eigenen Compliance-Teams kommt damit eine weitere Regulierung hinzu. Für deutsche KMU stellt sich eine grundlegendere Frage: Wissen wir überhaupt, welche KI-Systeme wir betreiben, und fallen einige davon unter erhebliche Pflichten?
Die Antwort hängt davon ab, wie das Gesetz die betreffenden KI-Systeme klassifiziert.
Die vier Risikostufen
Der EU AI Act ordnet KI-Systeme in vier Risikokategorien ein, die jeweils unterschiedliche Pflichten mit sich bringen.
Inakzeptables Risiko — verbotene Systeme. Eine kleine Gruppe von KI-Anwendungen ist grundsätzlich verboten: Systeme zur sozialen Bewertung von Menschen anhand ihres Verhaltens, zur biometrischen Echtzeit-Überwachung in öffentlichen Räumen für Strafverfolgungszwecke sowie Systeme, die psychologische Schwachstellen ausnutzen, um Verhalten zu manipulieren. Diese Verbote gelten für alle Organisationen und sind seit Februar 2025 in Kraft.
Hohes Risiko — umfangreiche Pflichten. Diese Kategorie erfordert die größte Aufmerksamkeit. Hochrisiko-KI-Systeme umfassen solche, die im Personalwesen und bei der Personalauswahl eingesetzt werden (automatisierte Lebenslaufanalyse, Kandidatenbewertung), bei der Kreditwürdigkeitsprüfung und Versicherungsrisikoeinschätzung, bei der medizinischen Diagnoseunterstützung, in sicherheitskritischen Systemen in Verkehr oder Produktion sowie bei Bildungsbewertungen. Wer Software in diesen Kategorien einsetzt, unterliegt erheblichen Compliance-Pflichten: Konformitätsbewertung, technische Dokumentation, menschliche Aufsichtsmechanismen, Audit-Trails und in einigen Fällen eine Registrierung in einer EU-Datenbank vor der Inbetriebnahme.
Begrenztes Risiko — Transparenzpflichten. Chatbots, Inhaltsgenerierungstools und Systeme, die in natürlicher Sprache mit Nutzern interagieren, fallen in diese Kategorie. Die Hauptpflicht ist Transparenz: Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren. Für die meisten KMU, die allgemeine LLM-Schnittstellen für Kundenservice oder Content-Erstellung nutzen, ist dies die zutreffende Stufe.
Minimales Risiko — keine besonderen Pflichten. Spam-Filter, KI-gestützte Spiele und die meisten Empfehlungssysteme in nicht sicherheitskritischen Anwendungen fallen hierunter. Es gelten keine zusätzlichen Compliance-Belastungen.
Was hohes Risiko in der Praxis bedeutet
Wenn Ihr Unternehmen in der Hochrisiko-Kategorie tätig ist — auch als Nutzer eines Drittanbieter-KI-Systems und nicht als dessen Entwickler — sind die Pflichten erheblich.
Eine Konformitätsbewertung muss vor der Inbetriebnahme nachweisen, dass das System die technischen Anforderungen des Gesetzes erfüllt. Eine technische Dokumentation muss Zweck, Trainingsdaten, Fähigkeiten, Grenzen und Risikomaßnahmen des Systems beschreiben. Eine menschliche Aufsicht muss in den Arbeitsablauf eingebaut sein: Ein Mensch muss in der Lage sein, die Ausgaben des Systems zu überwachen, einzugreifen und sie zu übersteuern. Ein Audit-Trail muss die vom KI-System getroffenen oder unterstützten Entscheidungen aufzeichnen, einschließlich Eingaben, Ausgaben und menschlicher Eingriffe. Für bestimmte Systeme ist eine Registrierung in der EU-KI-Datenbank vor der Inbetriebnahme verpflichtend.
Dies sind keine einmaligen Aufgaben. Die Dokumentation muss während der gesamten Betriebsdauer des Systems gepflegt und aktualisiert werden, und die Konformitätsbewertung muss wiederholt werden, wenn das System wesentliche Änderungen erfährt.
DSGVO und AI Act: Zwei Rahmen, ein System
Ein wichtiger Punkt, den viele KMU-Berater übersehen: Der EU AI Act ersetzt die DSGVO nicht. Beide gelten gleichzeitig für KI-Systeme, die personenbezogene Daten verarbeiten — was praktisch jede kundenorientierte Anwendung, HR-Tool oder Analyseplattform einschließt.
In der Praxis bedeutet das, dass sich Compliance-Pflichten stapeln. Ein Hochrisiko-KI-System im Personalwesen muss sowohl die Konformitäts- und Dokumentationsanforderungen des AI Acts als auch die Datensparsamkeits-, Einwilligungs- und Betroffenenrechtsanforderungen der DSGVO erfüllen. Ein LLM-basiertes Kundendienst-System muss über seine KI-Natur transparent sein (AI Act) und eine Rechtsgrundlage für die Verarbeitung von Kundengesprächen haben (DSGVO).
Es gibt jedoch eine bedeutsame Übereinstimmung zwischen den Rahmen. Die Anforderung des AI Acts an technische Dokumentation deckt sich weitgehend mit Art. 30 DSGVO (Verzeichnis von Verarbeitungstätigkeiten). Die Aufsichtspflicht des AI Acts stärkt Art. 22 DSGVO (Rechte bei automatisierten Entscheidungen). Privacy by Design nach Art. 25 DSGVO — Datenschutz von Anfang an in die Systemarchitektur einbauen — unterstützt direkt die by-Design-Sicherheits- und Transparenzanforderungen des AI Acts.
Die praktische Konsequenz: Organisationen, die die DSGVO ernsthaft umgesetzt haben, haben einen Vorsprung bei der AI-Act-Compliance, müssen aber spezifische Lücken schließen — insbesondere bei technischer Dokumentation und Konformitätsbewertung für Hochrisiko-Systeme.
Eine Fünf-Schritte-Checkliste für KMU
Anstatt den AI Act als abstrakte regulatorische Herausforderung zu behandeln, übersetzen die folgenden fünf Schritte seine Anforderungen in konkrete Maßnahmen für Organisationen typischer KMU-Größe.
Schritt 1: Inventarisieren Sie Ihre KI-Systeme. Erstellen Sie eine Liste aller KI-Tools oder -Systeme, die Ihr Unternehmen nutzt — ob intern entwickelt oder als Service bezogen. Schließen Sie LLM-APIs, automatisierte Entscheidungstools, Analyseplattformen und KI-Funktionen in bestehender Software ein (viele CRM- und HR-Systeme enthalten heute KI-Komponenten, die nicht auf den ersten Blick erkennbar sind).
Schritt 2: Klassifizieren Sie jedes System nach Risikostufe. Bestimmen Sie für jeden Eintrag in Ihrer Inventarliste, ob er in eine verbotene, Hochrisiko-, begrenzte oder minimale Risikokategorie fällt. Achten Sie besonders auf Systeme, die Beschäftigungsentscheidungen, Kreditwürdigkeit, Zugang zu wesentlichen Dienstleistungen oder sicherheitskritische Abläufe betreffen.
Schritt 3: Prüfen Sie die Datenverarbeitungsstandorte Ihrer KI-Anbieter. Wenn Sie cloudbasierte KI-Dienste nutzen — OpenAI, Azure OpenAI, Google Vertex AI oder ähnliches — prüfen Sie, ob Ihre Daten innerhalb der EU verarbeitet und gespeichert werden. Grenzüberschreitende Übermittlungen außerhalb der EU lösen DSGVO-Transfermechanismen aus (Angemessenheitsbeschlüsse, Standardvertragsklauseln) — zusätzlich zu den AI-Act-Pflichten. Anbieter, die Daten ausschließlich in EU-Infrastruktur verarbeiten, vereinfachen dies erheblich.
Schritt 4: Richten Sie einen Audit-Trail ein. Implementieren Sie für jedes KI-System, das an wesentlichen Entscheidungen beteiligt ist, eine Protokollierung, die erfasst, welche Eingabe gemacht wurde, welche Ausgabe erzeugt wurde, wann und von wem. Dies dient sowohl der AI-Act-Compliance (Audit-Trail-Anforderungen für Hochrisiko-Systeme) als auch der DSGVO-Rechenschaftspflicht (Art. 5 Abs. 2) — und liefert die Tatsachengrundlage, falls eine Entscheidung angefochten wird.
Schritt 5: Benennen Sie eine verantwortliche Person für KI-Compliance. Designieren Sie jemanden in der Organisation — das muss kein dedizierter KI-Compliance-Beauftragter sein —, der für die Pflege des KI-Inventars, die Verfolgung regulatorischer Entwicklungen und die Koordination mit Rechtsberatern bei neuen KI-Systemen zuständig ist. In Organisationen mit einem Datenschutzbeauftragten liegt es nahe, diese Rolle auf KI-Compliance zu erweitern.
Architektur als Compliance-Infrastruktur
Eine Beobachtung, die für Organisationen relevant ist, die KI-Infrastrukturentscheidungen treffen: Viele der Compliance-Anforderungen des AI Acts lassen sich strukturell leichter erfüllen als durch manuelle Prozesse.
Eine Architektur, die alle KI-Anfrage- und Antwortdaten innerhalb der eigenen Infrastruktur der Organisation hält — statt sie durch externe Dienste mit intransparenter Datenhandhabung zu leiten — erfüllt DSGVO-Datenresidenzanforderungen und AI-Act-Datenverwaltungspflichten, ohne kontinuierliche manuelle Überprüfung zu erfordern. Ein System, das jede KI-Interaktion automatisch protokolliert, erzeugt den Audit-Trail, den beide Rahmen verlangen. Eine Gateway-Schicht, die konsistente Richtlinien über alle KI-Anfragen hinweg durchsetzt, macht menschliche Aufsicht skalierbar — statt sie vom Verhalten einzelner Nutzer abhängig zu machen.
Diese Architektuреigenschaften ersetzen nicht die rechtliche und organisatorische Compliance-Arbeit, verwandeln aber mehrere der aufwendigsten Anforderungen von Positionen auf einer manuellen Checkliste in Eigenschaften des Systems selbst.
Die Durchsetzungsfrist im August 2026 für Hochrisiko-KI-Systeme rückt näher. Für deutsche KMU lautet die Frage nicht, ob sie sich mit dem AI Act befassen müssen, sondern wie sie dies proportional zu ihrer Größe und integriert mit der bereits geleisteten DSGVO-Compliance-Arbeit tun können.