Der EU AI Act ist die weltweit erste umfassende KI-Regulierung — und die erste, deren materielle Pflichten nun für Systeme gelten, die bereits im Betrieb sind. Was das für Ihr Unternehmen in operativen Begriffen bedeutet.
Einleitung
Der AI Act der Europäischen Union ist ein bewusster Versuch, für künstliche Intelligenz das zu leisten, was die DSGVO für personenbezogene Daten geleistet hat: einen einheitlichen, horizontal anwendbaren Rechtsrahmen, der Pflichten definiert, Verantwortung entlang der Wertschöpfungskette zuweist und einen glaubwürdigen Durchsetzungsmechanismus schafft. 2024 verabschiedet und in seinen Kernbestimmungen heute vollständig anwendbar, regelt er das Inverkehrbringen, die Inbetriebnahme und den Einsatz von KI-Systemen innerhalb der Union — und gilt entscheidend extraterritorial für Anbieter und Betreiber außerhalb der Union, sobald der Output eines KI-Systems innerhalb der Union genutzt wird. Für die meisten Organisationen mit europäischen Kunden, Mitarbeitenden oder Operationen lautet die relevante Frage nicht mehr, ob der AI Act gilt, sondern an welchen Stellen ihres KI-Portfolios er am stärksten greift.
Eine risikobasierte Architektur
Die prägende Designentscheidung des Acts ist es, KI nicht nach der zugrundeliegenden Technologie zu regulieren, sondern nach dem Risiko, das ein System bringt. Vier Risikostufen sind definiert, und das regulatorische Gewicht jeder Stufe ist auf den Schaden kalibriert, den Missbrauch, Fehlfunktion oder Routinebetrieb eines Systems in dieser Stufe verursachen kann. Diese Architektur ist erfahrungsgemäß zugleich die größte Stärke des Acts und die Quelle der meisten frühen Implementierungsschwierigkeiten: Organisationen müssen Klassifizierungsentscheidungen treffen, bevor sie Compliance-Pläne machen können, und die Klassifizierung ist nicht immer offensichtlich.
Die Stufe „unannehmbares Risiko" benennt eine kleine Zahl von KI-Anwendungen, die der Gesetzgeber unabhängig von Schutzmaßnahmen für unzulässig erklärt hat. Social Scoring natürlicher Personen durch öffentliche Stellen, biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (mit eng gefassten Strafverfolgungs-Ausnahmen), Predictive Policing auf Basis von Personen-Profiling und eine Handvoll weiterer Praktiken fallen in diese Kategorie. Für die meisten Organisationen besteht die praktische Konsequenz darin, zu verifizieren, dass kein System ihres Portfolios unbeabsichtigt in dieser Stufe landet — denn die Folge ist nicht ein Bußgeld, sondern ein Verbot.
Die Hochrisiko-Stufe ist der Ort, an dem sich die substanzielle Compliance-Arbeit konzentriert. KI-Systeme, die Gesundheit, Sicherheit oder Grundrechte erheblich berühren — eingesetzt in kritischer Infrastruktur, in Bildung und Berufsausbildung, in Beschäftigung und HR-Management, im Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen, in Strafverfolgung, in Migration und Grenzkontrolle, in der Justizverwaltung — müssen vor dem Inverkehrbringen und über ihre gesamte Betriebsdauer hinweg eine erhebliche Reihe von Anforderungen erfüllen. Die Liste der Hochrisiko-Kategorien ist folgenreich und in der Praxis länger und breiter, als viele Organisationen anfangs erwarten — und die häufigste Überraschung einer ersten AI-Act-Gap-Analyse ist, dass mehr Systeme in diese Stufe fallen als die zentrale Funktion vermutet hatte.
Die Stufe „begrenztes Risiko" erfasst Systeme, deren wesentliches regulatorisches Anliegen Transparenz statt Sicherheit ist. Chatbots müssen offenlegen, dass die Nutzerin mit einer KI und nicht mit einem Menschen interagiert; Emotionserkennungssysteme müssen die exponierten natürlichen Personen informieren; Deepfakes und andere synthetisch erzeugte Inhalte müssen gekennzeichnet sein. Diese Pflichten sind technisch nicht schwer zu erfüllen, werden aber in frühen Produktphasen routinemäßig übersehen, und sie nachträglich einzubauen erfordert UX-Kompromisse, die sich hätten vermeiden lassen.
Die Stufe „minimales Risiko" — zu der zahlenmäßig immer noch die große Mehrheit der KI-Anwendungen gehört, von Spam-Filtern über Empfehlungssysteme bis zu KI-gestützten Videospielen — bringt unter dem Act keine spezifischen Pflichten mit sich, wobei andere Regime (DSGVO, sektorale Regeln, allgemeine Produktsicherheit) selbstverständlich weiter gelten, wo einschlägig.
Was Compliance tatsächlich erfordert
Für Systeme der Hochrisiko-Stufe legt der Act eine kohärente, aber substanzielle Reihe von Pflichten fest, die in Kombination definieren, was es heute heißt, ein Hochrisiko-KI-System in der Union rechtmäßig zu betreiben. Ein Risikomanagementsystem muss über den gesamten Lebenszyklus hinweg etabliert und gepflegt werden — nicht als einmaliges Lieferobjekt, sondern als kontinuierlicher Prozess, der die Risiken des Systems identifiziert, bewertet und mindert und diese Bewertungen mit der Entwicklung des Systems wieder aufnimmt. Ein Qualitätsmanagementsystem muss den Entwicklungs- und Betriebsprozess steuern, mit dokumentierten Verfahren, definierten Verantwortlichkeiten und prüfbaren Belegen der Ausführung. Datenschutz- und Datenqualitätsanforderungen greifen tief: Trainings-, Validierungs- und Testdatensätze müssen relevant, hinreichend repräsentativ, soweit möglich fehlerfrei und für den vorgesehenen Zweck angemessen sein, und die Herkunft dieser Datensätze muss so dokumentiert werden, dass sie unter Audit rekonstruierbar bleibt.
Technische Dokumentation muss in einer Detailtiefe erstellt und gepflegt werden, die einer zuständigen Behörde erlaubt, die Konformität mit den materiellen Anforderungen des Acts zu beurteilen — sie ist kein Marketingdokument, sondern technischer Nachweis darüber, wie das System funktioniert, worauf es trainiert wurde, wie es getestet wurde, welche Grenzen bekannt sind und welche Kontrollen seinen Betrieb steuern. Automatische Ereignisprotokollierung — Logging im operativen Sinn — muss in einem Standard aktiviert sein, der Nachvollziehbarkeit der Funktion über die Lebensdauer hinweg unterstützt, und die resultierenden Logs müssen angemessen aufbewahrt werden. Transparenzpflichten verlangen, dass Nutzer:innen prägnante und verständliche Anleitungen erhalten, mit Informationen über Zweck, Genauigkeit, bekannte Grenzen und einschlägige Maßnahmen menschlicher Aufsicht.
Menschliche Aufsicht — vielleicht die folgenreichste der materiellen Anforderungen — muss von Anfang an in das System hineinkonstruiert werden, statt als prozedurale Schicht nachgeschoben. Die natürlichen Personen, die mit der Aufsicht beauftragt sind, müssen in der Lage sein, Fähigkeiten und Grenzen zu verstehen, den Betrieb zu überwachen, einzugreifen, wenn nötig, und Outputs zu übersteuern oder zu verwerfen, wo angemessen. Und das System als Ganzes muss über seinen Lebenszyklus ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen, mit Maßnahmen gegen Fehler, Ausfälle, Inkonsistenzen und adversariale Eingaben.
Zeitplan und gegenwärtiger Stand
Der Act trat 2024 in Kraft und wird in einem etwa dreijährigen Fenster eingeführt. Verbote unzulässiger KI-Systeme gelten seit 2025. Die materiellen Pflichten für Hochrisiko-Systeme sind seit 2026 vollständig anwendbar und gelten heute. Die vollständige Umsetzung aller Bestimmungen — einschließlich des Regimes für GPAI-Modelle — wird über 2027 abgeschlossen. Organisationen, die den AI Act noch immer als zukünftige Pflicht behandeln, sind zum Zeitpunkt dieses Beitrags bereits nicht-konform für jedes Hochrisiko-System im Betrieb, und die Aufsichtsbehörden haben begonnen, daraus Konsequenzen zu ziehen.
Was eine Organisation tatsächlich tun sollte
Der ehrliche Ausgangspunkt ist ein Inventar jedes KI-Systems im Betrieb oder im Pilotbetrieb — einschließlich der Systeme, die einzelne Teams ohne Information der zentralen Funktion eingeführt haben, und der Drittdienste mit eingebetteten KI-Komponenten, deren Status unter dem Act bisher nicht betrachtet wurde. Aus dem Inventar lässt sich für jedes System die Einstufung in die Risikostufen des Acts vornehmen, mit dokumentierter Begründung, die später verteidigbar bleibt. Die Gap-Analyse gegen die materiellen Anforderungen identifiziert dann für jedes Hochrisiko-System den Abstand zwischen aktueller Praxis und gefordertem Zustand. Eine Roadmap sequenziert die Umsetzung entlang operativer Prioritäten und regulatorischer Exposition. Und die Implementierung baut die Kontrollen, die Dokumentation und die operativen Praktiken, die der Act verlangt — mit dem Bewusstsein, dass es sich nicht um einmalige Lieferobjekte handelt, sondern um fortlaufende Verpflichtungen, die so lange gepflegt werden müssen, wie die Systeme im Betrieb sind.
Kontakt
Den AI Act gegen ein konkretes Portfolio von Systemen abzugleichen, ist die Art von Übung, die von einem zweiten Paar Augen profitiert — genau diese Arbeit machen wir. Wenn Sie Ihre Situation besprechen möchten, beginnen wir gerne mit einem kostenfreien Erstgespräch.
Kontaktieren Sie uns für eine Beratung
Dieser Artikel dient ausschließlich zu Informationszwecken und stellt keine Rechtsberatung dar.