EU AI Act: Was jetzt gilt und was kommt

35 Millionen Euro Strafe. Oder 7% des globalen Jahresumsatzes – je nachdem, was höher ist.

Das ist keine theoretische Drohung. Die Verbote für Social Scoring und Emotion Recognition am Arbeitsplatz gelten seit Februar 2025. Wer sie noch nutzt, ist bereits im Verstoß.

Timeline: Was gilt, was kommt

Update September 2026: Die Verschiebung ist beschlossen. Die Kommission hatte den "Digital Omnibus" im November 2025 vorgeschlagen, Parlament und Rat haben zugestimmt. Die Verordnung (EU) 2026/1744 wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Die High-Risk-Pflichten für Systeme nach Anhang III gelten ab dem 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab dem 2. August 2028. Die Pflicht zur KI-Kompetenz (Art. 4) wurde abgeschwächt: Anbieter und Betreiber müssen die Kompetenz ihres Personals nun fördern, statt ein bestimmtes Niveau sicherzustellen. Erleichterungen für KMU gelten jetzt auch für kleine Midcap-Unternehmen.

Nicht verschoben wurde der 2. August 2026. Seit diesem Tag gelten die Transparenzpflichten aus Art. 50, und das AI Office sowie die nationalen Behörden haben ihre Durchsetzungsbefugnisse, auch gegenüber Anbietern von GPAI-Modellen.

Für Ihre Planung: Nutzen Sie die zusätzliche Zeit für fundierte Compliance – nicht als Ausrede zum Abwarten. Die Verbote gelten bereits, und die Dokumentationsanforderungen sind erheblich.

Deutschland: Status quo

Deutschland hat die August-2025-Deadline für die Behörden-Benennung verpasst, bedingt durch die vorgezogenen Bundestagswahlen. Der Bundestag hat das Gesetz am 11. Juni 2026 beschlossen, mit den Stimmen von CDU/CSU und SPD. Das "KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG)" gilt seit dem 29. Juli 2026. Es regelt neben den Zuständigkeiten auch eine unabhängige KI-Marktüberwachungskammer bei der Bundesnetzagentur, KI-Reallabore und die nationalen Bußgeldvorschriften.

Die 4 Risikokategorien

Unacceptable Risk – VERBOTEN seit Februar 2025

Diese Praktiken sind illegal. Keine Übergangsfrist, keine Ausnahmen (außer Strafverfolgung unter strengen Bedingungen):

Das letzte Verbot hat der Digital Omnibus ergänzt. Es gilt ab dem 2. Dezember 2026. Wer Bildgeneratoren anbietet oder einsetzt, sollte die Schutzmaßnahmen bis dahin geprüft haben.

Prüfen Sie jetzt: Nutzen Sie ein HR-Tool mit Stimmungsanalyse? Werden Bewerber-Videos auf "Engagement" analysiert? Das könnte bereits ein Verstoß sein.

High Risk – Compliance bis Dezember 2027

Wenn Ihr KI-System in einen dieser Bereiche fällt, unterliegen Sie den vollständigen Anforderungen der Artikel 9-15. Für die Anhang-III-Bereiche (HR, Kredit, Bildung, kritische Infrastruktur) gilt der 2. Dezember 2027, für Sicherheitskomponenten in regulierten Produkten (Anhang I) der 2. August 2028:

HR & Beschäftigung:

• Bewerber-Screening und CV-Parsing
• Performance-Bewertung
• Beförderungs- und Kündigungsentscheidungen

Kreditwürdigkeit:

• Scoring für natürliche Personen
• Kreditentscheidungen

Bildung:

• Prüfungsbewertung
• Zugangsentscheidungen
• Lernverhalten-Analyse

Kritische Infrastruktur:

• Energie-Management
• Verkehrssteuerung
• Wasserversorgung

Sicherheitskomponenten:

• In Medizinprodukten
• In Maschinen
• In Spielzeugen

Limited Risk – Transparenzpflichten seit August 2026

Diese Pflichten aus Art. 50 gelten seit dem 2. August 2026. Eine Schonfrist gibt es nur an einer Stelle: Generative Systeme, die schon vor diesem Datum auf dem Markt waren, haben für die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 Zeit bis zum 2. Dezember 2026. Als Umsetzungshilfe hat die Kommission am 10. Juni 2026 einen freiwilligen Code of Practice zur Kennzeichnung KI-generierter Inhalte veröffentlicht. Er deckt Deepfakes, KI-generierte Texte zu Themen von öffentlichem Interesse und interaktive Systeme wie Chatbots ab.

Minimal Risk – Keine besonderen Anforderungen

Spam-Filter, KI-gestützte Spiele, einfache Empfehlungsalgorithmen, Korrektur-Assistenten.

Self-Assessment: Bin ich betroffen?

1. Setzen Sie KI ein?
   └─ Nein → Aktuell nicht betroffen (aber planen Sie voraus)
   └─ Ja → weiter

2. Verbotene Kategorie?
   ├─ Social Scoring?
   ├─ Emotion Recognition am Arbeitsplatz?
   ├─ Biometrische Massenüberwachung?
   └─ Ja zu einer → SOFORT STOPPEN (bereits im Verstoß!)

3. High-Risk-Kategorie?
   ├─ HR/Recruiting-Entscheidungen?
   ├─ Kreditwürdigkeitsprüfung?
   ├─ Bildungsentscheidungen?
   ├─ Kritische Infrastruktur?
   └─ Ja → Full Compliance bis 2. Dez 2027 (Produkt-KI nach Anhang I: 2. Aug 2028)

4. Interaktion mit Menschen?
   ├─ Chatbot/Voicebot?
   ├─ Generiert synthetische Inhalte?
   └─ Ja → Transparenzpflichten (gelten seit 2. Aug 2026)

5. Keines der obigen → Minimal Risk

High-Risk: Die 8 Anforderungen im Detail

Wenn Ihr System als High-Risk klassifiziert wird, müssen Sie ALLE folgenden Anforderungen nachweisbar erfüllen.

1. Risk Management System (Art. 9)

Was gefordert ist:

• Dokumentiertes Risikomanagement-System
• Identifikation bekannter und vorhersehbarer Risiken
• Bewertung und Priorisierung
• Mitigationsmaßnahmen
• Kontinuierliche Aktualisierung

Praktische Umsetzung:

2. Data Governance (Art. 10)

Was gefordert ist:

• Dokumentation der Trainingsdaten
• Qualitätskriterien
• Bias-Prüfung
• Nachvollziehbare Daten-Herkunft

Minimum-Dokumentation:

• Datenquellen (woher?)
• Datentypen und -formate
• Verarbeitungsschritte
• Bias-Analyse (durchgeführt? Ergebnis?)
• Repräsentativität (für welche Population geeignet?)
• Erhebungszeitraum

3. Technische Dokumentation (Art. 11)

Umfang: 50-100+ Seiten für komplexe Systeme. Enthält:

• Allgemeine Systembeschreibung
• Design-Spezifikation und Architektur
• Verwendete Algorithmen und Modelle
• Trainings- und Testverfahren
• Leistungskennzahlen und Benchmarks
• Bekannte Einschränkungen

Empfehlung: Beginnen Sie jetzt. Diese Dokumentation lässt sich nicht in wenigen Wochen erstellen.

4. Record-Keeping / Logging (Art. 12)

Was gefordert ist:

• Automatische Protokollierung aller Events
• Rückverfolgbarkeit von Entscheidungen
• Aufbewahrung für Aufsichtsbehörden

# Beispiel: Logging für High-Risk AI-System
audit_log = {
    "timestamp": "2025-12-05T14:30:00Z",
    "system_id": "hr-screening-v2",
    "input_hash": "sha256:abc...",  # Nicht die Daten selbst
    "decision": "recommended_interview",
    "confidence": 0.87,
    "model_version": "v2.3.1",
    "user_id": "recruiter_123",
    "human_override": False
}

Wichtig: Loggen Sie Entscheidungen, nicht die personenbezogenen Daten selbst.

5. Transparenz (Art. 13)

Was gefordert ist:

• Verständliche Bedienungsanleitung
• Erklärung der Funktionsweise
• Dokumentierte Einschränkungen und Risiken
• Informationen über menschliche Aufsicht

Zielgruppe: Die Nutzer des Systems, nicht Data Scientists. In verständlicher Sprache.

6. Human Oversight (Art. 14)

Was gefordert ist:

• Menschen können das System verstehen
• Menschen können Output interpretieren
• Menschen können eingreifen und übersteuern
• Menschen können das System stoppen

Design-Checklist:

7. Accuracy, Robustness, Cybersecurity (Art. 15)

Was gefordert ist:

• Definierte und dokumentierte Genauigkeitsstufen
• Robustheit gegen Fehler und Manipulation
• Cybersecurity-Maßnahmen
• Schutz vor Adversarial Attacks

Minimum-Metriken:

Performance-Baseline:
├─ Accuracy: 94% (auf repräsentativem Testset)
├─ Precision: 91%
├─ Recall: 89%
├─ False Positive Rate: 6%
├─ Subgroup-Fairness: geprüft (keine >5% Abweichung)
├─ Adversarial Robustness: getestet
└─ Security Audit: [Datum]

8. Conformity Assessment (Art. 43)

Optionen:

• Self-Assessment (für die meisten High-Risk-Systeme)
• Third-Party Assessment (bei Biometrie, kritischer Infrastruktur)

Ergebnis:

• CE-Kennzeichnung
• EU-Konformitätserklärung
• Eintrag in EU-Datenbank

Strafen

Für KMU: Der niedrigere absolute Betrag gilt – aber immer noch erheblich. In Deutschland regelt § 15 KI-MIG die Bußgeldvorschriften zur Verordnung.

Die häufigsten Fehler

"Wir haben keine High-Risk-Systeme"

Realität: HR-Tools sind fast immer High-Risk. CV-Parsing, Bewerber-Ranking, Performance-Bewertung – wenn KI an Entscheidungen über Menschen beteiligt ist, prüfen Sie die Klassifizierung genau.

"Das betrifft nur KI-Anbieter"

Realität: Der AI Act gilt für Anbieter UND Betreiber. Wenn Sie ChatGPT Enterprise oder ein SaaS-Tool für Entscheidungen nutzen, die Menschen betreffen, sind Sie Betreiber eines potenziell High-Risk-Systems.

"KI-Entscheidungen sind objektiver als Menschen"

Realität: Der AI Act fordert Human Oversight. Menschen müssen Entscheidungen verstehen und übersteuern können. Vollautomatische Entscheidungen ohne menschliche Kontrolle sind bei High-Risk-Systemen problematisch.

"Wir warten auf die deutsche Umsetzung"

Realität: Dieses Argument hat sich erledigt. Der AI Act gilt als EU-Verordnung ohnehin direkt, und das KI-MIG ist seit dem 29. Juli 2026 in Kraft. Die Bundesnetzagentur ist als Marktüberwachungsbehörde benannt und hat eine zentrale Beschwerdestelle. Warten war nie eine Compliance-Strategie, jetzt fehlt auch der Vorwand.

"Die Deadline wurde ja verschoben"

Realität: Ja, seit Juli 2026 verbindlich auf den 2. Dezember 2027. Das sind von heute aus noch gut 14 Monate, und die Dokumentationsanforderungen sind erheblich. Verschoben wurden außerdem nur die High-Risk-Pflichten. Die Verbote, die Transparenzpflichten aus Art. 50 und die Durchsetzungsbefugnisse der Behörden gelten bereits. Wer jetzt nicht anfängt, wird auch Ende 2027 nicht compliant sein.

Compliance-Roadmap

Die Roadmap ist auf den Stichtag 2. Dezember 2027 gerechnet. Wenn Sie heute starten, sieht sie so aus:

Phase 1: Inventar & Klassifizierung (Q4 2026)

• Alle KI-Systeme erfassen (inkl. Shadow AI, SaaS-Tools)
• Risikokategorie pro System bestimmen
• Verbotene Praktiken sofort stoppen
• Transparenzpflichten nach Art. 50 prüfen (gelten bereits)
• High-Risk-Systeme priorisieren

Phase 2: Gap-Analyse (Q1 2027)

• Anforderungen Art. 9-15 gegen Ist-Zustand prüfen
• Gaps dokumentieren
• Aufwandsschätzung pro Gap
• Roadmap mit Verantwortlichkeiten

Phase 3: Dokumentation (Q1-Q2 2027)

• Technische Dokumentation erstellen
• Risk Management System aufsetzen
• Data Governance dokumentieren
• Logging implementieren

Phase 4: Controls & Testing (Q2-Q3 2027)

• Human Oversight implementieren
• Accuracy/Robustness testen
• Security Audit durchführen
• Transparenz-Materialien erstellen

Phase 5: Assessment & Maintenance (Q3-Q4 2027)

• Conformity Assessment durchführen
• CE-Kennzeichnung anbringen
• EU-Datenbank-Eintrag
• Kontinuierliches Monitoring aufsetzen

Die drei Fragen für Ihr nächstes Board-Meeting

1. Inventar: Welche KI-Systeme haben wir im Einsatz – und in welche Risikokategorie fallen sie?
2. Verantwortung: Wer ist für AI-Act-Compliance verantwortlich, und hat diese Person Budget und Mandat?
3. Nachweis: Können wir dokumentieren, dass unsere High-Risk-Systeme die Artikel 9-15 erfüllen?

Wenn Sie eine dieser Fragen nicht beantworten können, ist jetzt der richtige Zeitpunkt zu starten.

Weiterführend

• NIS2 und KI-Systeme – Überschneidungen mit Cybersecurity-Regulierung
• AI Risk Assessment – Methodik für Risikobewertung
• AI Policy erstellen – Interne Richtlinien und Governance
• DSGVO und LLMs – Datenschutz-Anforderungen