EU-Verordnung über künstliche Intelligenz (2024) und ihre Änderung durch das „Digitale Omnibus-Paket“ von 2026
Die Verordnung (EU) 2024/1689, die seit dem 1. August 2024 in Kraft ist, regelt KI risikobasiert: acht verbotene Praktiken seit dem 2. Februar 2025, Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, Pflichten für Hochrisiko-Systeme, Transparenzpflichten, Geldbußen von bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes. Die Verordnung (EU) 2026/1744 („Digitaler Omnibus zur KI“), die seit dem 27. Juli 2026 in Kraft ist, hat die Hochrisiko-Pflichten auf den 2. Dezember 2027 und den 2. August 2028 verschoben und ab dem 2. Dezember 2026 ein Verbot von „Nacktdarstellungs-Apps“ und von KI-generierten Darstellungen sexuellen Kindesmissbrauchs hinzugefügt.
Das Wichtigste
Höchstbetrag der Geldbuße für eine verbotene KI-Praxis
7 %
des weltweiten Jahresumsatzes · Angekündigt
gemäß Artikel 99 Absatz 3 der Verordnung[1][2]
Oder 35 Mio. €, wenn dieser Betrag höher ist; für KMU und kleine Midcap-Unternehmen der niedrigere der beiden Beträge.
Stimmen im Europäischen Parlament für die KI-Verordnung
523
13. März 2024 · Beobachtet
laut Europäischem Parlament[7]
46 Gegenstimmen, 49 Enthaltungen.
Stimmen im Europäischen Parlament für das Omnibus-Paket 2026
423
16. Juni 2026 · Beobachtet
laut Europäischem Parlament[9]
57 Gegenstimmen, 174 Enthaltungen.
Geschätzte Verwaltungseinsparungen durch das Digital-Omnibus-Paket zur KI (Obergrenze)
0,43 Mrd. €
erste Schätzung, November 2025 · Angekündigt
laut Europäischer Kommission (Begründung des Vorschlags COM(2025) 836)[5]
Spanne von etwa 297,2 bis 433,2 Mio. € für den ursprünglichen Vorschlag; es wurde keine Folgenabschätzung durchgeführt.
- Status: In Kraft seit dem 2. August 2026. Gilt seit dem 2. August 2026, darunter die Transparenzpflichten nach Artikel 50 und die Geldbußen der Kommission gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck; die Hochrisiko-Anforderungen folgen den 2026 festgelegten Terminen (Dezember 2027 / August 2028).[1][2][9]
- Nächster Termin: 2. Dezember 2026, Anwendung des Verbots der „Nudifizierung“ und KI-generierten Materials über sexuellen Kindesmissbrauch; Kennzeichnungsfrist für bereits auf dem Markt befindliche generative Systeme
Steckbrief
Referenztext
Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Verordnung über künstliche Intelligenz)[1]
Nr. 2024/1689 · 13. Juni 2024
Text lesen ↗Träger
- Thierry Breton[4]Mitglied der Europäischen Kommission, zuständig für den Vorschlag von 2021 (GD CONNECT) · 2021 · Initiator
- Brando Benifei, Dragoş Tudorache[7]Mitberichterstatter des Europäischen Parlaments (Ausschüsse für Binnenmarkt und für bürgerliche Freiheiten) · 2024 · Initiator
- Henna Virkkunen[6]Mitglied der Europäischen Kommission, zuständig für den Vorschlag „Digitaler Omnibus zur KI“ (GD CONNECT) · 2025 · Änderung
- Arba Kokalari, Michael McNamara[8][9]Mitberichterstatter des Europäischen Parlaments zum „Digitalen Omnibus zur KI“ (Ausschüsse für Binnenmarkt und für bürgerliche Freiheiten) · 2026 · Änderung
Umsetzung
- Europäische Kommission, Europäisches KI-Büro (Aufsicht über KI-Modelle mit allgemeinem Verwendungszweck)
- Mitgliedstaaten, nationale Marktüberwachungsbehörden und notifizierende Behörden
- Europäisches Gremium für künstliche Intelligenz (Vertreter der Mitgliedstaaten)
Erklärtes Ziel
Das Funktionieren des Binnenmarkts verbessern und eine menschenzentrierte und vertrauenswürdige KI fördern, bei gleichzeitigem hohem Schutzniveau für Gesundheit, Sicherheit und Grundrechte (einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz) vor schädlichen Auswirkungen von KI-Systemen und bei Unterstützung von Innovation. Die Änderung von 2026 soll die Umsetzung erleichtern, angesichts der verspäteten Normen und Behörden, „ohne das Schutzniveau zu senken“.[1][2]
Nach Artikel 1 der Verordnung (EU) 2024/1689 und den Erwägungsgründen 2 und 3 der Verordnung (EU) 2026/1744
Wichtigste Maßnahmen
- Acht verbotene Praktiken (Artikel 5): schädliche Manipulation oder Täuschung, Ausnutzung von Schwachstellen, Social Scoring, Vorhersage des Straftatenrisikos allein auf Grundlage von Profiling, ungezieltes Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen), biometrische Kategorisierung zur Ableitung sensibler Merkmale sowie biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden, außer bei eng gefassten Ausnahmen mit vorheriger Genehmigung.[1][14]
- Neuntes Verbot, 2026 hinzugefügt und ab dem 2. Dezember 2026 anwendbar: KI-Systeme, die ohne Einwilligung realistische intime Bilder, Videos oder Audioinhalte einer identifizierbaren Person erzeugen („Nudifizierung“) oder Darstellungen des sexuellen Missbrauchs von Kindern; für Anbieter, wenn dies der Zweck des Systems oder ein vorhersehbares Ergebnis ohne angemessene Schutzvorkehrungen ist, und für Nutzer, die sie zu diesem Zweck einsetzen.[2][9]
- Hochrisiko-Systeme (KI als Sicherheitskomponente von Produkten, die unter die europäischen Sicherheitsvorschriften fallen (Anhang I), und KI, die in acht Bereichen des Anhangs III eingesetzt wird, etwa Personaleinstellung, Kreditwürdigkeitsprüfung, Bildung, Strafverfolgung oder Migration): Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Robustheit, Konformitätsbewertung.[1][7]
- KI-Modelle mit allgemeinem Verwendungszweck: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zur Einhaltung des Urheberrechts und eine öffentliche Zusammenfassung der Trainingsinhalte. Modelle, die mit mehr als 10²⁵ Gleitkommaoperationen trainiert wurden, gelten als mit systemischem Risiko behaftet und müssen zusätzlich bewertet werden (auch durch Tests unter Angriffsbedingungen), Risiken mindern, schwerwiegende Vorfälle melden und ihre Cybersicherheit gewährleisten.[1]
- Transparenz: Personen müssen darüber informiert werden, dass sie mit einem KI-System interagieren; durch KI erzeugte Audio-, Bild-, Video- oder Textinhalte müssen in einem maschinenlesbaren Format gekennzeichnet werden; Deepfakes müssen von denjenigen offengelegt werden, die sie verbreiten.[1]
- Sanktionen, die von den Mitgliedstaaten festgelegt werden: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (der jeweils höhere Betrag) bei verbotenen Praktiken; 15 Mio. € oder 3 % bei den meisten übrigen Pflichten; 7,5 Mio. € oder 1 % bei irreführenden Angaben. Für KMU (und seit 2026 für kleine Midcap-Unternehmen) gilt der niedrigere Betrag. Die Kommission kann gegen Anbieter von Modellen mit allgemeinem Verwendungszweck Geldbußen von bis zu 15 Mio. € oder 3 % verhängen.[1][2]
- Governance: Das KI-Büro der Kommission setzt die Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck durch (Auskunftsverlangen, Bewertungen, Geldbußen) und beaufsichtigt KI-Systeme, die auf einem Modell desselben Anbieters beruhen; diese Rolle wurde 2026 gestärkt. Die nationalen Marktüberwachungsbehörden kontrollieren den Rest; das KI-Gremium versammelt die Mitgliedstaaten.[1][2][13]
- Vereinfachungen von 2026: engere Definition der „Sicherheitskomponente“; die Pflicht zur KI-Kompetenz wird zu einer Pflicht abgeschwächt, Maßnahmen zur Unterstützung der Schulung des Personals zu ergreifen; ausnahmsweise Verarbeitung personenbezogener Daten zur Erkennung und Korrektur von Verzerrungen; Maschinen werden auf ihre eigenen sektoralen Sicherheitsvorschriften verwiesen; Erleichterungen für KMU werden auf kleine Midcap-Unternehmen ausgeweitet.[2][1]
In Daten
Unternehmen mit KI-Nutzung (10 und mehr Beschäftigte)
20%
2025
Personen, die generative KI-Tools nutzen
32,7%
2025
Chronologie
- In Beratung
Das Parlament nimmt seine Abänderungen an: Verhandlungen mit dem Rat[4]
Vorläufige Einigung zwischen den Verhandlungsführern des Parlaments und des Rates[7]
Beschluss der Kommission zur Einrichtung des KI-Büros[1]
Die Verordnung definiert das KI-Büro als die Funktion der Kommission zur Umsetzung, Begleitung und Beaufsichtigung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck, die im Beschluss der Kommission vom 24. Januar 2024 vorgesehen ist.
Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck veröffentlicht[11][12]
Freiwilliger Kodex, verfasst von 13 unabhängigen Sachverständigen unter Mitwirkung von mehr als 1 000 Interessenträgern, in drei Kapiteln (Transparenz, Urheberrecht, Sicherheit und Gefahrenabwehr). Die Kommission und das KI-Gremium haben ihn als geeignet beurteilt, um die Einhaltung der Vorschriften nachzuweisen; zu den von der Kommission aufgeführten Unterzeichnern zählen Amazon, Anthropic, Google, IBM, Microsoft, Mistral AI und OpenAI.
- In Kraft
Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck, Governance und Sanktionen gelten[1]
Es gelten die Bestimmungen zu notifizierten Stellen (Kapitel III, Abschnitt 4), KI-Modellen mit allgemeinem Verwendungszweck (Kapitel V), Governance (Kapitel VII), Sanktionen (Kapitel XII, außer den Geldbußen der Kommission gegen Anbieter von Modellen) und Vertraulichkeit.
Die Kommission schlägt den „Digitalen Omnibus zur KI“ vor (COM(2025) 836)[5][6]
Unter Verweis auf die Verzögerungen bei den harmonisierten Normen und beim Aufbau der nationalen Behörden knüpfte der Vorschlag den Beginn der Anwendung der Hochrisiko-Pflichten an einen Beschluss der Kommission, der die Verfügbarkeit von Hilfsmitteln zur Einhaltung der Vorschriften feststellt, mit Stichtagen am 2. Dezember 2027 und am 2. August 2028. Anbietern generativer Systeme, die bereits auf dem Markt sind, räumte er bis zum 2. Februar 2027 Zeit ein, um KI-generierte Inhalte zu kennzeichnen.
Der Rat legt seine Position zum Digitalen Omnibus zur KI fest[10]
Das Europäische Parlament nimmt seine Änderungen am Omnibus an[6]
Vorläufige Einigung zwischen Parlament und Rat über den Omnibus[8]
Die Verhandlungsführer legen feste Termine für die Hochrisiko-Pflichten fest und ziehen die Frist zur Kennzeichnung KI-generierter Inhalte auf den 2. Dezember 2026 vor, statt auf den 2. Februar 2027, wie im Vorschlag der Kommission vorgesehen.
- In Kraft
Geändert durch die Verordnung (EU) 2026/1744 („Digitaler Omnibus zur KI“)[2][6]
Hochrisiko-Pflichten verschoben auf den 2. Dezember 2027 (Verwendungszwecke nach Anhang III) und den 2. August 2028 (KI in Produkten, die unter Anhang I fallen); neues Verbot von „Nacktdarstellungs-Apps“ und KI-generierten Darstellungen sexuellen Kindesmissbrauchs ab dem 2. Dezember 2026.
- In Kraft
Allgemeines Anwendungsdatum: Die meisten übrigen Bestimmungen gelten[1][2][9]
Gilt seit dem 2. August 2026, darunter die Transparenzpflichten nach Artikel 50 und die Geldbußen der Kommission gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck; die Hochrisiko-Anforderungen folgen den 2026 festgelegten Terminen (Dezember 2027 / August 2028).
- Bevorstehend: Der Ausgang ist nicht bekannt
Anwendung des Verbots der „Nudifizierung“ und KI-generierten Materials über sexuellen Kindesmissbrauch; Kennzeichnungsfrist für bereits auf dem Markt befindliche generative Systeme[2]
Die neuen Buchstaben ba und bb des Artikels 5 Absatz 1 gelten. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Inhalte dann maschinenlesbar und erkennbar kennzeichnen (Artikel 50 Absatz 2).
- Bevorstehend: Der Ausgang ist nicht bekannt
Anwendung der Pflichten für Hochrisiko-KI-Systeme nach Anhang III[2][1]
Biometrie, kritische Infrastrukturen, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration und Grenzkontrolle, Justiz und demokratische Prozesse. Ursprünglicher Termin: 2. August 2026, vor der Änderung von 2026.
Argumente der Debatte
Citoyen bezieht keine Position: Die Argumente werden so wiedergegeben, wie ihre Urheber sie formulieren.
Laut den Befürwortern
- Die Berichterstatter des Parlaments stellten sie als das weltweit erste verbindliche Gesetz über KI vor, das Risiken verringern, Diskriminierung bekämpfen und Transparenz schaffen soll, indem inakzeptable Praktiken verboten und die Rechte von Beschäftigten und Bürgern geschützt werden (Brando Benifei, S&D) und KI an die Grundwerte der Union gebunden wird (Dragoş Tudorache, Renew).[7]
- Für die Kommission und die Mitgesetzgeber trägt die Verschiebung von 2026 dem verspäteten Vorliegen harmonisierter Normen und nationaler Behörden Rechnung, wodurch die Umsetzung aufwendiger wurde als erwartet; die Kommission bezifferte die Einsparungen auf 297 bis 433 Mio. €. Der EWSA hatte empfohlen, die Fristen für Hochrisiko-Systeme an die Verfügbarkeit der Normen anzupassen.[2][5][16]
- Arba Kokalari (EVP), Mitberichterstatterin zum Omnibus, argumentiert, ein „Druck auf die Pausentaste“ und der Abbau von Bürokratie würden die Gründung von Technologieunternehmen in Europa erleichtern; Mitberichterstatter Michael McNamara (Renew) erklärt, der Text schaffe Rechtssicherheit und wahre zugleich die Architektur der Verordnung, und fügt ein ausdrückliches Verbot von Nacktbild-Apps („Nudification“-Apps) hinzu.[9]
Laut den Gegnern
- Der Europäische Wirtschafts- und Sozialausschuss hielt die Verbote 2021 für zu eng gefasst: Er forderte ein Verbot der automatisierten biometrischen Erkennung in öffentlich und privat zugänglichen Räumen (außer zur Authentifizierung) sowie der Erkennung von Verhaltenssignalen, während der endgültige Text die Echtzeit-Identifizierung durch die Polizei in aufgeführten Fällen erlaubt und andere biometrische Anwendungen als Hochrisiko einstuft.[15][1]
- Der Europäische Ausschuss der Regionen bedauerte, dass die Omnibus-Pakete weder Folgenabschätzungen noch öffentlichen Konsultationen unterzogen wurden, um ihre Auswirkungen auf die Garantien der Grundrechte zu bewerten; die Kommission gibt an, keine Folgenabschätzung durchgeführt zu haben, da sie die Änderungen für technischer Natur hielt.[17][5]
- Der EWSA forderte, die ausdrückliche Pflicht beizubehalten, unter dem Personal ein ausreichendes Maß an KI-Kompetenz sicherzustellen (der Text von 2026 ersetzte sie durch eine Pflicht, Maßnahmen zu deren Förderung zu ergreifen), und die Transparenz gegenüber den Behörden zu wahren, wenn ein Anbieter ein System aus Anhang III als nicht hochriskant einstuft.[16][2]
Indikatoren im Blick
- Unternehmen, die KI nutzen (10 und mehr Beschäftigte) · EurostatKarte ansehen →
- Personen, die generative KI-Tools nutzen · EurostatKarte ansehen →
- Jahresberichte über den Einsatz der biometrischen Echtzeit-Fernidentifizierung durch Strafverfolgungsbehörden (Artikel 5 Absatz 7) · Commission européennenoch keine Citoyen-Karte
Quellen
- [1]Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), OJ L, 2024/1689, 12.7.2024 –EUR-Lex, Official Journal of the European Union, 12. Juli 2024
- [2]Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026 amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI), OJ L, 2026/1744, 24.7.2026 –EUR-Lex, Official Journal of the European Union, 24. Juli 2026
- [3]Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), COM(2021) 206 final –European Commission (EUR-Lex), 21. April 2021
- [4]Procedure 2021/0106/COD: steps of the procedure –EUR-Lex
- [5]Proposal for a Regulation amending Regulations (EU) 2024/1689 and (EU) 2018/1139 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI), COM(2025) 836 final –European Commission (EUR-Lex), 19. November 2025
- [6]Procedure 2025/0359/COD: steps of the procedure –EUR-Lex
- [7]Artificial Intelligence Act: MEPs adopt landmark law (press release) –European Parliament, 13. März 2024
- [8]AI Act: deal on simplification measures, ban on “nudifier” apps (press release) –European Parliament, 7. Mai 2026
- [9]AI Act: EP approves simplification measures and “nudifier” app ban (press release) –European Parliament, 16. Juni 2026
- [10]Legislative Train Schedule: Digital omnibus on AI, 2025/0359(COD) –European Parliament
- [11]The General-Purpose AI Code of Practice (contents and signatories) –European Commission, Shaping Europe’s digital future
- [12]The General-Purpose AI Code of Practice is now available –European Commission, Shaping Europe’s digital future
- [13]European AI Office –European Commission, Shaping Europe’s digital future
- [14]AI Act: regulatory framework for AI –European Commission, Shaping Europe’s digital future
- [15]Opinion of the European Economic and Social Committee on the Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) (2021/C 517/09) –European Economic and Social Committee (EUR-Lex, OJ C 517, 22.12.2021), 22. Dezember 2021
- [16]Opinion of the European Economic and Social Committee on the Digital Omnibus on AI and the Digital Omnibus (C/2026/3225) –European Economic and Social Committee (EUR-Lex, OJ C, 2.7.2026), 2. Juli 2026
- [17]Opinion of the European Committee of the Regions: Digital simplification and Data Union Strategy (C/2026/3469) –European Committee of the Regions (EUR-Lex, OJ C, 24.7.2026), 24. Juli 2026
