Künstliche Intelligenz

AI ActKI-Verordnung

Artificial Intelligence Act · Verordnung (EU) 2024/1689

Das weltweit erste umfassende KI-Gesetz: Je höher das Risiko einer Anwendung, desto strenger die Regeln.

Gilt stufenweise seit 2025Verordnung
Risikostufen
4
maximales Bußgeld vom Weltumsatz
7 %
Aufschub für Hochrisiko-KI nach Anhang III
16 Monate
Maximale Sanktion
Bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (verbotene Praktiken)

Worum es geht

KI-Systeme entscheiden zunehmend über Kredite, Bewerbungen oder Strafverfolgung. Fehler, Diskriminierung und Manipulation sind schwer zu erkennen. Ohne EU-Regeln drohten 27 unterschiedliche nationale Ansätze.

Beispiel aus der Praxis

Eine Software, die Bewerbungen vorsortiert, ist Hochrisiko-KI. Der Anbieter muss Trainingsdaten auf Verzerrungen prüfen, das System dokumentieren und eine menschliche Kontrolle ermöglichen.

Wen es trifft

Anbieter (Entwickler), Betreiber (Nutzer im beruflichen Kontext), Importeure und Händler von KI-Systemen sowie Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) wie GPT, Claude, Gemini oder Mistral.

Die vier Risikostufen

  1. UnannehmbarVerboten

    Social Scoring, manipulative KI, Emotionserkennung am Arbeitsplatz und in Schulen, ungezieltes Sammeln von Gesichtsbildern, biometrische Echtzeit-Fernidentifizierung durch Polizei (enge Ausnahmen).

  2. HochStrenge Pflichten

    KI in Bildung, Personalauswahl, Kreditvergabe, kritischer Infrastruktur, Justiz, Migration oder in regulierten Produkten: Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht, Registrierung.

  3. BegrenztTransparenz

    Chatbots müssen sich als KI zu erkennen geben; Deepfakes und KI-generierte Inhalte sind zu kennzeichnen.

  4. MinimalKeine Pflichten

    Der Großteil der Anwendungen, etwa Spamfilter, Übersetzung oder KI in Spielen.

Zentrale Pflichten

  • Seit Februar 2025: Verbote gelten; Unternehmen müssen für ausreichende KI-Kompetenz ihrer Mitarbeitenden sorgen (Art. 4).
  • Seit August 2025: GPAI-Anbieter liefern technische Dokumentation, eine Urheberrechts-Strategie und eine Zusammenfassung der Trainingsdaten.
  • Modelle mit systemischem Risiko (Training über 10²⁵ FLOP) zusätzlich: Evaluierungen, Meldung schwerer Vorfälle, Cybersicherheit.
  • Hochrisiko-Systeme: Konformitätsbewertung vor Markteintritt – nach dem Aufschub ab Dezember 2027 bzw. August 2028.

Was es für Sie bedeutet

  • Wissen, wenn man mit einem Chatbot spricht oder einen Deepfake sieht.
  • Beschwerde bei der Marktüberwachungsbehörde.
  • Erklärung einer Entscheidung, die auf Hochrisiko-KI beruht und einen erheblich betrifft (Art. 86).

Zeitplan

  1. In Kraft getreten
  2. Verbote und Pflicht zur KI-Kompetenz
  3. Pflichten für GPAI-Modelle; Behörden und Sanktionen
  4. KI-Omnibus (VO 2026/1744) in Kraft: Aufschub für Hochrisiko
  5. Großteil der Vorschriften anwendbar, u. a. Transparenzpflichten
  6. Hochrisiko-KI nach Anhang III (statt 08/2026)kommt
  7. Hochrisiko-KI in regulierten Produkten (statt 08/2027)kommt

Durchsetzung & Bußgelder

Das KI-Büro der Kommission (AI Office) beaufsichtigt GPAI-Modelle. Im Juli 2025 erschien ein freiwilliger Verhaltenskodex; die meisten großen Anbieter haben ihn unterzeichnet, Meta lehnte ab. In Deutschland ist die Bundesnetzagentur als zentrale Marktüberwachung vorgesehen. Bußgelder wurden bislang nicht verhängt.

Aktueller Stand

Stand 02.11.2026

Weil technische Normen und Leitlinien nicht rechtzeitig fertig wurden, haben Rat und Parlament die Hochrisiko-Pflichten verschoben (KI-Omnibus, in Kraft seit 27.07.2026). KI in Maschinen fällt künftig nicht mehr unter das gesonderte Hochrisiko-Regime des AI Act.

Pro & Contra in Kürze

Spricht dafür

  • Klare rote Linien, etwa gegen Social Scoring
  • Ein Rechtsrahmen für den ganzen Binnenmarkt
  • Transparenz über KI-generierte Inhalte

Spricht dagegen

  • Normen und Leitlinien kamen zu spät – Aufschub nötig
  • Hoher Dokumentationsaufwand für Modellanbieter
  • Abgrenzung von „Hochrisiko“ bleibt im Einzelfall unscharf

Ausführlich und mit Belegen: Bilanz der Digitalregulierung.

Quellen