Der AI Act und seine Risikoklassen
Europa reguliert KI nicht nach Technologie, sondern nach Anwendungsfall. Vier Risikostufen entscheiden über die Pflichten.
Microsoft Katja (Neural, deutsch)
Die europäische KI-Verordnung, meist AI Act genannt, verfolgt einen risikobasierten Ansatz. Nicht das Modell selbst wird bewertet, sondern die konkrete Anwendung — dieselbe Technik kann damit in einem Kontext frei zulässig und in einem anderen verboten sein.
Vier Stufen
Verboten sind Praktiken, die als unvereinbar mit Grundrechten gelten: etwa Social Scoring durch staatliche Stellen, manipulative Systeme, die Schwächen bestimmter Gruppen ausnutzen, sowie bestimmte Formen biometrischer Fernidentifizierung im öffentlichen Raum, für die es eng gefasste Ausnahmen im Bereich der Strafverfolgung gibt.
Hochrisiko-Anwendungen sind erlaubt, aber an umfangreiche Pflichten gebunden. Dazu zählen Systeme in kritischer Infrastruktur, in der Personalauswahl, bei Kreditvergabe, in Bildung, Justiz und Migration. Verlangt werden Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie eine Konformitätsbewertung vor dem Inverkehrbringen.
Für Systeme mit begrenztem Risiko gelten Transparenzpflichten: Menschen müssen erfahren, dass sie mit einer Maschine sprechen; künstlich erzeugte oder manipulierte Inhalte sind zu kennzeichnen. Alles Übrige unterliegt keinen besonderen Anforderungen.
Allzweck-Modelle
Für große Basismodelle enthält die Verordnung eigene Regeln: technische Dokumentation, Angaben zu den Trainingsdaten im Hinblick auf das Urheberrecht und, bei Modellen mit systemischem Risiko, zusätzliche Prüfungen und Meldepflichten für schwerwiegende Vorfälle.
Zeitplan und Zuständigkeit
Die Pflichten greifen gestaffelt über mehrere Jahre nach Inkrafttreten, beginnend mit den Verboten. Überwacht wird durch nationale Marktüberwachungsbehörden, ergänzt um ein KI-Büro auf europäischer Ebene. Bei Verstößen drohen Bußgelder, die sich am weltweiten Jahresumsatz orientieren.
Die Kritik
Unternehmen verweisen auf Dokumentationsaufwand und Rechtsunsicherheit bei der Einordnung; Bürgerrechtsorganisationen halten die Ausnahmen bei biometrischer Überwachung für zu weit. Wie belastbar der Rahmen ist, wird sich an der Praxis der Behörden zeigen — und an den Normen, die den abstrakten Anforderungen technische Gestalt geben.