Modul 5 von 9
ca. 5 Min. Lesezeit
Hochrisiko-KI konkret
Welche KI-Systeme sind
wirklich Hochrisiko?
Der EU AI Act listet in Anhang III exakt auf, welche KI-Systeme als Hochrisiko gelten. In diesem Modul schauen wir uns die wichtigsten Bereiche konkret an: Bildung, Beschäftigung und kritische Infrastruktur – mit echten Fallbeispielen.
Grundlage
Was macht ein KI-System zur Hochrisiko-KI?
Der EU AI Act definiert Hochrisiko-KI in zwei Kategorien: Systeme nach Anhang I (Produkte mit bestehender Sicherheitsgesetzgebung) und Systeme nach Anhang III (eigenständige KI-Systeme in sensiblen Bereichen).
Art. 6 EU AI Act
Definition Hochrisiko-KI
„KI-Systeme, die in Anhang III aufgeführte Bereiche und Verwendungszwecke betreffen, gelten als Hochrisiko-KI-Systeme, sofern sie ein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen darstellen."
Ausnahme: Systeme, die nur eine untergeordnete Rolle spielen oder deren Risiko durch andere Maßnahmen ausreichend gemindert wird (Art. 6 Abs. 3).
Wichtig: Nicht jedes KI-System in einem Hochrisiko-Bereich ist automatisch Hochrisiko-KI. Entscheidend ist, ob das System Entscheidungen trifft oder wesentlich beeinflusst, die Menschen direkt betreffen.
Anhang III EU AI Act
Die 8 Hochrisiko-Bereiche im Überblick
Nr. 1
Biometrie
Fernidentifikation, biometrische Kategorisierung, Emotionserkennung
Nr. 2
Kritische Infrastruktur
Strom, Wasser, Gas, Verkehr, digitale Infrastruktur
Nr. 3
Bildung & Berufsausbildung
Zugang zu Bildung, Leistungsbewertung, Prüfungsüberwachung
Nr. 4
Beschäftigung & HR
Recruiting, Leistungsmonitoring, Kündigung (→ Modul 4)
Nr. 5
Wesentliche Dienstleistungen
Kreditwürdigkeit, Sozialleistungen, Notfalldienste
Nr. 6
Strafverfolgung
Risikobewertung, Lügendetektion, Beweisauswertung
Nr. 7
Migration & Grenzschutz
Asylentscheidungen, Visaprüfung, Grenzüberwachung
Nr. 8
Rechtspflege & Demokratie
Gerichtsurteile, Wahlbeeinflussung, demokratische Prozesse
In diesem Modul: Nr. 2 (Infrastruktur), Nr. 3 (Bildung) und die Konformitätspflichten für alle Hochrisiko-Bereiche.
Ihre Lernpfade
Was möchten Sie als nächstes lernen?
Bildung & Schule
Notenvergabe, Prüfungsüberwachung, Lernplattformen – was ist Hochrisiko?
→
Kritische Infrastruktur
Strom, Wasser, Verkehr – KI in der Daseinsvorsorge
→
Konformitätsbewertung
CE-Kennzeichnung, EU-Datenbank, Marktüberwachung
→
Praxischeck
Bin ich betroffen? Checkliste für Ihre Branche
→