Bin ich betroffen?
Wählen Sie Ihre Rolle – und sehen Sie sofort, welche Pflichten für Sie gelten.
- Sie können anhand Ihrer Rolle prüfen, ob und wie stark Sie betroffen sind.
- Sie kennen die konkreten Hochrisiko-Szenarien in Ihrem Berufsfeld.
- Sie wissen, welche KI-Systeme ab sofort verboten sind (Art. 5).
Schulen sind explizit im Gesetz genannt. Jede Schule, die KI zur Bewertung, Zulassung oder Überwachung von Schülerinnen und Schülern einsetzt, gilt als Betreiber eines Hochrisiko-Systems (Anhang III Nr. 3).
- Emotionserkennung im Unterricht oder bei Prüfungen
- KI-Verhaltensüberwachung von Schülerinnen und Schülern im Schulalltag
- Biometrische Echtzeit-Identifikation auf dem Schulgelände
Checkliste: Trifft das auf Ihre Schule zu?
- ✓KI bewertet Aufsätze, Tests oder Lernergebnisse automatischAnhang III Nr. 3(b) – Hochrisiko
- ✓KI entscheidet über Aufnahme oder Zulassung zu BildungseinrichtungenAnhang III Nr. 3(a) – Hochrisiko
- ✓Proctoring-Software überwacht Schüler bei Online-PrüfungenAnhang III Nr. 3(d) – Hochrisiko
- ✓Adaptives Lernsystem stuft Schüler automatisch in Niveaustufen einAnhang III Nr. 3(c) – Hochrisiko
- ✓Lehrkräfte nutzen ChatGPT o.ä. für UnterrichtsvorbereitungKein Hochrisiko – aber Art. 4 KI-Kompetenzpflicht gilt
Art. 4 EU AI Act: Alle Betreiber müssen sicherstellen, dass ihr Personal über „ausreichende KI-Kompetenz" verfügt. Diese Pflicht gilt seit dem 2. Februar 2025. Dieses Modul ist Ihr erster Schritt.
HR-Systeme mit KI sind Hochrisiko-Systeme (Anhang III Nr. 4). Das betrifft nahezu jedes Unternehmen, das KI beim Recruiting oder Leistungsmanagement einsetzt – unabhängig von der Unternehmensgröße.
- Emotionserkennung bei Bewerbungsgesprächen oder am Arbeitsplatz
- KI-gestütztes Social Scoring von Mitarbeitenden
- Unterschwellige Manipulation von Bewerbern durch KI
Checkliste: Trifft das auf Ihr Unternehmen zu?
- ✓KI filtert oder bewertet Bewerbungen automatisch (ATS mit KI)Anhang III Nr. 4(a) – Hochrisiko
- ✓KI schaltet automatisch zielgerichtete StellenanzeigenAnhang III Nr. 4(a) – Hochrisiko
- ✓KI überwacht oder bewertet Leistung und Verhalten von MitarbeitendenAnhang III Nr. 4(b) – Hochrisiko
- ✓KI unterstützt Entscheidungen über Beförderung oder KündigungAnhang III Nr. 4(b) – Hochrisiko
- ✓KI weist Aufgaben basierend auf Persönlichkeitsmerkmalen zuAnhang III Nr. 4(b) – Hochrisiko
Bei Hochrisiko-HR-Systemen müssen Sie menschliche Aufsicht sicherstellen, eine technische Dokumentation führen und Mitarbeitende über den KI-Einsatz informieren (Art. 26 EU AI Act). Der Betriebsrat hat Mitbestimmungsrechte.
Nicht jede KI ist Hochrisiko. Entscheidend ist der Einsatzzweck. ChatGPT für Texte ist kein Hochrisiko. Sobald KI jedoch Entscheidungen über Menschen trifft (Kredit, Kündigung, Gesundheit), gelten strenge Regeln.
- Unterschwellige Manipulation von Kunden durch KI
- Ausnutzung von Schwächen (Kinder, ältere Menschen) durch KI
- Emotionserkennung am Arbeitsplatz
Checkliste: Welche KI-Systeme setzen Sie ein?
- ✓KI-gestütztes Kreditscoring oder Bonitätsprüfung von KundenAnhang III Nr. 5(b) – Hochrisiko
- ✓KI für Risikoeinschätzung bei Lebens- oder KrankenversicherungenAnhang III Nr. 5(c) – Hochrisiko
- ✓KI-Chatbots mit direktem KundenkontaktArt. 50 – Transparenzpflicht (Nutzer muss informiert werden)
- ✓KI für Mitarbeiter-Recruiting oder LeistungsbewertungAnhang III Nr. 4 – Hochrisiko
- ✓ChatGPT, Copilot o.ä. als ProduktivitätswerkzeugKein Hochrisiko – Art. 4 KI-Kompetenzpflicht gilt trotzdem
Für alle Unternehmen gilt ab 2. Februar 2025: KI-Kompetenz für alle Mitarbeitenden sicherstellen (Art. 4). Bei Hochrisiko-Systemen kommen Dokumentations-, Transparenz- und Aufsichtspflichten hinzu (Art. 26). Bei KI-Chatbots müssen Kunden informiert werden (Art. 50).
Behörden sind in mehreren Hochrisikobereichen gleichzeitig betroffen: Sozialleistungen, Gesundheit, Migration, Strafverfolgung und Justiz. KI-Entscheidungen berühren hier Grundrechte – daher gelten besondere Pflichten.
- Social Scoring – Bewertung von Bürgerinnen und Bürgern nach Verhalten
- Echtzeit-Biometrie im öffentlichen Raum (außer enge Ausnahmen)
- Predictive Policing auf Basis von Profiling
Checkliste: Sind diese KI-Systeme bei Ihnen im Einsatz?
- ✓KI bewertet Anspruchsberechtigung für Sozialleistungen oder GesundheitsleistungenAnhang III Nr. 5(a) – Hochrisiko
- ✓KI unterstützt Entscheidungen bei Asyl- oder VisaanträgenAnhang III Nr. 7(c) – Hochrisiko
- ✓KI klassifiziert oder priorisiert Notrufe und EinsätzeAnhang III Nr. 5(d) – Hochrisiko
- ✓KI unterstützt Richter oder Staatsanwälte bei EntscheidungenAnhang III Nr. 8(a) – Hochrisiko
- ✓KI-gestützte Risikoeinschätzung bei StrafverfolgungAnhang III Nr. 6(d) – Hochrisiko
Behörden als Betreiber müssen bei Hochrisiko-Systemen eine Grundrechte-Folgenabschätzung durchführen (Art. 27 EU AI Act) – eine behördenspezifische Pflicht, die für private Unternehmen nicht gilt.