Lektion 2 von 7 ca. 5 Min.
HR & Recruiting

KI im Bewerbungsprozess:
Was ist erlaubt – und was nicht?

Viele Unternehmen setzen bereits KI-Tools für das Bewerbermanagement ein. Der EU AI Act stuft diese Systeme als Hochrisiko ein. Hier erfahren Sie, welche Pflichten das für Sie als Arbeitgeber bedeutet.

Einstieg – Das Problem

Der KI-Bewerber-Filter: Praktisch – aber riskant

Ein mittelständisches Unternehmen erhält 500 Bewerbungen auf eine Stelle. Das HR-Tool filtert automatisch: Keine passende Ausbildung? Aussortiert. Lücken im Lebenslauf? Minus-Punkte. Falsches Alter? Das System „lernt" aus vergangenen Einstellungen – und diskriminiert möglicherweise systematisch, ohne dass es jemand merkt.

Genau deshalb stuft der EU AI Act solche Systeme als Hochrisiko-KI ein: Sie treffen oder beeinflussen Entscheidungen, die das Leben von Menschen direkt betreffen.

Kerninhalt – Was steht im Gesetz?

Hochrisiko-KI im Recruiting: Die 7 Pflichten

1
Risikomanagementsystem (Art. 9)

Sie müssen Risiken des KI-Systems identifizieren, bewerten und minimieren – vor dem Einsatz und laufend. Dokumentiert, aktuell gehalten.

2
Technische Dokumentation (Art. 11)

Der Anbieter des HR-Tools muss eine vollständige technische Dokumentation bereitstellen. Als Betreiber müssen Sie diese aufbewahren und auf Anfrage vorlegen können.

3
Menschliche Aufsicht (Art. 14)

Kein Bewerber darf allein durch eine KI abgelehnt werden. Eine qualifizierte Person muss die Entscheidung überprüfen und bestätigen können.

4
Transparenz gegenüber Bewerbern (Art. 13 + 50)

Bewerber müssen informiert werden, wenn eine KI bei der Auswahl eingesetzt wird. Das gilt auch für KI-gestützte Vorstellungsgespräche (z.B. Videoanalyse).

5
Protokollierung (Art. 12)

Das System muss automatisch Protokolle erstellen, die nachvollziehbar machen, welche Entscheidungen auf Basis welcher Daten getroffen wurden.

6
Konformitätsbewertung (Art. 43)

Vor dem Einsatz muss das HR-Tool eine Konformitätsbewertung durchlaufen haben. Als Betreiber müssen Sie die EU-Konformitätserklärung des Anbieters anfordern.

7
KI-Kompetenz des HR-Personals (Art. 4)

Alle HR-Mitarbeiter, die mit dem KI-System arbeiten, müssen nachweislich geschult sein. Diese Pflicht gilt bereits seit 2. Februar 2025.

Wichtige Unterscheidung

Anbieter vs. Betreiber im HR-Kontext

Sie sind Anbieter, wenn Sie…
  • ein eigenes KI-Tool für HR entwickeln
  • ein bestehendes Tool für den HR-Einsatz anpassen
  • das Tool an andere Unternehmen verkaufen
Folge: Alle Anbieter-Pflichten (Art. 9–17) + CE-Kennzeichnung
Sie sind Betreiber, wenn Sie…
  • ein fertiges HR-Tool (z.B. Workday, SAP SuccessFactors) einsetzen
  • das Tool nicht weiterentwickeln
  • es nur intern nutzen
Folge: Betreiber-Pflichten (Art. 26) + Grundrechte-Folgenabschätzung (Art. 27)
Praxishinweis: Die meisten Unternehmen sind im HR-Bereich Betreiber, nicht Anbieter. Trotzdem müssen Sie sicherstellen, dass das eingekaufte Tool den Anforderungen des EU AI Act entspricht – und das vertraglich mit dem Anbieter absichern.
Achtung – Verbote

Diese KI-Praktiken im HR sind verboten

Emotionserkennung am Arbeitsplatz (Art. 5 Abs. 1 lit. f)
KI-Systeme, die Emotionen von Mitarbeitern oder Bewerbern erkennen und auswerten, sind verboten – außer in medizinischen oder sicherheitsrelevanten Ausnahmefällen.
Social Scoring von Mitarbeitern (Art. 5 Abs. 1 lit. c)
KI-Systeme, die Mitarbeiter anhand ihres Verhaltens bewerten und daraus Nachteile ableiten, sind generell verboten.
Biometrische Kategorisierung nach geschützten Merkmalen (Art. 5 Abs. 1 lit. b)
KI darf keine Personen anhand biometrischer Daten nach Rasse, politischer Meinung, Religion etc. kategorisieren.
Merksatz: Als HR-Betreiber brauchen Sie drei Dinge: die EU-Konformitätserklärung Ihres Tool-Anbieters, einen dokumentierten Prozess für menschliche Überprüfung, und nachweislich geschultes Personal (Art. 4, seit Feb. 2025).
← Zurück: Überblick Weiter: Überwachung →
Ihr Fortschritt in Modul 4
2 von 7 Lektionen