Lesezeit: 6 Minuten.
Künstliche Intelligenz wird im Recruiting zunehmend eingesetzt, um Lebensläufe zu analysieren, Bewerbungen zu filtern, Kandidaten zu bewerten oder Ranglisten zu erstellen. Das kann Personalabteilungen entlasten. Rechtlich problematisch wird es jedoch, wenn die menschliche Beteiligung nur noch aus einem abschließenden Klick auf „Bestätigen“ besteht. Die entscheidende Frage lautet daher nicht, ob ein Mensch formal am Prozess beteiligt ist. Entscheidend ist, ob er die KI-Empfehlung tatsächlich prüft, hinterfragen und ändern kann.
Eine menschliche Kontrolle muss tatsächlich wirksam sein
Gemäß Art. 22 Abs. 1 DSGVO dürfen betroffene Personen grundsätzlich keiner ausschließlich automatisierten Entscheidung unterworfen werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Eine automatisierte Vorauswahl im Bewerbungsverfahren kann diese Schwelle erreichen, insbesondere wenn sie regelmäßig über eine Einladung zum Gespräch oder eine Absage entscheidet.
Nicht jeder Einsatz eines KI-Tools ist bereits eine automatisierte Entscheidung. Wird ein Lebenslauf lediglich zusammengefasst und bewertet die zuständige Person die Bewerbung anschließend eigenständig, kann die menschliche Entscheidung weiterhin maßgeblich sein. Anders ist die Situation, wenn ein System einen Score oder ein Ranking erzeugt und die Personalabteilung die Vorschläge routinemäßig übernimmt.
Eine wirksame menschliche Kontrolle setzt voraus, dass die zuständige Person die Funktionsweise und Grenzen des Systems ausreichend versteht, relevante Informationen berücksichtigt und befugt ist, das Ergebnis zu ändern oder zu verwerfen. Wer einen nicht nachvollziehbaren Wert übernimmt, ohne die Bewerbung eigenständig zu bewerten, übt keine echte Kontrolle aus.
Bewerbungs-KI ist regelmäßig ein Hochrisikothema
Die KI-Verordnung erfasst KI-Systeme, die für die Einstellung oder Auswahl von Personen eingesetzt werden, insbesondere zur Analyse und Filterung von Bewerbungen oder zur Bewertung von Kandidaten. Solche Systeme sind nach Art. 6 Abs. 2 in Verbindung mit Anhang III Nr. 4 lit. a KI-VO grundsätzlich als Hochrisiko-KI-Systeme einzuordnen, soweit keine gesetzliche Ausnahme greift.
Für Hochrisiko-Systeme verlangt Art. 14 KI-VO eine wirksame menschliche Aufsicht. Die eingesetzten Personen müssen Ergebnisse richtig einordnen, übermäßiges Vertrauen in automatisierte Vorschläge vermeiden und das Systemergebnis erforderlichenfalls außer Acht lassen oder umkehren können.
Für Unternehmen bedeutet das praktisch: Die verantwortliche Person darf nicht nur formal zuständig sein. Sie muss über ausreichend Zeit, Fachkenntnis, Entscheidungskompetenz und Zugang zu den relevanten Bewerbungsunterlagen verfügen.
Was Unternehmen jetzt organisatorisch festlegen sollten
Vor dem Einsatz eines KI-Systems sollten Zweck, Auswahlkriterien und Entscheidungsprozess eindeutig dokumentiert werden. Dabei sollte insbesondere feststehen:
- Welche Daten werden verarbeitet und aus welchen Quellen stammen sie?
- Erstellt das System lediglich Zusammenfassungen oder auch Scores, Rankings und Empfehlungen?
- An welcher Stelle trifft ein Mensch die Entscheidung?
- Wer darf eine KI-Empfehlung ändern oder verwerfen?
- Wie werden Fehlbewertungen, Verzerrungen und Beschwerden behandelt?
- Wie werden Systemänderungen und die Qualität der Ergebnisse kontrolliert?
Die Personalabteilung sollte jede Entscheidung eigenständig begründen können. Ein KI-Score darf keine Blackbox sein, die eine Absage faktisch vorwegnimmt. Die Entscheidung und die wesentlichen Gründe sollten nachvollziehbar dokumentiert werden. Je nach Ausgestaltung des Systems ist außerdem zu prüfen, ob eine Datenschutz-Folgenabschätzung gem. Art. 35 DSGVO erforderlich ist.
Bewerber haben Anspruch auf verständliche Informationen
Bewerber können nach Art. 15 Abs. 1 lit. h DSGVO Auskunft darüber verlangen, ob eine automatisierte Entscheidungsfindung oder ein Profiling eingesetzt wurde. Dazu können aussagekräftige Informationen über die involvierte Logik, die Tragweite und die angestrebten Auswirkungen gehören.
Dafür muss kein Quellcode offengelegt werden. Das Unternehmen sollte jedoch verständlich erklären können, welche personenbezogenen Daten in die Bewertung eingeflossen sind, wie das Verfahren grundsätzlich gearbeitet hat und welche Bedeutung das Ergebnis für die Bewerbung hatte.
Diskriminierungsrisiken nicht unterschätzen
KI-Systeme können bestehende Verzerrungen aus historischen Bewerbungs- oder Personaldaten übernehmen. Auch scheinbar neutrale Kriterien können bestimmte Bewerbergruppen benachteiligen. Deshalb sind neben der DSGVO und der KI-Verordnung auch die Vorgaben des Allgemeinen Gleichbehandlungsgesetzes, insbesondere §§ 1, 7 und 22 AGG, zu berücksichtigen.
Eine regelmäßige Prüfung auf systematische Benachteiligungen gehört deshalb ebenso zu einem verantwortungsvollen Einsatz wie die Datenschutzkontrolle. Auffällige Ergebnisse müssen untersucht und das System erforderlichenfalls angepasst oder außer Betrieb genommen werden. Unternehmen sollten daher unbedingt eine Grundrechte-Folgenabschätzung vornehmen (ohnehin oft Pflicht für Hochrisiko KI).
Fazit
KI kann die Personalauswahl unterstützen, aber die Auswahlentscheidung nicht unbemerkt ersetzen. Entscheidend ist eine menschliche Prüfung mit echter Entscheidungskompetenz. Wer nur den KI-Vorschlag bestätigt, schafft weder eine belastbare menschliche Kontrolle noch einen nachvollziehbaren Auswahlprozess.
Unternehmen sollten deshalb vor dem Einsatz klären, welche Rolle die KI tatsächlich übernimmt, wie Entscheidungen überprüft werden und ob Bewerber die Verarbeitung verständlich nachvollziehen können. Die zentrale Frage lautet nicht, ob ein Mensch im Prozess vorkommt, sondern ob er noch selbst entscheidet.
