Ratgeber · KI im Auswahlprozess
KI im Recruiting: genauer hinsehen.
Der EU AI Act nimmt KI-gestützte Bewerberauswahl in die kritische Kategorie, gleich neben Kreditvergabe und Strafverfolgung. Eine Orientierung für Ihr HR-Team, ohne Panik und ohne Juristendeutsch, aber auch ohne den Anspruch, die Prüfung Ihres Einzelfalls zu ersetzen.
Lesezeit: ca. 9 Minuten · Zielgruppe: HR-Leitung, Recruiting, Datenschutzbeauftragte
Systeme, die Bewerber bewerten, ranken oder filtern, stehen im EU AI Act in der kritischen Kategorie. In der Praxis drehen sich die Anforderungen um vier Themen: eine benannte menschliche Aufsicht, geeignete Eingabedaten, aufbewahrte Protokolle und eine Information an die Bewerber. Emotionserkennung im Bewerbungsgespräch zählt zu den Anwendungen, von denen die Verordnung ausdrücklich nichts hält. Wer sich das Thema ganz sparen will, arbeitet mit regelbasierten Tests: feste Fragen, hinterlegte Lösungen, nachvollziehbare Punkte, kein Modell.
Wo genau die Grenze verläuft
Die Verordnung sortiert KI nach Risiko, nicht nach Branche. Für HR sind zwei Stufen interessant. Ganz oben auf der Tabu-Liste stehen Systeme, die Emotionen am Arbeitsplatz erkennen sollen, also auch Stimm- und Mimikanalysen im Video-Interview. In die kritische Kategorie fallen Systeme, die für Einstellung, Auswahl, Beförderung oder Beendigung von Arbeitsverhältnissen genutzt werden.
Und alles andere? Bleibt davon weitgehend unberührt. Genau hier liegt der praktische Hebel, denn viele Recruiting-Werkzeuge enthalten überhaupt kein lernendes Verfahren. Ein Test mit festen Fragen und hinterlegten Musterlösungen rechnet Punkte zusammen. Das ist Arithmetik, kein maschinelles Lernen. Ein Lebenslauf-Parser, der Kandidaten einen Eignungs-Score gibt, ist etwas völlig anderes.
Die Frage, die Sie sich für jedes Tool im Stack stellen sollten, lautet deshalb nicht „steckt da KI drin“, sondern: Trifft oder beeinflusst das System eine Aussage über die Eignung eines Menschen, die niemand Zeile für Zeile nachrechnen kann? Wenn ja, ist das ein Fall für ein Gespräch mit Ihrer Rechtsabteilung, bevor das Tool produktiv geht.
Vier Themen, die im eigenen Haus bleiben
Die technische Dokumentation kommt vom Anbieter. Diese vier Punkte kann Ihnen dagegen niemand abnehmen.
Eine benannte, geschulte Person, die Ergebnisse überstimmen darf und es auch tut.
Automatisch erzeugte Logs aufbewahren, solange das Verfahren nachvollziehbar bleiben soll.
Bewerber vorab informieren, dass ein KI-System an der Entscheidung beteiligt ist.
Eingabedaten sollten zum Zweck passen und repräsentativ sein, sonst reproduziert das System vorhandene Verzerrungen.
Die unterschätzte Falle
Wer ein zugekauftes System unter eigenem Namen betreibt oder seinen Verwendungszweck deutlich ändert, wird schnell wie ein Anbieter behandelt. Dann kommen Nachweise und Dokumentation dazu, die vorher jemand anderes geliefert hat. Für ein mittelständisches Unternehmen ist das ein Projekt, kein Häkchen, und deshalb eine Frage, die man vorher stellt und nicht hinterher.
Der AI Act steht nicht allein
Das wird regelmäßig übersehen. Mehrere Regelwerke laufen nebeneinander, und beim Thema automatisierte Entscheidungen war der Datenschutz zuerst da. Der Grundgedanke dort: Eine Entscheidung mit spürbarer Wirkung für eine Person sollte nicht allein von einer Maschine getroffen werden. Eine vollautomatische Absage im Bewerbungsprozess berührt genau diesen Punkt.
Dazu kommt der Umgang mit Beschäftigten- und Bewerberdaten: Was Sie erheben, wozu, wie lange, und was Sie einem Bewerber auf Nachfrage zeigen können. In mitbestimmten Betrieben kommt die Arbeitnehmervertretung hinzu, denn ein Auswahltool ist eine technische Einrichtung, mit der sich Leistung beobachten lässt. Darauf reagieren Betriebsräte erfahrungsgemäß empfindlich. Klopfen Sie das früh ab, statt es am Ende des Projekts zu entdecken.
Praktisch heißt das: Bevor Sie an den AI Act denken, klären Sie mit Ihren Datenschutzbeauftragten die Basics: Worauf stützen Sie die Verarbeitung, wie lange behalten Sie die Daten, liegt ein Auftragsverarbeitungsvertrag vor, wo stehen die Server. Dieser Teil betrifft auch die harmlosen Werkzeuge.
Womit Sie in den nächsten Wochen anfangen können
So gehen Sie vor
- Inventar anlegen: Welches Tool im Recruiting-Stack enthält überhaupt KI?
- Beim Anbieter schriftlich anfragen, welche Komponenten lernende Verfahren enthalten
- Aufsichtsperson benennen und ihre Schulung schriftlich festhalten
- Ablehnungsgründe unabhängig vom Score dokumentieren
Das vermeiden
- ×Emotionserkennung oder Stimmanalyse im Bewerbungsgespräch einsetzen
- ×Den Zweck eines eingekauften Systems eigenmächtig erweitern, ohne das vorher abzuklären
- ×KI-Vorauswahl ohne Hinweis an die Bewerber laufen lassen
- ×Sich auf die mündliche Zusage verlassen, ein Tool sei unbedenklich, ohne etwas Schriftliches
Objektiv auswählen, ohne Blackbox
trønso bewertet keine Menschen mit einem Modell. Sie hinterlegen Fragen und Musterlösungen, das System zählt Punkte. Jedes Ergebnis lässt sich Zeile für Zeile nachvollziehen.
Nachrechenbar
Pro Frage sichtbar, was der Kandidat geantwortet hat und warum es Punkte gab.
Mensch entscheidet
Das Ergebnis ist eine Grundlage für Ihr Gespräch, kein Automatismus mit Absage-Knopf.
EU-Serverstandort
Hosting in Frankfurt, Auftragsverarbeitungsvertrag inklusive, Löschfristen einstellbar.
Mehr zum Thema: Datenschutz bei Assessment-Software und Bias im Recruiting reduzieren.
Kostenlos startenFragen zum EU AI Act im Recruiting
Auswahl, die Sie erklären können
Erster Test in 15 Minuten, Server in Frankfurt (EU), ohne Blackbox-Scoring.
Kostenlos startenTesten Sie Ihre Bewerber selbst
Eigene Online-Tests erstellen, per E-Mail einladen, automatisch auswerten. Neue Accounts starten mit 14 Tagen Pro ohne Kreditkarte.
Hinweis: Dieser Beitrag ist eine redaktionell aufbereitete Praxisinformation und stellt keine Rechtsberatung dar. Er beschreibt allgemeine Vorgehensweisen aus der Personalpraxis und ersetzt weder die Prüfung Ihres Einzelfalls noch eine fachkundige Beratung. Rechtliche Anforderungen hängen von Branche, Unternehmensgröße, Mitbestimmung und Ihrer konkreten Gestaltung ab und ändern sich laufend. Für verbindliche Auskünfte wenden Sie sich bitte an Ihre Rechtsabteilung, eine Rechtsanwaltskanzlei oder Ihre Datenschutzbeauftragten. Eine Gewähr für Aktualität, Richtigkeit und Vollständigkeit können wir nicht übernehmen.