KI-Verordnung in HR: Das bedeutet der AI Act für Personalabteilungen
Künstliche Intelligenz, oder kurz KI, ist längst im HR-Alltag angekommen: von der Texterstellung für Stellenanzeigen über Matching-Algorithmen im Recruiting bis hin zu personalisierten Karrieretracks und Schulungskonzepten für Mitarbeiter. Mit der 2024 in Kraft getretenen KI-Verordnung, dem EU AI Act, hat diese Entwicklung klare gesetzliche Leitplanken bekommen. Doch was bedeutet dies konkret für HR? Was meint die Einstufung von Prozessen als “Hochrisiko”? Und welchen Handlungsbedarf hat HR jetzt?
Das Wichtigste in Kürze
- Künstliche Intelligenz hat das Potenzial, viele HR-Prozesse effizienter und personalisierter zu gestalten.
- Die DSGVO und die EU KI-Verordnung geben einen zentralen Rahmen für die Nutzung von KI vor.
- Im Mittelpunkt stehen dabei Datenschutz und Transparenz.
- Im HR-Bereich sind viele KI-Anwendungen als “Hochrisiko-Systeme” eingestuft, weil sie für wesentliche personalbezogene Entscheidungen eingesetzt werden.
Welche Rolle spielt KI im Personalwesen?
Für HR-Manager verspricht der Einsatz von KI im Personalwesen vor allem beschleunigte Prozesse und mehr Effizienz, d.h. bessere Möglichkeiten, Talente zu sourcen, administrative Aufgaben zu automatisieren und gezielte Stellenanzeigen zu schalten: Gleichzeitig steigen jedoch mit der Komplexität und dem Datenbedarf der Anwendungen die Anforderungen an Transparenz, Fairness und Datenethik deutlich. Die Möglichkeiten und Implikationen von KI beschäftigen Unternehmen abteilungsübergreifend.
Auch wenn der tatsächliche Einsatz von künstlicher Intelligenz im deutschen Personalwesen nach Zahlen des Branchenverbandes Bitkom noch durchaus überschaubar ist, ist das Unternehmensinteresse Umfragen zufolge groß.
Was regelt die neue KI-Verordnung im HR-Bereich?
Die neue KI-Verordnung (AI Act) schafft erstmals ein EU-weit einheitliches Regelwerk für künstliche Intelligenz. Der Schwerpunkt liegt auf den Themen Sicherheit und Transparenz. Menschenrechte und persönliche Daten sollen dabei bestmöglich geschützt werden, ohne dabei Innovation zu sehr einzuschränken. Der Gedanke: Unternehmen trauen sich zu, moderne KI einzusetzen, wenn sie dazu einen klaren gesetzlichen Rahmen haben.
Einige Anwendungen sind laut AI Act verboten
Konkret verbietet die neue KI-Verordnung den Einsatz von KI, der Menschen manipulieren, diskriminieren oder ihre Privatsphäre massiv beeinträchtigen könnte.
Für alle anderen Szenarien gibt es ein risikobasiertes System, das auch auf Human Resources Abteilungen anwendbar ist:
Hohes Risiko
KI-Systeme als Hochrisiko-Anwendungen sind beispielsweise Systeme zur Bewertung oder Einstufung von Bewerbenden und Mitarbeitenden. Da HR-Abteilungen mit besonders schützenswerten Stamm- und Personaldaten arbeiten, unterliegen sie strengen Anforderungen. Dazu gehören zum Beispiel Dokumentationspflichten sowie Regelungen zu Transparenz oder Risikomanagement.
Begrenztes Risiko
Ein begrenztes Risiko haben laut KI-Verordnung Tools, die lediglich Empfehlungen ausgeben und grundlegende Fragen beantworten. Das kann zum Beispiel im Bewerbermanagement ein HR-Chatbot sein, der Bewerbungsfristen kommuniziert und mögliche Fragen der Bewerber beantwortet. Das Risiko ist begrenzt, da die Systeme keine automatisierten Entscheidungen mit rechtlicher Wirkung treffen.
Dennoch sieht Artikel 50 der KI-Verordnung Transparenzpflichten für Anbieter und Betreiber entsprechender KI-Systeme mit geringem Risiko vor, da sie mit natürlichen Personen interagieren und eine Manipulationsgefahr bergen.
Minimales Risiko
Ein minimales Risiko weisen KI-Anwendungen ohne Auswirkungen bzw. Zugriff auf persönliche Daten auf. Das kann beispielsweise eine Software-Lösung sein, die Stellenanzeigen im Hinblick auf Rechtschreibung, Grammatik und Stil überprüft oder auch eine KI, die hilft, eine Abwesenheitsnotiz passend zu formulieren. Für diese Lösungen besteht keine Kennzeichnungspflicht.
Wichtig für HR: Viele Recruiting- und Talentmanagement-Lösungen benötigen persönliche Daten zu Bewerbern und Mitarbeitenden sowie ihren Lebensläufen. Damit fallen sie klar in die Kategorie Hochrisiko, was konkrete Maßnahmen notwendig macht.
Die wichtige Rolle der DSGVO
Die Datenschutz-Grundverordnung (DSGVO) spielt im Zusammenspiel mit der EU-KI-Verordnung eine zentrale und ergänzende Rolle. Beide Verordnungen existieren gleichzeitig und regeln unterschiedliche, aber teilweise überlappende Bereiche – vor allem, wenn KI-Systeme personenbezogene Daten verarbeiten. Auch wenn ein KI-System nach dem AI Act reguliert wird, müssen Verantwortliche weiterhin die DSGVO-Pflichten erfüllen. Nationale Datenschutzbehörden behalten ihre Kompetenzen für die Überwachung der DSGVO-Konformität auch bei KI-Systemen.
Diese Auswirkungen hat KI auf das E-Recruiting
Im E-Recruiting unterstützt KI vor allem dort, wo große Datenmengen entstehen: Beim Anforderungsprofil erstellen sowie beim Matching von Kandidatenprofilen zu Stellen, im Rahmen der Analyse von Formulierungen in Stellenanzeigen, ebenso wie bei der Organisation automatischer Screening-Prozesse. Bei Letzterem analysieren KI-Tools Bewerbungen im Hinblick auf Qualifikationen, Erfahrungen und Schlüsselkompetenzen, die für die ausgeschriebene Stelle wichtig sind.
Künstliche Intelligenz im Bewerbermanagement
Viele Bewerbermanagementsysteme setzen zunehmend auf KI-Module, etwa zur Bewertung von Lebensläufen, Priorisierung von Bewerbungen oder der Vorhersage, ob ein Bewerber zum Unternehmen passt und der sogenannte Cultural Fit stimmt.
Mit der KI-Verordnung müssen HR-Abteilungen allerdings sicherstellen, dass diese Tools nicht diskriminieren, nachvollziehbar funktionieren und transparente Kriterien nutzen. Anbieter müssen künftig offenlegen, wie ihre Systeme Entscheidungen treffen. HR muss dies überprüfen und dokumentieren.
KI-Verordnung verlangt menschliche Aufsicht
Der EU AI Act fordert in diesem Zusammenhang neben einer klaren Dokumentation der Entscheidungslogik auch menschliche Aufsicht („Human-in-the-Loop“) sowie die Möglichkeit für Bewerbende, Entscheidungen anzufechten.
Zudem müssen HR-Verantwortliche protokollieren, wie und wann KI eingesetzt wurde. Damit rückt das Thema Responsible AI, zu Deutsch “verantwortungsbewusste KI”, ins Zentrum der HR-Arbeit.
Was ist Responsible AI?
Responsible AI ist ein ethisches Konzept, das die KI-Verordnung durch diverse rechtliche Anforderungen mit Blick auf Transparenz- und Dokumentationspflichten konkretisiert. Im Personalwesen bedeutet Responsible AI, KI-Systeme ethisch, rechtlich und transparent einzusetzen, mit dem Ziel, Menschen fair zu behandeln, Diskriminierung zu vermeiden und Vertrauen bei Bewerbenden und Mitarbeitenden zu schaffen. Entsprechend soll KI HR-Mitarbeiter unterstützen und nicht möglicherweise ungerecht über Bewerberschicksale entscheiden.
Zentrale Prinzipien von Responsible AI im HR
Responsible AI ist im Rahmen eines nachhaltigen Personalmanagements idealerweise an möglichst vielen Stellen vertreten. Dabei gibt es verschiedene Dimensionen, die unterschiedliche Handlungen notwendig machen:
1. Fairness und Anti-Diskriminierung
Nach dem EU AI Act darf künstliche Intelligenz keine Menschen benachteiligen. Das wäre etwa der Fall, wenn KI im Recruiting eine Vorauswahl nach Geschlecht, Alter, Herkunft oder einer möglichen Behinderung trifft.
Für HR-Verantwortliche bedeutet dies: Trainingsdaten nutzerspezifischer KI-Systeme müssen auf etwaige Vorurteile geprüft und Software entsprechend angepasst werden.
2. Transparenz und Erklärbarkeit
Entscheidungen der KI müssen nachvollziehbar sein. Im Recruiting bedeutet dies beispielsweise, dass Betroffene verstehen können, warum jemand eingeladen oder abgelehnt wurde. Dies gilt es bei der Programmierung und Nutzung von Lebenslauf-Screenings und automatisierten Eignungstests zu berücksichtigen.
3. Menschliche Kontrolle (Human-in-the-Loop)
KI trifft keine endgültigen Personalentscheidungen allein. Das heißt: Auch wenn KI im E-Recruiting zum Einsatz kommt, sind es Menschen, die die Vorgaben der KI überprüfen, korrigieren oder im Zweifelsfall auch überstimmen.
Konkret bedeutet dies, dass eine KI-Anwendung Bewerbungen zwar nach bestimmten, fachbezogenen Parametern priorisieren kann. Der Recruiter oder die Recruiterin entscheidet allerdings final, welche geeigneten Kandidaten zum Vorstellungsgespräch eingeladen werden.
4. Datenschutz und Verhältnismäßigkeit
Auch gilt für einen verantwortungsbewussten KI-Einsatz im Personalwesen: Arbeits- und datenschutzrechtliche Richtlinien müssen eingehalten werden. KI darf nur relevante Daten für klar definierte HR-Zwecke verwenden und keinesfalls Mitarbeiter heimlich überwachen und private Social Media Daten ohne Einwilligung auswerten.
Dazu gibt es Richtlinien in puncto Verantwortung und Governance. Diese beinhalten unter anderem klare Zuständigkeiten, Dokumentationspflichten von Modellen, Datenquellen, Entscheidungen sowie regelmäßige Audits und Updates.
Besonderheiten für die digitale Personalakte
Auch mit Blick auf die digitale Personalakte kann KI Prozesse beschleunigen. Beispielsweise indem Dokumente automatisch klassifiziert und Workflows angestoßen werden oder Mitarbeiter via Employee Self Service selbst Dokumente bereitstellen und abfragen.
Aus Sicht der KI-Verordnung ist an dieser Stelle besonders der Datenschutz relevant: KI darf nur auf Daten zugreifen, die für ihren Zweck notwendig sind. Auch benötigen sensible Daten zusätzliche Schutzmechanismen, etwa besondere Authentifizierungsvorschriften und Zustimmungen der Dateninhaber.
Die KI-Verordnung stärkt an dieser Stelle die Transparenz und verpflichtet Arbeitgeber zu klar definierten Datenflüssen. Mitarbeitende sind durch transparente interne Kommunikation zu informieren, wenn KI ihre Personalakte verarbeitet.
Diese Rolle spielt Compliance Management im Bereich HR
Aufgrund der Anforderungen der KI-Verordnung müssen HR-Abteilungen künftig noch enger mit den Bereichen Legal und Compliance zusammenarbeiten, als dies bis dato der Fall gewesen ist. Notwendig sind im Rahmen von Compliance Management etwa interne Richtlinien für die KI-Nutzung, ebenso wie Risiko- und Impact-Assessments, regelmäßige Schulungen zu verwendeten KI-Tools, klare Verantwortlichkeiten und nicht zuletzt die Prüfung aller eingesetzten KI-gestützten HR-Systeme auf Konformität.
Wichtige Informationen bündeln Arbeitgeber und Personalverantwortliche unter anderem im Code of Conduct des Unternehmens sowie in der Arbeitsstättenrichtlinie.
Aus HR 4.0 ist KI nicht wegzudenken
Mit der KI-Verordnung gewinnt die Digitalisierung im Personalwesen eine neue Qualität. KI bleibt ein zentraler Treiber von HR 4.0, jedoch stärker strukturiert und mit Blick auf Compliance reguliert und kontrolliert. Unternehmen, die KI verantwortungsvoll einsetzen, profitieren von schnelleren Prozessen, besseren Entscheidungen und werden infolgedessen für Bewerber attraktiver.
Die Herausforderung für Personalabteilungen liegt zukünftig mehr denn je darin, Technologie, Recht und Ethik miteinander zu verbinden und Dokumentationsprozesse kritisch zu hinterfragen.
Sicher ist: Wer diese Zusammenhänge versteht und die Themen frühzeitig angeht, verschafft sich einen klaren Wettbewerbsvorteil.
Weitere interessante Artikel
- Change Management: Definition und Methoden
- Fürsorgepflicht Arbeitgeber: Praxisbeispiele und Konsequenzen
- Workforce Management: Definition, Ziele und Vorteile
E-Book zum Download
Wie KI die Personalarbeit neu erfindet
Erfahren Sie, welche Aufgaben ChatGPT & Co. in HR übernehmen und wie Unternehmen KI-Lösungen sinnvoll in ihre Arbeit integrieren.
Disclaimer
Die Inhalte dieses Beitrags sind sorgfältig recherchiert, stellen jedoch keine Rechtsberatung dar. Bitte wenden Sie sich bei konkreten rechtlichen Fragen an einen spezialisierten Fachanwalt.
