KI-Verordnung in HR: Das bedeutet der AI Act für Personalabteilungen
Künstliche Intelligenz, oder kurz KI, ist längst im HR-Alltag angekommen: von der Texterstellung für Stellenanzeigen über Matching-Algorithmen im Recruiting bis zu personalisierten Karrieretracks. Mit der KI-Verordnung, dem EU AI Act, hat diese Entwicklung klare gesetzliche Leitplanken bekommen. Lange schien die Umsetzung in weiter Ferne, doch das ändert sich jetzt: Konkrete und wichtige Teile des Gesetzes treten bereits in wenigen Monaten in Kraft. Was bedeutet das für HR? Welche Transparenzpflichten gelten schon ab August 2026? Und welchen Handlungsbedarf haben Personalabteilungen jetzt?
Das Wichtigste in Kürze
- Künstliche Intelligenz hat das Potenzial, viele HR-Prozesse effizienter und personalisierter zu gestalten.
- Die DSGVO und die EU KI-Verordnung geben einen zentralen Rahmen für die Nutzung von KI vor. Im Mittelpunkt stehen dabei Datenschutz und Transparenz.
- Während viele Regeln gestaffelt kommen, treten die Transparenzpflichten nach Art. 50 AI Act bereits am 2. August 2026 in Kraft.
- Im HR-Bereich sind viele KI-Anwendungen als “Hochrisiko-Systeme” eingestuft, weil sie für wesentliche personalbezogene Entscheidungen eingesetzt werden.
Welche Rolle spielt KI im Personalwesen?
Für HR-Manager verspricht der Einsatz von KI im Personalwesen vor allem beschleunigte Prozesse und mehr Effizienz, d.h. bessere Möglichkeiten, Talente zu sourcen, administrative Aufgaben zu automatisieren und gezielte Stellenanzeigen zu schalten: Gleichzeitig steigen jedoch mit der Komplexität und dem Datenbedarf der Anwendungen die Anforderungen an Transparenz, Fairness und Datenethik deutlich. Die Möglichkeiten und Implikationen von KI beschäftigen Unternehmen abteilungsübergreifend.
Auch wenn der tatsächliche Einsatz von künstlicher Intelligenz im deutschen Personalwesen nach Zahlen des Branchenverbandes Bitkom noch durchaus überschaubar ist, ist das Unternehmensinteresse Umfragen zufolge groß.
Was regelt die neue KI-Verordnung im HR-Bereich?
Die neue KI-Verordnung (AI Act) schafft erstmals ein EU-weit einheitliches Regelwerk für künstliche Intelligenz. Der Schwerpunkt liegt auf den Themen Sicherheit und Transparenz. Menschenrechte und persönliche Daten sollen dabei bestmöglich geschützt werden, ohne dabei Innovation zu sehr einzuschränken. Der Gedanke: Unternehmen trauen sich zu, moderne KI einzusetzen, wenn sie dazu einen klaren gesetzlichen Rahmen haben.
Einige Anwendungen sind laut AI Act verboten
Konkret verbietet die neue KI-Verordnung den Einsatz von KI, der Menschen manipulieren, diskriminieren oder ihre Privatsphäre massiv beeinträchtigen könnte.
Für alle anderen Szenarien gibt es ein risikobasiertes System, das auch auf Human Resources Abteilungen anwendbar ist:
Hohes Risiko
KI-Systeme als Hochrisiko-Anwendungen sind beispielsweise Systeme zur Bewertung oder Einstufung von Bewerbenden und Mitarbeitenden. Da HR-Abteilungen mit besonders schützenswerten Stamm- und Personaldaten arbeiten, unterliegen sie strengen Anforderungen. Dazu gehören zum Beispiel Dokumentationspflichten sowie Regelungen zu Transparenz oder Risikomanagement.
Für die als „Hochrisiko“ eingestuften Systeme, die im HR-Bereich besonders relevant sind, wurde der Zeitplan angepasst. Das verschafft Unternehmen etwas mehr Zeit zur Vorbereitung. Die neuen Stichtage sind:
- Bis zum 2. Dezember 2027 müssen eigenständige Hochrisiko-Systeme die vollen Anforderungen des AI Acts erfüllen. Für Betreiber bedeutet das, sicherzustellen, dass diese Systeme über ein Risikomanagement-System verfügen, mit hochwertigen, auf Bias geprüften Daten trainiert wurden, eine lückenlose technische Dokumentation und Nutzungsprotokolle (Logs) vorweisen und eine wirksame menschliche Aufsicht ermöglichen.
- Bis zum 2. August 2028 gelten diese strengen Regeln dann auch für Hochrisiko-Anwendungen, die Teil eines anderen Produkts sind (z.B. ein KI-gestütztes Bewertungsmodul innerhalb einer umfassenden HR-Software-Suite).
Begrenztes Risiko
Ein begrenztes Risiko haben laut KI-Verordnung Tools, die lediglich Empfehlungen ausgeben und grundlegende Fragen beantworten. Das kann zum Beispiel im Bewerbermanagement ein HR-Chatbot sein, der Bewerbungsfristen kommuniziert und mögliche Fragen der Bewerber beantwortet. Das Risiko ist begrenzt, da die Systeme keine automatisierten Entscheidungen mit rechtlicher Wirkung treffen.
Dennoch sieht Artikel 50 der KI-Verordnung Transparenzpflichten für Anbieter und Betreiber entsprechender KI-Systeme mit geringem Risiko vor, da sie mit natürlichen Personen interagieren und eine Manipulationsgefahr bergen.
Minimales Risiko
Ein minimales Risiko weisen KI-Anwendungen ohne Auswirkungen bzw. Zugriff auf persönliche Daten auf. Das kann beispielsweise eine Software-Lösung sein, die Stellenanzeigen im Hinblick auf Rechtschreibung, Grammatik und Stil überprüft oder auch eine KI, die hilft, eine Abwesenheitsnotiz passend zu formulieren. Für diese Lösungen besteht keine Kennzeichnungspflicht.
Wichtig für HR: Viele Recruiting- und Talentmanagement-Lösungen benötigen persönliche Daten zu Bewerbern und Mitarbeitenden sowie ihren Lebensläufen. Damit fallen sie klar in die Kategorie Hochrisiko, was konkrete Maßnahmen notwendig macht.
Konkrete Transparenzpflichten seit 2. August 2026
Artikel 50 des AI Acts ist bereits am 2. August 2026 in Kraft getreten. Er führt spezifische Transparenzpflichten für fast alle Unternehmen ein, die KI einsetzen.
Diese 4 Punkte sind zentral:
- Informationspflicht bei Interaktion: Nutzerinnen und Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren (z.B. bei einem Chatbot). Eine Ausnahme besteht, wenn der Einsatz von KI offensichtlich ist.
- Kennzeichnungspflicht für KI-Inhalte: KI-Systeme, die Texte, Bilder, Audio- oder Videoinhalte erzeugen, müssen diese künftig maschinenlesbar als KI-generiert kennzeichnen. Von der Kennzeichnungspflicht ausgenommen sind Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren. Für sie gilt eine Übergangsfrist bis zum 2. Dezember 2026. Ebenfalls befreit ist KI, die als Hilfswerkzeug ohne wesentliche Inhaltsveränderung eingesetzt wird, sowie behördlich zugelassene Systeme zur Strafverfolgung.
- Informationspflicht bei Emotionserkennung/Biometrie: Wer Systeme zur Emotionserkennung oder biometrischen Kategorisierung betreibt, muss betroffene Personen darüber informieren, ergänzend zu den bestehenden DSGVO-Vorgaben. KI-basierte Emotionserkennung ist nach Art. 5 EU AI Act bereits am Arbeitsplatz und in Bildungseinrichtungen verboten. Außerhalb dieser Bereiche ist sie grundsätzlich erlaubt.
- Offenlegungspflicht für Deepfakes: Wer Deepfakes einsetzt, muss deren künstlichen Ursprung offenlegen. Bei künstlerischen, satirischen oder fiktionalen Inhalten reicht ein Hinweis, der das Werk selbst nicht beeinträchtigt. KI-generierte Texte zu Themen von öffentlichem Interesse müssen als solche gekennzeichnet werden. Es sei denn, ein Mensch hat den Text geprüft und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung.
Wer die Transparenzpflichten ignoriert, riskiert hohe Strafen: Der AI Act sieht Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor.
Anbieter oder Betreiber: Wer muss was tun?
Im AI Act wird zwischen Anbietern (die ein KI-System entwickeln und in Verkehr bringen) und Betreibern (die ein KI-System in der Organisation einsetzen) unterschieden. Für HR heißt das: Viele Pflichten entstehen im Zusammenspiel aus Anbieter-Dokumentation und interner Umsetzung beim Betreiber.
Praxis-Check:
- Anbieter liefern typischerweise Informationen zur Funktionsweise, zum Einsatzkontext, zu Limitierungen und zu Transparenzanforderungen.
- Betreiber klären intern den konkreten Use Case, bewerten Risiken, definieren menschliche Aufsicht und dokumentieren den Einsatz im Prozess.
HR-Use-Cases im AI Act
Die folgenden Beispiele zeigen typische HR-Einsatzfälle und eine praktische Einordnung. Die konkrete Einstufung hängt immer vom Einsatzkontext ab.
| HR-Use-Case | Typische Einordnung | Warum das relevant ist | Was HR praktisch tun sollte |
|---|---|---|---|
| CV-Parsing + Ranking/Priorisierung | Hohes Risiko (häufig) | Einfluss auf Auswahlentscheidungen | Kriterien dokumentieren, Human-in-the-Loop festlegen, Tests auf Bias/Fehlerbilder |
| Automatisierte Eignungstests | Hohes Risiko (häufig) | Direkte Bewertung von Eignung | Transparenz, Nachvollziehbarkeit, Anfechtungswege definieren |
| Chatbot für Bewerberfragen (Fristen, Prozessinfos) | Begrenztes Risiko (typisch) | Interaktion mit natürlichen Personen | Kennzeichnung, klare Übergabe an Menschen, Logging-Regeln |
| Textassistenz für Stellenanzeigen | Minimales Risiko (typisch) | Kein automatisiertes Entscheiden | Qualitätscheck, Freigaben im Prozess, keine sensiblen Daten einspeisen |
| Dokumentenklassifikation in der Personalakte | Abhängig vom Zugriff und Zweck | Personaldaten, Zweckbindung | Zugriffsrechte, Zweckbindung, Transparenz intern sicherstellen |
Die wichtige Rolle der DSGVO
Die Datenschutz-Grundverordnung (DSGVO) spielt im Zusammenspiel mit der EU-KI-Verordnung eine zentrale und ergänzende Rolle. Beide Verordnungen existieren gleichzeitig und regeln unterschiedliche, aber teilweise überlappende Bereiche – vor allem, wenn KI-Systeme personenbezogene Daten verarbeiten. Auch wenn ein KI-System nach dem AI Act reguliert wird, müssen Verantwortliche weiterhin die DSGVO-Pflichten erfüllen. Nationale Datenschutzbehörden behalten ihre Kompetenzen für die Überwachung der DSGVO-Konformität auch bei KI-Systemen.
Diese Auswirkungen hat KI auf das E-Recruiting
Im E-Recruiting unterstützt KI vor allem dort, wo große Datenmengen entstehen: Beim Anforderungsprofil erstellen sowie beim Matching von Kandidatenprofilen zu Stellen, im Rahmen der Analyse von Formulierungen in Stellenanzeigen, ebenso wie bei der Organisation automatischer Screening-Prozesse. Bei Letzterem analysieren KI-Tools Bewerbungen im Hinblick auf Qualifikationen, Erfahrungen und Schlüsselkompetenzen, die für die ausgeschriebene Stelle wichtig sind.
Künstliche Intelligenz im Bewerbermanagement
Viele Bewerbermanagementsysteme setzen zunehmend auf KI-Module, etwa für cv parsing zur Bewertung von Lebensläufen, Priorisierung von Bewerbungen oder der Vorhersage, ob ein Bewerber zum Unternehmen passt und der sogenannte Cultural Fit stimmt.
Mit der KI-Verordnung müssen HR-Abteilungen allerdings sicherstellen, dass diese Tools nicht diskriminieren, nachvollziehbar funktionieren und transparente Kriterien nutzen. Anbieter müssen künftig offenlegen, wie ihre Systeme Entscheidungen treffen. HR muss dies überprüfen und dokumentieren.
KI-Verordnung verlangt menschliche Aufsicht
Der EU AI Act fordert in diesem Zusammenhang neben einer klaren Dokumentation der Entscheidungslogik auch menschliche Aufsicht („Human-in-the-Loop“) sowie die Möglichkeit für Bewerbende, Entscheidungen anzufechten.
Zudem müssen HR-Verantwortliche protokollieren, wie und wann KI eingesetzt wurde. Damit rückt das Thema Responsible AI, zu Deutsch “verantwortungsbewusste KI”, ins Zentrum der HR-Arbeit.
Was ist Responsible AI?
Responsible AI ist ein ethisches Konzept, das die KI-Verordnung durch diverse rechtliche Anforderungen mit Blick auf Transparenz- und Dokumentationspflichten konkretisiert. Im Personalwesen bedeutet Responsible AI, KI-Systeme ethisch, rechtlich und transparent einzusetzen, mit dem Ziel, Menschen fair zu behandeln, Diskriminierung zu vermeiden und Vertrauen bei Bewerbenden und Mitarbeitenden zu schaffen. Entsprechend soll KI HR-Mitarbeiter unterstützen und nicht möglicherweise ungerecht über Bewerberschicksale entscheiden.
Zentrale Prinzipien von Responsible AI im HR
Responsible AI ist im Rahmen eines nachhaltigen Personalmanagements idealerweise an möglichst vielen Stellen vertreten. Dabei gibt es verschiedene Dimensionen, die unterschiedliche Handlungen notwendig machen:
1. Fairness und Anti-Diskriminierung
Nach dem EU AI Act darf künstliche Intelligenz keine Menschen benachteiligen. Das wäre etwa der Fall, wenn KI im Recruiting eine Vorauswahl nach Geschlecht, Alter, Herkunft oder einer möglichen Behinderung trifft.
Für HR-Verantwortliche bedeutet dies: Trainingsdaten nutzerspezifischer KI-Systeme müssen auf etwaige Vorurteile geprüft und Software entsprechend angepasst werden.
2. Transparenz und Erklärbarkeit
Entscheidungen der KI müssen nachvollziehbar sein. Im Recruiting bedeutet dies beispielsweise, dass Betroffene verstehen können, warum jemand eingeladen oder abgelehnt wurde. Dies gilt es bei der Programmierung und Nutzung von KI-CV-Screening und automatisierten Eignungstests zu berücksichtigen.
3. Menschliche Kontrolle (Human-in-the-Loop)
KI trifft keine endgültigen Personalentscheidungen allein. Das heißt: Auch wenn KI im E-Recruiting zum Einsatz kommt, sind es Menschen, die die Vorgaben der KI überprüfen, korrigieren oder im Zweifelsfall auch überstimmen.
Konkret bedeutet dies, dass eine KI-Anwendung Bewerbungen zwar nach bestimmten, fachbezogenen Parametern priorisieren kann. Der Recruiter oder die Recruiterin entscheidet allerdings final, welche geeigneten Kandidaten zum Vorstellungsgespräch eingeladen werden.
4. Datenschutz und Verhältnismäßigkeit
Auch gilt für einen verantwortungsbewussten KI-Einsatz im Personalwesen: Arbeits- und datenschutzrechtliche Richtlinien müssen eingehalten werden. KI darf nur relevante Daten für klar definierte HR-Zwecke verwenden und keinesfalls Mitarbeiter heimlich überwachen und private Social Media Daten ohne Einwilligung auswerten.
Dazu gibt es Richtlinien in puncto Verantwortung und Governance. Diese beinhalten unter anderem klare Zuständigkeiten, Dokumentationspflichten von Modellen, Datenquellen, Entscheidungen sowie regelmäßige Audits und Updates.
Dokumentation & Nachweise: Checkliste für HR
Damit Anforderungen in der Praxis überprüfbar sind, hilft eine klare Dokumentation. Diese Punkte haben sich als Mindeststruktur bewährt:
- KI-Tool-Register: Name des Tools, Zweck, Prozessschritt, Datenkategorien, Verantwortliche, Anbieter-Kontakt, Risikoeinstufung.
- Risikobewertung je Use Case: Begründung, Schutzmaßnahmen, Rest-Risiken.
- Human-Oversight-Regeln: Wer prüft was, wann wird überstimmt, wie wird dokumentiert.
- Änderungs- und Freigabelog: Updates am Tool/Modell, neue Versionen, neue Datenquellen.
- Kommunikation an Betroffene: Hinweise für Bewerbende oder Mitarbeitende, wo KI unterstützt und welche Kontaktstelle hilft.
Besonderheiten für die digitale Personalakte
Auch mit Blick auf die digitale Personalakte kann KI Prozesse beschleunigen. Beispielsweise indem Dokumente automatisch klassifiziert und Workflows angestoßen werden oder Mitarbeiter via Employee Self Service selbst Dokumente bereitstellen und abfragen.
Aus Sicht der KI-Verordnung ist an dieser Stelle besonders der Datenschutz relevant: KI darf nur auf Daten zugreifen, die für ihren Zweck notwendig sind. Auch benötigen sensible Daten zusätzliche Schutzmechanismen, etwa besondere Authentifizierungsvorschriften und Zustimmungen der Dateninhaber.
Die KI-Verordnung stärkt an dieser Stelle die Transparenz und verpflichtet Arbeitgeber zu klar definierten Datenflüssen. Mitarbeitende sind durch transparente interne Kommunikation zu informieren, wenn KI ihre Personalakte verarbeitet.
Diese Rolle spielt Compliance Management im Bereich HR
Aufgrund der Anforderungen der KI-Verordnung müssen HR-Abteilungen künftig noch enger mit den Bereichen Legal und Compliance zusammenarbeiten, als dies bis dato der Fall gewesen ist. Notwendig sind im Rahmen von Compliance Management etwa interne Richtlinien für die KI-Nutzung, ebenso wie Risiko- und Impact-Assessments, regelmäßige Schulungen zu verwendeten KI-Tools, klare Verantwortlichkeiten und nicht zuletzt die Prüfung aller eingesetzten KI-gestützten HR-Systeme auf Konformität.
Wichtige Informationen bündeln Arbeitgeber und Personalverantwortliche unter anderem im Code of Conduct des Unternehmens sowie in der Arbeitsstättenrichtlinie.
Aus HR 4.0 ist KI nicht wegzudenken
Mit der KI-Verordnung gewinnt die Digitalisierung im Personalwesen eine neue Qualität. KI bleibt ein zentraler Treiber von HR 4.0, jedoch stärker strukturiert und mit Blick auf Compliance reguliert und kontrolliert. Unternehmen, die KI verantwortungsvoll einsetzen, profitieren von schnelleren Prozessen, besseren Entscheidungen und werden infolgedessen für Bewerber attraktiver.
Die Herausforderung für Personalabteilungen liegt zukünftig mehr denn je darin, Technologie, Recht und Ethik miteinander zu verbinden und Dokumentationsprozesse kritisch zu hinterfragen.
Sicher ist: Wer diese Zusammenhänge versteht und die Themen frühzeitig angeht, verschafft sich einen klaren Wettbewerbsvorteil.
FAQ zur KI Verordnung in HR
Die Transparenzpflichten nach Artikel 50 AI Act müssen umgesetzt sein. Prüfen Sie, wo Sie KI-Chatbots einsetzen oder KI-generierte Inhalte veröffentlichen und stellen Sie sicher, dass Nutzer informiert und Inhalte gekennzeichnet werden.
Nicht jedes Tool, aber viele Anwendungen rund um Bewertung, Ranking oder Eignungsdiagnostik fallen häufig in den Hochrisiko-Bereich. Entscheidend ist der konkrete Einsatzfall.
Ein Mensch prüft KI-Ergebnisse an definierten Stellen, kann sie korrigieren oder überstimmen und dokumentiert diese Eingriffe nachvollziehbar.
Weitere interessante Artikel
- Change Management: Definition und Methoden
- Fürsorgepflicht Arbeitgeber: Praxisbeispiele und Konsequenzen
- Workforce Management: Definition, Ziele und Vorteile
E-Book zum Download
Wie KI die Personalarbeit neu erfindet
Erfahren Sie, welche Aufgaben ChatGPT & Co. in HR übernehmen und wie Unternehmen KI-Lösungen sinnvoll in ihre Arbeit integrieren.
Disclaimer
Die Inhalte dieses Beitrags sind sorgfältig recherchiert, stellen jedoch keine Rechtsberatung dar. Bitte wenden Sie sich bei konkreten rechtlichen Fragen an einen spezialisierten Fachanwalt.
