Künstliche Intelligenz kommt in immer mehr HR-Prozessen zum Einsatz, häufig ohne dass das Unternehmen genau darüber Bescheid weiß. Ein Mitarbeiter analysiert mithilfe von KI eine Excel-Tabelle, ein anderer lässt ein Dokument zusammenfassen, und ein dritter möchte Vergütungsdaten vergleichen. Lösungen, die den Arbeitsalltag erleichtern, können jedoch erhebliche Fragen zum Datenschutz und zum Vertrauen aufwerfen, insbesondere wenn die Organisation noch keine klaren Regeln für den Einsatz von KI festgelegt hat. Bei der Vorbereitung auf die Entgelttransparenz gewinnt dieses Thema besonders an Aktualität.

Wenn KI bereits im Einsatz ist, das Unternehmen aber noch nichts davon weiß

In vielen Organisationen verbreitet sich der Einsatz künstlicher Intelligenz schneller, als die internen Regelungen Schritt halten können. Beschäftigte probieren häufig auf eigene Initiative verschiedene KI-Tools aus, um ihre Aufgaben zu vereinfachen, schneller zu arbeiten oder sich leichter in großen Informationsmengen zurechtzufinden.

Dieses Phänomen wird als Shadow AI bezeichnet: Beschäftigte nutzen bei ihrer Arbeit KI-Tools, die vom Unternehmen nicht freigegeben wurden oder außerhalb der IT- und Datenschutzkontrollen eingesetzt werden.

Im HR-Bereich ist dies besonders sensibel, da ein erheblicher Teil der dort verarbeiteten Informationen aus personenbezogenen oder vertraulichen Daten besteht. Das Hochladen von Gehaltsstudien, Leistungsbeurteilungen oder Tabellen mit Beschäftigtendaten in eine externe KI-Anwendung kann einen Datenverarbeitungsprozess auslösen, dessen Bedingungen und Folgen weder der Beschäftigte noch unter Umständen der Arbeitgeber selbst genau kennt.

Das Risiko steigt zusätzlich, wenn es im Unternehmen keine einheitliche Position dazu gibt, welche Tools verwendet werden dürfen, welche Informationen mit ihnen geteilt werden können und wie sich die von KI erzeugten Ergebnisse überprüfen lassen.

Neben der Datensicherheit steht auch das Vertrauen der Beschäftigten auf dem Spiel

Im Zusammenhang mit Shadow AI werden meist zuerst die Risiken für die Datensicherheit angesprochen. Es ist wichtig zu wissen, wo die hochgeladenen Informationen verarbeitet werden, wer darauf zugreifen kann, wie lange sie gespeichert werden und ob sie zur Weiterentwicklung der Systeme des Anbieters genutzt werden dürfen.

Im HR-Bereich wird die Situation durch den Verwendungszweck der in ein KI-Tool hochgeladenen Daten und die darauf basierenden Entscheidungen zusätzlich erschwert. Denn die auf diese Weise erstellten Vergütungsanalysen oder Zusammenfassungen von Leistungsbeurteilungen können unzutreffende Schlussfolgerungen enthalten, die ohne angemessene menschliche Überprüfung Entscheidungen beeinflussen können, die Beschäftigte betreffen.

Die Einführung der Entgelttransparenz verleiht diesem Problem noch mehr Gewicht. Eines der grundlegenden Ziele der neuen Regelung ist es, dass Beschäftigte die Kriterien für Vergütungsentscheidungen besser verstehen und Zugang zu objektiven, überprüfbaren Informationen erhalten. Wenn jedoch unklar ist, mit welcher Technologie das Unternehmen Vergütungsdaten analysiert und wie es den Schutz der Daten gewährleistet, kann dies das Vertrauen in das System leicht schwächen. Für Beschäftigte ist es nämlich auch wichtig zu wissen, wer die sie betreffenden Informationen zu welchem Zweck verwendet.

Warum reicht es nicht aus, den Einsatz von KI einfach zu verbieten?

Ein Verbot der Nutzung nicht freigegebener KI-Tools kann aus Unternehmenssicht eine verständliche Reaktion sein, bietet für sich genommen jedoch selten eine umfassende Lösung. Wenn Beschäftigte die Vorteile der Technologie bereits kennengelernt haben und die Organisation ihnen keine geeignete Alternative zur Verfügung stellt, besteht die Gefahr, dass die Nutzung außerhalb der unternehmerischen Kontrolle fortgesetzt wird. Ein wirksamer Ansatz kann daher auf vier sich ergänzenden Bereichen aufbauen:

• Klare Regelungen: Das Unternehmen sollte festlegen, welche KI-Tools für welche Aufgaben und unter welchen Bedingungen der Datenverarbeitung eingesetzt werden dürfen.
• Schulung der Beschäftigten: HR und IT sollten die Beschäftigten gemeinsam dabei unterstützen, datenschutzrechtliche, informationssicherheitsbezogene und fachliche Risiken zu erkennen.
• Eine sichere technologische Umgebung: Die Organisation sollte freigegebene Tools bereitstellen, die den unternehmensinternen Anforderungen an die Datenverarbeitung entsprechen.
• Menschliche Kontrolle und Verantwortung: Für die Verwendung von KI-generierten Analysen und Empfehlungen sollten klare Prüf- und Freigabeprozesse bestehen.

Besonders wichtig ist, dass die Regelungen für die Beschäftigten verständlich und anwendbar sind. Denn zu allgemein gehaltene oder ausschließlich auf Verboten beruhende Richtlinien bieten in alltäglichen Entscheidungssituationen wenig Unterstützung.

Die Entgelttransparenz hebt die Frage des KI-Einsatzes auf eine neue Ebene

Um die Anforderungen der EU-Entgelttransparenzrichtlinie zu erfüllen, müssen Unternehmen Daten zu Stellen, Vergütung und Leistung zunehmend strukturiert verwalten. Die Stellenbewertung, die Entwicklung von Gehaltsbändern, die Analyse von Marktbenchmarks und die Untersuchung geschlechtsspezifischer Entgeltunterschiede können mit erheblichen Datenmengen verbunden sein.

KI kann in diesen Prozessen tatsächlich eine hilfreiche Unterstützung bieten: Sie kann bei der Strukturierung von Daten, der Identifizierung von Abweichungen oder der Analyse verschiedener Szenarien helfen. Gleichzeitig bringt der Einsatz der Technologie jedoch auch neue Verantwortung für HR mit sich.

Bei der Analyse von Vergütungsdaten ist es beispielsweise besonders wichtig, dass das Unternehmen die von der KI verwendete Methodik, die Richtigkeit der Daten und die Fundiertheit der Schlussfolgerungen überprüft. Mögliche Verzerrungen können nämlich gerade jene Ungleichheiten verstärken, die durch die Entgelttransparenz aufgedeckt und behoben werden sollen.

Die Regelung des KI-Einsatzes geht daher inzwischen über die Bereiche IT und Datenschutz hinaus. Auch HR-Verantwortliche müssen aktiv daran mitwirken, festzulegen, in welchen Prozessen und unter welchen Bedingungen die Technologie eingesetzt werden darf.

Der erste Schritt: bestehende Praktiken sichtbar machen

Die Vorbereitung sollte mit einer Bestandsaufnahme beginnen, welche KI-Tools die Beschäftigten derzeit für welche Aufgaben nutzen. Dies kann helfen, die wichtigsten Risiken sowie jene Bereiche zu identifizieren, in denen der geregelte Einsatz der Technologie tatsächliche Effizienzsteigerungen ermöglichen kann.

Der nächste Schritt besteht darin, Regeln für die Datenverarbeitung, Zugriffsberechtigungen und Prüfprozesse festzulegen und diese anschließend in den HR-Alltag zu integrieren.

Die Einführung der Entgelttransparenz bietet Unternehmen eine gute Gelegenheit, auch den Einsatz von KI bewusster zu gestalten. Klare Regeln, eine geeignete technologische Infrastruktur und eine konsequente menschliche Kontrolle können gemeinsam die Voraussetzungen für einen sicheren Einsatz schaffen.