Mittlerweile ist es gang und gäbe, dass Bewerber ihre Unterlagen von einer KI optimieren oder gar vollständig erstellen lassen. Dank technischer Hilfsmittel ist ein perfektes, auf die konkret ausgeschriebene Stelle zugeschnittenes Schreiben nur wenige Klicks entfernt. Die Kehrseite ist jedoch, dass solche Bewerbungen ihre Aussagekraft und Individualität verlieren: Für Personalabteilungen ist aus den immer ähnlicher werdenden Anschreiben oft nicht ersichtlich, ob die jeweiligen Kandidaten sich tatsächlich mit der künftigen Aufgabe auseinandergesetzt haben oder für diese geeignet sind. Ferner öffnet der Einsatz von KI Tür und Tor für – auch unbewusst – fehlerhafte Inhalte in den Bewerbungsunterlagen.
Neben einer derartigen „Optimierung“ öffnen die Anwendungen von Anbietern wie ChatGPT auch die Tore für Betrug – etwa wenn eine nie erhaltene Bescheinigung künstlich generiert oder ein Arbeitszeugnis erstellt wird, obwohl der Kandidat nie einen Fuß in die Tür des betreffenden Unternehmens gesetzt hatte. Für Personalabteilungen bedeutet dies in letzter Konsequenz, dass Stellensuchende genauer überprüft und die Angaben in ihren Unterlagen noch gründlicher verifiziert werden müssen.
Intelligente Helfer
Auch aufseiten des Unternehmens ist der Einsatz von KI nicht immer unbedenklich. So scheint das automatisierte Filtern, Sortieren und Abwickeln von eingehenden Bewerbungen auf den ersten Blick äußerst effizient zu sein. Daraus können sich jedoch Haftungs- und Imagerisiken ergeben. Denn eine derartige Verwendung von KI kann zu einer Ablehnung von Kandidaten führen, wenn der Algorithmus gewisse, in den Bewerbungsunterlagen enthaltene Merkmale – etwa die Herkunft – als negativ bewertet. Dies führt nicht nur zu einem oft unbewussten Verstoß gegen das Allgemeine Gleichbehandlungsgesetz (AGG), sondern kann außerdem das Verbot rein automatisierter Entscheidungen nach Art. 22 I DS-GVO verletzen. Das gilt nach der Rechtsprechung des EuGH sogar bei bloßen Vorbereitungshandlungen – selbst wenn der endgültige Entschluss von einem Menschen getroffen wird (NJW 2024, 413).
Auch im Übrigen ist der Einsatz KI-gestützter Anwendungen im Rahmen von Personalfragen datenschutzrechtlich bedenklich. So enthalten solche Unterlagen stets sensible persönliche Informationen im Sinne des Art. 9 I DS-GVO, die durch den Einsatz von KI unzulässigerweise auf Server von Drittanbietern hochgeladen werden können. Entsprechend sollten derartige Hilfsmittel keinesfalls unkontrolliert und ohne gesicherte Einhaltung datenschutzrechtlicher Vorschriften eingesetzt werden. Vor dem Hintergrund des 2021 verabschiedeten Betriebsrätemodernisierungsgesetzes sowie der Vorschrift des § 87 I Nr. 6 BetrVG sind ferner Mitbestimmungsrechte der Belegschaftsvertreter im Blick zu behalten.
Riskante Plattformen
Beschäftigte stehen dem Einsatz von KI am Arbeitsplatz immer offener gegenüber – schließlich ermöglichen ihnen entsprechende Anwendungen die einfache und schnelle Bewältigung repetitiver Aufgaben sowie die Optimierung oder Überprüfung eigener Arbeitsergebnisse. Doch auch hier ist Vorsicht geboten. Nicht nur sind die von KI produzierten Resultate oft noch fehlerhaft und unzuverlässig; der unkontrollierte und unternehmensintern nicht regulierte Einsatz derartiger Anwendungen kann außerdem zu Datenschutzverstößen und der Offenlegung vertraulicher Kundeninformationen führen. Da KI-Systeme mit jeder Eingabe „lernen“ und die eingegebenen Angaben weiterverarbeiten, besteht das Risiko, dass andere Nutzer der jeweiligen Anwendung Kenntnis von den im Internet hochgeladenen Daten erhalten. Denn von Geheimhaltungsvereinbarungen sind Online-Tools nicht automatisch erfasst.
Unternehmen tun also gut daran, den Einsatz von KI am Arbeitsplatz zu regeln, Maßnahmen zur Wahrung des Datenschutzes und der Vertraulichkeit zu treffen sowie Sanktionsmechanismen für den Fall eines regelwidrigen Einsatzes durch Beschäftigte zu etablieren. Dadurch kann Künstliche Intelligenz wertschöpfend und sicher eingesetzt werden.
Dieser Inhalt ist zuerst in der NJW erschienen. Sie möchten die NJW kostenlos testen? Jetzt vier Wochen gratis testen inkl. Online-Modul NJWDirekt.
