Eigeninitiative ja – Wildwuchs nein!

Während die Führungsspitze in vielen Unternehmen eher zögerlich dabei ist, sich über die Einführung Künstlicher Intelligenz (KI) Gedanken zu machen, nutzen viele Beschäftigte KI längst „still und heimlich“ für zahlreiche betriebliche Aufgaben. Eigeninitiative ist ja eigentlich oft willkommen, hier aber nach Feststellungen der Denkfabrik Diplomatic Council oft hochproblematisch.

Praxis-Info!

Hintergrund

Wenn Arbeitnehmer KI-Tools einsetzen, ohne dass der Chef davon weiß, wird von der sog. Schatten-KI (KI = generative Künstliche Intelligenz) gesprochen. Management-Experte Dr. Harald Schönfeld hat dieses Phänomen schon oft beobachtet; er leitet seine Erkenntnisse aus dem Einsatz von Interim Managern ab, die er in die Krise geratenen oder unter Nachfolgeproblemen leidenden Unternehmen vermittelt. Demnach stoßen Interim Manager in den Unternehmen regelmäßig auf eine um sich greifende Schatten-KI. Schönfeldt berichtet: „Teilweise werden längst KI-Tools wie ChatGPT im großen Stil für E-Mails, Kundenbriefe, betriebliche Analysen oder Zusammenfassungen für das Management eingesetzt. Die KI-Revolution kommt von unten und findet längst mit Macht statt.“

Was im Einzelfall nach lobenswerter Eigeninitiative aussehen mag, ist aber mehrheitlich sehr problembehaftet: Die Schatten-KI verursacht Probleme bei Compliance, Datenschutz, Datensicherheit und bei dem Schutz von Betriebsgeheimnissen. Die nicht einbezogene Führungsebene ist sich dieser Probleme oft gar nicht bewusst. Es droht ein Kontrollverlust auf Vorstands- bzw. Geschäftsführungsebene.

Lösung

Die Gefahren des KI-Einsatzes werden häufig übersehen. Schönfeldt nennt folgende Beispiele:

• das Hochladen von Kundendaten verletzt die Datenschutz-Grundverordnung,

• die Erstellung neuer Texte anhand vorhandener Dokumente verrät unbeabsichtigt Betriebsgeheimnisse,

• die KI-Nutzung als Grundlage für Bewertungen oder Entscheidungen führt zu ethisch bedenklichen Ergebnissen, ohne dass dies zunächst auffällt.

Der Management-Experte weist darauf hin, dass die aktuelle KI-Regulierung der EU durch den EU AI Act (Europäische Verordnung über Künstliche Intelligenz (KI); AI = Artifical Intelligence) bei der Schatten-KI weitgehend ins Leere läuft: „Wenn die Marketingabteilung Kundendaten in eine KI hochlädt, um darauf basierend gut formulierte Anschreiben an die Kundschaft zu verschicken, mag dies zwar keinen Verstoß gegen den AI Act darstellen, aber sicherlich gegen die Datenschutz-Grundverordnung. Und wenn die HR-Abteilung Bewerberprofile durch die KI prüfen und bewerten lässt, verstößt dies über den AI Act hinaus gegen weitere Rechtsgrundsätze.“

Um Probleme – bis hin zu nach Schönfeldt über kurz oder lang zu erwartenden Skandalen – zu vermeiden, ist ein Bewusstseinswandel auf der Führungsebene dringend erforderlich. Unterstützung bietet z.B. ein KI-Leitfaden, den der IT-Verband Bitkom veröffentlicht hat. Darin wird auf die wesentlichen rechtlichen Fragen beim Einsatz generativer Künstlicher Intelligenz in Unternehmen eingegangen. Neben einer Einführung in die technischen und rechtlichen Aspekte bei der Beschaffung von Künstlicher Intelligenz wird eine Checkliste an die Hand gegeben, siehe unter https://www.bitkom.org/Bitkom/Publikationen/Generative-KI-im-Unternehmen.

Auch im Creditreform-Newsletter vom 22.5.2024 wird das mit KI verbundene Gefahrenpotenzial im Beitrag „ChatGPT: Helfer mit Risiken und Nebenwirkungen“ adressiert. Wie das schon in der Schule verbotene Abschreiben sei auch im geschäftlichen Alltag der KI-Einsatz nicht immer rechtmäßig, vor allem dann, wenn es um den Datenschutz geht. Es ist demnach unverzichtbar, dass Unternehmen ihre Beschäftigten für die mit ChatGPT verbundenen Risiken sensibilisieren. Vor der Nutzungsfreigabe sollten Schulungen für Mitarbeitende durchgeführt werden. Hilfreich ist auch, in einem kurzen unternehmensspezifischen Leitfaden die wichtigsten Punkte festzuhalten: keine personenbezogenen Daten eingeben, Dokumente stets auf sensible Daten prüfen, sparsamer Umgang mit unternehmensbezogenen Daten.

Aus eigener Kraft werden Unternehmen nicht alle Schutzmaßnahmen ergreifen können. Beispielsweise unterstützt die Creditreform Compliance Services GmbH dabei, in Unternehmen eine datenschutzkonforme Nutzung von ChatGPT zu gewährleisten. Zu beachten ist insbesondere, dass ChatGPT als selbstlernendes System umso bessere Ergebnisse liefert, je gezielter man es trainiert – und das nicht nur mit im Internet frei zugänglichen Texten, sondern auch mit den Eingaben seiner Nutzer. Umso wichtiger ist es, darauf zu achten – und es zu vermeiden –, dass ChatGPT in diesem Fall auch persönliche oder sensible Unternehmensinformationen verarbeitet.

Dr. Hans-Jürgen Hillmer, BuS-Netzwerk Betriebswirtschaft und Steuern, Coesfeld

BC 6/2024

BC20240615