Fast die Hälfte der befragten Fachleute hat KI unangemessen am Arbeitsplatz eingesetzt, und 63 % sagen, sie hätten gesehen, dass andere Mitarbeiter sie unangemessen verwenden.
China News Service via Getty Images
Künstliche Intelligenz hat die Arbeitswelt wie ein Erdbeben getroffen, und zunehmend müssen Unternehmen mit den Nachwirkungen umgehen.
Ein aufkommendes Problem ist das Wachstum von sogenannter „Schatten-KI“, bei der Arbeitnehmer KI auf unzulässige Weise nutzen, ob absichtlich oder nicht.
Laut einer aktuellen Studie der Universität Melbourne und KPMG haben 47 % der befragten Berufstätigen KI unangemessen am Arbeitsplatz eingesetzt, und 63 % sagen, dass sie gesehen haben, wie andere Mitarbeiter KI unangemessen nutzen. Diese Fälle variieren, von der Nutzung von KI zum Chatten bei internen Leistungsbewertungstests bis hin zur Eingabe sensibler Unternehmensdaten in Drittanbieter-KI-Tools.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Das birgt laut der Studie ein enormes Risiko für Unternehmen.
„Diese unsichtbare oder Schatten-KI-Nutzung verschärft nicht nur die Risiken – sie behindert auch stark die Fähigkeit einer Organisation, Risiken zu erkennen, zu managen und zu mindern“, so der Bericht.
Arbeitsplatzexperten sagen, dass der eigentliche Wandel mit KI nicht darin besteht, dass Mitarbeiter plötzlich unehrlich wurden. Der Wandel besteht darin, dass KI Abkürzungen schnell, einfach und unsichtbar nimmt.
„Vor KI war es schwieriger, schlechte Arbeit zu verbergen", sagte Zahra Timsah, eine Leiterin für KI-Governance und CEO von i-GENTIC AI, einer Plattform für agentische KI-Compliance. „Jetzt kann ein Mitarbeiter in wenigen Minuten einen polierten Bericht erstellen, und Manager nehmen Kompetenz an. Dies schafft die Illusion von Produktivität.“
Zum Beispiel nennt Timsah einen Mitarbeiter, der KI verwendet, um Analysen zu erstellen und sie selbstbewusst präsentiert, sie aber nicht verteidigen kann, wenn er gefragt wird. „Das Unternehmen trifft Entscheidungen auf Basis von Arbeit, die niemand wirklich versteht“, fügte Timsah hinzu. „Die größte Bedrohung ist nicht das Schummeln bei Tests. Es sind Unternehmen, die leise interne Intelligenz verlieren, während sie glauben, ihre Teams denken unabhängig.“
Andere hochrangige Führungskräfte sagen, dass die Daten darauf hinweisen, dass Unternehmen gerade erst die Spitze des Eisbergs bei der Nutzung von Schatten-KI sehen. Betrachten Sie das umfassendere Bild der Melbourne-Studie:
--- 44 % der US-Arbeiter nutzen KI-Tools ohne ordnungsgemäße Autorisierung,
--- 46 % haben sensible Unternehmensinformationen und geistiges Eigentum auf öffentliche KI-Plattformen hochgeladen, und 64 % geben zu, weniger Aufwand in ihre Arbeit zu stecken, weil sie sich auf KI stützen können.
--- Mehr als die Hälfte, 57 %, machen Fehler in ihrer Arbeit aufgrund der unkontrollierten Nutzung von KI, und 53 % verbergen ihre KI-Nutzung vollständig und präsentieren KI-generierte Inhalte als ihre eigenen.
„Es ist nicht nur so, dass Menschen KI als ihre eigene Arbeit ausgeben; sie vergiften auch den Unternehmensbrunnen, indem sie sich auf KI-Schlamm verlassen“, sagte Nick Misner, COO von Cybrary, einer in Atlanta ansässigen Plattform für die berufliche Entwicklung in der Cybersicherheit. „Während KI die Geschwindigkeit, mit der wir kodieren können, beschleunigt, führt sie mehr Schulden und Sicherheitslücken in die Organisation ein.“
Misner stellt fest, dass dies kein isolierter Trend ist, sondern ein systemisches Versagen der organisatorischen Bereitschaft.
„Wir sehen, dass die Einführung von KI die Governance massiv übertrifft“, sagte er. „Der Gallup-Bericht zum Zustand der globalen Arbeitswelt zeigt uns, dass 79 % der globalen Belegschaft irgendwo zwischen 'das Minimum tun' und 'aktiv unengagiert' liegen.“
Folglich, wenn man unengagierten Mitarbeitern ein leistungsstarkes Werkzeug ohne sinnvolle Anleitung an die Hand gibt, werden sie es nicht nutzen, um produktiver zu werden. „Sie werden es nutzen, um dieselbe Arbeit mit weniger Aufwand zu erledigen oder, schlimmer noch, um in einer Weise abzukürzen, die ein echtes organisatorisches Risiko darstellt“, bemerkte er.
Die Bedrohung besteht nicht nur darin, bei Tests zu schummeln, obwohl in einem in dieser Woche veröffentlichten Fall von KPMG Australien 28 Mitarbeiter beim Einsatz von KI zum Schummeln bei internen Prüfungen erwischt wurden, darunter ein Partner, der mit einer Geldstrafe von 10.000 Dollar für das Schummeln bei einer KI-Ethikprüfung belegt wurde.
„Dieses Beispiel veranschaulicht perfekt die Ironie“, sagte Misner. „Die größere Bedrohung besteht darin, dass Organisationen blind agieren. Wenn fast die Hälfte Ihrer Mitarbeiter KI unangemessen nutzt und Sie es nicht einmal wissen, ist Ihr Risiko massiv, von Datenlecks über Compliance-Verstöße bis hin zum Verlust der Fähigkeiten, die Ihre Mitarbeiter tatsächlich benötigen.“
Die Führungsetage muss mit Vorschlägen, Richtlinien und Sanktionen voranschreiten, um sicherzustellen, dass KI in ihren Unternehmen ethisch eingesetzt wird. Diese Strategien sollten ganz oben auf ihrer Prioritätenliste stehen.
Es gibt gute Argumente dafür, dass die Zahlen von Melbourne/KPMG nicht einzigartig für KI sind.
„Wir sahen ähnliche Muster, als das Internet und Suchmaschinen erstmals in den Arbeitsplatz einzogen“, sagte Joe Schaeppi, Mitbegründer von Solsten, einem auf KI basierenden Benutzerengagement-Unternehmen in Minneapolis, Minn. „Wann immer ein mächtiges neues Werkzeug auftaucht, ist Missbrauch unvermeidlich; das ist menschliche Natur.“
Mit zunehmender KI-Annahme, sagte Schaeppi, wird das Management wahrscheinlich mehr Experimente und Verhaltensweisen im Graubereich sehen, aber wie bei allen Technologien entwickeln sich Governance und Leitplanken weiter. „Unternehmen wie Anthropic verfolgen bereits einen stärker unternehmensorientierten Ansatz und bauen Regeln und Einschränkungen ein, um das Risiko zu reduzieren, während sich die Technologie weiterentwickelt“, bemerkte er. „Wenn Sie ein Unternehmen sind und unangemessenes Verhalten bei einem Werkzeug beobachten, sollte die Besorgnis auf Kultur und darauf gerichtet sein, wie Sie Richtlinien und Verfahren durchsetzen.“
Um die KI-Engagements am Arbeitsplatz in Schach zu halten, muss das Management ein KI-Analyse-Team damit beauftragen, den Datenzugriff des Unternehmens und die Berechtigungen für alle Datentypen zu prüfen, die für die Zukunft des Unternehmens von entscheidender Bedeutung sind.
„Als nächstes sind synthetische Datensätze nichts Neues und eine großartige Möglichkeit, weiterhin Ergebnisse zu modellieren und dabei Ihre Daten zu nutzen“, sagte er. „Zusätzlich würde ich immer einen Menschen in den Prozess einbeziehen, bevor irgendetwas live geht. Mehrere Unternehmen haben immer noch festgestellt, dass KI falsche Zahlen meldet. Ob es darum geht, sicherzustellen, dass die Botschaft noch zur Marke passt oder angemessen ist, es ist wichtig, einen Menschen im Prozess zu halten.“
Unternehmen sollten auch genehmigte interne KI-Tools bereitstellen und eine klare Regel aufstellen. Niemals vertrauliche oder regulierte Informationen in öffentliche KI-Systeme eingeben.
„Sie sollten auch überwachen, wohin sensible Daten fließen, insbesondere Copy-Paste in KI-Tools, was jetzt ein großer blinder Fleck ist, den die meisten Unternehmen völlig übersehen“, sagte Timsah. „Am wichtigsten ist, dass Unternehmen ändern müssen, wie sie Mitarbeiter bewerten.“
Timsah ermutigt auch Firmenchefs, nicht nur ausgefeilte Ergebnisse zu belohnen. „Verlangen Sie von den Mitarbeitern, dass sie ihre Argumentation erklären und Verständnis zeigen“, sagte sie. „KI kann Antworten generieren, aber sie kann weder Eigenverantwortung noch Haftung ersetzen.“
Die erste Richtlinie, die Timsahs Team bei i-GENTIC umsetzte, war einfach und klar: Mitarbeiter durften genehmigte KI-Tools verwenden, aber sie durften keine vertraulichen, kundenbezogenen, finanziellen oder proprietären Informationen in öffentliche KI-Systeme eingeben.
„Wir haben uns auf Klarheit, nicht auf Einschränkung konzentriert“, merkte sie an. „Dies schuf Vertrauen, weil der Mitarbeiter wusste, dass die Nutzung von KI erlaubt war, jedoch mit klaren Grenzen. Es schuf auch Verantwortlichkeit, weil jeder verstand, was sicher war und was nicht.“
Die Schulung im Unternehmen sollte sich auf praktische Beispiele konzentrieren, nicht auf vage Richtlinien, die niemand liest. Die Mitarbeiter müssen klar verstehen, was sicher ist und was nicht.
„Es ist in Ordnung, KI zu verwenden, um eine generische E-Mail umzuschreiben“, sagte Timsah. „Das Hochladen von Kundenverträgen, Finanzdaten oder proprietären Informationen in ein öffentliches KI-Tool ist es nicht. Es ist in Ordnung, KI zur Ideenfindung zu verwenden. AI-generierte Analysen, die man nicht versteht, als eigene Arbeit zu präsentieren, ist es nicht.“
Der Missbrauch von KI durch Mitarbeiter wird zu einem rechtlichen Problem, wenn Absicht und Schaden vorliegen.
„Dazu gehört das Leaken vertraulicher Daten, der Diebstahl von geistigem Eigentum, die Manipulation von Finanzinformationen oder der Betrug mit Unterstützung von KI“, bemerkte Timsah. „In diesem Fall könnten Unternehmen Ermittler, Aufsichtsbehörden oder die Strafverfolgung einschalten.“
Entscheidungsträger von Unternehmen sollten auch wissen, dass der meiste Missbrauch aus Bequemlichkeit und nicht aus böswilliger Absicht beginnt, aber sobald er echten Schaden, finanzielle Gefährdung oder Täuschung verursacht, gerät er in rechtliche Bereiche. „Der entscheidende Unterschied ist, ob der Missbrauch zu einer Offenlegung, einem Verlust oder einer absichtlichen Verschleierung geführt hat“, fügte Timsah hinzu.
Experten sagen, dass es wichtig ist zu beachten, dass Organisationen die Nutzung von KI wie jede andere risikoreiche Verhaltensweise behandeln und Mitarbeiter darüber aufklären sollten, wie sie sicher genutzt werden kann.
Darüber hinaus muss das Management bei der Schulung von Mitarbeitern zur Nutzung von KI darauf achten, dass sie wissen, dass die Nutzung von KI sie nicht von der Verantwortung entbindet.
„Mitarbeiter sind weiterhin dafür verantwortlich sicherzustellen, dass die Informationen, die sie auf KI-Plattformen hochladen, korrekt und nicht gesetzeswidrig sind“, sagte Kelsey Szamet, Partnerin bei Kingsley Szamet Employment Lawyers. „Mitarbeiter sollten sich auch bewusst sein, dass das Hochladen vertraulicher und firmeneigener Informationen auf KI-Plattformen dazu führen kann, dass diese Informationen dauerhaft auf der Plattform zugänglich bleiben.“
Aus Sicht der Beschäftigung ist Konsistenz entscheidend. Wenn ein Mitarbeiter wegen Missbrauchs von KI entlassen wird und ein anderer nicht, schafft das Haftungsprobleme wegen Diskriminierung und Vergeltung. „Je stärker die Richtlinien und der Schulungsprozess, desto geringer das Risiko von Rechtsstreitigkeiten“, sagte Szamet.
Das größere Anliegen ist nicht, dass Mitarbeiter KI nutzen werden. Das werden sie. „Die Sorge ist, dass Unternehmen dies angehen, bevor es zu einem Problem wird“, fügte Szamet hinzu.
