Es gibt eine Lücke zwischen dem Wissen über KI-Risiken auf Managementebene und den spezifischen Maßnahmen, die von Unternehmen ergriffen werden, um solche Bedrohungen einzudämmen.
Maskot
Der KI-Zug fährt 2025 mit voller Geschwindigkeit, während die Unternehmensleiter darum kämpfen, Schritt zu halten und die steigenden betrieblichen Risiken zu kontern.
Betrachten den Stanford University 2025 Index Report, der zeigt, dass KI-verbundene Datenschutz- und Sicherheitsvorfälle im Jahr 2024 um 56,4 % gestiegen sind. Die Studie identifizierte Datenschutzverletzungen und algorithmisches Versagen, die sensible Informationen kompromittieren, als die häufigsten Arten von KI-Vorfällen.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Noch alarmierender ist die Kluft zwischen dem Wissen um KI-Risiken auf Managementebene und den spezifischen Maßnahmen, die von Unternehmen ergriffen werden, um solche Bedrohungen einzudämmen, obwohl negative Ergebnisse wie regulatorische Strafen und irreparabler Schaden für das Vertrauen der Verbraucher drohen.
„Unsere Forschung zeigt, dass 73 % der Unternehmen im letzten Jahr einen KI-bezogenen Sicherheitsvorfall erlebten, oft ohne die Schwachstellen zu erkennen, bis es zu spät war“, sagte Dr. Ja-Naé Duane, Verhaltenswissenschaftlerin an der Brown University und Mitautorin des kommenden Buches "SuperShifts: Transforming How We Live, Learn, and Work in the Age of Intelligence." "Das Hauptproblem ist, dass viele Führungskräfte der C-Ebene KI-Risiken mit technischen Fehlern gleichsetzen und die breiteren menschlichen, betrieblichen und reputationsbedingten Nachteile übersehen, wie etwa sinkende Mitarbeitermoral, Fehlinformationen und feindliche Manipulation."
Duane weist auf mehrere KI-Vorfälle hin, die bei großen Markenunternehmen negative Auswirkungen ausgelöst haben:
· Amazons KI-Rekrutierungstool begann, weibliche Bewerber herabzustufen, weil die Trainingsdaten voreingenommen waren.
· Der Tay-Chatbot von Microsoft $MSFT veröffentlichte innerhalb weniger Stunden nach dem Start anstößige Inhalte aufgrund unzureichender Sicherheitsmaßnahmen.
· Ein New Yorker Anwalt reichte gefälschte Gerichtsakten ein, die von ChatGPT generiert wurden, und wurde mit einer Geldstrafe belegt.
· Ein Chevrolet-Chatbot bot fälschlicherweise neue SUVs für 1 Dollar an.
In vielen Fällen ist das Situationsbewusstsein für KI-Bedrohungen in der Unternehmensführung allzu häufig vorhanden.
„In letzter Zeit haben fast die Hälfte der Unternehmen KI-Initiativen aufgrund schlechter Umsetzung, fehlendem Vertrauen und Governance-Versagen aufgegeben“, fügte Duane hinzu. „Diese Beispiele zeigen, dass die bedeutendsten KI-Risiken von blinden Flecken in der Führung und nicht nur von technologischen Aspekten herrühren.“
Der erste Schritt, um KI-Risiken einen Schritt voraus zu sein, ist das Erkennen der Bedrohungen, die die größten Herausforderungen darstellen. Quartz sprach mit Managementexperten, die spezifische KI-Gefahren hervorhoben, auf die sich alle Unternehmen vorbereiten sollten.
Da KI in Unternehmen immer allgegenwärtiger wird, führt "Übercodierung" zu Cyber-Sicherheitsverletzungen.
„Software-Engineering-Teams setzen KI ein, um Software unglaublich schnell zu entwickeln, aber der Code bringt immer eine dramatische Zunahme an Ballast mit sich, insbesondere nicht genutzte, unnötige Codezeilen“, sagte George Manuelian, Chefstratege bei RapidFort, einem Cyber-Sicherheitsunternehmen in Atherton, Kalifornien.
Was viele Unternehmensteams nicht erkennen, ist, dass Software-Code-Ballast direkt die Angriffsfläche ihrer Organisation vergrößert und zu mehr Software-Schwachstellen führt, die Hacker ausnutzen können. „Wir haben aus erster Hand gesehen, wie von KI generierte oder beschleunigte Software unnötige Dinge enthält, die das Risiko nur erhöhen, ohne einen Mehrwert zu bieten, geschweige denn eine spezifische Funktion zu haben“, sagte Manuelian.
Um die Sache noch schlimmer zu machen, kämpfen Sicherheitsteams nun darum, mit dem schnellen Tempo der Softwareentwicklung Schritt zu halten. "Dies verursacht eine ernsthafte Engstelle, die die Sicherheitslage einer Organisation erheblich schwächt", fügte Manuelian hinzu.
Eines der dringendsten und am meisten unterschätzten Risiken der KI-Implementierung ist der Anstieg von Deepfake-unterstützten Betrugsbedrohungen.
„Wir sehen jetzt Gegner, wie nordkoreanische Bedrohungsakteure, die erfolgreich in US-Unternehmen eindringen, indem sie sich als legitime Stellenbewerber ausgeben“, sagte Matt Moynihan, CEO von GetReal Security in Boston, Massachusetts. „Mithilfe von generativer KI können sie Dokumente fälschen, Anmeldeinformationen manipulieren und sogar Live-Video-Interviews mit überzeugend realistischen Personas simulieren.“
Das Deepfake-Problem ist nicht hypothetisch und es ist nicht auf eine bestimmte Branche oder Unternehmensgröße beschränkt.
„Jeder, von Fortune-500-Unternehmen bis hin zu mittelständischen Unternehmen, ist gefährdet und die Konsequenzen sind weitreichend“, sagte Moynahan. „Diese Akteure zielen nicht nur auf Arbeitsplätze ab, sondern auch auf den Zugang. Einmal drinnen, können sie sensible geistige Eigentumsrechte exfiltrieren, Kundendaten kompromittieren oder Informationen sammeln, die nationale Sicherheitsimplikationen haben.“
Was diese Bedrohung besonders gefährlich macht, ist, wie leicht sie herkömmliche Überprüfungsprozesse umgehen kann. Ohne spezialisierte Werkzeuge sind diese Deepfake-Identitäten fast unmöglich zu erkennen.
„Deshalb müssen Unternehmen ihren Ansatz ändern und in funktionsübergreifende Erkennungsfähigkeiten investieren, die Cybersicherheit, Personalwesen und digitale Forensik kombinieren, um die Identität in Echtzeit zu validieren“, fügte Moynihan hinzu.
Eines der größten Risiken besteht darin, wie leicht KI-Systeme in unerwartete Verhaltensweisen eskalieren können, die Führungskräfte nicht erwartet haben.
„Ohne die richtigen Kontrollen beginnt KI, mit anderen Werkzeugen zu interagieren, Annahmen zu treffen und Konsequenzen zu schaffen, die niemand geplant hat“, sagte Tim Armandpour, Chief Technology Officer bei PagerDuty, einem Unternehmen für Leistungsmanagement in Los Angeles, Kalifornien. „Wir sehen KI-Agenten, die Alarme auslösen, Vorfälle eskalieren oder sensible Daten berühren, mit wenig menschlicher Beteiligung.“
Mitarbeiter sind die ersten, die die Auswirkungen spüren, wenn Arbeitsabläufe gestört werden oder das Vertrauen zusammenbricht. Im Gegensatz dazu spüren die Aktionäre die Auswirkungen, wenn diese Vorfälle zu Ausfallzeiten, Sicherheitslücken oder öffentlichem Aufruhr führen, bemerkte Armandpour. „Dies sind keine Randfälle. Das geschieht jetzt, und die Komplexität wächst weiter“, sagte er.
Während KI grundlegend verändert, wie Menschen arbeiten, kommunizieren und miteinander in Beziehung stehen, implementieren die meisten Organisationen KI, als wäre sie nur ein weiteres Software-Upgrade.
„KI ändert, wie wir Informationen finden, wie wir Entscheidungen treffen, wie wir zusammenarbeiten und sogar, wie wir Vertrauen zu Kunden und unseren eigenen Teams aufbauen“, sagte Aaron Perkins, Gründer von Market-Proven AI, einem KI-Arbeitstrainingsunternehmen in Dover, Delaware.
Wenn Organisationen diese menschlichen Dynamiken ignorieren, schaffen sie, was Perkins als "Verbindungsschuld" bezeichnet. „In diesem Kontext ist Verbindungsschuld die wachsende Kluft zwischen dem, was die Technologie leisten kann, und dem, was Menschen bereit oder in der Lage sind, damit zu tun“, bemerkte Perkins.
KI schafft eine völlig neue Generation von Arbeit, die neue Kompetenzen in der Mensch-KI-Zusammenarbeit erfordert, doch viele Unternehmen gehen das Training aus der falschen Perspektive an. „Die meisten Organisationen konzentrieren sich darauf, den Menschen beizubringen, wie man die Werkzeuge benutzt, anstatt wie man effektiv neben und mit KI arbeitet, während man menschliche Verbindungen aufrechterhält“, sagte Perkins.
Ein weiteres Problem ist, dass KI Informationen erfinden kann, selbst wenn sie mit spezifischen Unternehmensdaten trainiert wird, und Unternehmen können nie zu 100% sicher sein, dass sie nicht etwas aus der Luft gegriffen hat.
„Wir kennen alle diese Internet-Memes, bei denen man KI bittet, ein Bild ohne Elefant zu zeichnen, und sie malt trotzdem eines mit Elefant“, sagte Jeff Tilley, Gründer und CEO von Muncly, einem Salesforce $CRM-Lösungsdienstleistungsunternehmen. „Das liegt daran, dass Elefanten in der Welt existieren, und die KI verfällt in logische Trugschlüsse basierend darauf, wie man sie anleitet.“
Das Halluzinationsproblem hebt das Kernproblem hervor, dass KI an gesundem Menschenverstand und einem kontextuellen Verständnis dessen, was passiert, mangelt, auch wenn C-Level-Führungskräfte diese Denkweise möglicherweise nicht priorisieren.
„Es ist ein statistisches Modell, das versucht, ein echtes menschliches Gespräch nachzuahmen“, sagte Tilley. „Wenn es Ihnen falsche Informationen gibt und Sie darauf basierend Entscheidungen treffen und dann mehr Entscheidungen auf diesen falschen Grundlagen aufbauen, extrapolieren Sie massive Mengen an Fehlern, die zu katastrophalen Geschäftsentscheidungen führen können.“
Auf der positiven Seite gibt es Vorkehrungen, die CEOs, CROs und CTOs treffen können, um die Risiken bei der Bereitstellung und Nutzung von KI erheblich zu verringern. Beginnen Sie damit, Mitarbeiter zu schulen und zu beauftragen, die erste Verteidigungslinie zu sein, und arbeiten Sie sich von dort aus vor.
„Ermächtigen Sie die Mitarbeiter nicht nur zur Ausführung, sondern auch zum Hinterfragen, Erheben von Warnungen und zur Gestaltung dessen, was KI für ihre Arbeit bedeutet“, sagte Andrea Schnepf, Gründerin von Nepf LLC, einer Managementberatungsfirma in Irvine, Kalifornien. „Richten Sie außerdem KI-„Sprechstunden“ oder offene Foren ein, in denen die Menschen frühzeitig Bedenken äußern können.“
Eine sichere Kultur kann das beste Frühwarnsystem eines Managers für KI-Bedrohungen am Arbeitsplatz sein.
„Wenn Unsicherheit droht, kommunizieren Sie übermäßig die Notwendigkeit von Wachsamkeit“, sagte Schepf. „Ein CEO, der transparent über Zweck, Umfang und Grenzen der KI spricht, gewinnt Vertrauen, auch wenn die Werkzeuge noch nicht perfekt sind.“
