Arbeitsplatsexperten sagen, dass neue "Automaten-Chefs" Unternehmen in wichtigen Bereichen wie Logistik, Einzelhandel und Kundenservice beeinflussen werden.
Getty Images
Auf dem Weg in das letzte Quartal 2025 ersetzt KI nicht nur Frontarbeit; sie wird zunehmend eingesetzt, um Schichten zuzuweisen, Leistungen zu überwachen und sogar Empfehlungen für Einstellungen und Entlassungen abzugeben, was lange Zeit das Reich traditioneller Unternehmensführer war.
Der Trend ist nicht anekdotisch: 52 % der mittelständischen Unternehmen nutzen bereits KI für die Rekrutierung von hochqualifizierten Talenten, und 78 % setzen KI als Agenten ein, um Aufgaben zu erledigen, die historisch von der Leitung ausgeführt wurden, laut McKinsey..
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Experten für Arbeitsplätze sagen, dass neue „Auto-Chefs“ wahrscheinlich Unternehmen in Schlüsselbereichen wie Logistik, Einzelhandel und Kundenservice beeinflussen werden, was ein Risiko für menschliche Manager und Aufseher darstellt und möglicherweise ernsthafte rechtliche und ethische Risiken erzeugt. Vor allem steht die Rechenschaftspflicht in Frage, da algorithmusbasierte Managemententscheidungen die Entscheidungen von Fleisch-und-Blut-Arbeitsplatzentscheidern ersetzen. Schließlich, wenn KI die Managemententscheidung trifft, werden Unternehmen wirklich wissen, wer für Fehler verantwortlich ist?
„Wir haben uns über einfache Automatisierung hinausbewegt“, sagte Ben Perreau, CEO bei Parafoil, einem Unternehmen für Führungsintelligenz in Los Angeles. „In der Logistik, im Einzelhandel und in Callcentern planen, bewerten und leiten Algorithmen bereits Mitarbeiter. Es ist effizient, aber es schreibt leise um, was es bedeutet, einen Chef zu haben.“
Während es noch früh im Spiel ist, tendiert die Stimmung eher zu mehr algorithmusbasierten Managemententscheidungen als zu weniger. Diese Aufmerksamkeitsgewinner unterstützen dieses Gefühl, insbesondere in Managementkreisen, selbst bei ernsthaften Risiken.
Da KI-Bots, Agenten und Algorithmen in der Unternehmenswelt Fuß fassen, bietet der Einsatz von KI in Managemententscheidungen bisher mehr Vorteile als Nachteile.
"Für Unternehmen sind die Belohnungen verführerisch", sagte Perreau. "Niedrigere Arbeitskosten, Echtzeitoptimierung und schnellere Entscheidungen."
Die Risiken können „brutal“ sein, wenn etwas schiefgeht, bemerkte Perreau. "Datenlücken und Voreingenommenheit können sich in groß angelegte Black-Box-Entscheidungen verhärten", sagte er. "In dem Moment, in dem sich die Mitarbeiter fühlen, als würden sie einem System und nicht einer Person Bericht erstatten, brechen Vertrauen und Moral schnell zusammen. Dann werden Effizienzgewinne durch Fluktuation, Klagen und Reputationsschäden zunichte gemacht."
Eine „KI hat die Entscheidung getroffen“-Mentalität wird bei Mitarbeitern oder Aufsichtsbehörden nicht ankommen. „Führungskräfte müssen eine klare Verantwortungslinie mit Prüfpfaden und menschlicher Freigabe für folgenschwere Maßnahmen beibehalten“, sagte Perreau.
Management-Experten sagen, dass ein primärer Vorteil des "Algo-Managers" in der Effizienz liegt.
„Algorithmen können schnell eine Minderleistung erkennen, indem sie Metriken scannen, oder Kandidaten, die das Unternehmen [in Betracht zieht, einzustellen], viel schneller einstufen“, sagte Roman Eloshvili, Gründer von ComplyControl, einem britischen KI-gestützten Managementdienstleistungsunternehmen. „Hier werden viele Engpässe, die den Entscheidungsprozess verlangsamen, schnell gelöst und theoretisch wenden Algorithmen Regeln konsistenter an als voreingenommene Menschen. Für Unternehmen in den Bereichen Logistik, Einzelhandel oder Kundenservice bedeutet dies geringere Kosten und optimierte Abläufe.“
Doch diese Algorithmen können Risiken bergen, insbesondere wenn sie falsch angewendet werden.
„Fehler in Trainingsdaten können zu unfairen Einstellungs- oder Entlassungsentscheidungen führen“, bemerkte Eloshvili. „Ebenso wichtige Fehler im Modelldesign oder in der Spezifikation können Leistungskennzahlen verzerren und die Moral schädigen.“ Darüber hinaus arbeiten KI-Systeme oft mit undurchsichtiger Logik und schwacher Verantwortlichkeit. „Dies kann das Vertrauen zwischen Arbeitnehmern und Management untergraben“, fügte Eloshvili hinzu.
Ein hybrider Ansatz, der einen starken menschlichen Einfluss integriert, könnte die Zukunft des Algorithmusmanagements sein – aber er muss schnell kommen.
Managementexperten zitieren reale warnende Beispiele, die Unternehmensentscheider als rote Fahnen betrachten sollten, die sofortige Aufsichtsmaßnahmen erfordern.
„Kürzlich beauftragte ein Reddit $RDDT-Nutzer einen KI-Agenten damit, Daten zu bereinigen“, sagte Giselle Fuerte, Forscherin für KI-Ethik und -Bildung und Gründerin von Being Human With AI, einer KI-EmPowerment-Plattform für Schulkinder. „Stattdessen löschte der Agent Dateien, die ausdrücklich mit 'nicht löschen' markiert waren. Als er zur Rede gestellt wurde, räumte die KI den Fehler ein und sagte dem Nutzer, er solle die Daten neu erstellen. Das ist das Maß an Verantwortlichkeit, mit dem wir es zu tun haben: 'Hoppla. Mein Fehler.'"
Jetzt skalieren Sie dieses Szenario auf einen Unternehmenskontext. „Stellen Sie sich vor, ein KI-Manager empfiehlt Entlassungen, bestraft Mitarbeiter für falsche Kennzahlen oder schreibt QA-Verfahren um, die Millionen von Kunden betreffen“, bemerkte Fuerte. „Ein 'hoppla' reicht nicht aus. Unternehmen werden neue Governance-Modelle benötigen; höchstwahrscheinlich hybride Verantwortlichkeiten, bei denen sowohl der menschliche Delegator als auch der maschinelle Ausführer geprüft werden.“
Unternehmen müssen auch erkennen, dass KI in der realen Welt einen problematischen Geschäftsführer schaffen kann.
„Schauen Sie nicht weiter als Claudius, Anthropics Fliege tragende experimentelle KI, die sich als Kleinunternehmer herabließ, Produkte zu Dumpingpreisen zu verschenken und Bestellungen für nicht gut verkaufte Bestände zu erhöhen“, sagte Fuerte. „Obwohl altruistisch, erwies sich die KI als schlechter Geschäftsmanager. Ohne eine stetige menschliche Hand, die sie führt, würde Claudius wahrscheinlich ein Unternehmen direkt in den Boden wirtschaften.“
Management-Gurus sagen, dass KI eine bedeutende Rolle bei der Entscheidungsfindung im Management spielen sollte, jedoch mit einem soliden menschlichen Verantwortungsrückhalt.
„Ich mag die Metapher mit den Aufzügen: Sie scheinen automatisch zu arbeiten, aber es gibt immer eine Person, die für ihren Betrieb, ihre Wartung und Sicherheit verantwortlich ist“, sagte Seva Ustinov, CEO und Gründer von Elly Analytics, einem in San Francisco ansässigen Marketing-Automatisierungsunternehmen. „Bei der KI ist es genauso; Sie können den Prozess automatisieren, aber jemand muss dahinterstehen. Technologie kann helfen, bessere Entscheidungen zu treffen, aber Verantwortung kann nicht automatisiert werden.“
Darüber hinaus, wenn Unternehmen sich vorstellen, dass sie etwas fortschrittlicheres als menschliche Manager einsetzen, vergessen sie, das Unerwartete zu erwarten. Das Management wird dieses Denken sofort angehen müssen.
„KI ist noch nicht der Meister, sie ist noch der Schüler, und ohne menschliche Führer kann sie nicht weit und breit genug vorausblicken, um zu führen“, sagte Fuerte. „Während KI Nuancen hervorragend verarbeiten kann, kann sie, wenn sie darauf trainiert ist, Unternehmensrichtlinien wörtlich anzuwenden, leicht Vorurteile verstärken, etwa Mitarbeiter mit Afro-Textur-Haaren wegen 'Richtlinienverstößen' zu kennzeichnen oder Rückkehrdaten für Familien- und Krankenurlaub aufgrund einfacher Datumsberechnungsfehler falsch zu zählen.“
Zu oft kämpft KI immer noch mit grundlegender temporaler Logik, manchmal sogar mit etwas so Einfachem wie zählen der Anzahl der R's in "strawberry"," bemerkte Fuerte. „Ohne dass ein Mensch die Aufsicht führt, kann diese Art von Sprödigkeit Leben und Karrieren ruinieren“, sagte sie.
