Lass uns über KI-Betrug sprechen.

Eine Version dieses Artikels erschien ursprünglich im Obsession-Newsletter von Quartz. Melden Sie sich hier an, um unsere Obsessionen in Ihrem Postfach zu teilen..

Haben Sie von Cluely gehört, dem KI-Tool, das Menschen nutzen, um bei Vorstellungsgesprächen und Zoom-Anrufen zu schummeln? Geben Sie der App Zugriff auf Ihren Bildschirm und Ihr Audio, und sie wird Ihnen in Echtzeit Antworten liefern. Ein Gründer hat sich dabei gefilmt, wie er es benutzt hat, um ein Praktikum zu gewinnen — und hat die Stelle verloren, als er das Video gepostet hat. Das ist nur ein Beispiel für den Marketingangriff des Unternehmens, der teils „Disruption“, teils Performance-Kunst und ganz auf die Idee setzt, dass Etikette und Ethik nur kulturelle Bugs sind, die gepatcht werden müssen.

So ist Cluely ebenso eine Geisteshaltung wie eine App. Das Manifest des Unternehmens beginnt mit „Wir wollen bei allem schummeln“ und schwenkt dann zu semantischen Gymnastiken um – denn Taschenrechner waren doch auch einmal Schummeln, oder? Nun, vielleicht. Die bessere Frage ist, was im Zeitalter allgegenwärtiger KI als Schummeln zählt. Cluely differenziert sich dadurch, dass es den stillen Teil laut ausspricht. Von Programmierern, die KI-generierte Arbeiten einreichen, bis hin zu Schülern, die ChatGPT nutzen, um ihre Aufsätze zu „schreiben“, und Professoren, die ChatGPT nutzen, um diese Aufsätze zu „bewerten“, verschwimmt die Grenze zwischen der Nutzung von Tools und offenem Betrug schnell.

Lesen Sie weiter unten mehr dazu.

Nach den Zahlen

15 Millionen US-Dollar: Berichtete VC-Finanzierung, die Cluely von Andreessen Horowitz erhalten hat.

Über 50%: Prozentsatz der Studenten, die ChatGPT zur Unterstützung bei Aufgaben nutzen. Scheint niedrig zu sein.

68%: Prozentsatz der Professoren, die KI-Werkzeuge nutzen, um KI-basiertes Schummeln zu erkennen. Scheint auch niedrig zu sein.

$120 Millionen: Berichteter Wert von Cluely in der letzten Finanzierungsrunde.

Unendlich: Anzahl der Grauzonen, die KI in den akademischen, beruflichen und persönlichen Bereichen geschaffen hat, ganz zu schweigen von den grundlegenden ethischen Fragen der KI selbst.

Verschwommene Linien

KI hat das Schummeln nicht erfunden. Menschen haben es getan. Passenderweise haben Menschen KI auch auf gestohlenem Material aufgebaut. Fragen Sie einfach jeden Künstler, der jemals ein Gemälde gemalt oder ein Buch geschrieben hat, wie „fair“ die sogenannte „Fair-Use“-Verteidigung klingt – insbesondere jetzt, wo Billionen-Dollar-Unternehmen wie Meta sie nutzen, um zu rechtfertigen, dass sie ihre Modelle mit raubkopiertem Kreativmaterial trainieren. Sollten wir überrascht sein, dass sich die moralische Unbeständigkeit nach außen hin ausgeweitet hat? Betrachtet man es so, ist es kein Wunder, dass KI-basiertes Schummeln in großem Maßstab passiert. So sind wir wohl ursprünglich hierher gekommen.

Die Grenze zwischen Schummeln und schwerwiegenderen Verbrechen scheint ebenfalls zu verschwimmen. KI wird eingesetzt, um Betrügereien zu ermöglichen, bei denen Opfer um Millionen betrogen werden. Erst letztes Jahr wurde ein Mann in dem, was die Staatsanwaltschaft den ersten KI-gesteuerten Musikbetrugsfall nannte, verhaftet, weil er angeblich Bot-Netzwerke nutzte, um KI-generierte Tracks wiederholt zu streamen – in Höhe von 10 Millionen Dollar an Tantiemen. Das Album hatte eine Milliarde Streams und null Fans.

Gesetzgeber eilen, um aufzuholen, aber wie gewohnt hinkt die Durchsetzung dem Betrug hinterher. In einer Welt, in der fast jeder Zugang zu KI-Tools hat, wurde Täuschung demokratisiert. Man muss kein genialer Hacker mehr sein – nur ein Typ mit einem Plug-in und der Bereitschaft, die Regeln zu verwischen.

Schließlich, wenn die KI es geschrieben hat, hat du sogar schummeln?

Zitatfähig

“Jedes Mal, wenn die Technologie uns schlauer macht, gerät die Welt in Panik. Dann passt sie sich an. Dann vergisst sie es. Und plötzlich ist es normal.”

—Das Cluely-Manifest, die Grenzen der Wahrheit zu definieren, einen Marketing-Gag nach dem anderen.

Kurze Geschichte

1998: Turnitin wird gestartet. Es wird bald ein allgegenwärtiges Werkzeug für Professoren werden, die digitale Betrüger erwischen wollen.

2015: Grammarly erreicht den Mainstream und löst eine Debatte über „akzeptable Hilfe“ aus.

2022: OpenAI startet ChatGPT. Studenten, Programmierer und Firmenangestellte beginnen, Aufgaben leise auszulagern.

2023: Erste Artikel gehen viral, in denen es darum geht, dass Schüler KI zum Schummeln nutzen. Die moralische Panik beginnt.

2025: Cluely geht viral, indem es Praktikanten sucht und einen Lohn von 50 Dollar pro Stunde im Austausch für (mindestens) vier „So habe ich geschummelt“-TikTok-Videos pro Tag verspricht.

Spaßfakt!

Cluely sogar wirbt für sich selbst als eine Art Dating-App. Die Botschaft in Kürze: Beeindrucke Mädchen mit deinem KI-generierten „Wissen“ über Kunst.

Schau dir das an

Erhalten Sie ein Gefühl für die Cluely-Kontroverse über TikTok. It’s less about a single video than the whole damn vibe.