ChatGPT und Claude treten in die US-Regierung ein. Sollten wir besorgt sein?

Die großen Sprachmodelle (LLMs) wurden diesen Monat von ihren jeweiligen Herstellern, OpenAI und Anthropic, für nur 1 US-Dollar der Bundesregierung zur Verfügung gestellt. Die Partnerschaften kommen im Zuge der Trump-Regierung, die darauf abzielt, die Einführung von künstlicher Intelligenz im öffentlichen Sektor zu beschleunigen.

Indem sie Modelle, deren Training Milliarden kostet, praktisch kostenlos der 15. größten Belegschaft des Landes anbieten, haben OpenAI und Anthropic sich einen Platz im legislativem Werkzeugkasten gesichert – eine Position, die sich als lukrativ erweisen könnte, sobald die kostenlosen Testphasen enden und die Arbeitnehmer von ihren Produkten abhängig werden.

Da OpenAI GPT-5 vorstellt, das es behauptet erreicht „PhD-Niveau“ Leistung, und Anthropic startet Claude Opus 4, das angeblich in der Lage ist, „lange Aufgaben“ sieben Stunden lang auszuführen, stellt sich die Frage: Was bedeutet es für die Regierung, diese Fähigkeiten in ihren Händen zu haben?

Im besten Fall könnten LLMs den Steuerzahlern jährlich Milliarden sparen, indem sie Abläufe rationalisieren und Verbesserung der politischen Ergebnisse ermöglichen. Aber die Verarbeitung sensibler Daten mit Produkten von Privatunternehmen — und die Abhängigkeit von unvollkommenen, manchmal halluzinatorischen Ergebnissen für die Entscheidungsfindung — ist riskant.

„Ich mache mir ein wenig Sorgen, dass es nicht wirklich viel bringen wird, einfach LLMs auf die Arbeiter loszulassen und ihnen zu sagen: ‚Ihr könnt das jetzt benutzen, es ist super billig, und macht, was ihr wollt‘ – und es könnte eine Menge neuer Risiken mit sich bringen“, sagt Mia Hoffman, Research Fellow am Georgetown Center for Security and Emerging Technology (CSET). „Offensichtlich sind LLMs keine gottähnlichen Systeme; sie kommen mit einer Reihe von Problemen.“

Der föderale KI-Vorstoß

„Behörden müssen bürokratische Engpässe abbauen und die KI-Governance als Ermöglicher von effektiver und sicherer Innovation neu definieren“, schrieb die White House Office of Management and Budget (OMB) in einem von zwei im April veröffentlichten Memos. Diese Memos ersetzen die Richtlinien der Biden-Ära für die föderale Einführung von KI und bauen auf der Exekutivanordnung von Präsident Donald Trump auf: Aufrechterhaltung der amerikanischen Führung in der künstlichen Intelligenz.

Der Plan zur KI-Aktionsplan, veröffentlicht am 23. Juli, enthält weitere politische Empfehlungen, einschließlich eines „AI-Beschaffungswerkzeugs“ von genehmigten Anbietern für die Nutzung durch Behörden. Der Plan schreibt auch vor, dass „alle Mitarbeiter, deren Arbeit von dem Zugang zu fortschrittlichen Sprachmodellen profitieren könnte, Zugang zu und angemessene Schulungen für solche Werkzeuge erhalten.“

Im Rahmen der Vereinbarungen stehen sowohl ChatGPT als auch Claude den Behörden zur Verfügung, wobei Claudes Zugang voraussichtlich auf die Justiz und die Mitglieder des Kongresses ausgeweitet wird, „vorbehaltlich ihrer Zustimmung.“

Also, wie werden sie verwendet?

Genau wie sie eingesetzt werden, wurde nicht offengelegt, aber der KI-Aktionsplan nennt potenzielle Anwendungen wie „Beschleunigung langsamer und oft manueller interner Prozesse, Vereinfachung öffentlicher Interaktionen und viele andere.“

Dies wird wahrscheinlich mit der Automatisierung von Backoffice-Operationen beginnen, sagt Lindsay Gorman, Geschäftsführer und Senior Fellow im Technologieprogramm des German Marshall Fund — die „weniger glamourösen Komponenten der Arbeit der Bundesregierung."

Der Plan fordert auch einige Behörden auf, den Einsatz von KI zu testen, um „die Erbringung von Dienstleistungen für die Öffentlichkeit zu verbessern.“ Gorman sagt, dies könnte KI-Assistenten für Bürger bedeuten, ähnlich wie Unternehmen Chatbots für den Kundenservice nutzen.

Sie sieht auch voraus, dass Denkmodelle mehr „anwendungsintensive“ Verwendungen haben werden, wie zum Beispiel die Beschleunigung wissenschaftlicher Forschung. OpenAI behauptet, dass seine o3- und o4-mini-Modelle, die in ChatGPT Enterprise enthalten sind, die ersten sind, die „mit Bildern denken können.“ Theoretisch können Benutzer Diagramme oder Skizzen eingeben, und die Modelle werden sie während ihres Denkprozesses analysieren, bevor sie antworten. Ein Bericht von The Information behauptet, dass die neuen Modelle Fachwissen über Bereiche wie Kernspaltung oder Erkennungen von Krankheitserregern synthetisieren und dann neue Experimente oder Ideen vorschlagen können.

LLMs werden wahrscheinlich häufiger dazu verwendet werden, Datensätze zu analysieren oder Dokumente zusammenzufassen.

„Man könnte sich vorstellen, dass ein Abgeordneter des Hauses oder ein Senator Nachforschungen zu bestimmten Gesetzentwürfen oder politischen Ideen anstellt, um ihre Arbeit zu informieren“, sagt Gorman.

Ein Teil davon passiert bereits. Bundesbehörden veröffentlichen ein inventory darüber, wie sie KI einsetzen, und listeten im Januar 2.133 Anwendungsfälle auf. Das Justizministerium verwendet ChatGPT bereits für Dinge wie die Erstellung von Inhalten, die auf Aufforderungen basierende Suche und die Analyse von Prüfberichten. Sein Inventar vom Januar umfasste 241 KI-Einträge – ein Anstieg von über 1.500 % im Vergleich zum Vorjahr.

U.S. Immigration and Customs Enforcement (ICE) listed 19 KI-Anwendungsfälle ab Januar, darunter den „Investigative Prioritization Aggregator“, der maschinelles Lernen verwendet, um Ziele für Homeland Security Investigations zu bewerten, indem er ihnen eine Punktzahl zuweist. ICE behauptet, dies sei besonders wichtig bei Missionen gegen Opiate und Fentanyl, bei denen rechtzeitige Informationen entscheidend sind. Man könnte sich vorstellen, dass dieser riesige Datensatz in ein LLM hochgeladen wird, um eine schnellere und detailliertere Analyse zu ermöglichen.

ICE hat auch wiederholt ohne formalen Vertrag mit dem Softwareanbieter auf ein nationales, KI-gestütztes Kameranetzwerk zugegriffen, über lokale und staatliche Strafverfolgungsbehörden. 404 Media im Mai berichtet.

Datenschutzbedenken

Das OMB weist die Agenturen an, sicherzustellen, dass Daten von Anbietern nur dann gesammelt und aufbewahrt werden, wenn dies „vernünftigerweise notwendig“ für den Zweck des Vertrags ist. Aber damit Behörden einen Nutzen aus einem LLM ziehen können, müssen sie es mit Daten versorgen – was bedeutet, dass die meisten Anwendungen diese Schwelle erreichen könnten.

„Wenn Sie Anfragen in ein Modell eingeben, haben die Unternehmen Zugriff auf diese Anfragen. Wie wird das also geschützt?“, sagt Gorman. „Welche Garantien gibt es, dass die Daten geschützt werden, wenn ein Mitarbeiter des Senats möglicherweise sensible politische Informationen eingibt – insbesondere vor ausländischen Akteuren?“ Sie fügt hinzu, dass es vielen Startups an starken Sicherungsmaßnahmen für Regierungsdaten mangelt.

LLMs schaffen auch neue Angriffsvektoren wie „indirekte Prompt-Injektion“ und mehr Möglichkeiten für Datenlecks, sagt Laurence Sotsky, CEO der AI-Steuerplattform Incentify. „Neue Einstiegspunkte für Hacker bewegen sich schneller als die Politik“, warnt er.

Genauigkeit und Voreingenommenheit

LLMs können auch Fehler erzeugen und historische Vorurteile widerspiegeln. Eine Studie der Purdue University aus dem Jahr 2024 ergab, dass etwa die Hälfte der Antworten von ChatGPT auf Programmierfragen enthalten falsche Informationen.

Während Modelle funktionieren nicht wirklich wie menschliche Gehirne, they still reflect and sometimes amplify societal biases. For example, a Papier betitelt Gender Bias und Stereotypen in großen Sprachmodellen found that LLMs are 3-6 times more likely to assign stereotypical occupations by gender, such as “nurse” for women and “engineer” for men.

In einem realen Fall, Wired Wired berichtete, dass die niederländische Regierung in Rotterdam einen Algorithmus zur Betrugserkennung bei Sozialleistungen einsetzte, der Einwanderern, Alleinerziehenden, Frauen, jungen Menschen und Nicht-Niederländisch-Sprechern ohne berechtigten Grund höhere Risikobewertungen zuwies. Dies führte zu unverhältnismäßigen Untersuchungen und Leistungskürzungen für marginalisierte Gruppen. Nachdem Audits das System als intransparent und diskriminierend bewertet hatten, wurde es 2021 gestoppt.

Um diese Risiken zu mindern, fordert das OMB von den Behörden, "Hochwirksame KI" zu identifizieren — Systeme, deren Ergebnisse die Hauptgrundlage für Entscheidungen mit rechtlichen oder signifikanten Auswirkungen auf Bürgerrechte oder Sicherheit bilden — und jährliche Risikobewertungen durchzuführen. Nicht überraschend sind Hochwirkungsfälle konzentriert: Das DOJ und das Department of Homeland Security machen nur 4% der Behörden aus, sind aber für 45% dieser Fälle verantwortlich.

Das bedeutet theoretisch, dass LLMs als Grundlage für bedeutende Entscheidungen verwendet werden könnten, die Bürgerrechte oder die öffentliche Gesundheit betreffen. Gorman warnt, dass die vollständige Automatisierung bestimmter Entscheidungen — insbesondere im Justizsystem, wo sie anfechtbar sein müssen — "äußerst hohe" Risiken bergen würde.

Dennoch glaubt sie, dass die kurzfristige Priorität darin bestehen wird, einige der "Macken" in missionsunterstützenden Arbeitsabläufen auszuarbeiten, eine risikoärmere Eingewöhnungsphase, die sie als "weise" betrachtet.