Ein ehemaliger CEO von Google darüber, wann „wir ernsthaft darüber nachdenken müssen, die KI abzuschalten“

Theoretisch sollte jemand „die Hand am Stecker haben“, wenn die KI beginnt, sich „selbst zu verbessern“, sagte Eric Schmidt.

Für die Links auf dieser Seite können wir eine Provision verdienen.
Eric Schmidt sitzt auf einem Stuhl und redet mit erhobenen Händen neben Fareed Zakarias Buch vor einem marineblauen Hintergrund mit der Aufschrift „IGP Institute of Global Politics“.
Der ehemalige CEO und Vorsitzende von Google, Eric Schmidt, an der School of International and Public Affairs der Columbia University am 3. April 2024 in New York City.
Foto: Shahar Azran (Getty Images)

Der ehemalige Chef von Google (GOOGL

) sagt, dass Computer bald in der Lage sein werden, ihre eigenen Entscheidungen zu treffen – und die Menschen wissen müssen, wann sie den Stecker ziehen müssen.Eric Schmidt, der ein Jahrzehnt lang als CEO des Pioniers der künstlichen Intelligenz tätig war, sagte, die Menschen müssten die Vorteile der KI nutzen, „unter Wahrung der menschlichen Würde und Werte“ während der ein Interview auf ABC News

Werbung

(

DIS)‚„Diese Woche.“

Die sozialen Medien hätten schnell reagiert und den globalen Zeitgeist verändert, sagte Schmidt, „und jetzt stellen Sie sich eine viel intelligentere, viel stärkere Art vor, Nachrichten zu versenden, Dinge zu erfinden, die Innovationsrate, die Medikamentenentdeckung und all das, plus alle möglichen schlimmen Dinge, wie Waffen und Cyber-Angriffe.“

Werbung

Bald, so Schmidt, werde es Computer geben, die „selbstständig laufen und entscheiden können, was sie tun wollen“. Derzeit konzentriert sich die Branche auf

Werbung

KI-Agenten

— oder Software, die komplexe Aufgaben autonom erledigen kann— aber die Technologie wird „leistungsstärkere Ziele haben.“

Werbung

„Irgendwann sagt man dem Computer: ‚Lerne alles und tue alles‘, und das ist ein gefährlicher Punkt“, sagte Schmidt. „Wenn sich das System selbst verbessern kann, müssen wir ernsthaft darüber nachdenken, es vom Stromnetz zu trennen.“

Auf die Frage, ob ein derart leistungsstarkes KI-System in der Lage wäre, Versuche, es abzuschalten, abzuwehren, sagte Schmidt: „Theoretisch wäre es besser, wenn jemand die Hand an der Steckdose hätte.“

Werbung

Da KI immer intelligenter wird, „wird jeder Einzelne das Äquivalent eines Universalgelehrten in der Tasche haben“, so Schmidt, aber es sei nicht klar, „was es bedeutet, jedem Einzelnen diese Art von Macht zu geben“. Es bestehe nun die Sorge, dass ein Unternehmen, das sich mit der Entwicklung von KI bewirbt, beschließen könnte, Schritte bei den Sicherheitstests zu überspringen, so Schmidt, und am Ende ein System auf den Markt bringen könnte, das schädlich sei.

Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier

Werbung