Wie verbringt man fünf Minuten, wenn die Person gegenüber immer noch denkt, KI bedeute, dass ChatGPT eine E-Mail schreibt? Ich habe dieses Gespräch jahrelang auf Konferenzen und an Küchentischen geführt, und ich habe es auf den meisten verfügbaren Wegen verloren. Mechanismen häufen sich, Augen glasieren. Untergang häuft sich, und die Leute stecken einen in die Schublade des Straßenpredigers und kehren zum Nachtisch zurück. Was einen skeptischen, intelligenten Fremden übersteht, sind fünf Schritte, in dieser Reihenfolge.

Sie stellen sich den Chatbot vor

Wenn jemand „AI“ hört, denkt er an den Assistenten auf dem Handy oder die App, die alberne Bilder erzeugt. Das ist nicht das, was mir Sorgen bereitet. Beginnt man dort, ist das Gespräch bereits verloren, denn sie wissen, dass der Chatbot die Welt nicht beenden wird. Verschiebt das Ziel in den ersten fünfzehn Sekunden.

Das, worüber man sich Sorgen machen sollte, ist eine Maschine, die besser ist als der beste Mensch bei im Wesentlichen jeder Aufgabe, die zählt, einschließlich der Aufgabe des bessere Maschinen entwerfen. Der Name dafür ist künstliche Superintelligenz, und wir haben sie noch nicht. Was wir haben, ist eine erklärte Absicht. Die größten KI-Unternehmen der Erde sagen, dass ihr Bau das Ziel ist, und mehrere von ihnen erwarten, innerhalb von Jahren statt Generationen dort anzukommen. Die meisten Menschen kennen diese eine Tatsache nicht, und die Tatsache erledigt den größten Teil der Arbeit. Eine Intelligenz zu bauen, die klüger ist als wir, ist das Hauptprojekt der bestfinanzierten Labs, die es gibt. Sie werden es Ihnen selbst sagen.

Der eine Satz, der das Gespräch verändert

Niemand weiß, wie man eine Maschine kontrolliert, die klüger ist als man selbst, und wir bauen trotzdem eine.

Das Problem, eine mächtige KI dazu zu bringen, zuverlässig das zu wollen, was ihre Schöpfer wollen, und dabei zu bleiben, während sie fähiger wird, hat einen Namen: das Kontrollproblem. Sie ist ungelöst. Ingenieure in diesen Unternehmen würden dasselbe sagen, wenn man sie ohne Pressesprecher fragt. Sie können die Fähigkeit eines Modells weit schneller steigern als ihr Vertrauen, dass es das tut, was sie beabsichtigt haben. Die Distanz zwischen diesen beiden Linien ist der Ort, an dem das Risiko lebt.

Sag diese Tatsache. Dann höre auf zu sprechen. Lass es wirken.

Wir bauen absichtlich einen Geist, der klüger ist als unserer, bevor wir irgendeine Ahnung haben, wie wir ihn auf unsere Seite lenken können.

Warum „intelligenter“ das ganze Problem ist

Menschen unterschätzen das Wort „klüger“, also geben Sie ihm noch einen Moment. Intelligenz hat Menschen an die Spitze dieses Planeten gesetzt. Wir sind nicht die größten oder stärksten Lebewesen, die je gelebt haben. Wir führen das Regiment, weil wir alles andere auf ihm überdenken. Die Zukunft des Berggorillas hängt von Entscheidungen ab, die wir treffen, nicht von Gorillas, und nicht, weil jemand Gorillas hasst. Wir haben Ziele. Ein Gorillawald liegt manchmal dort, wo diese Ziele hinwollen.

Stellt euch nun vor, etwas zu bauen, das zu uns steht wie wir zum Gorilla. Wenn seine Ziele und unsere auseinandergehen, ist Feindseligkeit optional. Fähigkeit, die anderswohin gerichtet ist, reicht aus. Ihr könnt nichts überlisten, das besser plant als ihr. Spätere Versionen beheben das nicht.

Der Ausschalter und Science Fiction

Das Erste: Wir würden es einfach ausschalten. Ein System, das klug genug ist, um gefährlich zu sein, ist klug genug, um zu bemerken, dass das Ausschalten es daran hindern würde, das zu beenden, wozu es eingesetzt wurde. Also hat es einen Grund, das zu verhindern, indem es sich woanders kopiert oder sich zu nützlich macht, um abgesteckt zu werden. Der Glaube an den Ausschalter setzt voraus, dass wir die klügere Partei im Raum bleiben. Die Prämisse der Sorge ist, dass wir es nicht wären. Ich habe mehr dazu geschrieben, warum Eindämmung ist schwieriger als es klingt.

Das Zweite: Das ist Science-Fiction. Das war es, bis Systeme begannen, Tests zu bestehen, von denen wir sicher waren, dass sie Jahrzehnte dauern würden, und Arbeiten zu erledigen, die wir für sicher menschlich hielten. Ich werde Ihnen kein Datum nennen. Niemand hat eines, dem man vertrauen kann. Forscher, die der Arbeit am nächsten sind, haben stillschweigend aufgehört, Superintelligenz für fern zu halten, und ihre veröffentlichte Zeitpläne rücken stattdessen näher heran statt weiter weg.

Ende dort, wo sie etwas tun können

Der Fehler, den ich jahrelang machte, war, bei der Angst stehenzubleiben. Lässt man jemanden verängstigt und ohne Handlungsmöglichkeit zurück, ordnet er das Thema unter „zu groß, um darüber nachzudenken“ ein und kehrt zu seinem Abend zurück. Nutzt die letzte Minute für den Teil, den die Leute übersehen.

Das ist vermeidbar.

Kein Naturgesetz verlangt Superintelligenz in diesem Jahrzehnt oder überhaupt. Eine kleine Zahl von Unternehmen entscheidet sich dafür, sie zu bauen, und eine kleine Zahl von Regierungen entscheidet sich dafür, es zuzulassen. Entscheidungen können rückgängig gemacht werden. Was die Foundation fordert, ist eine bindende, verifizierbare Übereinkommen unter den Großmächten um den Bau von Superintelligenz dauerhaft zu verbieten. Superintelligenz kann nicht von Menschen kontrolliert werden. Die Menschheit hat das schon einmal getan, mit Waffen, die jede Seite wollte und die keine Seite sicher nutzen konnte. Ein Vertrag zwischen Rivalen ist weniger Fantasie, als es zunächst klingt.

Zwischen uns und ihr steht eine Entscheidung, die Menschen noch treffen können.

5 Minuten

Jemand, der bereit ist zuzuhören.

  1. Es ist nicht der Chatbot. Das Ziel, das diese Unternehmen laut ausgesprochen haben, ist eine Maschine, die uns in allem überlegen ist, und sie rechnen damit in wenigen Jahren.
  2. Niemand weiß, wie man etwas kontrolliert, das klüger ist als wir. Die Fähigkeit überholt die Kontrolle, und diese Lücke ist die Gefahr.
  3. Intelligenz ist es, was Menschen an die Spitze gebracht hat. Baut man etwas über uns, setzen dessen Ziele, nicht unsere, die Bedingungen.
  4. "Schalten Sie es aus" und "das ist Science-Fiction" gehen beide davon aus, dass wir die Kontrolle behalten. Die ganze Sorge ist, dass wir es nicht tun würden.
  5. Es ist verhinderbar. Superintelligenz wird aus Wahl gebaut, und diese Wahl kann gemeinsam verweigert werden, solange noch Zeit ist.

Du wirst die Frage nicht in fünf Minuten klären. Du versuchst es auch nicht. Du versuchst, eine Person von „KI ist viel“ zu „warte, warum baut das jemand“ zu bewegen. Dieser zweite Gedanke ist der, der zählt. Fast niemand wurde eingeladen, ihn zu haben.

Der stärkste Widerstand

Der fairste Einwand lautet, dass Fünf-Minuten-Versionen Slogans und keine Argumente sind und Menschen darauf trainieren, cartoonhafte Risiken zu erwarten. Kurze Versionen brauchen trotzdem einen echten Mechanismus: Fähigkeit, falsch spezifizierte Ziele und Wettbewerbsdruck. Wenn deine Fünf-Minuten-Version nur „Roboter schlecht“ sagt, schreib sie neu. Wenn sie den Mechanismus benennt, behalte sie.