Superintelligenz stoppen bedeutet nicht, jeden Chip zu zerschlagen oder maschinelles Lernen zu beenden. Es bedeutet ein rechtliches und praktisches Verbot der Entwicklung künstlicher Superintelligenz. Superintelligenz kann von Menschen nicht kontrolliert werden. Das ist ein dauerhaftes Verbot, keine zeitlich begrenzte Pause, die in dasselbe Wettrüsten mündet.

Was muss aufhören vs. was muss weitergehen

Schmalband-KI, die Proteine faltet, Scans liest, Logistik optimiert und in begrenzten Domänen bleibt, sollte fortgesetzt werden. Das Ziel ist allgemeine, rekursiv verbessernde Superintelligenz und die darauf abzielenden Programme, gefiltert durch Rechenschwellen, Fähigkeitstests und Forschungsregeln. Kritiker, die sagen „sie wollen KI verbieten“, verkaufen eine Verleumdung, die das Wettrennen schützt.

Warum Laborversprechen nicht ausreichen

Responsible Scaling Policies und Multi-Lab-Pledges können Absichten offenlegen. Als primäres Kontrollsystem taugen sie nicht. Dasselbe Unternehmen schreibt die Policy, führt die Tests durch, bewertet die Ergebnisse und profitiert vom Ausliefern. Unter Wettbewerbsdruck weichen interne Regeln auf. Externes Recht muss den Biss liefern. Siehe freiwillige Verpflichtungen.

Die Durchsetzungsleiter

Stellen Sie sich eine Leiter auf einer Klippe vor.

Öffentlichkeit wird an der Basis: Menschen, die die Forderung benennen und Führungskräfte bestrafen können, die nur Innovationstheater bieten.

Inländisches Recht und Behörden: Lizenzierung für große Trainingsläufe, straf- und zivilrechtliche Haftung für die Kenntnis der ASI-Entwicklung, Bewertungsgremien mit echtem Zugang, Schutz von Hinweisgebern.

Chips und Clouds: Exportkontrollen, Cluster Know-Your-Customer, Sichtbarkeit von Strom und Rechenzentren. Hardware ist physisch. Das ist ein Vorteil für Governance. Siehe Rechen-Governance.

Koalitionsvertrag: ein Kernset von Staaten, das den Großteil der Frontier-Kapazität abdeckt, mit numerischen Anhängen, nicht nur Prinzipien. Misstrauen ist normal; Verifikation existiert, damit Parteien nicht auf Freundschaft angewiesen sind. Siehe Vertragsgestaltung und NPT Lektionen.

Verifikationsinstitution: Inspektoren, FLOP-Zeitpläne, Vorfallmeldungen, Befugnis, Konsequenzen auszulösen. Denken Sie an IAEA-ähnliche Kapazität für Rechenzentren und Training, nicht an einen Diskussionszirkel.

Bestehende Verbotsbedingung: nur dann wieder öffnen, wenn unabhängige Wissenschaft und Öffentlichkeit gemeinsam eine hohe Hürde unter Institutionen nehmen, die nicht von den Labs vereinnahmt sind.

Jede Sprosse stützt die nächste. Gipfeltreffen ohne Rechenregeln oder Rechenregeln ohne öffentlichen Willen lassen den Aufstieg unvollendet.

Innenpolitik ist die Hälfte des Problems

In den Vereinigten Staaten bindet schöner Genfer Text nicht ohne einen Weg durch den Senat oder durch Statuten und Kongress-Exekutivabkommen, die passieren können. Entwerfen Sie das Instrumentenset rückwärts von Stimmen, die Sie gewinnen können. Andere Länder haben ihre eigenen Ratifikationsfallen. Überspringen Sie das innenpolitische Design und Sie erhalten Pressemitteilungen. Siehe das Zwei-Drittel-Problem.

China, Rivalen und die Wettlauf-Ausrede

Die vorherrschende Ausrede für unbegrenztes Scaling lautet: Wenn wir langsamer machen, werden sie es nicht. Geteilte Verwundbarkeit wirkt in beide Richtungen. Eine unkontrollierbare Superintelligenz ist eine Möglichkeit, das Land zu verlieren, während man die Flagge grüßt, kein nationales Gut. Verifikation, Hardware-Verweigerung und gegenseitige Offenlegung von Breakout-Programmen existieren für Rivalen, die einander nicht trauen. Siehe der Wettlauf-Mythos und US-China-Kooperation.

Offene Gewichte

Hochwertige offene allgemeine Gewichte schaffen einen Proliferationspfad, dem Exportkontrollen nur teilweise begegnen. Sind Gewichte einmal öffentlich, gibt es keinen zentralen Rückruf. Behandle hochklassige allgemeine Veröffentlichungen als Proliferationsentscheidungen, nicht als gewöhnliche Produkteinführungen. Siehe Risiko offener Quellgewichte.

Was Sie tun können

Passen Sie die Handlung an Ihre Reichweite an.

Wähler: kontaktieren Sie Vertreter mit einer verbindlichen Verbotsfrage, nicht einem vagen „Seien Sie vorsichtig.“ Mitarbeiter: Lizenz- und Evaluierungsgesetze mit numerischen Triggern entwerfen. Spender: setzt sich für Interessenvertretung ein, die Stimmen und Vertragstext bewegt. Wissenschaftler: permanente Verbote unterstützen und bei der Gestaltung von Verifikation helfen. Lab-Mitarbeiter: nutze rechtmäßige Meldekanäle, wenn interne Sicherheit außer Kraft gesetzt wird. Rollenspezifische Kraft schlägt generische Angst. Siehe handeln Sie.

Das meiste Geld und Prestige fließt noch immer darin, das Wettrennen sicherer zu machen, nicht darin, das Wettrennen um ASI zu beenden. Spenden, die das Stoppen vergrößern, sind noch immer rar.

Wie Erfolg aussieht

In zwei Jahren: Statuten mit Biss in mehreren Jurisdiktionen, besseres Endnutzungsmonitoring bei Chips, ernsthafter Verhandlungstext mit Zahlen, dauerhafte öffentliche Unterstützung für ein bindendes Verbot. In fünf bis zehn Jahren: lizenzierter Compute, der den Großteil der Frontier-Kapazität abdeckt, funktionierende Inspektion, Koalitionsabdeckung des Trainings und eine Kultur, in der Ausbrüche teuer und sichtbar sind. Gipfelkommuniqués allein zählen nicht.

Versagensmodi

Umdefinition („fortgeschrittene Assistenz“ statt ASI). Vereinnahmung der Prüfer. Symbolische Verträge ohne Verifikation. Warten auf „gelöste Alignment“ als Erlaubnis zum Bauen. Abweichung ohne Kosten. Benennen Sie sie, damit Sie Geländer am Aufstieg anbringen können.

Vertragsgestaltung ohne heiligen Text

Es gibt keinen einzigen sakrosankten Entwurf. Es gibt Familien von Designs. Eine Kernkoalition, die den Großteil der Frontier-Kapazität abdeckt, kann vor einer universellen Mitgliedschaft voranschreiten. Framework-then-Annex-Sequenzierung (erst Prinzipien, dann aktualisierbare numerische Zeitpläne) lehnt sich an erfolgreiche Umwelt- und Rüstungsregime an. Handelsmaßnahmen gegen Nichtparteien verändern die Opt-out-Rechnung. Ein multilateraler Fonds oder ein Technologiezugangsabkommen kann Staaten einbinden, die fürchten, von enger KI ausgeschlossen zu werden. Der MIRI-artige Entwurf ist ein vollständig spezifizierter Vorschlag; NPT, Montreal und das Chemiewaffenrecht sind das Regal der Präzedenzfälle. Wählt Strukturen, die man verifizieren kann, nicht Poesie, die man nur loben kann.

Forschung nahe der Linie

Das schwierigste Entwurfsproblem ist die Arbeit, die neben dem Verbot steht: agentische Systeme, automatisierte KI-Forschungsassistenten, groß angelegtes Self-Play. Verbieten Sie den klaren ASI-Pfad. Lizenzieren und prüfen Sie die Grauzone. Tun Sie nicht so, als sei jedes Paper eine Bombe, und tun Sie nicht so, als sei automatisierte KI-Forschung gewöhnliche Wissenschaft, wenn sie den Weg zu Systemen verkürzt, die niemand mehr überstimmen kann.

Gerechtigkeit und wer zahlt

Compute-Regeln werden Firmen und Länder ungleich treffen, weil die industrielle Basis ungleich ist. Ein faires Regime koppelt Beschränkungen an der Spitze der Fähigkeitsleiter mit weiterem Zugang zu nützlichen engen Werkzeugen und missbraucht „Sicherheit“ nicht als Deckmantel für permanente technologische Kastensysteme. Der Punkt ist gemeinsames Überleben, nicht ein Monopol auf Fortschritt.

Auf zwei harte Linien antworten

"Wir werden die Wirtschaft verlieren." Einiges Kapital wird umverteilt. Einige Equity-Storys werden schrumpfen. Diese Kosten sind in Quartalsberichten sichtbar. Aussterben und dauerhafte Entmachtung tauchen nicht als Posten auf. Sichtbare Kosten gewinnen das Argument nicht automatisch, wenn die Alternative zivilisatorisch ist.

"Jemand wird immer defektieren." Defektion ist ein Designeingang. Verifikation, Hardware-Verweigerung, Sanktionen und gegenseitige Offenlegung von Ausbruchsprogrammen dienen dazu, die Auszahlung zu verändern. Perfekte Compliance ist nicht der Standard. Die Kosten des Betrugs zu erhöhen, ist es.

Die Leiter wieder

Öffentlicher Wille. Gesetz. Chips. Vertrag. Inspektoren. Dauerhaftes Verbot. Klettern bedeutet, die Sprossen der Reihe nach einzubauen und sich zu weigern, eine bemalte Wand für eine Leiter zu halten. Die Dokumente, industriellen Engpässe und rechtlichen Präzedenzfälle existieren bereits. Die Kraft gehört auf die nächste Sprosse, die man tatsächlich erreichen kann. Das vollständige Design lebt in unser Plan. Die Gründungslinie ist einfacher: baut keine Superintelligenz. Superintelligenz kann nicht kontrolliert werden.