Superintelligenz regieren:
Ein Briefing für politische Entscheidungsträger
Der Fall für internationale KI-Sicherheits-Governance: das Problem, was benötigt wird, und die Präzedenzfälle, die zeigen, dass es möglich ist.
Eine beispiellose Technologie ohne Steuerungsrahmen
Künstliche Superintelligenz (ein System, das die menschliche Intelligenz in jedem Bereich übertrifft) wird von privaten Unternehmen mit minimaler regulatorischer Aufsicht aktiv entwickelt. Führende KI-Labore haben intern erklärt, dass sie damit rechnen, diese Schwelle noch in diesem Jahrzehnt zu erreichen.
Im Gegensatz zu früheren technologischen Risiken gibt es für Superintelligenz keine bestehende internationale Governance-Architektur. Es gibt keinen Vertrag, keine Verifizierungsstelle, keinen multilateralen Sicherheitsstandard und keinen Mechanismus, die Entwicklung zu stoppen, wenn Warnsignale auftreten. Die Governance-Lücke ist total.
Das Fenster für effektive Governance schließt sich
Internationale Governance-Rahmenwerke erfordern Jahre der Verhandlung, um etabliert zu werden. Der Atomwaffensperrvertrag brauchte ein Jahrzehnt Diplomatie nach den ersten Nukleartests. Das Montreal-Protokoll erforderte anhaltenden wissenschaftlichen Konsensaufbau, bevor es multilaterale Adoption erreichte.
Die Entwicklung von KI-Fähigkeiten beschleunigt sich. Verbesserungen, die früher Jahre brauchten, kommen jetzt in Monaten. Sobald ein ausreichend fähiges System existiert, könnte es zu spät sein, sinnvolle Beschränkungen aufzuerlegen. Governance muss der Fähigkeit vorausgehen, nicht folgen.
Präzedenzfälle: Das haben wir schon einmal getan
Empfohlene politische Maßnahmen
- Verpflichtende Sicherheitsbewertungen vor dem Einsatz durch unabhängige staatliche Stellen, bevor ein frontier-KI-System freigegeben wird, vergleichbar mit klinischen Studien für Arzneimittel.
- Compute-Überwachung und Lizenzierung für Trainingsläufe oberhalb definierter Fähigkeitsschwellen. Compute ist der messbare Proxy für Fähigkeit; er kann erfasst und reguliert werden.
- Internationale KI-Sicherheitsagentur mit Inspektionsbefugnis, nach dem Vorbild der IAEA, um die Einhaltung vereinbarter Sicherheitsstandards über Jurisdiktionen hinweg zu überprüfen.
- Anforderungen an die Meldung von Vorfällen für gefährliche Verhaltensweisen, die während des Trainings oder Einsatzes beobachtet wurden, derzeit freiwillig und inkonsistent zwischen den Labs.
- Nationale KI-Sicherheitsgesetzgebung indem rechtliche Haftung für absehbare Schäden durch unzureichend getestete KI-Systeme festgeschrieben und angemessene Marktanreize für Vorsicht geschaffen werden.
- Multilaterale Verhandlungen um internationale Standards festzulegen, bevor Fähigkeitsschwellen erreicht sind, nicht danach. Beginnen Sie jetzt, solange das Zeitfenster offen ist.
Dies ist der wissenschaftliche Konsens, keine Randposition
Über 500 KI-Wissenschaftler, darunter die Nobelpreisträger Geoffrey Hinton und Yoshua Bengio sowie die CEOs von OpenAI und DeepMind, unterzeichneten 2023 eine Erklärung, die ein aussterbensrelevantes KI-Risiko zu „einer globalen Priorität neben Pandemien und Atomkrieg“ erklärte.
Die UK-Regierung gründete 2023 das weltweit erste AI Safety Institute (heute AI Security Institute). Der EU AI Act führte eine verpflichtende Risikoklassifizierung für KI-Systeme ein. Die US-Executive Order zu KI verlangte Sicherheitsbewertungen für Frontier-Modelle. Der internationale Rahmen existiert noch nicht, doch der politische Wille formiert sich. Der Moment zum Handeln ist jetzt.
nakadafoundation.org
Die Nakada Foundation to Save Humanity setzt sich für internationale KI-Sicherheits-Governance ein. Wir bieten politische Expertise, öffentliche Bildung und Unterstützung bei der Interessenvertretung. Kontaktieren Sie uns, um ein Briefing für Ihr Büro oder Ihre Mitarbeiter zu vereinbaren.