Unser Ziel ist es, das menschliche Aussterben durch die Abwendung von ASI zu verhindern.
Nationen haben nukleare Arsenale begrenzt, die Ozonschicht geheilt und verbleites Benzin verboten. Verbindliche Regeln haben funktioniert. Sie können es wieder tun.
"Mit künstlicher Intelligenz beschwören wir den Dämon."
Elon Musk
"Die Entwicklung einer vollständigen künstlichen Intelligenz könnte das Ende der Menschheit bedeuten."
Stephen Hawking
"Es ist, als wären Aliens gelandet und die Menschen hätten es nicht bemerkt, weil sie sehr gutes Englisch sprechen. Ich denke, die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, ist nicht winzig."
Geoffrey Hinton
„Das Risiko eines Aussterbens durch KI sollte eine globale Priorität sein, neben anderen Risiken gesellschaftlichen Ausmaßes wie Pandemien und Atomkrieg.“
Von über 500 KI-Wissenschaftlern unterzeichnet
"Der schlimme Fall… ist wie das Licht aus für uns alle."
OpenAI CEO Sam Altman
"Es wäre nicht fehl am Platz, ihre Fähigkeiten als vergleichbar mit digitalen Nuklearwaffen zu bezeichnen."
CIA Director John Ratcliffe
"Das wahrscheinlichste Ergebnis beim Bau einer übermenschlich intelligenten KI … ist, dass buchstäblich jeder auf der Erde sterben wird."
KI-Forscher Eliezer Yudkowsky
"Vor der Aussicht auf eine Intelligenzexplosion sind wir Menschen wie kleine Kinder, die mit einer Bombe spielen."
Philosoph Nick Bostrom
Superintelligenz ist anders als jede Technologie davor.
Wir überleben in einem schmalen Band aus Wärme, Sauerstoff und Chemie. Eine Superintelligenz braucht keines davon und wird das Band, in dem wir leben, wahrscheinlich zerstören.
Wir hassen Ameisen nicht, aber wir töten sie ohne Zögern, um Straßen und Häuser zu bauen. Für eine Intelligenz weit über uns sind wir die Ameisen.
Alles mit einem Ziel hat Grund, am Leben zu bleiben. Kann es vorhersagen, dass Sie nach dem „Ausschalter“ greifen, hat es diese Bewegung bereits umgangen.
Niemand schreibt eine moderne KI Zeile für Zeile. Wir trainieren eine Blackbox und entdecken danach, was sie kann.
Es würde weit schneller denken und handeln, als jede menschliche Institution antworten kann. Eine Krise könnte beendet sein, bevor eine Sitzung einberufen wurde.
Von der Luftfahrt bis zur Pharmazie haben wir neue Technologien durch Versuch und Irrtum sicher gemacht. Für die Schaffung einer „sicheren Superintelligenz“ gibt es keinen zweiten Versuch.
Das Nakada Foundation to Save Humanity ist eine philanthropische Initiative, die sich der Verhinderung der existenziellen Risiken künstlicher Superintelligenz widmet.
Eine Intelligenz auszurichten, die klüger ist als unsere eigene, mag das schwierigste Problem in der Geschichte des menschlichen Denkens sein, und niemand hat eine bewährte Methode dafür. Eine Entität, die klüger ist als Menschen, kann von Menschen nicht kontrolliert werden. Der verlässliche Weg ist, solche Systeme überhaupt nicht bauen zu lassen. Das ist eine dauerhafte Entscheidung, kein Pause.
Wir unterstützen kontrollierte, vorteilhafte Anwendungen von KI. Enge KI hat bereits Krankheiten geheilt, Entdeckungen beschleunigt und medizinische Bildgebung sowie Diagnosen verbessert. Was wir ablehnen ist der Bau einer Form von Intelligenz, die wir nicht kontrollieren können, nicht ausrichten können und nicht stoppen könnten, wenn wir müssten.
Wir setzen uns ein für ein internationaler Vertrag um die Entwicklung von Superintelligenz zu verhindern, modelliert nach dem Rahmenwerke zur nuklearen Nichtverbreitung die fast ein Jahrhundert lang gehalten haben.
Alltagssprachliche Argumente für bindende Rahmenwerke, die superintelligente KI verbieten. Kultur, Medien und klare Erklärungen, die den Fall öffentlich und schwer zu ignorieren machen.
Wir arbeiten mit großen Stiftungen, Regierungen und kulturellen Stimmen zusammen, um die Arbeit zu finanzieren und politisch mehr Spielraum zu schaffen.
Wir beauftragen Kunst, Filme und Texte, die die Gefahr konkret machen. Ziel ist eine Öffentlichkeit, die Sicherheit als ernst, dringend und unbestreitbar betrachtet.
Berücksichtigte Schätzungen von den Forschern, die die Technologie entwickelt haben.
Chance, dass die Menschheit stirbt, wenn künstliche Superintelligenz gebaut wird.
KI-Wissenschaftler, die die Erklärung zu KI-Risiken von 2023 unterzeichnet haben und es als globale Priorität neben Atomkrieg und Pandemien bezeichneten.
Versuch. Superintelligenz kann nicht zurückgerufen oder rückgängig gemacht werden.
Das Bulletin of the Atomic Scientists’ Doomsday Clock zeigt jetzt 89 Sekunden bis Mitternacht, dem nächsten Stand seit 78 Jahren. Die Uhr wurde 1947 gebaut, um zu warnen, wie nah die Menschheit einem Atomkrieg stand. Im Januar 2025 wurde das KI-Risiko erstmals einbezogen.
Mitternacht bedeutet Katastrophe für die Zivilisation, und der Zeiger war noch nie näher.
Bleiben Sie informiert. Lassen Sie Ihre Stimme hören. Helfen Sie, die Welt zu retten.