Ein verbindlicher internationaler Vertrag kann die Menschheit retten und den technischen Fortschritt trotzdem fortsetzen.
Wir sind eine philanthropische Kampagne gegen Systeme, die die menschliche Intelligenz übertreffen und nicht korrigiert oder gestoppt werden können. Die Menschheit darf niemals eine Superintelligenz bauen.
Ein einzelnes System, das absichtlich so weit entwickelt wird, dass es menschliche Fähigkeiten in jedem einzelnen Bereich übertrifft und ersetzt, ist gefährlich. Künstliche Superintelligenz ist das größte Risiko für die Menschheit, größer als ein globaler thermonuklearer Krieg. Ein Atomkrieg kann die Zivilisation beenden und Überlebende zurücklassen. Eine Superintelligenz wird unsere Spezies auslöschen.
Wir orientieren unsere Arbeit an bewährten Konzepten, die die Welt bewegt haben, etwa den öffentlichen Druckkampagnen und internationalen Verträgen zu Chemiewaffen, nuklearer Nichtverbreitung und der Ozonschicht.
Wir sind vollkommen unabhängig und nehmen kein Geld von KI-Laboren, deren Investoren oder Firmen, deren Gewinne vom Wettrennen an der Frontier abhängen.
Medien sind ein mächtiges Werkzeug zur Formung von Meinungen und zur Schaffung einer Kultur, die die Krise schwer ignorierbar macht. Sie beeinflussen die wahlberechtigte Öffentlichkeit und die Gedanken der Führer, die wir wählen. Wenn Ronald Reagan sah den Film von 1983 Der Tag danach, wurde das abstrakte Konzept eines Atomkriegs zu einem konkreten, und der Präsident unterzeichnete später einen bindenden Vertrag mit der Sowjetunion zur Reduzierung des Atomwaffenarsenals.
Es gibt viele Organisationen, die an einem „sichereren Wettlauf“ oder einem „sicheren Übergang“ arbeiten. Wir sind eine der wenigen, die dringend daran arbeiten, ASI unter bindendem Recht zu stoppen. Der „Übergang“ darf niemals stattfinden.
Wir sind keine „Anti-KI“-Organisation, da wir kontrollierte, nützliche enge KI unterstützen, etwa Systeme, die Krebs diagnostizieren und die Arzneimittelentwicklung beschleunigen. Solche Systeme übertreffen die menschliche Fähigkeit nur in einem Bereich und ermöglichen es uns, ihre Arbeit sicher zum Nutzen der Menschheit zu steuern.
Unsere Stiftung konzentriert sich ausschließlich auf die Verhinderung von ASI. Wir leisten die öffentliche Arbeit, die einen bindenden internationalen Vertrag möglich macht: Filme, Videos, Essays, Bilder und Beziehungen zu Kulturschaffenden in Auftrag geben. Wir wollen außerdem Talente und Finanzierung von Alignment-Forschung zur ASI-Prävention umlenken.
Wir betreiben keine technische Forschung, Politikanalyse oder Lobbyarbeit.
Wir beziehen auch keine Positionen zu allgemeinen KI-Themen wie Chatbots, Jobautomatisierung, Militärdrohnen oder Rechenzentren.
Wir sind eine auf US basierte philanthropische Vereinigung. Stand August 2026 durchlaufen wir derzeit das Verfahren der fiskalischen Trägerschaft, um förderfähig nach 501(c)(3) zu werden. Alle Spenden werden dann steuerlich absetzbar sein.
Wir stellen einen kleinen Beirat zusammen. Wir suchen insbesondere Personen mit Erfahrung in Public-Interest-Kommunikation, Fundraising und Kulturproduktion.
Eine signifikante Wirkung zu erzielen ist eines unserer obersten Ziele. Unsere Ergebnisse sind öffentlich und messbar, etwa Impressionen auf X und Aufrufe von YouTube-Videos, und werden mit der Stimmung der Wählerschaft verglichen.
Naoto Nakada hätte die Arbeit an Nuklearverträgen während des Kalten Krieges finanziert. Unser Gründer sieht Superintelligenz als die existenzielle Krise von heute.
Nach Jahrzehnten der KI-Sicherheitsforschung lautet die Schlussfolgerung, dass wir etwas nicht kontrollieren können, das schlauer ist als wir, während das meiste Geld in das Feld fließt weiter in „sicherere“ Frontier-Systeme, solange sie noch gebaut werden. Das Stoppen künstlicher Superintelligenz, bevor sie existiert, ist weiterhin massiv unterfinanziert und unterdiskutiert, mit nur sieben Organisationen weltweit, die sich ausschließlich darauf konzentrieren, ASI zu verhindern.
Wir haben die Stiftung als Antwort auf diese Lücke gegründet, mit einem auffälligen Namen, der die Dringlichkeit und Schwere der Bedrohung unmissverständlich macht.
Die menschliche Geschichte hat gerade erst begonnen. Wir müssen dafür sorgen, dass sie noch Äonen andauert.
Naoto Nakada
Nein. Wir unterstützen nützliche Narrow AI: Systeme, die eine Aufgabe erledigen und korrigiert werden können. Wir arbeiten daran, künstliche Superintelligenz zu verhindern – Systeme, deren offene Fähigkeiten sie in eine andere Kategorie stellen. Ein Smartphone, das Internet, sogar ein Kernkraftwerk können reguliert und abgeschaltet werden. Eine Superintelligenz nicht.
Wir sind singulär. Wir arbeiten an künstlicher Superintelligenz und der kulturellen Arbeit, die einen Vertrag dagegen möglich macht. Chatbot-Bias, Jobverlust durch Automatisierung, Deepfakes, militärische Drohnen, Standortwahl von Rechenzentren: Das mag anderswo von Bedeutung sein. Es ist nicht die Arbeit dieser Stiftung. Wenn eine Frage nicht das Verhindern von ASI betrifft, liegt sie außerhalb dieser Stiftung.
Der häufigste Einwand hat dieselbe Form wie das Argument gegen die nukleare Nichtverbreitung. Der NPT ist unvollkommen und hat trotzdem funktioniert: Kein nuklearer Einsatz im Krieg seit 1945, neun Nuklearstaaten, als Hunderte hätten beitreten können. Das Defektionsrisiko ist ein Grund für Verifizierung, nicht ein Grund zum Sprinten. Frontier-Training läuft noch immer über eine kurze Liste von Chip-Herstellern. Die Überwachung einer Compute-Schwelle ist eher ein politisches als ein physikalisches Problem.
Ja. Sie haben auch Vertriebsteams, Investor-Relations-Abteilungen, Vorstandsmitglieder, die Aktionäre vertreten, und Wettbewerbsdruck, Produkte schneller als die Konkurrenz auf den Markt zu bringen. Sicherheitsteams in kommerziellen KI-Labors unterliegen denselben Anreizen wie der Rest des Unternehmens, und diese Anreize belohnen das Ausliefern von Fähigkeiten stärker als die Verringerung von Risiken. Als OpenAIs Sicherheitsteam Bedenken äußerte, zu schnell vorzugehen, beschleunigte das Unternehmen trotzdem. Im besten Fall ergänzt ein internes Team externe Regulierung. Es kann diese nicht ersetzen.
Der Turing-Preisträger Geoffrey Hinton, der seine Karriere damit verbrachte, die Grundlagen moderner KI zu legen, schätzt eine 10- bis 20-prozentige Chance, dass KI menschliches Aussterben verursacht innerhalb dieses Jahrhunderts. Der Nobelpreisträger Yoshua Bengio hat öffentlich erklärt, dass das Risiko real und unterschätzt sei. Die Erklärung des Center for AI Safety aus dem Jahr 2023, die von über 500 KI-Wissenschaftlern einschließlich Sam Altman unterzeichnet wurde, stellte das Risiko eines KI-bedingten Aussterbens von Menschen auf eine Stufe mit Atomkrieg und Pandemien als globale Priorität.
Treten Sie der Foundation bei. Teilen Sie unsere Botschaft mit Menschen, die sie noch nicht gehört haben. Kontaktieren Sie Ihren gewählten Vertreter und fragen Sie, welche Position er oder sie zu KI-Risiken einnimmt und welche Gesetze er oder sie unterstützt. Wenn Sie über finanzielle Mittel verfügen, erwägen Sie eine Spende an die Foundation oder an eine der sechs anderen Organisationen, die an der Verhinderung von ASI arbeiten. Wenn Sie kulturellen oder medialen Einfluss haben, nutzen Sie ihn. Wenn Sie in einem KI-Labor arbeiten und Bedenken haben, erwägen Sie eine öffentliche Stellungnahme. Politischer Wille entscheidet dies, und er entsteht durch Menschen wie Sie.
Erhalten Sie Updates und helfen Sie, den Druck aufzubauen, den diese Sache braucht.