Ein verbindlicher internationaler KI-Sicherheitsvertrag wird uns nicht überreicht. Er muss dafür argumentiert, organisiert und bezahlt werden. Unsere Unabhängigkeit hängt vollständig von Menschen wie Ihnen ab.
Online-Spenden sind noch nicht verfügbar. Zahlungsabwickler verlangen eine zertifizierte gemeinnützige Einrichtung, und die Registrierung der Stiftung wird noch finalisiert. In der Zwischenzeit, registrieren Sie Ihr Interesse und wir werden Sie informieren, sobald das Spenden möglich ist.
Organisationsstatus. Unincorporated philanthropic association, United States. Auf der Suche nach fiskalischer Trägerschaft unter einem 501(c)(3). Noch keine EIN. Spenden sind nicht steuerlich absetzbar, bis wir unter einem qualifizierten Sponsor stehen oder über einen eigenen Determination Letter verfügen.
Der größte Teil des Geldes in der KI-Sicherheit fließt immer noch an Labore und technische Forschung, die Superintelligenz als unvermeidlich behandeln. Fast nichts davon finanziert die politische Arbeit, dafür zu sorgen, dass Superintelligenz nie gebaut wird. Wir machen genau diese Arbeit und nur diese: einen bindenden internationalen Vertrag, öffentlichen Druck und die Aufmerksamkeitskampagne, die den Vertrag möglich macht. Wir nehmen kein Geld von KI-Laboren oder deren Investoren.
Technische KI-Sicherheit beansprucht bereits das Geld des Feldes und seine klügsten Köpfe, und trotz all dieser Anstrengungen hat niemand gezeigt, wie man ein System zuverlässig kontrolliert, das weit intelligenter ist als die Menschen, die es bauen. Angenommen, die Kontrolle einer Entität, die weit intelligenter ist als wir, ist überhaupt lösbar, wird sie mit Sicherheit nicht rechtzeitig gelöst. Der einzige verbleibende Schutz ist die Entscheidung, solche Systeme nicht zu bauen, bis sie sicher gemacht werden können. Diese Entscheidung ist politisch, und sie ist stark unterfinanziert.
Eine Spende hier finanziert das fehlende Stück. Nicht noch ein Papier darüber, wie man einen Geist kontrolliert, der klüger ist als seine Erbauer. Mitarbeiter, Organisatoren, X-Antworten, die die Rennparolen dort treffen, wo sie landen, Inhalte, die Gesetzgeber und Schöpfer sehen, und der lange Druck, Philanthropie auf Prävention auszurichten. Dollar für Dollar ist das der Ort, an dem der nächste Dollar das Aussterberisiko am stärksten senkt.
Was Ihre Spende abdeckt, wird im Folgenden Zeile für Zeile dargelegt. Wir verpflichten uns, bedeutende Spenden oberhalb einer Transparenzschwelle zu veröffentlichen, die wir öffentlich festlegen.
Nicht in der Lage, jetzt zu geben? Spenden Sie stattdessen Ihre Zeit.
Möchten Sie lieber großzügig spenden, sobald die steuerabzugsfähige Spendenmöglichkeit verfügbar ist? Interesse für große und institutionelle Spenden registrieren.
Bis sichere Zahlungen aktiviert sind, wird keine Karte belastet und keine Zahlungsdetails auf dieser Seite erfasst.
Wenn eine Spende so viel Gutes bewirken soll wie möglich, verläuft die Begründung geradlinig. Hier ist sie, ohne etwas zu verbergen.
Der Sinn einer Spende liegt in ihrer Wirkung, und die Wirkung eines Dollars ist nicht überall gleich. Die ehrliche Frage ist also nicht, ob eine Sache gut ist, sondern nur, ob dies die beste verfügbare Verwendung des nächsten Dollars. Nehmen Sie diese Frage ernst, und alles andere ergibt sich daraus.
Die wirkungsvollsten Anliegen sind jene, die alle erreichen und alle, die nach uns kommen. Eine Bedrohung für die gesamte menschliche Zukunft überwiegt jedes begrenzte Problem, denn auf dem Spiel steht nicht eine Generation, sondern jede Generation, die je folgen könnte.
Unter den Technologien, die die Menschheit beenden könnten, steht die künstliche Superintelligenz ganz oben. Nach den besten verfügbaren strukturierten Schätzungen trägt sie etwas in der Größenordnung von hundertmal das Aussterberisiko eines Atomkriegs, und es ist das einzige, das sich selbst verbessert und gegen jede Gegenmaßnahme vorgeht, die wir ergreifen.
Technische Sicherheitsforschung erhält bereits das Geld und die besten Köpfe des Feldes, und dennoch kann niemand ein System kontrollieren, das uns weit überlegen ist. Die unterfinanzierte Arbeit ist die andere Art: die verbindliche, verifizierte internationale Vereinbarung, die verhindert, dass Superintelligenz gebaut wird, bis sie sicher gemacht werden kann. Wir konzentrieren uns ausschließlich auf dieses eine Ziel, nicht auf die Forschung, die bereits existiert.
Das wirkungsvollste, was man finanzieren kann, ist die Verhinderung von Superintelligenz, und der am meisten vernachlässigte Teil davon ist der politische Kampf, sie gesetzlich zu verankern. Genau dorthin fließt Ihre Spende, und deshalb ist ein Dollar hier, Dollar für Dollar, eine der wirkungsvollsten Spenden, die man machen kann.
Die Mission finanzieren →Jeder Dollar ist für die administrativen, technischen und personellen Kosten der unten genannten Programme bestimmt. Wir zeigen Ihnen lieber die Einzelposten, als dass wir Sie bitten, einer Missionserklärung zu vertrauen. Wir messen Fortschritt mit Daten und veröffentlichen die Zahlen.
Wir brauchen Förderung so schnell wie möglich für eine hauptberufliche Social-Media-Person, deren Aufgabe darin besteht, Beiträge auf X über das „ASI-Rennen“, die „Singularität“, „das KI-Rennen gewinnen“, „ASI“ und „Superintelligenz“ zu finden und zu beantworten. Diese Arbeit wird heute nicht geleistet. Renn-Slogans landen stündlich ohne sorgfältige Gegenrede im Thread.
Warum X. Es ist die Social-Media-Plattform Nummer eins für die einflussreichsten Menschen der Welt: Gesetzgeber, Journalisten, Lab-Leiter und die Accounts, die sie lesen. Soziale Medien sind inzwischen eine primäre Nachrichtenquelle für viele dieser Gesetzgeber. Eine einzige gut platzierte Antwort kann Millionen von Impressions erreichen. Das ist Aufmerksamkeit, die wir uns nicht mit einem weiteren Whitepaper kaufen können.
Ihr Geld zahlt für ein X-Organisation Account (verifiziert, vertrauenswürdig, in der Lage, in großem Volumen zu posten), die Bezahlung der Person, die jeden Tag schreibt und antwortet, und die Schulung, die sie in die Mission und unsere Inhaltsrichtlinien einführt. Das Ziel ist einfach: Kein hoch sichtbarer Renn-Post bleibt unbeantwortet, und unser eigener Feed bringt den Fall für Prävention ohne Pause.
Messbarer Output: Impressionen und Reichweite bei Antworten und Originalbeiträgen (öffentliche Analysen, sobald das Konto live ist).
Kurze und lange Texte, Bilder, Infografiken und Video: Originalarbeiten über Superintelligenz, so gestaltet, dass ein Nichtfachmann sie in einem Sitz verfolgen kann. Einmal erstellt, dann auf allen erreichbaren Plattformen verbreitet. Plus bezahlte Platzierung dort, wo Meinung tatsächlich entsteht.
Dies ist kein weiteres Weißbuch für Menschen, die bereits im Feld sind. Es ist kreative Arbeit, die Menschen dort abholt, wo sie bereits stehen: Erklärstücke, Essays, Visualisierungen und filmnahe Erzählungen, die die Einsätze ohne technischen Hintergrund verständlich machen.
Sponsere spezialisierte Newsletter die Gesetzgeber und ihr Personal bereits öffnen. Podcasts sponsern die dieselben Leute auf dem Weg zur Arbeit hören. Sponsern Sie Inhaltsersteller mit echten Publika. Menschen bilden ihre Ansichten anhand von Schöpfern. Schauen Sie, wer heute über ASI als existenzielles Risiko spricht: fast niemand mit Reichweite. Das ist, als lebte man im Kalten Krieg, während fast niemand mit Mikrofon über die Verhinderung eines Atomkriegs spricht. Dieses Schweigen zu füllen ist der günstige Weg, die Bedrohung verständlich zu machen, bevor überhaupt über einen Vertrag abgestimmt wird – keine Eitelkeit.
Ihr Geld bezahlt die Menschen, die die Originalarbeit machen, Creator- und Newsletter-Sponsoring, Podcast-Unterstützung, verifizierte Social-Accounts und die Werkzeuge, die sie verteilen, damit Stunden in das Argument fließen statt in die Posting-Warteschlange.
Messbarer Output: Aufrufe und Watch-Time bei Originalbeiträgen sowie Reichweite durch gesponserte Verbreitung.
Wir haben bereits begonnen, Menschen zu finden, die diese Arbeit leisten können. Eine Lektion kam schnell: Ein einzelnes Video hat Monate gebraucht, um fertiggestellt zu werden. Das ist zu langsam. Das Rennen läuft weiter, während ein Film in der Warteschleife hängt.
Ein Video sollte nicht Monate dauern.
Das Geld hier ermöglicht es, mehr dieser Leute gleichzeitig an die Arbeit zu setzen.
Messbarer Output: Zeit von Anfang bis Veröffentlichung bei Originalbeiträgen.
In Erwägung, noch nicht finanziert
Viel Diskussion und viel Philanthropie richten sich noch immer auf Alignment: technische Forschung, die darauf abzielt, dass zukünftige Superintelligenz gut verläuft. Benennen Sie, was „Alignment lösen“ tatsächlich bedeuten würde. Es würde bedeuten etwas zuverlässig zu kontrollieren, das weit intelligenter ist als wir. Es steckt im Namen: Superintelligenz. Die Spezies darauf zu verwetten, einen Geist zu kontrollieren, der klüger ist als alle Menschen, die ihn gebaut haben, ist ein dummer Plan und aufgrund der vorliegenden Evidenz ein unmöglicher.
Der ambitionierte Einsatz von Spendengeldern sind bezahlte Mitarbeiter, deren Aufgabe es ist, Fördermittelgeber und Berater zu treffen, das Argument dafür vorbringen, knappes Sicherheitskapital auf Vertrag, Verifizierung und öffentlichen Druck umzulenken, und diese Arbeit in den Räumen leisten, in denen das Geld bereits zugesagt ist. Nicht noch ein weiteres Papier in diesem Stapel.
Narrow-System-Sicherheit, die tatsächlich kontrolliert werden kann, verdient weiterhin Förderung. Forschung, die annimmt, wir würden eine Nachfolgespezies bauen und sie dann anleinen, nicht. Führende Köpfe im Effective Altruism haben einst Philanthropie auf Malarianetze umgelenkt, indem sie diese Art von Argument machten. Wenn wir denselben Weg bei Superintelligenz gehen, werden wir das sagen, bevor wir um die zusätzlichen Dollar bitten.
Erhalten Sie eine Benachrichtigung, sobald sichere Online-Spenden möglich sind. Sie erhalten außerdem gelegentliche kurze Berichte darüber, wohin das Geld fließt.