Dies ist die Fortsetzung von Teil 1, Warum gibt es so wenig Geld in der KI-Sicherheit?, die erklärt, warum das Feld mit so wenig auskommt. Hier geht es um die Frage, wie es auf eine Milliarde Dollar pro Jahr kommt.
Beginnen wir damit, wo die Dinge tatsächlich stehen. Teil 1 addierte alle philanthropischen Zuwendungen, alle staatlichen Sicherheitsprogramme und jeden Dollar, den die Frontier-Labs für ihre eigenen Sicherheitsteams ausgeben, und kam auf insgesamt etwa 190 Millionen Dollar pro Jahr. Demgegenüber investiert die Welt jährlich mehr als 250 Milliarden Dollar in die Steigerung der KI-Leistungsfähigkeit, und die Zahl steigt weiter. Für jeden Tausend Dollar, der in die Leistungssteigerung dieser Systeme fließt, wird weniger als ein Dollar für ihre Sicherheit ausgegeben.
Eine Milliarde Dollar pro Jahr würde diese Rechnung beginnen zu ändern, und es ist eine kleinere Summe, als sie klingt. Es ist weniger als zwei Tage dessen, was die Industrie bereits für Fähigkeiten ausgibt. Es ist etwa ein Zehntel Prozent dessen, was die Vereinigten Staaten für Verteidigung ausgeben. Es ist ein Zehntel dessen, was Klimaphilanthropie jedes Jahr bewegt, und Klimaphilanthropie gilt nicht als üppig finanziert. Was auch immer eine Milliarde Dollar ist, es ist kein großer Geldbetrag für ein Problem, das die Menschen, die die Technologie bauen, schriftlich und unter ihrem eigenen Namen mit Pandemien und Atomkrieg verglichen haben.
Der Grund für die Unterfinanzierung des Feldes ist also nicht, dass eine Milliarde Dollar schwer zu finden wäre. Die Welt gibt bereits ein Vielfaches davon nur wenige Meter entfernt aus, auf der anderen Seite derselben Bürogebäude. Das Geld ist da. Was fehlt, ist die Entscheidung, einen Teil davon umzuschichten.
Das Geld existiert bereits. Die Welt gibt etwa alle anderthalb Tage so viel aus, um KI mächtiger zu machen. Was fehlt, ist der Wille, einen Bruchteil davon in die andere Richtung zu lenken.
Eine Milliarde ist eine Untergrenze
Warum eine Milliarde und nicht dreihundert Millionen? Weil unterhalb dieser ungefähren Linie das Feld sich nur eine Sache nach der anderen leisten kann. Bei 190 Millionen zwingen die Zahlen zu brutaler Triage. Technische Forschung und Modellevaluierungen absorbieren etwa zwei Drittel von allem. Advocacy (die Arbeit, Regierungen und Unternehmen dazu zu bringen, auf die Forschungsergebnisse zu handeln) erhält rund fünf Prozent, in der Größenordnung von zehn Millionen Dollar pro Jahr, weniger als ein einziges großes Technologieunternehmen für die Lobbyarbeit in einer nationalen Hauptstadt ausgibt. Eine Milliarde Dollar würde diese Triage beenden. Sie würde es der Sicherheit ermöglichen, wettbewerbsfähig für das Talent zu zahlen, das die Labore derzeit absorbieren, ein Feld zu diversifizieren, das auf einer einzigen dominanten Stiftung ruht, und die politische Arbeit zu finanzieren, die Ergebnisse verändert statt sie lediglich zu dokumentieren.
Und eine Milliarde pro Jahr ist gemessen an allen historischen Vergleichen, die passen, bescheiden. Das Humangenomprojekt kostete rund drei Milliarden Dollar und gilt als eine der besten öffentlichen Investitionen, die die Vereinigten Staaten je getätigt haben. Gemessen an einem Risiko, das seine eigenen Schöpfer neben einen Atomkrieg stellen, ist eine Milliarde Dollar pro Jahr keine großzügige Summe. Dass wir überhaupt darüber debattieren, ob sie erschwinglich ist, ist das Seltsame daran.
Die Ausrottung der Pocken kostete etwa 300 Millionen Dollar über die gesamten dreizehn Jahre der Kampagne, weniger als ein Drittel eines einzigen Jahres des hier diskutierten Ziels. Seit 1980 hat diese einmalige Ausgabe der Welt jedes Jahr weit über eine Milliarde Dollar gespart, und die Vereinigten Staaten allein holen ihren Anteil an den ursprünglichen Kosten etwa alle sechsundzwanzig Tage zurück.
Die Reduktion eines zivilisationsskaligen Risikos war fast immer eine der günstigsten Maßnahmen, die wir je ergriffen haben, gemessen am Ertrag.
Woher die Milliarde eigentlich kommt
Nichts davon erfordert eine neue Erfindung oder einen Akt außergewöhnlicher Großzügigkeit. Es erfordert, dass vier gewöhnliche Quellen gleichzeitig eingeschaltet werden. Je zwei davon, ernsthaft umgesetzt, erreichen das Ziel.
| Quelle | Plausibel pro Jahr |
|---|---|
| Diversifizierte PhilanthropieHeute stammt mehr als die Hälfte aller philanthropischen Sicherheitsmittel von einer einzigen Stiftung. Im Vergleich dazu fließen in der Klimaphilanthropie jährlich über 10 Milliarden Dollar von vielen Spendern. Eine einzelne Stiftung mit 20 Milliarden Dollar Endowments wirft allein durch Zinsen eine Milliarde Dollar pro Jahr ab; um ein Zehntel der Klimaspenden zu erreichen, braucht es vielleicht fünf bis zehn ernstzunehmende Förderer. | $300M |
| Staatliche SicherheitsbudgetsNationale Sicherheitsinstitute existieren bereits in den UK, den US und anderswo. Die US gibt etwa 47 Milliarden Dollar pro Jahr für die National Institutes of Health aus; ein dedizierter KI-Sicherheitsaufwand in Höhe von einem Prozent davon ergibt schon fast eine halbe Milliarde. | $300M |
| Eine Branchenabgabe auf RechenleistungPharmafirmen finanzieren etwa drei Viertel der Arzneimittelprüfung der FDA über Nutzungsgebühren; die Nuklearindustrie finanziert fast ihren gesamten Regulator. Vier Zehntel eines Prozents auf die Compute- und Infrastrukturgrenze, die Frontier-KI bereits kauft (über 250 Milliarden Dollar pro Jahr), bringen die ganze Milliarde von allein ein. | $300M+ |
| Umgeleitetes gemeinnütziges KapitalDonor-Advised Funds halten bereits über 200 Milliarden Dollar, die für wohltätige Zwecke vorgesehen, aber noch nicht ausgezahlt sind. Universitätsstiftungen und die wachsende Infrastruktur für effektives Spenden kommen hinzu. Hier geht es um Umschichtung, nicht um neuen Reichtum. | $100M |
| Gesamt | ~$1B+ |
Die dritte Zeile ist die, auf die es am meisten ankommt, weil sie die einzige Quelle ist, die nicht auf dem guten Willen irgendjemandes beruht. Philanthropie kann verdunsten, wenn ein Spender seine Meinung ändert, wie das Feld lernte, als sein dominanter Förderer technische Sicherheitszuschüsse innerhalb von zwei Jahren um mehr als die Hälfte kürzte. Regierungshaushalte wechseln mit Wahlen. Eine gesetzliche Abgabe auf die Industrie, die vom Aufbau des Risikos profitiert, ist dauerhaft, verhältnismäßig und vollständig präzedenzlos. So finanzieren wir bereits die Aufsichtsbehörden, die Medizin, Luftfahrt und Kernenergie überwachen. Einen kleinen Teil der Sicherheitsfinanzierung an die Rechenleistung zu binden, die die Gefahr erzeugt, ist eine natürliche Erweiterung des Arguments für Rechen-Governance.
Das Geld fließt schnell, sobald das Risiko erkennbar ist
Die Geschichte ist hier eindeutig. Wenn eine Gefahr für die Öffentlichkeit und ihre Regierungen erkennbar wird, erscheint das Geld mit einer Geschwindigkeit, die den gegenwärtigen Rinnsal als das entlarvt, was er ist: eine Wahl, keine Beschränkung. Die Chemikalien, die die Ozonschicht zerstören, wurden unter dem Montreal Protocol, deren Fonds seither Milliarden von Dollar bewegt hat, um den Wechsel in ärmeren Ländern möglich zu machen. Als COVID kam, stellte die Welt innerhalb von Monaten Impfstoffentwicklung in Höhe von Dutzenden Milliarden Dollar auf. Pocken, Ozon, Polio: In jedem Fall war das Geld nie die Einschränkung. Es war die Erkenntnis.
Die KI-Sicherheit hat ihren Moment der Anerkennung noch nicht gehabt, und der Grund dafür ist strukturell und nicht finanziell. Der Schaden, vor dem sie warnt, ist noch nicht eingetreten. Es gibt keine Patienten, keine überfluteten Städte, keine trauernden Familien, die ihm ein Gesicht geben, und wenn die Arbeit Erfolg hat, wird es sie nie geben. Ein Risiko ohne Anhängerschaft hat niemanden, der auf die Menschen Druck ausübt, die die Schecks schreiben. Eine bessere Tabelle wird es nicht lösen.
Das ist ein Mobilisierungsproblem
Das bedeutet, dass der Weg zu einer Milliarde Dollar im Kern kein Fundraising-Plan ist. Es ist ein Plan, das Risiko so lesbar und seine ernsthafte Behandlung so prestigeträchtig zu machen, dass das Geld folgt, wie es immer folgt. Diese Arbeit verläuft entlang dreier Linien.
Mach es sichtbar. Eine Bedrohung, die Menschen sich vorstellen können, ist eine Bedrohung, für die sie Geld geben werden: Journalismus, Film, Daten und öffentliche Argumente, die eine abstrakte Wahrscheinlichkeit in etwas verwandeln, das ein Abgeordneter oder ein Spender spüren kann – dieselbe kulturelle Vorarbeit, die vor ernsthaftem Geld für das Klima und für die nukleare Rüstungskontrolle geleistet wurde.
Machen Sie es prestigeträchtig. Wenn Nobelpreisträger, ehemalige Staatsoberhäupter und vertrauenswürdige Persönlichkeiten des öffentlichen Lebens eine Sache als ernst behandeln, bewegen sich sowohl Normen als auch Geld hinter ihnen. Der wissenschaftliche Konsens über KI-Risiken existiert bereits. Was hinterherhinkt, ist die gesellschaftliche Erlaubnis für Menschen mit Mitteln und Ansehen, öffentlich danach zu handeln.
Machen Sie es verpflichtend. Freiwillige Spenden, hart gedrückt, könnten das Feld auf drei- oder vierhundert Millionen pro Jahr bringen. Der Sprung zu einer vollen Milliarde (und, wichtiger noch, ihr Überleben über einen Sinneswandel eines einzelnen Spenders hinaus) kommt aus dem Gesetz: einer Abgabe, einer Haushaltszeile, einer Vertragsverpflichtung. Deshalb richtet die Foundation ihre Arbeit auf bindende Regeln und nicht nur bei der Überzeugung. Großzügigkeit ist willkommen, aber sie ist keine verlässliche Grundlage.
Lassen wir also die Vorstellung beiseite, dass eine Milliarde Dollar pro Jahr die ambitionierte Version sei, dies ernst zu nehmen. Es ist die minimale Version. Es ist weniger als zwei Tage dessen, was wir bereits ausgeben, um das Problem zu verschärfen, und ein kleiner Bruchteil dessen, was es einmal gekostet hat, die Welt von einer Krankheit zu befreien, die dreitausend Jahre lang getötet hat. Die Summe ist nicht abschreckend. Was wirklich knapp ist, ist die Entscheidung, ein Risiko dieser Größenordnung so zu behandeln, als glaubten wir unsere eigenen Warnungen.
Diese Entscheidung fällt durch öffentlichen Druck, durch das, was Regierungen von den Menschen hören, denen sie Rechenschaft schulden, und dadurch, ob genug von uns dies als die Priorität behandeln, die die Wissenschaft ihr beimisst. Die Argumente für die Regeln, die das Geld dauerhaft machen würden, finden sich in unser Plan, und der schnellste Weg, ihr Gewicht hinzuzufügen, dauert fünf Minuten auf der handeln Sie Seite.
Aber stellt die Zahl neben das, was die Welt bereits für den Bau der Technologie ausgibt, oder neben das, was die Menschheit früher für Gefahren ausgegeben hat, die sie ernst nahm – dann wirkt eine Milliarde nicht mehr ambitioniert. Sie beginnt als das Mindeste, was wir tun können, und liegt gut im Bereich des Möglichen.