KI-Entwicklung ist derzeit hardwareintensiv. Das Training der Modelle an der Frontier der Fähigkeiten erfordert Cluster von Tausenden spezialisierter Chips, die Wochen oder Monate laufen und Leistung im Bereich von Dutzenden Megawatt verbrauchen. Die Chips werden von einer kleinen Zahl von Unternehmen entworfen, mit Equipment gefertigt, das von einer noch kleineren Zahl hergestellt wird, und über Lieferketten verkauft, die durch bestimmte nationale Jurisdiktionen verlaufen. Diese Hardwarekonzentration ist eines der wenigen Merkmale der frontier KI-Entwicklung, das eine Regulierung in naher Zukunft praktikabel macht.
Diese Konzentration schafft einen Governance-Engpass, einen der wenigen Orte, an denen Regulierung der Entwicklung von Frontier-KI in naher Zukunft praktisch umsetzbar ist.
Compute Governance ist der Ansatz zur KI-Regulierung, der diese Konzentration als Hebel nutzen will. Anstatt direkt zu regeln, was KI-Systeme bauen dürfen oder nicht (eine Frage, die technische Urteile erfordert, die die meisten Regulierungsbehörden nicht treffen können), reguliert Compute Governance die Hardware, die zum Bau benötigt wird. Wer den Compute kontrolliert, gewinnt damit ein gewisses Maß an Kontrolle darüber, wer frontier AI entwickeln kann, in welchem Umfang und mit welchem Grad an Berichterstattung und Transparenz.
Die Hardware-Engpässe
Diese Engpässe sind nicht dauerhaft. China investiert aktiv in die heimische Halbleiterproduktion, um die Abhängigkeit von der westlichen Lieferkette zu verringern. Aktuelle heimische Chips bleiben deutlich hinter der Frontier zurück, eine Lücke, die der chinesischen KI-Entwicklung reale Kosten auferlegt, aber die Frontier-KI-Entwicklung mit ausreichend Zeit und Ressourcen nicht unmöglich macht. Das durch die bestehende Hardwarekonzentration geschaffene Governance-Fenster ist real, aber endlich.
Welche Compute-Governance-Maßnahmen bereits existieren
Die US-Regierung hat Exportkontrollen für fortschrittliche KI-Chips als bisher bedeutendste Maßnahme zur Compute-Governance umgesetzt. Die im Oktober 2022 angekündigten Kontrollen beschränkten den Verkauf von Nvidias A100- und H100-Chips an China, Russland und andere benannte Länder. Nachfolgende Kontrollrunden 2023 und 2024 dehnten die Beschränkungen auf Chips aus, die speziell entwickelt wurden, um unter die ursprünglichen Schwellenwerte zu fallen, und schlossen damit die offensichtlichste Umgehungsroute. Die Kontrollen haben chinesischen KI-Labors reale Kosten auferlegt: dokumentierte Chip-Schmuggelversuche, Schwarzmarktpreise und reduzierte Leistungsfähigkeit chinesischer Trainingscluster zeigen alle, dass die Beschränkungen Wirkung gezeigt haben.
Die Executive Order der Biden-Administration vom Oktober 2023 zu KI enthielt die Anforderung, dass Entwickler dem Staat Trainingsläufe oberhalb von etwa 10^26 Gleitkommaoperationen melden müssen, also ungefähr dem Rechenaufwand, der zum Trainieren eines GPT-4-skalierten Modells nötig ist. Diese Meldepflicht war ein erster Schritt hin zu einer compute-basierten Aufsicht: Sie verschafft der Regierung Einblick, wer große Trainingsläufe durchführt, bevor Systeme eingesetzt werden, nicht danach.
Ein Frontier-Training-Run braucht immer noch ein Gebäude voller spezialisierter Chips und eine Stromrechnung, die man aus dem Orbit sehen kann. Dieser physische Haufen ist der beste Ansatzpunkt, den Regierungen haben. Compute-Governance ist das unromantische Projekt, diese Gebäude in lizenzierte, überprüfbare Infrastruktur zu verwandeln.
Was Compute-Governance nicht leisten kann
Drei wesentliche Einschränkungen begrenzen die Wirksamkeit von Compute Governance als Sicherheitsinstrument. Erstens Umgehung: Chips können über Drittländer gekauft werden, bevor Beschränkungen greifen, gehortet oder durch etwas weniger leistungsfähige Chips ersetzt werden, die unter regulatorische Schwellen fallen. Die US-Kontrollen wurden in einigen dokumentierten Fällen umgangen, und die Schmuggel- und Drittland-Routing-Muster waren so umfangreich, dass mehrere Verschärfungsrunden ausgelöst wurden.
Zweitens algorithmische Effizienz: Wenn das KI-Training effizienter wird, sinkt der Rechenaufwand, der für ein bestimmtes Fähigkeitsniveau nötig ist. Ein Compute-Schwellenwert, der heute richtig gesetzt ist, kann in drei Jahren viel zu permissiv sein, wenn die Effizienz steigt. Governance-Rahmen, die auf festen Compute-Schwellenwerten beruhen, brauchen Mechanismen, um diese Schwellenwerte anzupassen, wenn sich das Verhältnis zwischen Compute und Fähigkeit verändert.
Drittens und am wichtigsten: Compute Governance löst nicht das Alignment-Problem. Ein System, das mit ordnungsgemäß lizenzierten Hardware trainiert, den zuständigen Behörden gemeldet und innerhalb eines genehmigten Compute-Schwellenwerts liegt, kann dennoch fehlaligniert sein. Compute Governance kann das Tempo und den Umfang der Entwicklung von Frontier-AI steuern und Einblick geben, wer was trainiert. Sie kann nicht sicherstellen, dass das, was trainiert wird, aligniert ist.
Deshalb ist Compute-Governance am besten als eine Komponente eines breiteren Rahmens neben Alignment-Verifikationsanforderungen und internationalen Vertragsverpflichtungen zu verstehen, nicht als eigenständige Lösung. Die Foundation's drei politische Vorschläge behandeln Compute-Governance als den kurzfristigen Hebel, der Zeit und Sichtbarkeit verschafft, während die schwierigere technische und diplomatische Arbeit an der Verifikation von Alignment und internationalen Vertragsverhandlungen voranschreitet.