Im Juli 2025 veröffentlichte Mark Zuckerberg einen Brief über „personal superintelligence“, der zugleich vor der Sorgfalt warnte, mit der Meta entscheidet, was es open-sourct. Die Kombination ist das gesamte Policy-Problem auf einer Seite: ein Wettrennen hin zu allgemeinen Systemen und eine Freigabeentscheidung, die sich nicht mehr rückgängig machen lässt, sobald die Weights öffentlich sind.
Was "open" hier bedeutet
Die Leute sagen „Open Source AI“, wenn sie unterschiedliche Dinge meinen: offener Code, offene Daten, offene Gewichte, offene Papiere. Der hochbrisante Streit dreht sich hauptsächlich um Gewichte: die trainierten Parameter, die man herunterladen und ausführen kann. Sobald diese mit frontierartiger Allgemeinheit ausgeliefert werden, kann jeder mit ausreichend Hardware nachjustieren, Filter entfernen und eine private Abspaltung für immer behalten.
Veröffentlichung ist eine Einbahnstraße. Eine gehostete API kann man patchen. Einen Torrent kann man nicht zurückrufen.
Was Offenheit wirklich schützt
Das stärkste Argument für Offenheit ist keine Naivität. Geschlossene Konzentration ist ein Machtrisiko. Unabhängige Forscher brauchen Zugang, um Fehler zu finden, die Labore nicht priorisieren werden. Security through obscurity scheitert häufig. Forscher außerhalb reicher Länder und Firmen sollten keine dauerhaften API-Mieter bleiben. Offene Werkzeuge, offene Evals und offene Wissenschaft an Systemen, die wir noch enthalten können, sind Güter, die es zu verteidigen gilt.
Der Risikofall ohne Melodramatik
Bei hoher Fähigkeit sind offene allgemeine Gewichte Proliferation. Sie multiplizieren Akteure, die Bio-Unterstützung, Cyber-Offensive, Überzeugung und autonome Agenten missbrauchen können. Sie multiplizieren auch unabhängige Experimente mit lang laufender Autonomie. Die meisten werden scheitern. Einige werden neue Techniken zur Umgehung hervorbringen. Lizenzen und „verantwortungsvoller Gebrauch“-Text halten keinen entschlossenen Fine-Tuner auf. Red-Teaming vor der Freigabe hilft und kann ein Modell dennoch nicht gegen jedes zukünftige Gerüst und Werkzeug zertifizieren.
Der stärkste Widerstand
Der faireste Einwand lautet, dass offene Gewichte die Überprüfung demokratisieren und geschlossene Labs die eigentliche Konzentrationsgefahr darstellen. Überprüfung hilft bei Systemen, die wir noch patchen und zurückrufen können. Demokratie des Zugangs ist nicht dasselbe wie Sicherheit der Fähigkeit. Eine Welt, in der nur drei Firmen Frontier-Modelle hosten, hat Governance-Probleme. Eine Welt, in der hochgenerelle Gewichte auf jedem Enthusiasten-GPU liegen, hat andere, schwerere Probleme.
„Schlechte Akteure haben sie bereits“ ist meist verfrüht. Fähigkeitssprünge. Dass letztes Jahr ein schwächeres Modell geleakt wurde, ist keine Lizenz, das nächste zu veröffentlichen. Das Timing zählt.
Mittlere Wege, die real sind
Gestufte Freigabe: öffnen das Kleine und das Engere; das Große und das Allgemeine wird abgeschottet. Strukturierter Zugang: vertrauenswürdige Forschungsumgebungen, protokollierte Abfragen und zertifizierte Feinabstimmungen statt eines rohen Daten-Dumps. Offene Tools: halten Compiler, Eval-Harnesses und Sicherheitsforschungs-Stacks offen, auch wenn Frontier-Gewichte geschlossen bleiben. Das sind politische Entscheidungen, keine Stimmungen.
Ein Entscheidungsbaum für Labore
Wird dieser Download nach den nächsten sechs Fähigkeitssprüngen noch nützlich sein? Wenn ja, behandeln Sie ihn als Proliferationsentscheidung. Wenn nein, behandeln Sie ihn eher wie einen normalen Produktlaunch. Können unabhängige Sicherheits- und Biosicherheitsteams den Zugang erhalten, den sie brauchen, ohne einen öffentlichen Torrent? Wenn ja, bevorzugen Sie strukturierten Zugang. Wenn das einzige Argument für die Öffnung Marketingparität mit einem Rivalen ist, ist das kein Sicherheitsfall.
Was tun
Entwickler: standardmäßig geschlossen am oberen Ende; veröffentlichen Sie Evaluierungen und Schnittstellen, die externe Prüfung ermöglichen. Hosts und Plattformen: protokollieren und begrenzen Sie risikoreiche Nutzungen; tarnen Sie Proliferation nicht als „Community“. Entscheidungsträger: schreiben Sie Auslöser basierend auf Fähigkeit und Rechenleistung, nicht auf dem Wort „open“; verlangen Sie gestufte Überprüfungen vor allgemeinen Gewichtsveröffentlichungen. Einzelpersonen: bevorzugen Sie offene Tools für enge Systeme; behandeln Sie Frontier-Gewichtsveröffentlichungen als zivile Ereignisse, nicht als kostenlose Werbegeschenke.
Die Linie der Foundation ist einfach. Enge KI, die werkzeugartig bleibt, kann offen bleiben und sollte es. Programme, die auf künstliche Superintelligenz abzielen, sollten nicht mit offenen Gewichten in die Welt gesetzt werden, solange Kontrolle ungelöst ist. Offene Wissenschaft ist kein Selbstmordpakt. Siehe unser Plan.