Asilomar: Als Wissenschaftler
Haben ihr eigenes Feld pausiert

In den frühen 1970er Jahren lernten Biologen, Gene von einem Organismus in einen anderen einzufügen. Rekombinante DNA öffnete Medizin und Biologie zugleich, und sie ängstigte die Menschen, die sie erfanden. Sie konnten nicht ausschließen, dass ein modifizierter Organismus aus einem Labor entkommen und Schaden anrichten könnte, den niemand einzudämmen wusste. Also taten sie etwas fast Unerhörtes. Sie hörten auf.

1974 riefen führende Forscher, darunter spätere Nobelpreisträger, öffentlich zu einem freiwilligen Moratorium für die gefährlichsten Experimente mit rekombinanter DNA auf. Im Februar 1975 trafen sich etwa 140 Wissenschaftler zusammen mit Juristen und Journalisten im Asilomar-Konferenzzentrum in Kalifornien, um die Bedingungen festzulegen, unter denen die Arbeit sicher wieder aufgenommen werden konnte. Sie einigten sich auf ein Rahmenwerk von Containment-Maßnahmen, die dem Risiko entsprachen, und die Forschung wurde unter vereinbarten Sicherheitsvorkehrungen wieder aufgenommen. Für Befürworter einer Pause bei Frontier-KI ist dies der Referenzpunkt: ein Fachgebiet, das seine eigene Gefahr erkannte und Vorsicht vor Geschwindigkeit wählte.

Was Asilomar wirklich richtig gemacht hat

Die Leistung ist real und es lohnt sich, sie klar zu benennen.

Wissenschaftler handelten vor einer Katastrophe statt danach, was das Seltenste und Wertvollste in der gesamten Geschichte der Technologiesicherheit ist. Sie akzeptierten Zurückhaltung bei ihrer eigenen Arbeit, einschließlich Forschung, die Ruhm und Fortschritt versprach, weil das Risiko es rechtfertigte. Und sie bauten praktische Regeln, die dem Gefahrenniveau entsprachen, statt die Gefahr zu ignorieren oder das Feld gänzlich zu verbieten. Es steht als Beweis dafür, dass eine Forschungsgemeinschaft ihre eigene Frontier betrachten, sie als zu gefährlich zum Vorwärtsstürmen beurteilen und sich zurückhalten kann. Dieses Präzedenzfall ist eine direkte Widerlegung der Behauptung, dass das Pausieren einer mächtigen Technologie naiv oder unmöglich sei, weshalb es neben den Rüstungskontrollfällen auf unserer Seite darüber steht, warum Handeln möglich.

Warum es ein schwierigeres Modell ist, als es aussieht

Ehrlichkeit gegenüber dem Präzedenzfall bedeutet zu benennen, warum KI ein schwierigerer Fall ist, denn genau die Unterschiede haben Asilomar zum Erfolg gemacht.

• Es war eine kleine, einheitliche Gemeinschaft. Ein paar Dutzend Labore, eine wissenschaftliche Kultur, Menschen, die sich kannten. Frontier AI ist ein globaler Wettbewerb unter Konzernen und Staaten im Wert von Billionen, ohne gemeinsamen Tisch.
• Die kommerziellen Einsätze waren 1975 bescheiden. Die Biotech-Industrie existierte damals kaum. KI kommt mit den größten Unternehmen der Welt und bereits engagierten nationalen Sicherheitsapparaten, was die Rennen-Dynamik Asilomar nie gegenüberstand.
• Neustart war das Ziel. Asilomar wurde entworfen, um sichere Bedingungen für die Fortsetzung zu finden, nicht um unbefristet zu stoppen. Sein Containment-Modell ging davon aus, dass man die Gefahr in einem physischen Labor einschließen könnte. Eine fähige KI ist auf diese Weise nicht offensichtlich einzudämmen.

Es gibt auch einen ernüchternden Epilog. Der Asilomar-Konsens hielt teilweise, weil es ein enger Moment mit ausgerichteten Anreizen war, und selbst dann hing er von freiwilligem Wohlwollen ab, das ein kommerzielleres, wettbewerbsintensiveres Feld belasten würde. Was unter 140 kollegialen Wissenschaftlern funktionierte, lässt sich nicht ohne Weiteres auf eine zersplitterte globale Industrie unter starkem Druck zu siegen übertragen.

Asilomar beweist, dass eine Pause möglich ist. Es zeigt auch die Bedingungen, die eine Pause braucht, und wie wenige davon die KI derzeit hat.

Die Lehre, die die Foundation zieht

Beide Hälften von Asilomar zählen. Es widerlegt den Fatalismus, der sagt, nichts könne getan werden, eine mächtige Technologie könne nicht verlangsamt werden. Wissenschaftler haben es getan, absichtlich, und der Himmel ist nicht eingestürzt. Aber es zeigt auch, dass der informelle, freiwillige, kollegiale Mechanismus, der 1975 funktionierte, für KI nicht ausreicht, weil KI die kleine Gemeinschaft, die niedrigen Einsätze und die eingrenzbare Gefahr vermissen lässt, die es guten Willen ermöglichten, auszureichen. Die richtige Schlussfolgerung ist, dass KI braucht, was Asilomar erreichen konnte – echte Zurückhaltung vor der Gefahr, vermittelt durch die bindende, verifizierbare, internationale Maschinerie, die ein globales Rennen im Billionen-Dollar-Bereich erfordert –, nicht, dass KI sein eigenes Asilomar braucht. Siehe unser Plan.