Eine Singularität ist in der Physik ein Punkt, an dem eine Größe explodiert und die bisher verwendeten Gleichungen keine sinnvollen Antworten mehr liefern. Das Zentrum eines Schwarzen Lochs ist das übliche Beispiel. Überträgt man das Wort auf die Technik, erhält man die technologische Singularität: einen hypothetischen Punkt, an dem maschinelle Intelligenz Veränderungen so schnell und tiefgreifend antreibt, dass unsere Fähigkeit, vorherzusagen oder auch nur zu begreifen, was als Nächstes kommt, zusammenbricht.

Es ist eine Aussage über einen Horizont, jenseits dessen das tempo der intelligenzgetriebenen Fortschritte das menschliche Verständnis überholt, nicht die Behauptung, dass ein bestimmtes Gerät ankommt.

Woher die Idee kommt

Die Linie lohnt sich zu kennen, weil der Begriff locker verwendet wird. Der Mathematiker John von Neumann wurde in den 1950er Jahren paraphrasiert mit der Überlegung, dass der technologische Fortschritt sich einer wesentlichen Singularität in der Geschichte nähere. 1965 beschrieb I.J. Good die Intelligenzexplosion, der Mechanismus, auf den sich die meisten Versionen der Singularität stützen. Der Science-Fiction-Autor und Mathematiker Vernor Vinge gab der modernen Idee in einem Essay von 1993 ihren Namen und ihre Kraft, indem er argumentierte, dass die Schaffung größerer als menschlicher Intelligenz das Gefüge der vorhersagbaren Geschichte zerreißen würde. Der Erfinder Ray Kurzweil popularisierte sie dann für ein breites Publikum, verortete eine Singularität um 2045 und integrierte eine breitere Geschichte über exponentielle technologische Trends.

Das sind unterschiedliche Behauptungen, die ein Wort tragen, was teilweise erklärt, warum die Singularität sowohl Hingabe als auch Augenrollen anzieht.

Die darunterliegende Maschine

Streift man die Varianten ab, ist der Kernmechanismus einfach. Wenn man eine Maschine bauen kann, die besser als Menschen darin ist, Maschinen zu bauen, einschließlich der Verbesserung ihrer eigenen Intelligenz, dann ernährt sich Verbesserung von sich selbst. Jedes klügere System ist besser darin, das nächste hervorzubringen, und die Fortschrittsrate steigt statt konstant zu bleiben. Führt man diese Schleife aus, könnte die Fähigkeit von menschlichem Niveau aus in sehr kurzer Zeit weit darüber hinaus steigen.

Die Intelligenzexplosion ist der eigentliche Inhalt hinter den meisten ernsthaften Verwendungen der Singularität. Die Vorhersage der Unvorhersagbarkeit folgt daraus: Sobald Systeme sich selbst mit Maschinengeschwindigkeit verbessern, verlässt die Entwicklung den Bereich, in dem menschliche Prognosen funktionieren. Wir behandeln diesen Mechanismus vollständig in seinem eigener Erklärer, und dort liegt die Substanz.

Die Kritik

  • Selbstverbesserung könnte auf harte Grenzen stoßen. Intelligenz könnte auf abnehmende Erträge, Datenengpässe oder physische Beschränkungen treffen, die die Kurve in einen stetigen Anstieg statt einer Explosion abflachen.
  • Das Konzept ist vage. Verschiedene Befürworter meinen unterschiedliche Dinge, und die großartigeren Versionen im Stil von Kurzweil verbinden selbstsichere Datumsangaben mit einem fast mystischen Ton, der Skepsis einlädt.
  • Exponentialtrends biegen sich. Kurven, die explosiv aussehen, erweisen sich oft als der frühe Teil einer S-Form, die sich abflacht.

Das sind vernünftige Annahmen, und keine von ihnen erfordert, dass die Singularität falsch ist, sondern lediglich ungewiss. Der Fehler liegt darin, Zweifel an einem dramatischen, benannten Ereignis so zu behandeln, als löse er das zugrunde liegende Risiko auf.

Warum das Label weniger zählt als der Mechanismus

Man kann das Wort Singularität vollständig ablehnen, mit seinem Hauch von Prophetie und seinen präzisen Daten, und hat trotzdem den Teil übrig, der für die Politik zählt. Die ernsthafte Frage ist, ob maschinelle Intelligenz schnell genug verbessert werden könnte, dass der Übergang zu Systemen weit jenseits von uns schneller geschieht, als wir beaufsichtigen oder regieren können, nicht ob es einen mystischen Moment im Jahr 2045 gibt. Das ist eine Behauptung über Zeitpläne und Abhebegeschwindigkeit, und es braucht nicht die große Rahmung, um alarmierend zu sein.

Lassen Sie das Wort weg, wenn Sie möchten. Das Problem, auf das es verweist – ein zu schneller Übergang, um ihn zu steuern –, braucht das Wort nicht, um real zu sein.

Die Sorge der Foundation gilt genau dieser abgespeckten Version. Wenn der Weg zu weit übermenschlicher KI rasch sein könnte, dann ist der einzig verlässliche Zeitpunkt, Governance aufzubauen und Kontrolle zu behalten, bevor es beginnt, solange noch Menschen die Entscheidungen treffen. Die Wettbewerbsdruck als Erster diese Schwelle zu erreichen, verkürzt nur die Startbahn. Ob man die andere Seite Singularität nennt, die Antwort bleibt dieselbe, und sie lautet unser Plan.

Die Singularität darf niemals geschehen

Die Position der Stiftung ist das Verbot, nicht die Vorhersage. Superintelligenz kann nicht von Menschen kontrolliert werden. Der Horizont, den dieses Wort benennt, ist ein Abheben jenseits des Punktes, an dem wir noch entscheiden. Es ist dieselbe Überschreitung wie Superintelligenz zu bauen. Die Singularität darf niemals geschehen.