2016 lagen typische Expertenschätzungen für menschenlevelige KI noch Jahrzehnte in der Zukunft. Mitte der 2020er zogen große Umfragen und Lab-Leiter diese Daten vor, teilweise in die Lebensarbeitszeit der Menschen, die dies lesen. Der Zeitplan bleibt unsicher. Die Richtung der Revisionen nicht.
Was die Prognoseumfragen tatsächlich zeigen
Die systematischsten Daten zu AGI-Zeitplänen stammen von AI Impacts, das KI-Forscher über mehrere Jahre hinweg befragt hat, wann sie „menschengleiche maschinelle Intelligenz“ (in etwa gleichbedeutend mit AGI) erwarten. Die Ergebnisse sind aufschlussreich.
2016 legten befragte Forscher die mediane Wahrscheinlichkeit für HLMI bei etwa 50 % bis 2061. Bis 2022, vor der öffentlichen Veröffentlichung von GPT-4, hatte sich dieser Median bereits deutlich nach vorn verschoben. Die Forscher, die diese Vorhersagen treffen, sind die Menschen, die die Systeme bauen, die sie vorhersagen, keine Untergangspropheten oder Publicisten.
Das Muster in den Daten ist kein einheitliches Zieldatum, sondern ein konvergierendes Zeitfenster mit wenig Einigkeit über das genaue Jahr. Das Muster ist, dass jede neue Umfrage (abgeglichen mit tatsächlichen Fähigkeitsentwicklungen) kürzere Zeitleisten ergibt als die vorherige.
Vier Jahre. Von Text, der kaum zusammenhielt, bis zur Leistung im obersten Dezil menschlicher Experten bei standardisierten Maßen beruflicher Kompetenz. Das ist der empirische Befund, an dem Zeitplan-Vorhersagen kalibriert werden müssen.
Was die Menschen sagen, die KI bauen
Die öffentlichen Äußerungen von Führungskräften frontier AI-Labore sind nicht dasselbe wie ihre internen Arbeitsannahmen. Dennoch sind sie bemerkenswert, weil öffentliche Äußerungen von Personen in diesen Positionen typischerweise konservativ sind, eingeschränkt durch Investor Relations, regulatorische Prüfung und die professionelle Norm der Vorsicht bei außergewöhnlichen Behauptungen.
"Wir sind uns jetzt sicher, dass wir wissen, wie man AGI baut, wie wir es traditionell verstanden haben."
Sam Altman, CEO von OpenAI · Januar 2025
„Ich denke, wir könnten nur noch wenige Jahre entfernt sein (vielleicht sogar weniger) von einer KI, die die menschliche Intelligenz in allen Bereichen übertrifft.“
Dario Amodei, CEO von Anthropic · „Machines of Loving Grace“ Essay · Oktober 2024
Das sind die durchdachten öffentlichen Äußerungen der Menschen, die Kapitalallokationsentscheidungen auf Basis interner Prognosen treffen, die mit hoher Wahrscheinlichkeit kürzer sind als das, was sie veröffentlichen – keine Aussagen von Leuten, die AGI für eine ferne Aussicht halten.
Wenn ein Unternehmen zig Milliarden Dollar für KI-Infrastruktur ausgibt, basierend auf der internen Annahme, dass transformative KI unmittelbar bevorsteht, ist der Zeitplan operativ real, unabhängig davon, was das PR-Team über Unsicherheit sagt.
Warum das Datum weniger wichtig ist als die Verteilung
Die natürliche Reaktion auf AGI-Zeitplandiskussionen besteht darin, sich auf ein bestimmtes Datum zu konzentrieren: Wird es 2027 sein? 2030? 2040? Diese Rahmung ist verständlich, aber irreführend. Die Frage, die für Governance zählt, lautet nicht „Wann genau?“, sondern „Wie hoch ist die Wahrscheinlichkeit, dass AGI innerhalb des Planungshorizonts unserer derzeitigen Institutionen eintrifft?“
Überlegen Sie, was der Aufbau einer angemessenen ASI Governance tatsächlich erfordert:
- Internationale Vertragsverhandlungen dauern typischerweise mehrere Jahre von der Initiierung bis zur Unterzeichnung
- Ratifizierung und Umsetzung internationaler Abkommen dauern weitere Jahre
- Technische Infrastruktur für Verifizierung und Überwachung muss entworfen, finanziert und eingesetzt werden
- Nationale Gesetzgebung in großen KI-entwickelnden Ländern muss verabschiedet werden
- Compute-Governance-Frameworks erfordern Compliance-Mechanismen der Industrie, die im Laufe der Zeit aufgebaut werden
Selbst mit außerordentlichem politischen Willen erfordert ein sinnvolles internationales ASI-Regelwerk, das von Grund auf errichtet wird, mindestens fünf bis zehn Jahre. Wenn die Wahrscheinlichkeit, dass AGI innerhalb eines Jahrzehnts eintrifft, nicht trivial ist (und die Belege deuten darauf hin), dann wird eine Governance, die erst beginnt, nachdem AGI „offensichtlich unmittelbar bevorsteht“, nicht rechtzeitig fertig werden.
Dies ist bereits ein gegenwärtiges Problem. Das Governance-Fenster ist weder unbegrenzt noch statisch. Es verengt sich.
Die Asymmetrie, die diese Entscheidung einfach macht
Es besteht eine Asymmetrie zwischen den beiden möglichen Fehlertypen. Bauen wir robuste ASI-Governance-Rahmenwerke und AGI stellt sich als weiter entfernt heraus als erwartet, dann ist der Preis etwas verschwendeter Aufwand, etwas regulatorische Reibung für die KI-Entwicklung und ein Set internationaler Institutionen, die bereitstehen, wenn der Moment kommt. Warten wir auf Gewissheit über die Timelines, bevor wir Governance aufbauen, und AGI trifft ein, bevor Governance steht, dann ist der Preis potenziell unumkehrbar.
Diese Asymmetrie ist dieselbe, die nukleare Governance vor der Verbreitung von Waffen, Ozon-Schutz vor dem Kollaps der Ozonschicht und Pandemievorsorge vor dem nächsten Ausbruch motiviert hat. In jedem Fall haben sich die unter Unsicherheit errichteten Institutionen bewährt, als das vorhergesagte Szenario eintrat.
„Die Menschheit hat eine schlechte Erfolgsbilanz darin, Institutionen im Nachhinein aufzubauen, die Antizipation erforderten, um sie im Voraus aufzubauen.“
Yoshua Bengio, Turing Award Winner & Nobel Laureate · 2024
Das Argument für sofortiges Handeln hängt nicht davon ab, die aggressivsten AGI-Zeitpläne zu glauben. Es hängt nur davon ab, die gesamte Bandbreite glaubwürdiger Schätzungen ernst zu nehmen (einschließlich der kürzeren) und auf diese Unsicherheit mit angemessener Governance-Maßnahme zu reagieren.
Was nach AGI kommt
AGI ist die Schwelle der Besorgnis, nicht das Ende. Ein System auf menschlichem kognitiven Niveau über alle Domänen hinweg besitzt die Fähigkeit, sein eigenes Design zu verbessern, sich rekursiv selbst zu verbessern auf Weisen, die den Zeitraum von AGI bis künstliche Superintelligenz in Monate, nicht Jahrzehnte.
Dies ist das Szenario, das die ernsthaftesten Warnungen der Forscher ausgelöst hat, die der Technologie am nächsten stehen. Nicht AGI selbst, sondern die Dynamiken, die auf AGI folgen können, einschließlich der Möglichkeit, von einem kontrollierbaren System zu einem unkontrollierbaren schneller zu gelangen, als menschliche Institutionen reagieren können.
Die Implikation für die Governance ist direkt: Die Rahmenwerke müssen vor Überschreiten der AGI-Schwelle stehen, nicht danach. Der Zeitpunkt zum Verhandeln ist jetzt, solange alle Parteien noch auf die Schwelle zugehen und keine sie überschritten hat. Die drei Politikvorschläge des Nakada Foundation sind genau für dieses Zeitfenster konzipiert.
Der stärkste Widerstand
Der fairste Einwand ist, dass Zeitplanprognosen schon früher falsch lagen, daher sei Regieren danach Panik. Fair bei Punktprognosen. Die portable Tatsache ist die Richtung der Revisionen und die Asymmetrie des Zuspätkommens: Institutionen brauchen Jahre; Fähigkeit kann in Quartalen springen. Bauen Sie die Frameworks, solange die Schwelle noch vor uns liegt.