Wie schnell skaliert KI?
Der mit Abstand größte Treiber des KI-Fortschritts war die reine Skalierung, die Rechenmenge, die für das Training jedes neuen Modells verwendet wurde. Auf einer logarithmischen Skala ist dieses Wachstum atemberaubend und unerbittlich. Erkunden Sie die Modelle, die die Kurve markieren, und sehen Sie, wie schnell sich die Frontier bewegt.
Compute ist nicht die ganze Geschichte (Algorithmen und Daten zählen ebenfalls), aber es war der zuverlässigste Prädiktor für neue Fähigkeiten. Wenn der Input für ein System in etwas mehr als einem Jahrzehnt um den Faktor hundert Millionen wächst und niemand vollständig versteht, was der nächste Hundertfache freisetzen wird, wird „wir werden Sicherheit unterwegs herausfinden“ zu einer großen Wette.
Der Trend reframt auch das Rennen: effiziente Modelle wie Chinas DeepSeek-V3 erreichten frontier-nahe Leistung mit einem Bruchteil des berichteten Rechenaufwands, eine Erinnerung daran, dass Fähigkeit immer günstiger, nicht nur größer.
Trainings-Compute-Zahlen sind Schätzungen, hauptsächlich aus Epoch AI's Datenbank bemerkenswerter Modelle, ausgedrückt in Gleitkommaoperationen (FLOP). Labs geben selten exakte Zahlen bekannt, daher sind die jüngsten Frontier-Werte näherungsweise und nur zur Veranschaulichung angegeben. Das, was Bestand hat, ist der Trend, nicht irgendein einzelner Punkt.
Die gezeigte Verdopplungszeit wird aus den geplotteten Modellen berechnet, daher spiegelt sie diese kuratierte Stichprobe wider und nicht das gesamte Feld.