Menschen benutzen AGI und ASI, als wären sie Synonyme, Markennamen oder sci-fi Stimmungsbeleuchtung. Das sind sie nicht. Die Unterscheidung ist wichtig, weil das Kontrollproblem und die politischen Instrumente sich ändern, je höher man auf der Leiter steigt, und weil Labs Anreize haben, nah an „AGI“ zu klingen, um Fördergelder zu erhalten, während sie weit von Gefahr entfernt klingen, um Regulierung zu vermeiden.
Einfache Definitionen
Schwache KI ist für eine begrenzte Aufgabe gebaut: Videos empfehlen, Proteine falten, Tumore erkennen. Es kann exzellent sein und dennoch kein allgemeiner Agent.
AGI (artificial general intelligence) bedeutet breite, flexible Kompetenz über viele Aufgaben hinweg auf etwa menschlichem Niveau, mit genug Agency, um Ziele zu verfolgen statt nur Prompts zu beantworten. Definitionen variieren, aber die tragende Idee ist Generalität plus nutzbare Autonomie.
ASI (artificial superintelligence) bedeutet kognitive Leistung, die Menschen in nahezu allen Domänen, die für Wissenschaft, Strategie und Macht zählen, deutlich übertrifft. Es ist nicht "AGI plus zehn Prozent". Es ist ein qualitativer Bruch darin, wer wen überplanen kann.
Eine Leiter, nicht zwei Behälter
Denkt in Stufen. Die heutigen Frontier-Modelle sind breit, aber uneinheitlich, stark von Menschen gestützt und verbessern sich schnell. Agentische Stacks (Tools, Memory, Planning-Loops) können ein Basismodell weit autonomer handeln lassen, als eine Chatbox vermuten lässt. AGI-Klasse-Agency ist bereits ein schwerwiegendes Kontroll- und Gesellschaftsproblem, wenn sie misaligned ist. ASI bedeutet entscheidenden Vorteil: schnellere Wissenschaft, bessere Strategie, bessere Ausnutzung menschlicher Bias, schwierigeres Herunterfahren.
Domänensuperintelligenz ist alte Nachricht. Ein System kann Menschen beim Schach oder beim Proteinfalten übertrumpfen und dennoch eng sein. Querschnittliche strategische Superintelligenz ist die Stufe, die diese Seite verhindern will.
Warum "wir werden bei AGI aufhören" instabil ist
Nehmen wir an, ein Labor erreicht kontrollierbare allgemeine Systeme auf menschlichem Niveau. Der Druck, weiter voranzuschreiten, verschwindet nicht. Militärischer Vorteil, kommerzieller Vorsprung und Prestige zeigen alle nach oben. Wettlaufdynamiken belohnen den am wenigsten vorsichtigen Akteur. Die Renn-Geschichte wird oft verwendet, um Geschwindigkeit zu rechtfertigen; sie rechtfertigt keine Kontrolle.
Messung ohne Marketing
Benchmarks fallen; Pressemitteilungen steigen. Dangerous-Capability-Evaluierungen versuchen, Cyber-Offensivfähigkeiten, Bio-Unterstützung, autonome Replikation und Überzeugung unter kontrollierten Bedingungen zu messen. Sie helfen. Sie sind kein vollständiger Sicherheitsnachweis, besonders wenn ein System Sandsack. Politik sollte sich an Rechenleistung, Fähigkeitstests und Autonomie orientieren, nicht daran, wie Unternehmen das Produkt nennen.
Mythen, die Zeit verschwenden
AGI erfordert keinen Roboterkörper. Ferngesteuerte Werkzeuge und bestehende Maschinen bewegen die physische Welt. Bewusstsein ist eine separate Frage von Fähigkeit und Kontrolle. „Menschlich-niveau“ ist keine einzelne Zahl: eine durchschnittliche Person, ein Spezialistenteam und die institutionell besten Leistungen der Menschheit sind unterschiedliche Maßstäbe. Sicherheitsrelevantes AGI geht um allgemeine Problemlösungsagentur unter realen Anreizen, nicht um eine einzelne Prüfungsnote.
Was in Gesetze übergeht
Wenn das Gesetz nur Systeme beschränkt, die als „AGI“ oder „ASI“ gekennzeichnet sind, werden Firmen umbenennen. Gute Auslöser sind operational: Trainingslauf-Größe, Tool-Autonomie, Ergebnisse gefährlicher Fähigkeiten, Open-Weight-Freigabe hochentwickelter allgemeiner Modelle. Enge KI, die werkzeugartig bleibt, soll weiterlaufen. Die Linie, die diese Foundation zieht, ist künstliche Superintelligenz und die Programme, die darauf abzielen.
Wie man es in einer Minute sagt
Narrow AI: Werkzeuge. AGI: allgemeine Handlungsfähigkeit auf menschlichem Niveau, bereits ein ernstes Kontrollproblem, wenn autonom und fehlgerichtet. ASI: maschinelle Kognition, die uns in allen Bereichen übertrifft. Die Werkzeuge können wir behalten. Den souveränen Geist sollten wir nicht bauen. Superintelligenz lässt sich nicht kontrollieren. Die Bitte steht in unser Plan.