Wenn eine Brücke versagt, wissen Juristen bereits, wie sie nach der verantwortlichen Partei suchen. Wenn ein KI-Stack über Modell, Cloud und Integrator hinweg versagt, stockt die Suche. Haftungsregeln, die keinen Beklagten benennen können, können das nächste Versagen nicht verhindern. Das ist ein Governance-Problem, kein metaphysisches.

Ein Vertrag, der keine Verantwortung für eine Verletzung zuweisen kann, ist ein Vertrag, der nicht durchsetzbar ist, und diese Fragen sind für eine Technologie wie KI wirklich schwierig.

Zwei unterschiedliche Probleme

Es hilft, zwei Dinge zu trennen, die oft verschwimmen. Haftung ist die rechtliche Frage, wer verantwortlich ist und die Kosten tragen muss, wenn Schaden entsteht – eine Frage der Zuweisung von Verantwortung entlang der Kette von Entwickler über Deployer bis Nutzer. Namensnennung ist die faktische und technische Frage, wie sich tatsächlich Geschehenes feststellen und einem bestimmten System, Modell oder Akteur zuordnen lässt, indem eine schädliche Handlung zurückverfolgt wird. Governance braucht Antworten auf beides: Regeln, die Verantwortung zuweisen, und die forensische Fähigkeit, die Tatsachen zu ermitteln, auf die diese Regeln angewendet werden.

Warum KI beides schwer macht

  • Die Kausalkette ist lang und diffus. Ein einzelnes schädliches Ergebnis kann einen Foundation-Model-Entwickler, ein Unternehmen, das das Modell angepasst hat, den Betreiber und den Endnutzer betreffen, von denen jeder glaubhaft auf die anderen zeigen kann.
  • Verhalten ist emergent und undurchsichtig. Wenn ein System etwas tut, was keiner seiner Erbauer speziell beabsichtigt oder vorhergesehen hat, geraten traditionelle Vorstellungen von Schuld und Fahrlässigkeit unter Druck.
  • Zurechnung kann technisch schwer fassbar sein. Festzustellen, welches System eine bestimmte Ausgabe oder Handlung erzeugt hat (insbesondere wenn Modelle kopiert, fine-tuned oder privat betrieben werden), kann ohne gezielte Rückverfolgbarkeitsmaßnahmen tatsächlich schwierig sein.
  • Schäden können Grenzen überschreiten. Ein in einem Land entwickeltes System, das in einem anderen eingesetzt wird und in einem dritten Schaden verursacht, wirft Zuständigkeitsfragen auf, für die das gewöhnliche Haftungsrecht nicht geschaffen ist.

Die internationale Dimension

Auf staatlicher Ebene verfügt das Völkerrecht bereits über einen Rahmen für Verantwortung. Nach den lang etablierten Regeln der Staatenverantwortung (kodifiziert in den Artikeln der Völkerrechtskommission) ist ein Staat für völkerrechtswidrige Handlungen verantwortlich, einschließlich, unter bestimmten Umständen, des Verhaltens privater Akteure, die er anweist, kontrolliert oder nicht reguliert. Ein KI-Vertrag würde darauf aufbauen: Staaten wären dafür verantwortlich, dass die Akteure auf ihrem Territorium die Regeln einhalten, und für die Folgen, wenn sie das nicht tun. So übersetzt sich ein Vertrag, der Staaten bindet, in Rechenschaftspflicht für die privaten Unternehmen, die tatsächlich frontier AI bauen.

Aber staatliche Verantwortung hängt von Attribution ab, dem Nachweis, dass eine Verletzung stattgefunden hat und innerhalb der Jurisdiktion eines bestimmten Staates ihren Ursprung hatte. Hier treffen Governance und Verifikation aufeinander: dieselben Überwachungs- und Rückverfolgungsinstrumente, die Non-Compliance aufdecken, ermöglichen Attribution und damit Haftung. Die Durchsetzungsbestimmungen eines Vertrags sind nur so glaubwürdig wie seine Fähigkeit festzustellen, wer was getan hat.

Was ein Governance-Regime braucht

1

Klare Zuordnungsregeln

Recht, das festlegt, wer entlang der Entwicklungs- und Einsatzkette für welche Schäden verantwortlich ist, sodass Verantwortung nicht in niemandes Schuld zerfließen kann. Entstehende Rahmenwerke wie die Arbeit der EU zur KI-Haftung sind erste Versuche.

2

Nachverfolgbarkeit durch Design

Technische Maßnahmen (Protokollierung, Modellidentifikation, hardwareseitige Aufzeichnungen), die so eingebaut sind, dass schädliche Handlungen zu ihrer Quelle zurückverfolgt werden können und Attribution von Spekulation zu Beweis wird.

3

Ein Sorgfaltsstandard

Definierte Pflichten für Frontier-Entwickler, sodass das Versäumnis, sie zu erfüllen, Schuld begründet und die Beweislast auf diejenigen verlagert, die das Risiko schaffen.

4

Internationale Zurechnungskapazität

Gemeinsame Verifikation und forensische Fähigkeiten, damit Verstöße über Grenzen hinweg festgestellt und verantwortlichen Staaten und Akteuren zugeordnet werden können.

Eine Regel, an die niemand gehalten werden kann, ist keine Regel. Bevor wir Grenzen für gefährliche KI durchsetzen können, müssen wir zwei Fragen beantworten können: Wer ist verantwortlich, und wie beweisen wir es? Diese Antworten sind das verborgene Fundament jedes glaubwürdigen Vertrags.

Das Fundament unter dem Vertrag

Haftung und Attribution tauchen selten in Schlagzeilen-Aufrufen für ASI-Governance auf, aber sie entscheiden darüber, ob irgendetwas davon funktioniert. Ein Vertrag mit Schwellenwerten und Verboten, aber ohne Möglichkeit, Verantwortung für einen Verstoß zuzuweisen, ist eine Absichtserklärung, keine durchsetzbare Regel. Der Aufbau der rechtlichen Rahmen, die Verantwortung entlang der KI-Lieferkette zuweisen, und der technischen Kapazität, Schäden zu ihrer Quelle zurückzuverfolgen, ist daher Teil der Grundlage des Vertragsprojekts, nicht davon getrennt. Das sind auch Bereiche, in denen jetzt Fortschritte erzielt werden können, durch nationale Haftungsrecht und Rückverfolgbarkeitsstandards, vor und zur Unterstützung einer internationalen Vereinbarung. Die sichtbare Architektur der Governance (die roten Linien, die Überwachungsstelle) steht auf diesem stilleren Fundament. Ohne es ist Durchsetzung ein Versprechen, das niemand halten kann.