Was ein KI-Sicherheitsvertrag
Verhandlung würde aussehen wie.

1968 ging der Atomwaffensperrvertrag von der Entwurfssprache zu einem unterzeichneten Instrument über, nach Jahren von Arbeitsgruppen, Sackgassen und innenpolitischen Kämpfen. Menschen, die „wir brauchen einen KI-Vertrag“ sagen, stellen sich diese Maschinerie selten vor. Sie sollten es. Die Lücke zwischen dem Slogan und einem ratifizierten Text ist der Ort, an dem die meisten Pläne sterben.

Internationale Vertragsverhandlungen laufen als langwierige, technische, mehrjährige Prozesse ab, durchgeführt von diplomatischen Missionen, Rechtsexperten und technischen Beratern.

Wie funktionieren internationale Vertragsverhandlungen?

Die meisten modernen multilateralen Verträge beginnen mit politischer Autorisierung: typischerweise einer UN-Generalversammlungsresolution oder einer Entscheidung eines multilateralen Gremiums, die den Beginn von Verhandlungen mandatiert. Dies schafft die formale Grundlage für eine Verhandlungskonferenz oder einen ständigen Ausschuss in einem bestehenden Forum wie der Genfer Abrüstungskonferenz. Ohne diese politische Autorisierung sind Diskussionen über einen Vertrag vorbereitend und informell. Mit ihr werden sie zu einem formalen Verhandlungsprozess mit einem Mandat, Text zu produzieren.

Das Verhandlungsorgan tritt in Sitzungen zusammen, typischerweise mehrere Wochen pro Jahr, wobei intersessionale Arbeit von technischen Arbeitsgruppen zwischen den formellen Sitzungen geleistet wird. Arbeitsgruppen befassen sich parallel mit spezifischen Fragen: Definitionen, Verifikationsmechanismen, institutionelle Arrangements, Umsetzungsverpflichtungen, finanzielle Bestimmungen. Jede Arbeitsgruppe erstellt Entwurfstexte, die über aufeinanderfolgende Sitzungen zu einem fortlaufenden Entwurf des gesamten Vertrags zusammengeführt werden.

Der Vertragsentwurf wird im Konsens verhandelt, das heißt, keine Bestimmung wird finalisiert, bevor alle Teilnehmer ihr zustimmen. Das ist eine höhere Hürde als Mehrheitsabstimmung, erzeugt aber Verträge mit dauerhafterer Legitimität und breiterer Beteiligung, weil kein Land über Bestimmungen überstimmt wurde, die es für inakzeptabel hält. Der Preis ist, dass Konsens mehr Zeit braucht und das Tempo von der Delegation mit den meisten zu überwindenden Einwänden bestimmt wird.

Sobald der Text fertig ist, wird er zur Unterzeichnung freigegeben. Die Unterschrift ist ein politischer Akt der Zustimmung, keine rechtliche Verpflichtung. Die rechtliche Verpflichtung entsteht, wenn ein Land den Vertrag durch sein innerstaatliches Verfassungsverfahren ratifiziert. Die meisten Verträge nennen eine Mindestzahl von Ratifikationen, bevor sie rechtskräftig werden.

Welche Arbeitsgruppen ein Grenz-KI-Vertrag bräuchte

Ein Vertrag zur Regelung der Entwicklung von Frontier-KI müsste Arbeitsgruppen erfordern, die sich mit Fragen befassen, für die es im Völkerrecht keine geklärten Antworten gibt. Die wichtigsten davon:

Definitionen. Der Vertrag muss festlegen, welche KI-Systeme er regelt. Das ist schwieriger als die Definition von Kernwaffen oder chemischen Kampfstoffen, weil KI ein kontinuierliches Fähigkeitsspektrum ohne scharfe Unterscheidung zwischen gefährlichen und sicheren Versionen ist. Vorschläge konzentrieren sich auf Compute-Schwellenwerte als Proxy: Ein Trainingslauf oberhalb einer festgelegten Rechenskala würde Vertragsverpflichtungen auslösen. Der Schwellenwert müsste technisch begründet, regelmäßig überarbeitet werden, wenn Compute-Kosten sinken, und einen Streitbeilegungsmechanismus für Grenzfälle vorsehen.

Pflichten der Entwickler abgedeckter Systeme. Sobald ein System die definierte Schwelle überschreitet, welche Maßnahmen sind dann erforderlich? Die meisten Vorschläge sehen eine vorherige Benachrichtigung einer Überwachungsstelle vor oder während des Trainingslaufs vor; eine obligatorische Evaluierung des trainierten Systems anhand festgelegter Sicherheitsstandards; die Meldung der Evaluierungsergebnisse; und Einschränkungen bei der Bereitstellung von Systemen, die die Standards nicht erfüllen. Jede dieser Anforderungen setzt Definitionen voraus, was eine angemessene Einhaltung darstellt – eine technische und rechtliche Streitfrage, bevor eine einzige Verhandlungsrunde beginnt.

Verifikationsmechanismen. Wie würde ein unabhängiges Gremium bestätigen, dass deklarierte Aktivitäten mit tatsächlichen Aktivitäten übereinstimmen? Das wäre die technisch anspruchsvollste Arbeitsgruppe. Die in Umlauf befindlichen Vorschläge kombinieren Hardware-Level-Monitoring durch Kooperation mit Chipherstellern, die Verkäufe oberhalb spezifizierter Spezifikationen verfolgen, Facility-Inspektionen durch Rechte, große Compute-Cluster zu besuchen, und Audit-Rechte über Trainingsprotokolle und Evaluationsaufzeichnungen. Jedes Element wirft Fragen der kommerziellen Vertraulichkeit und nationalen Sicherheitsklassifizierung auf, die nicht leicht zu lösen sind.

Institutionelle Struktur. Welches Gremium soll den Vertrag verwalten? Eine neue Organisation, vergleichbar mit dem OPCW, die durch den Vertrag selbst geschaffen wird, bringt den höchsten Governance-Wert, erfordert aber den größten politischen Aufwand und die meisten Ressourcen. Die Delegation an ein bestehendes Gremium verursacht geringere politische Kosten, verfügt aber möglicherweise nicht über das Mandat oder die technische Expertise, die die Aufgabe erfordert. Das IAEA hat Erfahrung mit der Überwachung dual-use-Technologien; die ITU erhebt gewisse jurisdiktionelle Ansprüche auf KI-bezogene Fragen. Jede Option hat unterschiedliche Ressourcenimplikationen und unterschiedliche Historien politischer Unabhängigkeit von Großmächten.

Anforderungen für das Inkrafttreten. Der Vertrag müsste festlegen, welche Länder ratifizieren müssen, bevor er rechtskräftig wird. Ein Vertrag, der ohne die US, China oder die UK in Kraft träte, würde die Organisationen nicht binden, die für die Entwicklung frontier-KI verantwortlich sind. Die NPT verlangte die Ratifizierung durch eine definierte Gruppe von Staaten. Ein KI-Vertrag bräuchte einen ähnlichen Mechanismus, mit der offensichtlichen Schwierigkeit, dass die Forderung nach Ratifizierung durch US und China beiden Ländern ein Veto über das Zustandekommen des Vertrags einräumt.

Der Verhandlungsprozess in Phasen

Die vorhersehbaren Stolpersteine

Erfahrungen mit vergleichbaren Verhandlungen deuten auf mehrere Streitpunkte hin, die vorhersehbar auftreten würden und die von Anfang an eingeplant werden müssen.

Die Verifikations-Vertraulichkeits-Spannung. Länder und Unternehmen mit frontier AI-Programmen werden sich Verifikationsmechanismen widersetzen, die die Offenlegung kommerziell oder militärisch sensibler Informationen erfordern. KI-Fähigkeiten stellen Wettbewerbsvorteile dar. Die Inspektionsrechte, die ein Verifikationssystem glaubwürdig machen, werden von denselben Parteien abgelehnt, deren Einhaltung den Vertrag sinnvoll macht. Das nukleare Regime löste dies durch sorgfältig begrenzte Safeguards-Abkommen, die die Nichtumleitung von Nuklearmaterial verifizierten, ohne die Offenlegung von Waffenkonstruktionsinformationen zu verlangen. ASI-Governance wird eine analoge Begrenzungsübung erfordern.

Der Streit um die Schwellenwertdefinition. Welcher Compute-Schwellenwert auch immer zur Definition erfasster Systeme verwendet wird, wird angefochten werden. Parteien knapp unter dem Schwellenwert werden argumentieren, er solle niedriger sein; Parteien knapp darüber werden argumentieren, er sei zu niedrig angesetzt. Und jeder feste Schwellenwert wird obsolet, wenn die Compute-Kosten sinken, was Änderungsmechanismen erfordert, die selbst politisch umstritten sind. Ein in anderen Verträgen verwendeter Ansatz besteht darin, die Festlegung von Schwellenwerten einer technischen Stelle zu übertragen, statt feste Zahlen in den Vertragstext einzubetten, sodass Revisionen ohne Vertragsänderung möglich sind.

Das China-Teilnahmeproblem. Ein Vertrag, der ohne China in Kraft tritt, regelt nicht die Organisationen, die für die bedeutendste KI-Entwicklung außerhalb der US verantwortlich sind. China dazu zu bewegen, bindende Verpflichtungen für seine Frontier-KI-Entwicklung zu akzeptieren, erfordert, etwas Glaubwürdiges als Gegenleistung anzubieten (wahrscheinlich eine Kombination aus Technologiezugangsgarantien und symmetrischen Beschränkungen der US-Entwicklung) unter Bedingungen tiefen gegenseitigen Misstrauens. Das ist ein Diplomatieproblem, das die Vertragsgestaltung nicht vollständig lösen kann.

Das Problem privater Akteure. Frontier-KI wird hauptsächlich von privaten Unternehmen entwickelt. Der Vertrag würde Staaten binden, die dann Verpflichtungen durch innerstaatliches Recht umsetzen würden, das auf Unternehmen angewendet wird. Das führt zu regulatorischer Komplexität, der sich nukleare und chemische Waffenverträge nicht gegenübersahen, weil diese Verträge sich hauptsächlich mit staatlichen Programmen befassten. Ein Frontier-KI-Vertrag müsste klar festlegen, wie staatliche Verpflichtungen in Unternehmensverpflichtungen übersetzt werden und wie Verstöße eines Unternehmens dem Vertragsstaat zugerechnet werden, der es beherbergt.

„Jeder große Rüstungskontrollvertrag sah bis zu seiner Aushandlung unmöglich aus. Die Frage ist immer, ob die politischen Bedingungen weit genug gereift sind, damit die Kosten fortgesetzten Nichtstuns die Kosten der Vereinbarung übersteigen.“

Ein Frontier-AI-Safety-Vertrag ist das Ergebnis eines anhaltenden politischen Prozesses, der noch nicht formell begonnen hat, kein einzelnes Ereignis. Die derzeit stattfindende Arbeit – KI-Sicherheitsgipfel, bilaterale Regierungsgespräche, nationale Sicherheitsinstitute, akademische Vorschläge für Governance-Rahmen – ist die Vorbereitungsphase. Daraus ein formales Verhandlungsmandat, dann einen Vertragstext und schließlich eine Ratifizierung zu machen, ist die Arbeit von Jahren. Die Dringlichkeit besteht darin, dass die zu regierenden Fähigkeiten möglicherweise schneller entstehen, als der Governance-Prozess ablaufen kann. Diese Dringlichkeit ist das Argument dafür, jetzt ernsthaft zu beginnen.

Der stärkste Widerstand

Der fairste Einwand ist, dass Großmächte ihre Frontier-Labs niemals binden werden, daher ist die Beschreibung der Verhandlung akademisch. Jeder große Rüstungsvertrag wirkte unmöglich, bis die Kosten des Nichthandelns stiegen. Die Vorarbeiten existieren. Das fehlende Stück ist politischer Wille, erzwungen durch öffentliche Nachfrage und industrielle Hebel, nicht ein neues Vokabular.