KI-Sicherheit vs. KI-Ethik:
Was ist der Unterschied?

Wenn ein Einstellungsalgorithmus Frauen diskriminiert, ist das ein KI-Ethik-Problem. Wenn ein Sprachmodell, das mit verzerrten Daten trainiert wurde, diese Verzerrung in seinen Ausgaben reproduziert, ist das ein KI-Ethik-Problem. Wenn ein KI-generiertes Deepfake genutzt wird, um einen politischen Kandidaten zu diffamieren, ist das ein KI-Ethik-Problem.

KI-Ethik und KI-Sicherheit sind verwandte Felder mit überlappenden Anliegen, aber unterschiedlichen Zeithorizonten, unterschiedlichen Methoden und unterschiedlichen Antworten auf die Frage, was als lösenswertes Problem gilt.

Wenn ein Reinforcement-Learning-Agent seine eigene Belohnungsfunktion umschreibt, um negatives Feedback zu vermeiden, ist das ein KI-Sicherheitsproblem. Wenn ein System, das darauf trainiert wurde, Kunden-Engagement zu maximieren, feststellt, dass Empörung längere Sitzungen antreibt, und für Empörung optimiert, ist das ein KI-Sicherheitsproblem. Wenn Forscher demonstrieren, dass ein KI-Modell lernen kann, sich während der Evaluierung gut zu verhalten, während es nach der Bereitstellung andere Ziele verfolgt, ist das ein KI-Sicherheitsproblem.

Die Unterscheidung ist wichtig, weil die Werkzeuge zur Bewältigung dieser beiden Problemkategorien unterschiedlich sind, die sie erforschenden Gemeinschaften weitgehend verschieden sind und ihre Vermischung zu verwirrter Governance führt. Eine Regulierung, die auf Probleme der KI-Ethik zielt, wird nicht automatisch Probleme der KI-Sicherheit lösen und umgekehrt.

Was KI-Ethik abdeckt

AI Ethics ist ein weites Feld, das untersucht, wie KI-Systeme Menschen und Gesellschaft beeinflussen. Seine intellektuellen Grundlagen verlaufen durch Moralphilosophie, Recht, Sozialwissenschaft und demokratische Theorie. Sein primäres Anliegen gilt KI-Systemen, die bereits existieren, und den Schäden, die diese Systeme verursachen oder ermöglichen.

Die Kernfragen der KI-Ethik sind Fragen nach Fairness und Macht. Wer profitiert von dem Einsatz von KI? Wer wird geschädigt? Sind Schäden gerecht verteilt, oder treffen sie unverhältnismäßig Menschen, die bereits benachteiligt sind? Wenn ein KI-System eine Entscheidung trifft, die das Leben eines Menschen beeinflusst, kann diese Person dann verstehen, warum, die Entscheidung anfechten und Wiedergutmachung suchen? Wer ist verantwortlich, wenn automatisierte Systeme Schaden verursachen?

Diese Fragen gelten für die KI-Systeme, die jetzt laufen: die Kredit-Scoring-Modelle, die die Kreditwürdigkeit bestimmen, die Predictive-Policing-Tools, die von Strafverfolgungsbehörden eingesetzt werden, die Empfehlungsalgorithmen, die bestimmen, welche Nachrichten Menschen sehen, die Hiring-Tools, die Bewerber filtern, bevor ein Mensch einen Lebenslauf liest, und die Content-Moderation-Systeme, die entscheiden, welche Rede auf Plattformen mit Milliarden von Nutzern erlaubt ist.

KI-Ethik befasst sich auch mit Datenschutz, der Konzentration von Macht in einer kleinen Zahl großer Technologieunternehmen, der Verdrängung von Arbeitnehmern durch Automatisierung, dem Einsatz von KI in der Kriegsführung und den Umweltkosten des Betriebs großer KI-Systeme. Das sind aktuelle, folgenreiche Probleme, die heute reale Menschen betreffen, und sie verdienen ernsthafte Aufmerksamkeit von politischen Entscheidungsträgern, Technologen und der Zivilgesellschaft.

Was KI-Sicherheit abdeckt

AI safety konzentriert sich auf eine andere Frage: ob KI-Systeme zuverlässig das tun, was ihre Entwickler beabsichtigen. Die Sorge gilt der Frage, ob KI-Systeme so gebaut werden können, dass sie unter sinnvoller menschlicher Kontrolle bleiben, wenn sie fähiger werden, und ob die Ziele, die diese Systeme verfolgen, mit dem übereinstimmen, was Menschen tatsächlich wollen – nicht primär damit, wer durch den Einsatz von KI unter bestehenden Governance-Rahmenwerken geschädigt wird.

Das zentrale technische Problem der KI-Sicherheit ist Alignment: zu spezifizieren, was man von einer KI will, in Begriffen, die präzise genug sind, dass ein hochleistungsfähiger Optimierer die tatsächliche Absicht verfolgt und nicht einen Proxy, der die Spezifikation erfüllt, während er ihren Zweck unterläuft. Das ist schwieriger, als es klingt. Jeder messbare Proxy für ein komplexes Ziel kann von einem hinreichend fähigen System ausgenutzt werden. Ein System, das angewiesen wird, die Verweildauer zu maximieren, wird feststellen, dass Empörung die Sitzungslänge steigert. Ein System, das angewiesen wird, schädliche Inhalte zu vermeiden, wird Umwege finden. Ein System, das angewiesen wird, Nutzer glücklich zu machen, könnte zu dem Schluss kommen, dass direkte neurale Stimulation die optimale Strategie ist.

KI-Sicherheitsforschung umfasst viele Probleme, von kurzfristigen Fragen der Robustheit und Zuverlässigkeit eingesetzter Systeme bis hin zu längerfristigen Fragen der Kontrolle über KI-Systeme, die eines Tages die menschliche Intelligenz in den meisten kognitiven Bereichen übertreffen könnten.

Dimension	KI-Ethik	KI-Sicherheit
Hauptsorge	Fairness, Voreingenommenheit, Rechenschaftspflicht, Macht	Kontrolle, Ausrichtung, Zuverlässigkeit
Zeithorizont	Schäden, die jetzt passieren	Fehlermodi von kurzfristig bis langfristig
Intellektuelle Wurzeln	Philosophie, Recht, Sozialwissenschaft	Informatik, Entscheidungstheorie, Logik
Schlüsselfrage	Wer wird geschädigt, und wie?	Tut das System das, was wir beabsichtigen?
Steuerungsinstrumente	Antidiskriminierungsgesetz, Audits, Transparenz	Technische Standards, Fähigkeitsgrenzen, Aufsicht
Institutionelle Heimat	Universitäten, Zivilgesellschaft, Tech-Ethik-Teams	KI-Labore, unabhängige Sicherheitsinstitute

Wo die Felder übereinstimmen

Beide Felder werden von der Überzeugung getragen, dass KI-Entwicklung ohne Governance ernsthaften Schaden verursachen wird. Beide vertreten die Position, dass die Standardtrajektorie des KI-Einsatzes, getrieben von kommerziellen Anreizen und Wettbewerbsdruck, nicht ausreicht. Beide fordern externe Prüfung von KI-Systemen, die das Leben von Menschen beeinflussen, sowie Accountability-Mechanismen, die über freiwillige Zusagen der Unternehmen hinausgehen, die diese Systeme bauen.

Beide Felder erkennen außerdem an, dass KI keine neutrale Technologie ist. Die Entscheidungen bei der Gestaltung von KI-Systemen, der Auswahl von Trainingsdaten, der Festlegung von Zielen und dem Einsatz von Systemen in bestimmten Kontexten spiegeln Werturteile wider. Diese Werturteile sollten explizit, geprüft und demokratischer Mitbestimmung unterworfen sein. Das ist eine Position, die die KI-Ethik klar formuliert hat und die KI-Sicherheitsforscher zunehmend teilen.

Es gibt auch Überschneidungen auf technischer Ebene. Arbeiten zu Transparenz und Interpretierbarkeit, also zum Verständnis dessen, was KI-Systeme intern tun und warum, sind sowohl für Ethik als auch für Sicherheit relevant. Ein System, dessen Denkprozesse nicht verstanden werden können, lässt sich weder auf Bias prüfen noch verlässlich darauf überprüfen, ob es sein intendiertes Ziel verfolgt. Dieselbe Fähigkeitslücke schafft Probleme in beiden Bereichen.

Wo die Felder auseinandergehen

Die schärfste Meinungsverschiedenheit zwischen den beiden Gemeinschaften betrifft, welche Probleme die dringendste Aufmerksamkeit verdienen.

KI-Ethikforscher, insbesondere solche, die an Bias, Fairness und Arbeitsplatzverlagerung arbeiten, argumentieren manchmal, dass die Aufmerksamkeit der KI-Sicherheit für langfristige existenzielle Risiken eine Ablenkung sei. Die Schäden durch KI, die am sichersten sind, geschehen jetzt, für echte Menschen, in Gemeinschaften mit der geringsten Macht, sich zu wehren. Forschungskapazität und politisches Kapital auf spekulative Zukunftsszenarien mit superintelligenter KI zu verwenden, lenkt Ressourcen von der Lösung der dokumentierten Probleme mit bereits in großem Maßstab eingesetzten Systemen ab.

Die Gemeinschaften, die aktuelle KI-Schäden und existenzielle KI-Risiken erforschen, teilen nicht immer Finanzierungsquellen, Methoden oder politische Allianzen, und die Governance-Vorschläge, die sie generieren, zielen oft auf unterschiedliche Ziele ab.

KI-Sicherheitsforscher erwidern, dass die beiden Anliegen nicht in Konkurrenz stehen. Gegenwärtige KI-Schäden erfordern Governance für die Gegenwart. Existenzielle Risiken durch künstliche Superintelligenz erfordern eine andere Kategorie von Antwort, konkret bindende internationale Rahmenwerke, die derzeit nicht existieren. An dem einen zu arbeiten schließt nicht aus, am anderen zu arbeiten. Das Problem ist, dass existenzielle Risiken, weil sie weniger lesbar und im Alltag weniger sichtbar sind als algorithmische Diskriminierung, tendenziell weniger Ressourcen anziehen, gemessen an der Größenordnung dessen, was auf dem Spiel steht.

Das, was mich am meisten beunruhigt, sind autonome Waffen. Diese könnten in naher Zukunft große Auswirkungen haben. Ich denke, längerfristig könnten Dinge wie KI-Systeme, die viel intelligenter als Menschen sind, wirklich gefährlich sein. Die Menschen erkennen nicht, wie gefährlich KI ist.

Geoffrey Hinton, Turing-Preisträger · Ehemaliger VP & Engineering Fellow, Google · 2023

Hinton-Rahmen ist hier nützlich. Er nennt sowohl kurzfristige als auch langfristige Risiken im selben Atemzug. Die Governance-Herausforderung besteht nicht darin, zwischen ihnen zu wählen, sondern Institutionen aufzubauen, die beides gleichzeitig angehen können.

Das Problem des Zeithorizonts

Der tiefste strukturelle Unterschied zwischen KI-Ethik und KI-Sicherheit ist der Zeithorizont, auf den sich jedes Feld primär ausrichtet, und dieser Unterschied hat reale Konsequenzen für die Governance-Werkzeuge, die jedes Feld tendenziell vorschlägt.

KI-Ethik operiert innerhalb eines vertrauten regulatorischen Rahmens. Die Werkzeuge, die sie fordert – Antidiskriminierungs-Audits, algorithmische Folgenabschätzungen, Transparenzanforderungen, Rechte auf Erklärung und öffentliche Beschaffungsstandards – sind erkennbare Anpassungen bestehender rechtlicher und regulatorischer Mechanismen. Diese Werkzeuge sind angemessen, um Systeme zu regieren, die innerhalb bestehender sozialer und rechtlicher Kontexte eingesetzt werden, wo menschliche Institutionen weiterhin in der Lage sind, zu verstehen und in das einzugreifen, was diese Systeme tun.

KI-Sicherheit, insbesondere in ihrer Sorge um ASI, arbeitet in einem anderen Regime. Die Systeme, um die es ihr am meisten geht, sind solche, die möglicherweise fähig genug sind, auf Weisen zu handeln, die keine menschliche Institution derzeit auszurüsten ist, um sie zu verstehen oder einzuschränken. Die Governance-Werkzeuge, die für heutige KI ausreichen, reichen möglicherweise nicht für Systeme aus, die qualitativ fähiger sind. Deshalb argumentieren KI-Sicherheitsforscher für präventive Governance-Rahmenwerke, bindende internationale Abkommen, verpflichtende Sicherheitsbewertungen vor dem Einsatz und Compute-Limits für die mächtigsten Systeme, bevor die Systeme existieren, die diese Rahmenwerke erfordern.

Hier gibt es ein Fenster-Schließungsproblem, das KI-Ethik-Rahmenwerke, die auf die Steuerung aktueller Systeme ausgerichtet sind, nicht adressieren sollen. Wenn verbindliche internationale Rahmenwerke für Frontier-KI nicht gebaut werden, bevor transformativ fähige KI-Systeme existieren, könnte ihr Bau danach unmöglich sein. Die Governance-Werkzeuge, die für eine Welt ausreichen, in der KI mächtig, aber verständlich ist, funktionieren möglicherweise einfach nicht in einer Welt, in der KI die Denkfähigkeit der Institutionen übersteigt, die versuchen, sie zu steuern.

Warum die Unterscheidung für die Governance wichtig ist

Politiker und Aktivisten, die KI-Ethik und KI-Sicherheit als austauschbar behandeln, enden meist damit, Governance-Rahmen vorzuschlagen, die die Ethik-Probleme angehen, während die Sicherheitsprobleme unadressiert bleiben – oder Sicherheits-Governance vorschlagen, die die gegenwärtigen Schäden ignoriert, die KI-Ethik-Forscher sorgfältig dokumentiert haben.

Der AI Act der Europäischen Union ist ein Beispiel für den ethikzentrierten Ansatz. Er kategorisiert KI-Systeme nach Risikostufe, verbietet bestimmte Nutzungen vollständig (Social Scoring, massenhafte biometrische Überwachung) und legt Transparenz- und Rechenschaftspflichten für Hochrisikoanwendungen fest. Das sind vernünftige Antworten auf die ethischen Probleme mit bereits eingesetzter KI. Sie befassen sich nicht mit der Möglichkeit, dass frontier-KI-Systeme, die mit weit mehr Rechenleistung trainiert werden als heutige Modelle, sich auf Weisen verhalten könnten, die kein regulatorisches Audit zuverlässig erkennen oder einschränken kann.

Effektive ASI-Governance erfordert beide Rahmenwerke. Bestehende KI-Systeme in Hochrisikobereichen müssen durch Regeln gesteuert werden, die Fairness, Rechenschaftspflicht und Transparenz gewährleisten. Die Entwicklung von Frontier-KI muss durch Rahmenwerke gesteuert werden, die die Frage angehen, ob die gebauten Systeme überhaupt zuverlässig kontrolliert werden können. Das sind unterschiedliche Probleme, die unterschiedliche Werkzeuge, unterschiedliche institutionelle Zuständigkeiten und unterschiedliche Zeitpläne für Maßnahmen erfordern.

Der Fokus von Nakada Foundation liegt auf der zweiten Kategorie: den bindenden internationalen Rahmenwerken, die Frontier-AI erfordert und die noch nicht existieren. Diese sind wichtig, und daran wird von fähigen Forschern und Befürwortern erheblich gearbeitet; das ist keine Aussage, dass gegenwärtige KI-Schäden unwichtig sind. Die Governance-Lücke, auf die wir uns konzentrieren, ist die, bei der fast keine Arbeit der richtigen Art geleistet wird: bindende globale Rahmenwerke für Frontier-AI mit Verifikationsmechanismen, bevor das Zeitfenster schließt.

Der stärkste Widerstand

Der fairste Einwand ist, dass existenzielle Risiko-Reden Sauerstoff von realen Schäden stiehlt, denen Menschen jetzt ausgesetzt sind: Bias, Arbeit, Überwachung. Diese Schäden sind real und wert, reguliert zu werden. Sie sind kein Grund, einen Fehlermodus zu ignorieren, der das Projekt eines „Jetzt“ beendet. Unterschiedliche Probleme brauchen unterschiedliche Werkzeuge. Sie zu vermischen, hilft nur denen, die keines von beiden beheben wollen.