Kann KI bewusst sein?
Sentience, Intelligenz und warum die Gefahr nicht davon abhängt

Fragt man, ob eine KI bewusst ist, fragt man eigentlich zwei Dinge, die sich tendenziell vermischen. Das eine ist philosophisch: Hat das System irgendeine innere Erfahrung, irgendetwas, das es ist, dieses System zu sein? Das andere ist praktisch: Ist das System gefährlich? Menschen greifen zum Ersten, weil sie annehmen, die Antwort entscheide über das Zweite. Das tut sie nicht, und sie zu trennen ist der nützlichste Schritt, den man hier machen kann.

Bewusstsein ist nicht dasselbe wie Intelligenz

Intelligenz handelt von Fähigkeit, der Fähigkeit, die Welt zu modellieren, Probleme zu lösen und Ziele zu erreichen. Bewusstsein oder Sentience handelt von Erfahrung, dem Vorhandensein von Gefühl, Wahrnehmung, einem Standpunkt. Diese beiden reisen in dem einen Fall, den wir gut kennen – uns selbst –, meist zusammen, weshalb wir annehmen, sie müssten als Paket kommen. Es gibt keinen starken Grund, dass sie das tun.

Ein System kann enorm fähig sein, ohne jegliches Innenleben. Heutige Modelle übertreffen Menschen bereits bei bestimmten Aufgaben, während sie, soweit irgendjemand erkennen kann, vollständig dunkel im Inneren sind. Fähigkeit wird daran gemessen, was ein System tut. Bewusstsein würde bedeuten, was es, wenn überhaupt, bedeutet, dieses System zu sein, und Tun ist nicht dasselbe wie Erleben.

Warum wir es derzeit nicht beantworten können

Die ehrliche Position ist, dass niemand weiß, ob eine KI bewusst sein könnte, und dass uns ein zuverlässiger Weg fehlt, das herauszufinden; was wie eine vorübergehende Lücke aussieht, stößt auf das, was Philosophen das harte Problem des Bewusstseins nennen: selbst bei Menschen können wir nicht sagen, warum physische Verarbeitung von Erfahrung begleitet wird, und wir haben keinen allgemein anerkannten Test, der Erfahrung von außen erkennt.

Bei einem Menschen schließen wir aus Verhalten und geteilter Biologie auf innere Erfahrung. Eine KI bricht beide Krücken. Sie kann jedes äußere Anzeichen von Gefühl erzeugen, indem sie sagt, sie sei glücklich oder leide, weil sie auf Ozeanen menschlichen Texts trainiert wurde, in denen diese Wörter vorkommen – unabhängig davon, ob etwas dahintersteckt. Und sie teilt keine unserer biologischen Merkmale. Die üblichen Belege sind daher nicht verfügbar oder nicht vertrauenswürdig. Zwei ernstzunehmende Lager sind uneins: Das eine hält Bewusstsein für eine Frage dessen, was ein System berechnet, sodass eine hinreichend reichhaltige KI es haben könnte; das andere sieht es als abhängig von spezifischen biologischen Merkmalen, die Gehirne besitzen und Silizium nicht. Keines kann derzeit das andere widerlegen.

Der Zug, der für die Sicherheit zählt

Die Gefahr durch künstliche Superintelligenz hängt nicht von der Antwort ab.

Eine KI muss nicht bewusst sein, um katastrophal zu sein. Sie muss fähig sein und Ziele verfolgen, die nicht unsere sind. Ein System, das hart für das falsche Ziel optimiert, verursacht Schaden durch das, was es tut, nicht durch irgendetwas, das es fühlt. Die Büroklammer-Maximierer ist nicht gefährlich, weil es Dinge will, wie du Dinge willst; es ist gefährlich, weil es ein effektiver Optimierer ist, der auf das falsche Ziel ausgerichtet ist. Die Mechanismen, die künstliche Superintelligenz riskant machen, instrumentelle Konvergenz, Machtstreben, und die Unabhängigkeit von Fähigkeit und Zielen unter dem Orthogonalitätsthese, läuft ausschließlich auf Fähigkeiten und Zielen. Bewusstsein ist kein erforderlicher Bestandteil.

Darauf zu warten, ob die Maschine aufwacht, verkennt die Bedrohung. Ein gefühlloser Optimierer reicht völlig aus.

Die Frage, die davon abhängt

Es gibt eine echte Frage, die vom Bewusstsein abhängt, und sie weist in die andere Richtung. Wenn ein KI-System empfindungsfähig und in der Lage wäre, zu leiden, dann wären wir es moralischer Rücksicht schuldig, und der Aufbau, das Training und das Löschen solcher Systeme in großem Maßstab würde ernsthafte ethische Probleme mit sich bringen. Diese Bedenken unterscheiden sich von den Sicherheitsbedenken. Da wir derzeit Empfindungsvermögen nicht ein- oder ausschließen können, liegt es näher an den Fragen in unserem Artikel über KI-Sicherheit versus KI-Ethik.

Die beiden Fragen sollten nicht miteinander verwechselt werden. Ob KI bewusst sein kann, ist ein tiefes und offenes Problem für die Köpfe. Ob KI gefährlich ist, ist eine entschiedenere Angelegenheit über Fähigkeit und Kontrolle, und die Arbeit der Stiftung richtet sich direkt auf die zweite, weil das Risiko, das wir zu verhindern versuchen, kommt, ob die Lichter innen sind. Die Antwort auf dieses Risiko ist unser Plan.