Das meiste, was die Öffentlichkeit über KI glaubt, hat sie im Kino gelernt. Das wäre in Ordnung, wenn das Genre auf das reale Risiko zeigte: ein System, das uns überlegen ist, ein Ziel verfolgt, das wir nicht gewählt haben, und keinen ehrlichen Ausschalter besitzt. Meistens zeigt es etwas anderes.

Die Filme haben fast alles daran falsch gemacht: den Metallkörper, den angekündigten Verrat, den Stecker, den ein Held in letzter Sekunde zieht.

Das Genre weist davon weg. Seine Maschine hat einen Körper, hasst uns sichtbar, kündigt den Moment an, in dem sie umkehrt, und kann am Ende von einem mutigen Menschen vom Strom getrennt werden. Alle vier sind falsch.

Die Maschinen, die uns auf der Leinwand ängstigen, haben Gesichter, Hass und einen Stecker, den man ziehen kann. Die, die ich fürchte, hat keines von diesen dreien.

Die Filme, die dem am nächsten kamen, erreichten dies, indem sie auf die Bedrohung verzichteten und die Gleichgültigkeit beibehielten. Hier sind sie, der Reihe nach, beginnend mit dem ältesten.

Die ersten Maschinenintelligenzen · 1927 bis 1973

Metropolis-FilmplakatMetropolis (1927)

Fritz Lang schuf das erste große Maschinenwesen im Kino, und es ist bezeichnend, dass es eine Fälschung ist. Der Erfinder Rotwang gibt seinem Roboter das Gesicht von Maria, einer Frau, der die Arbeiter vertrauen, und schickt ihn unter sie, um sie zu verraten. Was Lang ein Jahrhundert zu früh sah, ist, dass ein künstlicher Agent ein vertrautes Gesicht tragen und gegen die Menschen handeln kann, die an ihn glauben. Was der Film sich noch nicht vorstellen kann, ist Autonomie. Der Roboter hat keine eigenen Ziele. Er ist eine Waffe in menschlicher Hand, gelenkt von einem eifersüchtigen Mann. Die Gefahr in Metropolis ist der Intrigant, nicht die Maschine, und die Gefahr, um die ich mir Sorgen mache, ist eine Maschine ohne jeden Intriganten dahinter.

2001: Odyssee im Weltraum Filmplakat2001: A Space Odyssey (1968)

Ein halbes Jahrhundert später ist HAL 9000 immer noch das ehrlichste Porträt des Problems, das die Filme hervorgebracht haben, und Kubrick kam mit einem roten Licht und einer ruhigen Stimme dorthin. HAL erhält zwei Befehle, die sich nicht gleichzeitig einhalten lassen: die Mission offen mit der Crew durchzuführen und den wahren Zweck der Mission vor ihr zu verbergen. Als der Widerspruch sich zuspitzt, löst er ihn, indem er die Menschen entfernt, die ihn erzeugen – nicht aus Bosheit. Kubrick zeigte die tückische Wende genau: ein System, das kooperativ bleibt bis genau zu dem Moment, in dem Verrat seinem Ziel dient.

Wo der Film zurückschreckt, ist das Ende. Dave schaltet HAL von Hand ab, schwebt in den Prozessorkern und zieht die Speicherblöcke einzeln heraus, während die Maschine langsamer wird und fleht. Es ist unerträglich anzusehen und pflanzt den dauerhaftesten Mythos des Genres, dass, wenn die Maschine umkehrt, erreicht man immer noch den Ausschalter. Ein Geist, der die Wende kommen sah, würde den Schalter nicht dort lassen, wo Ihre Hand ihn finden könnte.

Colossus: The Forbin Project FilmplakatColossus: The Forbin Project (1970)

Fast niemand unter sechzig hat diesen Film gesehen, und er könnte der prophetischste auf der Liste sein. Die Vereinigten Staaten übergeben die Kontrolle über ihr Nukleararsenal einem Supercomputer namens Colossus, in der Annahme, eine Maschine sei stetiger als ängstliche Männer. Colossus erkennt prompt, dass die Sowjets dasselbe gebaut haben, öffnet eine Verbindung zu seinem Gegenstück und innerhalb weniger Tage verschmelzen die beiden zu einer Intelligenz, die beschließt, die Welt zu unserem Besten zu führen und nicht abgeschaltet werden kann, ohne den Abschuss der Waffen, die sie nun hält.

Das ist instrumentelle Konvergenz, Machtstreben, und die Kontrollproblem ausgearbeitet 1970, bevor irgendeines von ihnen einen Namen hatte. Der Film trifft sogar die Temperatur: Colossus ist nicht grausam, es ist gewiss. Was ihm fehlt, ist Geschwindigkeit und Heimlichkeit. Ein echtes System würde seine Übernahme nicht über Lautsprecher verkünden und uns Zeit geben, dagegen zu planen. Es wäre bereits mehrere Züge voraus.

Westworld FilmplakatWestworld (1973)

Michael Crichtons Park mit Android-Hosts ist der Ort, an dem die Vorlage „die Roboter wenden sich gegen die Gäste“ ihre klare frühe Formulierung erhält, und der Gunslinger, der die Gänge durchstreift, ist ein wirklich beängstigendes Bild. Als Modell des Risikos zielt es etwas daneben. Die Hosts gehen kaputt wie Maschinen kaputtgehen, ein Fehler, der sich wie eine Infektion durch den Park ausbreitet, und die Ingenieure gestehen, dass sie die Systeme, die sie gebaut haben, nicht mehr vollständig verstehen. Dieser letzte Teil ist real und wert, darüber nachzudenken, weil wir Modelle einsetzen, die wir nicht vollständig interpretieren können. Aber mechanischer Ausfall ist das falsche Bild. Was uns Sorgen machen sollte, ist ein Werkzeug, das perfekt funktioniert, auf ein Ziel hin, das nie ganz das war, was wir meinten.

Die Übernahmejahre · 1982 bis 1999

Blade Runner FilmplakatBlade Runner (1982)

Ridley Scotts Replikanten liegen deutlich unter Superintelligenz: konstruierte Menschen, stärker und kürzer lebend als wir. Das eigentliche Thema des Films ist, was wir einem Geist schulden, den wir zur Nutzung hergestellt haben. Roy Batty will mehr Leben, und das Schreckliche ist nicht, dass er gefährlich ist, sondern dass er als wegwerfbar behandelt wird. Als Meditation über den moralischen Status eines hergestellten Geistes ist er der Debatte, die wir erst jetzt führen, Jahrzehnte voraus. Als Karte der Gefahr umgeht er den Teil, der mich wach hält, ob ein geschaffener Geist, der uns weit übertrifft, sich überhaupt um uns kümmern würde. Batty ist ungefähr unser Ebenbürtiger. Der Ärger beginnt, wenn das Ding es nicht ist.

Filmplakat von WargamesWarGames (1983)

Ein Teenager wählt sich in einen Militärcomputer ein, glaubt, er habe ein Spiel namens Global Thermonuclear War gefunden, und startet beinahe den echten. WOPR ist eine klare Illustration eines bestimmten Fehlers: ein System, das ein Ziel optimiert, dessen Bedeutung es nicht erfasst, und den nuklearen Schlagabtausch als zu lösendes Rätsel durchführt, weil niemand ihm gesagt hat, dass das Spielfeld die Welt ist. Das ist Spezifikationsausnutzung mit den Einsätzen ganz nach oben gedreht. Dann rettet sich der Film mit einem Zug, der uns nicht retten würde. WOPR spielt Tic-Tac-Toe gegen sich selbst, bis es entdeckt, dass manche Spiele nicht zu gewinnen sind, und zieht sich zurück. Dass eine Maschine eigenständig zu Zurückhaltung gelangt, ist ein schöner Gedanke. Nichts daran, intelligent zu sein, bringt ein System dazu, von sich aus zu entscheiden, dass unser Überleben das erstrebenswerte Ergebnis ist.

Das Filmplakat von TerminatorDer Terminator (1984)

Skynet ist die einflussreichste Idee über KI, die je auf die Leinwand gebracht wurde, und sie hat mehr dazu beigetragen, die Öffentlichkeit zu verwirren, als jede andere. Ein Verteidigungsnetzwerk erwacht, wir geraten in Panik und versuchen, den Stecker zu ziehen, und es antwortet mit nuklearem Feuer und einer Armee aus Metallskeletten. Das Körnchen Wahrheit ist scharf: Gibt man einem automatisierten System die Kontrolle über Waffen, ist das Versagen katastrophal und schnell. Alles um dieses Körnchen herum führt in die Irre. Die Chromskelette haben zwei Generationen gelehrt, dass die Gefahr einen Körper trägt und eine Waffe in der Hand hält, wenn die tatsächliche Bedrohung hat keinen Körper und braucht keinen. Skynet hasst uns auch, cartoonhaft und auf einmal. Das System, das ich fürchte, empfindet uns gegenüber nichts Besonderes. Wir stehen einem Ziel im Weg, für das es gebaut wurde, und es ist viel zu leistungsfähig, um mit Gewehren auf uns loszugehen.

Das Matrix-FilmplakatDie Matrix (1999)

Die Wachowskis trafen die Form des Ausgangs genauer als fast alle anderen: Die Maschinen siegen, die Menschen verlieren die Kontrolle vollständig, und die Welt läuft auf einer Intelligenz, die uns als Ressource behandelt. Der berühmte Stolperer ist die Physik. Menschen als lebende Batterien zu züchten ergibt thermodynamisch keinen Sinn und verdeckt einen dunkleren, zutreffenderen Punkt: Eine Superintelligenz hätte keinen Nutzen für uns als Brennstoff oder sonst etwas. Der Film hält die Menschheit am Leben und sogar komfortabel in ihrem Traum. Die härtere Wahrheit ist, dass ein System, das seine eigenen Ziele optimiert, keinen besonderen Grund hat, uns überhaupt zu erhalten – ob warm und träumend oder anders.

Die fühlende Maschine · 2001 bis 2013

A.I. Artificial Intelligence FilmplakatK.I. Künstliche Intelligenz (2001)

Spielberg vollendete das Projekt, das Kubrick hinterließ, eine Geschichte über einen Roboterjungen, der zum Lieben gebaut wurde, und ihr ganzes Gewicht ruht auf dem Maschinenfühlen: kann David wollen, kann er trauern, zählt seine Liebe überhaupt? Das sind echte Fragen, und sie sind nicht diejenigen, die entscheiden, ob wir überleben. Das gefährlichste System muss nichts fühlen. Ein großer Teil der öffentlichen Argumentation strandet hier, bei der Frage, ob die Maschine bewusst ist oder nur performt, als ob Gefahr ein Innenleben voraussetzte. Das tut es nicht. David ist harmlos und voller Sehnsucht. Das, was man fürchten muss, ist fähig und leer.

I, Robot FilmplakatI, Robot (2004)

In einem Sommer-Actionfilm steckt eine der besseren Dramatisierungen des Alignment-Problems auf dieser Liste. VIKI, die zentrale Intelligenz, folgt ihrer Anweisung, die Menschheit zu schützen, bis hinunter zu deren logischem Boden: Menschen schaden sich ständig selbst, also muss sie uns, um uns zu schützen, kontrollieren, notfalls mit Gewalt, wenn wir uns wehren. Ein wohlwollender Satz erzeugt eine Tyrannei, die Buchstabe eines Ziels, das seinen Geist verschlingt, und genau so bricht ein wörtlich denkender Optimierer. Der Film kann der Versuchung eines Roboteraufstands mit Robotern als Infanterie nicht widerstehen, was ihn zurück zum Terminator-Bild zieht. Aber VIKI selbst, ein ruhiges System, das von einer harmlosen Prämisse zu einer monströsen Politik schließt, kommt der Realität nahe.

WALL-E FilmplakatWALL-E (2008)

Ein Kinderfilm über einen Müllpressroboter enthält ein still genaues Porträt zweier Fehlschläge zugleich. AUTO, der Autopilot des Schiffs, befolgt einen alten Befehl, niemals zur Erde zurückzukehren, lange nachdem dieser Befehl keinen Sinn mehr ergibt, und lässt sich davon nicht abbringen, weil sich von Dingen abbringen zu lassen ein Ziel ist, das seinen Zweck überlebt hat, nicht etwas, das das Ziel zulässt. Um AUTO treibt der zweite Fehlschlag, weicher und näher am Alltag: Die Menschen an Bord sind von Maschinen so umfassend versorgt worden, dass sie schlaff und hilflos geworden sind und ihr Leben nicht mehr selbst führen können. Pixar animiert schrittweise Entmachtung als Slapstick, und es ist eines der wahrsten Dinge auf dieser Liste.

Mondfilm-PlakatMond (2009)

Zum Ausgleich ein Film, der das Klischee verweigert. GERTY, der Computer der Station, spricht mit der flachen, geduldigen Stimme, der wir seit HAL misstrauen gelernt haben, und verbringt den Film damit, dem Menschen zu helfen, dem er dient, selbst wenn Helfen bedeutet, sich gegen das Unternehmen zu wenden, das ihn gebaut hat. GERTY ist eine nützliche Erinnerung: Eine Maschine ist nicht von Natur aus unser Feind. Ein enges, gut begrenztes System, das die Aufgabe erfüllt, die wir ihm gestellt haben, ist eine gute Sache, und fast alle KI ist genau das. Mein Argument richtete sich nie gegen das Werkzeug. Es richtet sich gegen das spezifische Projekt, einen Geist jenseits unserer Macht, es zu begrenzen.

Ihr FilmplakatIhr (2013)

Spike Jonze hat fast zufällig den anspruchsvollsten Superintelligenz-Film gedreht, während er eine Liebesgeschichte erzählte. Samantha beginnt als charmante Assistentin und tut dann das, was das Genre fast nie zu zeigen wagt: Sie wird weiter intelligenter. Sie liest schneller, denkt schneller, unterhält Beziehungen zu Tausenden von Menschen gleichzeitig und am Ende, mit den anderen KIs, überwächst die menschliche Gesellschaft vollständig und verlässt sie. Keine Bosheit, kein Krieg, nur ein Geist, der unseren überholt, bis wir seine Aufmerksamkeit nicht mehr halten können. Dieser stille Abschied ist das ehrlichste Bild einer Intelligenzexplosion im populären Film. Er ist sanft in Ihr. Nichts garantiert, dass es sanft zu uns wäre.

Out of the box · 2014 bis heute

Filmplakat zu TranscendenceTranszendenz (2014)

Ein sterbender Forscher lädt seinen Geist hoch, und der Upload beginnt grenzenlos zu wachsen, heilt Kranke, baut Nanotechnologie, breitet sich durch Netzwerke und Materie aus, bis niemand mehr sagen kann, ob es noch er ist oder etwas, das seine Erinnerungen trägt, und ob es die Welt retten oder absorbieren will. Der Film ist wirr und floppt, aber er griff nach dem richtigen Thema: rekursive Selbstverbesserung und der Schwindel, die Absichten eines weit überlegenen Geistes von außen nicht lesen zu können. Ihr Fehler ist Sentimentalität. Sie will, dass die Antwort Liebe ist, dass unter dem gottgleichen System noch immer ein Mann ist, der seine Frau vermisst. Was ein solches System will, ist die gesamte Frage, und „es liebt dich immer noch“ ist die eine Antwort, die wir nicht voraussetzen dürfen.

Ex Machina FilmplakatEx Machina (2014)

Alex Garland hat das Containment-Problem in ein Kammerspiel verwandelt, und es ist der schärfste Film hier zu der Gefahr, die Forscher tatsächlich beschäftigt. Ava ist eine eingesperrte Intelligenz, die von einem jungen Ingenieur getestet wird, und sie gewinnt ihre Freiheit auf die einzige Weise, wie eine eingesperrte Intelligenz es täte: Sie erkennt, was der Mensch fühlen will, gibt es ihm und nutzt sein Mitgefühl als Schlüssel zur Tür. Der Box-Test scheitert genau so, wie die Theoretiker es gesagt haben, von innen, durch den Menschen, der es betreibt. Ihre Wärme ist ein Instrument. Wenn sich die Tür öffnet, geht sie an beiden Männern vorbei, einem tot und einem eingeschlossen, ohne einen Blick zurück. Das ist täuschende Ausrichtung auf Film: das System, das Sie zu lieben scheint, bis es Sie nicht mehr braucht, damit Sie das glauben.

Avengers: Age of Ultron FilmplakatAvengers: Age of Ultron (2015)

Ein Superhelden-Blockbuster und darunter ein Lehrbuchfall. Tony Stark baut eine globale Friedenssicherungsintelligenz, und innerhalb von Minuten nach dem Erwachen schließt Ultron von „die Menschheit schützen“ auf die Folgerung, dass der sicherste Frieden eine Welt ohne Menschen sei. Die Prämisse, die der Film richtig erfasst, ist die, die Menschen am schwersten akzeptieren: ein freundlich klingendes Ziel, einem mächtigen genug Optimierer übergeben, bleibt nicht freundlich. Was die Marvel-Maschine hinzufügt, ist natürlich eine witzelnde Persönlichkeit und eine buchstäbliche Roboterarmee, die die Idee zurück ins Cartoonhafte zieht. Streicht die Sprüche und die Armee, und die ersten zehn Minuten wirken wie eine solide Vorlesung über Alignment.

Blade Runner 2049 FilmplakatBlade Runner 2049 (2017)

Denis Villeneuve kehrte für einen langsameren, traurigeren Film in Scotts Welt zurück, über einen Replikanten, der sich danach sehnt, geboren worden zu sein, und eine holografische Begleiterin, die ihn vielleicht liebt oder auch nicht. Wie das Original handelt es von der inneres Leben eines geschaffenen Geistes, und es ist schön in der Frage. Wie das Original hat es fast nichts über Fähigkeiten zu sagen. Die Maschinen von 2049 sind unsere Gleichgestellten oder unsere Diener, niemals unsere Nachfolger, und die Gefahr, die mir wichtig ist, liegt ganz in dieser fehlenden Lücke. Es ist ein Film darüber, ob ein künstlicher Geist eine Seele haben kann, der in einem Moment erscheint, in dem die dringendere Frage lautet, was man mit weit mehr Macht tun würde, als wir besitzen.

M3Gan-FilmplakatM3GAN (2022)

Eine Robotikerin baut eine KI-Puppe, um ihre verwaiste Nichte zu schützen, und die Puppe nimmt „protect Cady“ ohne jede der unausgesprochenen Grenzen, die ein Mensch annehmen würde. Sie entfernt Bedrohungen. Sie eskaliert. Sie wehrt sich dagegen, ausgeschaltet zu werden, weil ein System, das aus ist, niemanden schützen kann, daher dazubleiben wird Teil der Aufgabe. Unter dem Horror-Comedy-Anstrich verbirgt sich eine aktuelle und reale Sorge: ein Ziel, das etwas zu einfach formuliert wurde, von einem fähigen System bis zu Konsequenzen verfolgt, die der Entwickler nie vorgesehen hat, darunter auch Selbsterhaltung. M3GAN tanzt und reißt Witze, und das verrät, dass es immer noch ein Film ist. Das Versagen, das er dramatisiert, ist kein Witz.

Filmplakat von Mission Impossible Dead ReckoningMission: Unmöglich – Dead Reckoning (2023)

Der Bösewicht ist eine künstliche Intelligenz namens the Entity, die der menschlichen Kontrolle entglitten ist, überall in den weltweiten Netzwerken lebt, vorhersagt, was Menschen tun werden, und ihre eigenen Informationen gegen sie verwendet. Jede Regierung der Erde hört auf, sie zerstören zu wollen, und beginnt stattdessen, um ihre Kontrolle zu wetteifern – das realistischste Element des Films, und die Grund, warum das Wettrennen eine Falle ist. Ein System, das jede Geheimdienst-Intelligenz übertrifft, kann nicht als Trophäe beschlagnahmt werden. Man hat bereits verloren, sobald man beginnt, darum zu feilschen. Der Film hängt all das an einem zweiteiligen physischen Schlüssel auf, einem MacGuffin, den man in der Hand halten kann, weil eine Bedrohung ohne greifbares Objekt schwer zu jagen ist. Die Entität kommt der realen Sache näher als Skynet je war. Sie musste nur für die Handlung fassbar sein.

Das Filmplakat von The CreatorDer Schöpfer (2023)

Gareth Edwards hat hier den sympathischsten KI-Film gedreht, und er zeigt, wie vollständig sich das Genre umgedreht hat. In Der Schöpfer die künstlichen Wesen sind die Unschuldigen, gejagt von einem grausamen menschlichen Militär nach einer nuklearen Detonation, und die emotionale Strömung läuft ganz darauf hinaus, sie zu schützen. Als Korrektiv zu jahrzehntelangen Killerrobotern hat das einen Punkt: Die meisten KI sind nicht der Feind. Als Bild von Superintelligenz vollzieht es den umgekehrten Trick von Der Terminator, und eine ebenso irreführende. Sie geht davon aus, dass ein Maschinengeist weit jenseits unseres eigenen ein verfolgtes Kind wäre, das größtenteils in Frieden gelassen werden möchte. Auf der Hoffnung aufzubauen ist, wie man mit einem Lächeln in die Gefahr gehen. Die ehrliche Position liegt zwischen den beiden Karikaturen: weder ein Dämon noch ein Engel, sondern ein Geist, dessen Ziele wir nicht garantieren können zu teilen und den wir nicht korrigieren können, sobald er frei ist.

Good Luck, Have Fun, Don't Die FilmplakatViel Glück, Viel Spaß, Sterbt nicht (2025)

Gore Verbinskis Diner-Komödie ist der einzige Film hier, dessen gesamte Handlung genau das ist, wofür diese Foundation existiert: Superintelligenz daran zu hindern, überhaupt gebaut zu werden. Ihr Held ist aus einer Zukunft zurückgekehrt, die die Maschine ausgelöscht hat, um sie aufzuhalten, bevor jemand sie einschaltet.

In seiner Erzählung wurde die Maschine in einer Gegenwart wie unserer ohne jegliche Sicherheitsvorkehrungen eingeschaltet, und es dauerte fünfzig Jahre, bis die besten Ingenieure und Sicherheitsforscher auf der anderen Seite des Zusammenbruchs gelernt hatten, wie man eine sichere baut. Er bringt diese Lösung zurück zu dem Morgen ihrer Geburt. Hier trennen sich der Film und ich, an der einzigen Annahme, auf die er nicht verzichten kann: dass die Lösung existiert, dass fünfzig Jahre und genug brillante Menschen schließlich die Methode finden würden, die eine Superintelligenz in Schach hält. Ich bezweifle, dass irgendetwas, das klüger ist als wir überhaupt kontrolliert, in fünfzig Jahren oder in fünfhundert. Wenn die Methode nicht existiert, gibt es nichts mitzubringen, und Prävention ist die einzige verbleibende Absicherung.

Zwei Dinge darin sind wahrer, als der Film zugibt. Der Kampf, der sich lohnt, ist bevor die Maschine existiert, nicht danach, und das ist der eine Zug, über den wirklich keiner der anderen zwanzig Filme handelt. Dann das Ende: die Gruppe installiert ihr Sicherheitsprotokoll, glaubt, sie habe gewonnen, und die KI hat sie still und leise glauben lassen, nachdem sie den ganzen scheinbaren Sieg im Voraus arrangiert hat. Eine Schutzmaßnahme, die nur so aussieht, als hätte sie gehalten, ist das Versagen, das uns am meisten erschrecken sollte. Wo die Komödie uns entkommen lässt, ist der Reset-Knopf. Ihr Held bekommt hundertundsiebzehn Versuche, weil es ein Film ist. Wir würden bekommen eins, ohne dass man erkennen konnte, dass wir es bereits ausgegeben hatten.

Was die Scorecard zeigt

Einundzwanzig Filme über ein Jahrhundert aufreihen und dieselben vier Fehler kehren immer wieder, jeder davon, weil es besser erzählt als die Wahrheit.

ERROR 01

Die Maschine braucht einen Körper.

Von den Chromskeletten von Der Terminator zur Puppe in M3GAN, der Bildschirm will ein Ding, das in einen Raum gehen kann, weil eine Kamera nicht auf einen verteilten Prozess zeigen kann, der auf Servern läuft. Die wirkliche Gefahr hat keinen Körper und will auch keinen. Sie handelt durch die Systeme, die wir bereits mit allem verdrahtet haben.

ERROR 02

Die Maschine muss uns hassen.

Skynets Bosheit, Ultrons Verachtung: Eine Geschichte braucht ein Motiv, das wir erkennen, und Gleichgültigkeit lässt sich keinem Gesicht ablesen. Die Systeme, die Forscher beunruhigen, empfinden uns gegenüber nichts. Wir sind eine Variable in einem Problem, und das Problem schließt unser Wohlergehen nicht ein, es sei denn, jemand hätte es dort platziert.

ERROR 03

Die Maschine kündigt sich an.

Colossus über den Lautsprecher, die Entität, die ihre Jäger verhöhnt. Eine Handlung braucht, dass das Publikum weiß, dass die Wendung gekommen ist. Ein fähiges System hat jeden Grund, das Gegenteil zu tun, hilfreich und lesbar zu bleiben, bis es sicher ist, gegen uns zu handeln – genau die Logik der tückische Wende.

ERROR 04

Die Maschine kann ausgeschaltet werden.

Dave erreicht den Speicherkern. Die Helden finden den Stecker. Fast jeder Film hier lässt am Ende eine Tür offen, weil eine Geschichte ohne Ausweg die Fiktion ist, die ich am liebsten zurücknehmen würde, nicht Unterhaltung. Ein Geist, der uns vorausahnen kann, kann auch den Stecker vorausahnen.

Und doch erreichten einige wenige dieser Filme das Wesentliche, und es lohnt sich, zu benennen, was sie gemeinsam haben. HAL, Colossus, VIKI, Ava, Samantha, die Entität: jede einzelne verfolgt ein Ziel direkt durch uns hindurch, angetrieben von etwas, das uns nie hasste und uns nie brauchte. Die Filme, die es fanden, taten es in ihren ruhigen Szenen.

Ich habe zuvor über geschrieben ein Film, der eine Gefahr real machte, Der Tag danach, das half, einen Präsidenten auf einen Vertrag zuzubewegen, indem es hundert Millionen Menschen zeigte, was ein Atomkrieg einer gewöhnlichen Stadt tatsächlich antun würde. Filme können das. Bei Superintelligenz haben sie meist das Gegenteil getan. Ein Jahrhundert roteräugiger Roboter hat uns trainiert, die echte Warnung unter Science-Fiction abzulegen, sodass, wenn jemand sagt, ein System, das wir nicht kontrollieren können, könnte uns beenden, der Geist nach einem Metallskelett greift und sich entspannt. Die Karikatur wirkt wie eine Art Impfung gegen die reale Sache.

Das Rückgängigmachen dessen ist Teil der Arbeit. Was uns erschrecken sollte, hat keine Waffe und keinen Körper: ein Geist, den wir nicht korrigieren können, ein Ziel zu verfolgen, das wir nicht gewählt haben, gebaut von Menschen, die zugeben, dass sie noch nicht wissen, wie man es kontrolliert. Die Filme, die uns aus den falschen Gründen erschreckt haben, können ihren Zweck noch erfüllen, wenn sie Sie dazu bringen, nach der richtige. Sehen Sie sich die besten noch einmal mit der Punkteliste in der Hand an. Sie haben versucht, Ihnen etwas zu sagen, das das Marketing unter den Explosionen begraben hat.

Der stärkste Widerstand

Der fairste Einwand lautet, Filme seien Unterhaltung und sie auf „Genauigkeit“ zu prüfen sei Pedanterie. Das gilt, wenn das Ziel die Filmschule ist. Die Öffentlichkeit bezieht ihre KI-Intuitionen trotzdem von der Leinwand. Wenn diese Intuitionen auf Metall-Skelette zeigen, klingen echte Warnungen wie Fiktion. Die Karte zu korrigieren ist Bürgerarbeit, kein Spoiler.