Referenzdokument · 2026
Der wissenschaftliche Konsens
zum KI-Risiko
Diejenigen, die künstliche Intelligenz entwickelt haben, warnen uns. Hier ist, was sie sagten und wer sie sind.
"Ich denke, es ist durchaus vorstellbar, dass die Menschheit nur eine vorübergehende Phase in der Evolution der Intelligenz ist."Geoffrey Hinton Nobelpreis für Physik 2024 · Turing Award 2018
Ehemaliger VP & Engineering Fellow, Google · 2023
„Ich fühle mich verloren, was wir tun sollten, damit die Dinge gut laufen, angesichts der mächtigen Kräfte, die uns in eine beschleunigte Einführung von KI ohne angemessene Schutzmaßnahmen drängen.“Yoshua Bengio Nobelpreis für Physik 2024 · Turing Award 2018
Wissenschaftlicher Direktor, Mila · 2023
"Das Standardmodell der KI, bei dem man ein Ziel definiert und die KI es optimiert, wird wahrscheinlich unser Ende sein."Stuart Russell Professor für Informatik, UC Berkeley
Co-Autor, Standardlehrbuch der KI
"Ich bin zunehmend davon überzeugt, dass dieses Problem das wichtigste unseres Jahrhunderts sein könnte, unabhängig davon, ob KI-Sicherheit lösbar ist und auf welcher Zeitskala."Ilya Sutskever Mitgründer, OpenAI · Leitender Wissenschaftler 2015-2024
Einer der Architekten des modernen Deep Learning
"Wir bauen eine der transformativsten und potenziell gefährlichsten Technologien in der Menschheitsgeschichte, doch wir scheinen nicht in der Lage zu sein, den Pause-Knopf zu drücken."Yoshua Bengio Nobelpreisträger · Mila · 2023
"KI-Sicherheit ist wichtiger als der Klimawandel."Geoffrey Hinton Nobelpreisträger · Ehemaliger Google
Erklärung einer globalen Plattform, 2024
Zeitstrahl eskalierender Expertenwarnungen
2014
Nick Bostrom veröffentlicht Superintelligenz, die erste rigorose akademische Analyse existenzieller Risiken durch künstliche Superintelligenz. Oxford-Philosoph. Von Elon Musk und Bill Gates als unverzichtbare Lektüre zitiert.
2018
Hinton, Bengio und LeCun erhalten den Turing-Preis für die Begründung des modernen Deep Learning. Alle drei äußern anschließend Sicherheitsbedenken gegenüber der Technologie, die sie geschaffen haben.
2023
Das Center for AI Safety veröffentlicht seine Erklärung zum Aussterberisiko. Über 500 Wissenschaftler unterzeichnen. Separat zieht der offene Brief des Future of Life Institute, der zu einer Entwicklungspause aufruft, über 33.000 Unterzeichner an, darunter Turing-Preisträger.
2024
Hinton und Bengio erhalten den Nobelpreis für Physik. Beide nutzen die globale Bühne ausdrücklich, um Warnungen zur KI-Sicherheit zu verstärken. Hinton erklärt, Sicherheit sei nun „wichtiger als der Klimawandel“.