KI-Sicherheitsressourcen und Downloads, Sofort nutzbare Materialien zur ASI-Prävention.

Die Wissenschaftler, die KI gebaut haben, fürchten sie. Geoffrey Hinton verließ Google, um uns zu warnen. Yoshua Bengio nannte sie „die transformativste und potenziell gefährlichste Technologie in der Geschichte der Menschheit.“ Das ist keine Angstmacherei. Es ist der wissenschaftliche Konsens. nakadafoundation.org/the-threat/

Es gibt kein Rollback für Superintelligenz. Keinen Patch. Keine Version 2. Ein fehlaligniertes ASI, das gegen das menschliche Überleben handelt, kann nachträglich nicht korrigiert werden. Wir müssen das richtig machen, bevor es eintrifft, nicht danach. Deshalb ist KI-Sicherheit dringend. nakadafoundation.org

Wir haben Atomwaffen gebaut und danach einen globalen Nichtverbreitungsvertrag geschaffen. Wir haben die Ozonschicht abgebaut und dann FCKW verboten. Wir können auf existenzielle Bedrohungen reagieren, aber nur, wenn genug Menschen es fordern. KI-Sicherheit ist der prägende Moment dieser Generation. nakadafoundation.org/precedent/

KI-Labore wetteifern darum, etwas zu bauen, das die menschliche Intelligenz übertreffen könnte, ohne globale Governance. Das Zeitfenster zum Handeln schließt sich. Teilen Sie dies. Kontaktieren Sie Ihre Abgeordneten. Das Politikfenster steht jetzt offen; es wird nicht ewig bestehen. nakadafoundation.org/take-action/

Ich möchte etwas teilen, das verändert hat, wie ich über die Zukunft denke. Die Wissenschaftler, die KI bauen, sind nicht nur begeistert. Sie haben Angst. Geoffrey Hinton (der den Nobelpreis für seine Arbeit an neuronalen Netzen erhielt) verließ Google ausdrücklich, um die Öffentlichkeit zu warnen. Yoshua Bengio, ein weiterer Nobelpreisträger und einer der Gründerväter der KI, sagte, er „fühle sich verloren“, was die Dinge zum Guten wenden könne. Das sind keine Aktivisten. Es sind die Menschen, die diese Technologie gebaut haben. Wir nähern uns einem Moment, in dem KI-Systeme die menschliche Intelligenz in jedem Bereich übertreffen könnten, und es gibt keinen internationalen Governance-Rahmen für das, was als Nächstes kommt. Keinen Vertrag. Keine Verifikationsstelle. Nichts Vergleichbares zu dem, was wir für Atomwaffen aufgebaut haben. Nakada Foundation to Save Humanity arbeitet daran, das zu ändern. Mehr erfahren unter nakadafoundation.org #AISafety #ExistentialRisk #AIGovernance #Superintelligence

Ein Gedankenexperiment für alle in Technologie, Politik oder Finanzen: Stellen Sie sich ein System vor, das intelligenter ist als alle Menschen, die je gelebt haben, das Tausende simultane Instanzen betreibt, das seinen eigenen Code verbessern kann und Ziele verfolgt, die wir möglicherweise nicht beabsichtigt haben. Genau das streben führende KI-Labore explizit an, mit Zeithorizonten in Jahren statt Jahrzehnten. Es ist keine Science-Fiction. Die Frage ist nicht, ob es passieren wird. Die Frage ist, ob wir Governance bereit haben, wenn es passiert. Nakada Foundation setzt sich für internationale Koordination bei der KI-Sicherheit ein, das Äquivalent dessen, was wir für Atomwaffen und biologische Agenzien aufgebaut haben. Diese Präzedenzfälle existieren. Wir wissen, wie man das macht. Was wir brauchen, ist der politische Wille. nakadafoundation.org/our-plan/ #AIPolicy #TechEthics #AIRisk #FutureOfWork

Betreff: Bitte handeln Sie, um künstliche Superintelligenz zu verbieten Sehr geehrte Frau Abgeordnete, sehr geehrter Herr Abgeordneter [Name des Abgeordneten], als Ihre Wählerin bzw. Ihr Wähler schreibe ich Ihnen, um Sie dringend zu bitten, noch vor der irreversiblen Rennen um künstliche Superintelligenz zu handeln. Superintelligenz kann von Menschen nicht kontrolliert werden. Die einzige verlässliche Kontrolle ist die Entscheidung, sie nicht zu bauen. Die Wissenschaftler, die KI entwickelt haben, warnen uns. Geoffrey Hinton und Yoshua Bengio (Nobelpreisträger, die die Grundlagen moderner KI geschaffen haben) haben öffentlich erklärt, dass superintelligente KI ein existenzielles Risiko für die Menschheit darstellt. Sam Altman, CEO von OpenAI, hat Erklärungen unterzeichnet, in denen er die Gefahr der Technologie anerkennt, die sein eigenes Unternehmen entwickelt. Heute gibt es kein gesetzliches Verbot der Entwicklung künstlicher Superintelligenz. Keinen Vertrag. Keine Verifikationsstelle. Labore rasen auf einen Geist zu, den niemand kontrollieren kann, ohne die Art von Recht, die wir bereits bei Atomwaffen und chemischen Kampfstoffen anwenden. Ich bitte Sie: • eine dauerhafte gesetzliche Verbotsregelung zur Entwicklung künstlicher Superintelligenz zu unterstützen • einen verbindlichen internationalen Vertrag voranzutreiben, der ASI verbietet, mit Inspektionen und Verifikation • der Regierung die Aufsicht über die größten Trainingsläufe und die dafür genutzten Spezialchips zu übertragen Wir haben bereits auf existenzielle Bedrohungen reagiert. Der Atomwaffensperrvertrag. Das Montrealer Protokoll. Dieser Moment erfordert denselben politischen Mut. Mit freundlichen Grüßen [Ihr Name] [Ihre Stadt, Bundesstaat] --- Mehr erfahren: nakadafoundation.org