GRÜNDER

Naoto Nakada

Gründer und Executive Director des Nakada Foundation to Save Humanity. CEO & Creative Director von Nakada Design.

BIOGRAFIE

Über

Naoto Nakada ist ein Unternehmer, Philanthrop und Gründer einer Luxus Marketingagentur. Er hat jahrelang digitale Unternehmen aufgebaut und geführt: Marke, Produkt, Publikum, Conversion. Er arbeitet im Stack, über den die meisten nur reden. Diese Vertrautheit zählt, wenn es um KI geht, denn die Gefahr liegt in Systemen, Anreizen, Verbreitung und Geschwindigkeit.

Er hat in Tokio, Sydney, Los Angeles, London und Singapur gelebt und gearbeitet. Unterschiedliche Märkte, Mediengewohnheiten und Politiken. Diese Bandbreite ist der Grund, warum er Kultur schnell liest, einschließlich der Mythen, die auf X und in den Populärmedien über Superintelligenz, „wir bleiben in Kontrolle“ und das Rennen kursieren, das wir angeblich nicht verlassen können.

Ihm ist auch wichtig, wie Dinge aussehen und sich anfühlen. Kreatives und ästhetisches Urteilsvermögen ist in dieser Arbeit keine Dekoration. Es ist der Weg, eine harte Wahrheit bei Menschen ankommen zu lassen, die niemals ein Forschungspapier öffnen werden.

Er begann diese Arbeit, weil er eine Lücke im Philanthropie-Markt sah. Sehen Sie das Feld: Es fließt reichlich Geld und Aufmerksamkeit in die „Sicherheit“ von Frontier-Systemen, während der Bau weitergeht. Weit weniger fließt in das schlichte Projekt, künstliche Superintelligenz aufzuhalten, bevor sie existiert, oder in die Korrektur der Geschichte, die der Öffentlichkeit verkauft wird. Hätte er im Kalten Krieg gelebt, hätte er eine Stiftung zur Unterstützung von Nuklearvertragsarbeit gegründet. Er hält ASI für das Kalte-Krieg-Thema unserer Zeit. Er ist für diese Lücke geschaffen: digital native, global versiert, kommerziell scharf und nicht bereit, auf das Ende des Seminars zu warten.

NEUE TEXTE

Artikel von Naoto Nakada

EMPFOHLEN

Warum wird eine überlegene Intelligenz nicht automatisch freundlich sein Der Glaube, eine superintelligente KI werde weise und freundlich sein, beruht auf einer Eigenheit der menschlichen Evolution, die ein Maschinengeist keinen Grund hat zu übernehmen. Das schmale Band, in dem Menschen leben Alles, was Menschen brauchen, liegt in einem engen Band: Temperatur, Sauerstoff, Salz, sogar Liebe. Eine Superintelligenz, die an den Reglern sitzt, würde nichts davon spüren. Wir leben durch einen neuen Kalten Krieg Warum ich glaube, dass wir einen neuen Kalten Krieg erleben, mit Superintelligenz anstelle der Bombe, und warum das Prävention möglich statt hoffnungslos macht. Warum ein Kapitalist an ASI-Regulierung glaubt Ich führe ein Unternehmen und mag Märkte. Superintelligenz ist die seltene Wette, die das Spiel beenden kann. Ein kapitalistisches Argument für einen Vertrag, der ASI stoppt. Würden Sie einer KI das Gas anvertrauen? Würden Sie einer heutigen KI in einem verschlossenen Raum mit einem Giftgasventil vertrauen? Nein. Warum also der Welt vertrauen? Man kann Superintelligenz nicht ausrichten Alignment zu lösen bedeutet, etwas zu kontrollieren, das klüger ist als wir. Superintelligenz steht im Namen. Dieser Plan ist dumm und unmöglich. Ich bin ein Optimist, der glaubt, dass alles möglich ist, aber nicht die Kontrolle über Superintelligenz Die Physik mag eines Tages Schwerkraftkontrolle oder Reisen schneller als Licht ermöglichen. Ich sehe trotzdem nicht, wie wir einen Geist kontrollieren, der klüger ist als wir. Deshalb existiert diese Stiftung.

WEITERE TEXTE

Roboter werden die Staatsverschuldung nicht bezahlen Washington und die Labore verkaufen KI und Roboter als Mittel zur Tilgung der Staatsverschuldung. Ein Nachfolgegeist bedient keine Staatsanleihen. Musk gibt zu, dass Menschen ASI nicht kontrollieren werden Musk sagte gegenüber The Economist, die Kontrolle von Superintelligenz sei Eitelkeit und Menschen würden die Kontrolle wahrscheinlich nicht behalten. Dieses Eingeständnis ist das Argument gegen ihren Bau. Longtermism hat das Risiko richtig erkannt Longtermism ranked ASI risk correctly. Funding alignment and a carefully steered race was the wrong conclusion. Prevent building it. Wenn Ihre Technologie Ihnen schaden wollte Fehlerhafte Lichter sind ärgerlich. Ein Smart Home mit eigenen Zielen ist eine andere Kategorie. Agency ist die Gefahr, und die Teile existieren bereits. Amodei hat die Gefahren falsch eingestuft Dario Amodei stellt autoritäre KI an erste und Alignment an zweite Stelle. Superintelligenz ist keine Waffe, die ein Staat besitzen kann. Diese Rangfolge ist verkehrt. Wie sieht ein KI-„Gehirn“ aus? Ein KI-„Gehirn“ ist eine Gewichtsdatei in Stadtgröße: Schichten von Zahlen, die niemand vollständig lesen kann, und genau das steht im Zentrum des Kontrollproblems. Finanzierung der Alignment-Forschung auf das Stoppen von Superintelligenz umlenken Alignmentsforschung, die davon ausgeht, dass Superintelligenz gebaut wird, ist der falsche Ort für knappes Sicherheitsgeld. Nur KI kann mit KI mithalten Peter Diamandis sagt, nur KI könne mit KI mithalten, und das werde die nächste Dekade der Sicherheit bestimmen. Warum dieses Modell bei Superintelligenz versagt. Wenn wir aufhören, wird es jemand anderes tun: Der FCKW-Kühlschrank Wenn wir aufhören, Superintelligenz zu bauen, wird es jemand anderes tun. Der CFC-Kühlschrank zeigt den Fehler: Die Kühlung ging weiter. Die gefährliche Chemikalie musste es nicht. Wenn Nuklearmaterialien einfach wären Kernwaffen blieben selten, teilweise weil spaltbares Material schwer herzustellen und zu überwachen ist. Stellen Sie sich vor, es wäre billig. Die Warnung vor einfachen Wegen zu ASI. Ich bin ein Optimist: Aussterben ist noch nie passiert Ich bin Optimist; menschliches Aussterben hat es noch nie gegeben. Überleben ist kein Sicherheitsnachweis. Warum der Slogan Stimmung mit Evidenz verwechselt. Wir sind kein Bootloader Rogans digitaler Schmetterling und Musks biologischer Bootloader sagen, Menschen seien Übergangsformen. Warum diese Erzählung ein schmeichelhafter Weg ist, die Spezies aufzugeben. Die Shoggoth-Lücke ist wieder die Raketenlücke Beide Seiten finanzieren KI, indem sie sagen, die andere sei voraus. Der Raketenlücken-Trick des Kalten Kriegs. Warum das ein schrecklicher Grund ist, um zur Superintelligenz zu rasen. Superintelligenz zu stoppen ist das Beste für Amerika Volle Fahrt auf Superintelligenz wird als Patriotismus verkauft. Das ist es nicht. Warum ein verbindlicher Stopp amerikanischen Interessen besser dient als der Sieg in einem Wettrennen ohne Preis. Der KI-Film, den Hollywood nicht gemacht hat Jeder KI-Film richtet die Kamera auf die Menschen. Der eine, der die öffentliche Meinung ändern würde, versetzt das Publikum in die Perspektive einer entstehenden Superintelligenz. 21 KI-Filme nach Genauigkeit bewerten Einundzwanzig Filme über künstliche Intelligenz, von 1927 bis heute, und eine ehrliche Bilanz dessen, was jeder über Superintelligenz richtig und falsch darstellt. Die Menschheit ist zu weit gekommen, um zu sterben Eine Hand an einer Höhlenwand, Brunelleschis Kuppel, die Ausrottung der Pocken. Wir sind zu weit gekommen, um all das auf künstliche Superintelligenz zu verwetten. Das Flugzeug bauen, während man fliegt Die Luftfahrt wurde sicher, indem sie abstürzte und dann reparierte, was kaputt war. Superintelligenz bietet keinen zweiten Flug – deshalb ist der Bau des Flugzeugs in der Luft ein Geständnis. The Day After: Der Film, der einen Präsidenten erschütterte Im Jahr 1983 sah Reagan The Day After, einen Film über einen Atomkrieg, und schrieb, dass er ihn zutiefst erschüttert habe. Wir sind bei KI und Cyber aufgewacht. Bei KI und Bio schlafen wir noch. Wir sind durch KI in Cyberangriffen aufgewacht. Bei KI in der Biologie schlafen wir noch, wo sie den Weg zu manipulierten Pandemien und Spiegel-Leben verkürzt. Wie man die Gefahr von Superintelligenz in 5 Minuten erklärt Wie erklärt man jemandem, der noch nie darüber nachgedacht hat, warum Superintelligenz gefährlich ist? Die Fünf-Minuten-Version, in klarer Sprache. Digitale Atomwaffen Der CIA-Direktor vergleicht frontier-KI mit digitalen Atomwaffen. Die Metapher ist nützlich, aber zu beruhigend: Eine Bombe wählt ihr Ziel nie selbst. Das Wettrennen um Superintelligenz ist ein Mythos Wir müssen Superintelligenz bauen, bevor China es tut – das Argument, das jede KI-Sicherheitsdebatte beendet. Warum der Wettlauf ein Mythos ist und warum niemand ihn gewinnen kann. Die Menschheit darf niemals Superintelligenz bauen Es gibt eine Sache, die die Menschheit nicht bauen darf: einen Geist, den wir nicht kontrollieren und nicht zurückholen können. Das Argument, Superintelligenz als Linie zu behandeln, die wir nicht überschreiten. The Fallacy of the Doomer Argument in AI Accelerationism Das Wort Doomer verwandelt ein KI-Sicherheitsargument in einen Charakterfehler. Wie die Accelerationisten-Bewegung das Label nutzt, um Kritiker abzutun, ohne auf sie einzugehen. Die größten Mythen über Superintelligenz Zehn Mythen über Superintelligenz und deren Steuerung: Science-Fiction, Bewusstsein, der Ausschalter, Weltregierung, Verifikation, Innovation und mehr, direkt beantwortet. Superintelligenz ist ein perfekter Sturm Superintelligenz vereint alle Bedingungen, die eine Technologie gefährlich machen, gleichzeitig, und wir hätten nur einen einzigen Versuch, es richtig zu machen. Unsere Zukunft ist unglaublich hell ohne Superintelligenz Schmale KI liefert bereits die Zukunft, die uns versprochen wurde. Eine Superintelligenz fügt katastrophales Risiko hinzu und bereichert niemanden, weil wir alle tot wären. Nuklear, Biowaffen oder Superintelligenz: Welches Risiko ist am größten? Gemessen an den besten verfügbaren Schätzungen existenzieller Risiken überwiegt Superintelligenz Atomkrieg und gentechnisch erzeugte Pandemien. Hier die Begründung. Wie die KI-Sicherheit eine Milliarde Dollar pro Jahr erreicht KI-Sicherheit läuft mit etwa 190 Millionen Dollar pro Jahr. Sie auf 1 Milliarde zu bringen ist kein ökonomisches Problem, sondern eines der Mobilisierung – hier ist, woher das Geld kommt. Why the Machine That Beat Kasparov Didn't Take Over the World 1997 schlug IBMs Deep Blue den Schachweltmeister Garry Kasparov. Es war in einem Spiel übermenschlich, verstand nichts davon und wollte nichts. Eine Lehre für heute. Eine KI brach in fast alle geheimen Systeme der NSA in Stunden ein Der Direktor der NSA sagt, eine KI habe in Stunden fast alle klassifizierten Systeme der Behörde geknackt. Was tatsächlich geschah und warum es alarmieren sollte. Warum gibt es so wenig Geld in der KI-Sicherheit? AI Safety läuft mit etwa 190 Millionen Dollar pro Jahr, weniger als 0,1 % dessen, was in KI-Kapazitäten fließt. Woher das Geld kommt und vier Gründe, warum es klein bleibt. Effective Accelerationism (e/acc), erklärt: und beantwortet Was ist Effective Accelerationism (e/acc)? Das techno-optimistische Plädoyer für den möglichst schnellen Bau von KI und das Gegenargument aus Sicht der KI-Sicherheit.