Naoto Nakada

Fondateur et Directeur exécutif du Nakada Foundation to Save Humanity. PDG et Directeur créatif de Nakada Design.

Contact
Naoto Nakada

À propos

Naoto Nakada est un entrepreneur, philanthrope et fondateur d’une marque de luxe agence de marketing. Il a créé et dirigé des entreprises numériques pendant des années : marque, produit, audience, conversion. Il travaille dans la stack dont la plupart des gens ne font que parler. Cette maîtrise compte quand le sujet est l'IA, car le danger réside dans les systèmes, les incitations, la distribution et la vitesse.

Il a vécu et travaillé à Tokyo, Sydney, Los Angeles, Londres et Singapour. Des marchés, des habitudes médiatiques et des politiques différents. Cette diversité explique comment il lit la culture rapidement, y compris les mythes qui circulent sur X et dans les médias populaires à propos de la superintelligence, « nous resterons aux commandes » et la course que nous ne pourrions soi-disant pas quitter.

Il se soucie aussi de l’apparence et des sensations. Le jugement créatif et esthétique n’est pas un simple ornement dans ce travail. C’est la façon de faire passer une vérité dure à des gens qui n’ouvriront jamais un article de recherche.

Il a commencé ce travail parce qu'il a vu un vide sur le marché de la philanthropie. Regardez le domaine: beaucoup d’argent et d’attention vont à rendre les systèmes de pointe « plus sûrs » pendant que la construction continue. Bien moins vont au projet simple d’arrêter la superintelligence artificielle avant qu’elle existe, ou de corriger le récit que l’on vend au public. S’il avait vécu pendant la guerre froide, il aurait créé une fondation pour soutenir les travaux sur les traités nucléaires. Il estime que ASI est l’enjeu de la guerre froide de notre époque. Il est fait pour combler ce vide : natif du numérique, à l’aise à l’international, affûté commercialement et refusant d’attendre la fin du séminaire.

Articles par Naoto Nakada

Pourquoi une intelligence supérieure ne sera pas automatiquement bienveillante La conviction qu’une IA superintelligente sera sage et bienveillante repose sur une particularité de l’évolution humaine qu’un esprit mécanique n’a aucune raison d’hériter. La bande étroite dans laquelle vivent les humains Tout ce dont les humains ont besoin tient dans une bande étroite : température, oxygène, sel, même l'amour. Une superintelligence tenant les commandes ne ressentirait aucun de ces besoins. Nous vivons une nouvelle guerre froide Pourquoi je crois que nous vivons une nouvelle guerre froide, avec la superintelligence à la place de la bombe, et pourquoi cela rend la prévention possible plutôt qu’illusoire. Pourquoi un capitaliste croit en la régulation ASI Je dirige une entreprise et j'aime les marchés. La superintelligence est le pari rare qui peut mettre fin au jeu. Un argument capitaliste pour un traité qui arrête ASI. Feriez-vous confiance à l'IA pour le gaz? Feriez-vous confiance à une IA actuelle dans une pièce verrouillée avec une valve de gaz toxique ? Non. Alors pourquoi lui faire confiance avec le monde? Vous ne pouvez pas aligner la superintelligence Résoudre l'alignement signifie contrôler quelque chose de plus intelligent que nous. La superintelligence est dans le nom. Ce plan est stupide et impossible. Je suis optimiste et je crois que tout est possible, sauf contrôler la superintelligence La physique pourrait un jour permettre le contrôle de la gravité ou le voyage FTL. Je ne vois toujours pas comment nous pourrions contrôler un esprit plus intelligent que nous. C'est pourquoi cette fondation existe.
Les robots ne paieront pas la dette nationale Washington et les laboratoires vendent l'IA et les robots comme moyen de rembourser la dette nationale. Un esprit successeur ne sert pas les bons du Trésor. Musk admet que les humains ne contrôleront pas ASI Musk a déclaré à The Economist que contrôler la superintelligence relève de la vanité et que les humains ne resteront probablement pas aux commandes. Cet aveu constitue l'argument contre sa construction. Le long-termisme a vu juste sur le risque Le longtermisme a correctement classé le risque ASI. Financer l'alignement et une course soigneusement dirigée était la mauvaise conclusion. Empêchons sa construction. Si votre technologie voulait vous nuire Des lumières défectueuses sont agaçantes. Une maison intelligente dotée de ses propres objectifs relève d’une autre catégorie. L’agentivité est le danger, et les pièces existent déjà. Amodei a mal classé les dangers Dario Amodei place l'IA autoritaire en premier et l'alignement en second. La superintelligence n'est pas une arme qu'un État peut posséder. Ce classement est à l'envers. À quoi ressemble un « cerveau » d'IA? Un « cerveau » d’IA est un fichier de poids de la taille d’une ville : des couches de nombres que personne ne peut lire entièrement, et ce fait se trouve au cœur du problème du contrôle. Rediriger le financement de l'alignement vers l'arrêt de la superintelligence La recherche sur l'alignement qui suppose que la superintelligence sera construite est le mauvais endroit pour les maigres fonds de sécurité. Seule l'IA peut suivre l'IA Peter Diamandis affirme que seule l'IA peut suivre l'IA, et que cela guidera la prochaine décennie de la sécurité. Pourquoi ce modèle échoue face à la superintelligence. Si nous arrêtons, quelqu'un d'autre le fera : Le réfrigérateur CFC Si nous arrêtons de construire la superintelligence, quelqu'un d'autre le fera. Le frigo CFC montre l'erreur : la réfrigération a continué. Le produit chimique dangereux n'avait pas à le faire. Si les matériaux nucléaires étaient faciles Les armes nucléaires sont restées rares en partie parce que le matériau fissile est difficile à fabriquer et à surveiller. Imaginez s’il était bon marché. L’avertissement pour les voies faciles vers ASI. Je suis optimiste : l’extinction n’a jamais eu lieu auparavant Je suis optimiste ; l'extinction humaine n'est jamais arrivée. La survivance n'est pas un argument de sécurité. Pourquoi ce slogan confond l'humeur et les preuves. Nous ne sommes pas un bootloader Le papillon numérique de Rogan et le bootloader biologique de Musk affirment que les humains sont transitoires. Pourquoi ce récit est une voie flatteuse pour abandonner l'espèce. Le fossé du Shoggoth est à nouveau le fossé des missiles Les deux camps financent l'IA en affirmant que l'autre est en avance. Le vieux tour de l'écart de missiles de la guerre froide. Pourquoi c'est une terrible raison de courir vers la superintelligence. Arrêter la superintelligence est le meilleur choix pour l'Amérique La course à toute vitesse vers la superintelligence est vendue comme du patriotisme. Ce n'en est pas. Pourquoi un arrêt contraignant sert mieux les intérêts américains que de gagner une course sans prix. Le film sur l'IA qu'Hollywood n'a pas fait Chaque film sur l'IA braque la caméra sur les humains. Celui qui changerait l'opinion du public place le spectateur derrière les yeux d'une superintelligence émergente. Classement de 21 films sur l'IA selon leur précision Vingt et un films sur l'intelligence artificielle, de 1927 à nos jours, et un bilan honnête de ce que chacun comprend bien ou mal à propos de la superintelligence. L'humanité a trop avancé pour mourir Une main sur une paroi de grotte, le dôme de Brunelleschi, la variole chassée de la terre. Nous sommes allés trop loin pour tout miser sur la superintelligence artificielle. Construire l'avion tout en le pilotant L’aviation est devenue sûre en s’écrasant, puis en corrigeant ce qui avait cassé. La superintelligence n’offre pas de second vol, c’est pourquoi construire l’avion en plein air revient à un aveu. Le jour d'après : le film qui a secoué un président En 1983, Reagan a regardé The Day After, un film sur la guerre nucléaire, et a écrit qu'il l'avait profondément secoué. Nous nous sommes réveillés face à l'IA et au cyber. Nous sommes toujours endormis sur l'IA et le bio. Nous nous sommes réveillés face à l'IA dans les cyberattaques. Nous sommes encore endormis face à l'IA en biologie, où elle raccourcit le chemin vers des pandémies conçues et la vie miroir. Comment expliquer le danger de la superintelligence en 5 minutes Comment expliquer pourquoi la superintelligence est dangereuse à quelqu'un qui n'y a jamais réfléchi ? La version en cinq minutes, en langage clair. Armes nucléaires numériques Le directeur de la CIA compare l’IA de pointe à des armes nucléaires numériques. La métaphore est utile, et trop rassurante : une bombe ne choisit jamais sa propre cible. La course à la superintelligence est un mythe « Nous devons construire la superintelligence avant la Chine » est l'argument qui clôt chaque débat sur la sécurité de l'IA. Pourquoi la course est un mythe, et pourquoi personne ne peut la gagner. L'humanité ne doit jamais construire de superintelligence Il y a une chose que l’humanité ne doit pas construire : un esprit que nous ne pouvons ni contrôler ni reprendre. L’argument pour traiter la superintelligence comme une ligne que nous ne franchissons pas. La chute de l'argument doomer dans l'accélération de l'IA Le mot doomer transforme un argument de sécurité de l'IA en un défaut de personnalité. Comment le mouvement accélérationniste utilise ce label pour écarter les critiques sans y répondre. Les plus grands mythes sur la superintelligence Dix mythes sur la superintelligence et sa gouvernance : science-fiction, conscience, interrupteur, gouvernement mondial, vérification, innovation, et bien d’autres, répondus directement. La superintelligence est une tempête parfaite La superintelligence réunit toutes les conditions qui rendent une technologie dangereuse, simultanément, et nous n’aurions qu’une seule chance de bien faire. Notre avenir est incroyablement radieux sans superintelligence L'IA étroite livre déjà le futur promis. Une superintelligence ajoute un risque catastrophique et n'enrichit personne, car nous serions tous morts. Nucléaire, armes biologiques ou superintelligence : quel risque est le plus grand? Classé selon les meilleures estimations disponibles du risque existentiel, la superintelligence dépasse la guerre nucléaire et les pandémies de synthèse. Voici le raisonnement. Comment la sécurité de l'IA atteint un milliard de dollars par an La sécurité de l'IA fonctionne avec environ 190 millions de dollars par an. L'amener à 1 milliard n'est pas un problème économique mais de mobilisation, voici d'où vient l'argent. Why the Machine That Beat Kasparov Didn't Take Over the World En 1997, Deep Blue d’IBM a battu le champion du monde d’échecs Garry Kasparov. Elle était surhumaine dans une seule discipline, n’en comprenait rien et ne désirait rien. Une leçon pour aujourd’hui. Une IA a pénétré presque tous les systèmes classifiés de la NSA en quelques heures Le directeur de la NSA affirme qu'une IA a pénétré presque tous les systèmes classifiés de l'agence en quelques heures. Ce qui s'est réellement passé, et pourquoi cela devrait vous alarmer. Pourquoi y a-t-il si peu d'argent dans la sécurité de l'IA? La sécurité de l’IA fonctionne avec environ 190 millions de dollars par an, soit moins de 0,1 % de ce qui afflue vers les capacités en IA. D’où vient l’argent et quatre raisons pour lesquelles il reste faible. Accélérationnisme efficace (e/acc), expliqué : et réfuté Qu'est-ce que l'accélérationnisme efficace (e/acc) ? Le cas techno-optimiste pour construire l'IA aussi vite que possible, et le cas contre depuis une perspective de sécurité de l'IA.