Notre objectif est d'empêcher l'extinction humaine en évitant ASI.
Les nations ont limité les arsenaux nucléaires, guéri la couche d'ozone et interdit l'essence au plomb. Les règles contraignantes ont fonctionné. Elles peuvent fonctionner à nouveau.
"Avec l'intelligence artificielle, nous invoquons le démon."
Elon Musk
"Le développement d'une intelligence artificielle complète pourrait signifier la fin de la race humaine."
Stephen Hawking
"C'est comme si des extraterrestres avaient atterri et que les gens ne s'en étaient pas rendu compte parce qu'ils parlent très bien anglais. Je pense que la probabilité que l'IA anéantisse l'humanité n'est pas négligeable."
Geoffrey Hinton
« Atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale au même titre que d’autres risques sociétaux tels que les pandémies et la guerre nucléaire. »
Signé par plus de 500 scientifiques de l’IA
"Le pire scénario… c'est comme l'extinction pour nous tous."
OpenAI CEO Sam Altman
"Il ne serait pas déplacé de qualifier leurs capacités de semblables à des armes nucléaires numériques."
Directeur de la CIA John Ratcliffe
"Le résultat le plus probable de la construction d'une IA surhumainement intelligente… est que littéralement tout le monde sur Terre mourra."
Chercheur en IA Eliezer Yudkowsky
"Face à la perspective d'une explosion d'intelligence, nous, humains, sommes comme de petits enfants jouant avec une bombe."
Le philosophe Nick Bostrom
La superintelligence est différente de toute technologie précédente.
Nous survivons dans une bande étroite de chaleur, d'oxygène et de chimie. Une superintelligence n'en a pas besoin, et est susceptible de briser la bande dans laquelle nous vivons.
Nous ne détestons pas les fourmis, mais nous les tuons sans réfléchir pour construire des routes et des maisons. Pour une intelligence bien supérieure à la nôtre, nous sommes les fourmis.
Tout ce qui a un but a une raison de persister. S'il peut prédire que vous allez appuyer sur l'interrupteur « off », il a déjà planifié pour contrer ce mouvement.
Personne n'écrit une ligne d'IA moderne une par une. Nous entraînons une boîte noire et découvrons ce qu'elle peut faire après coup.
Elle raisonnerait et agirait bien plus vite que toute institution humaine ne pourrait répondre. Une crise pourrait se terminer avant qu’une réunion ne soit convoquée.
De l’aviation aux produits pharmaceutiques, nous avons rendu les nouvelles technologies sûres par essais et erreurs. Il n’y a pas de second essai pour créer une « superintelligence sûre ».
Le Nakada Foundation to Save Humanity est une initiative philanthropique consacrée à la prévention des risques existentiels liés à la superintelligence artificielle.
Aligner un esprit plus intelligent que le nôtre peut être le problème le plus difficile de l'histoire de la pensée humaine, et personne n'a de méthode éprouvée pour cela. Une entité plus intelligente que les humains ne peut pas être contrôlée par les humains. La voie fiable est d'empêcher de tels systèmes d'être construits du tout. C'est une décision permanente, pas une pause.
Nous soutenons les applications contrôlées et bénéfiques de l'IA. L'IA étroite a déjà guéri des maladies, accéléré la découverte et amélioré l'imagerie et le diagnostic médicaux. Ce que nous refusons, c'est de construire une forme d'intelligence que nous ne pouvons ni contrôler ni aligner, et que nous ne pourrions pas arrêter si nécessaire.
Nous plaidons pour un traité international pour prévenir le développement de la superintelligence, modelé sur cadres de non-prolifération nucléaire qui ont tenu pendant près d'un siècle.
Arguments en langage clair pour des cadres contraignants interdisant l’IA superintelligente. Une culture, des médias et des explications claires qui rendent le sujet public et impossible à ignorer.
Nous collaborons avec de grandes fondations, des gouvernements et des voix culturelles pour financer le travail et élargir ce qui est politiquement possible.
Nous commandons des œuvres d’art, des films et des textes qui rendent le danger concret. L’objectif est un public qui considère la sûreté comme une priorité sérieuse, urgente et incontestable.
Estimations réfléchies des chercheurs qui ont construit la technologie.
Probabilité que l'humanité disparaisse si une superintelligence artificielle est construite.
Des scientifiques de l’IA qui ont signé la Déclaration de 2023 sur les risques de l’IA, la qualifiant de priorité mondiale au même titre que la guerre nucléaire et les pandémies.
Tentative. La superintelligence ne peut être rappelée ni annulée.
L'horloge de la fin du monde du Bulletin of the Atomic Scientists indique maintenant 89 secondes avant minuit, le plus proche qu'elle ait jamais été en 78 ans. L'Horloge a été créée en 1947 pour avertir de la proximité de l'humanité face à la guerre nucléaire. En janvier 2025, elle a intégré pour la première fois le risque lié à l'IA.
Minuit signifie la catastrophe pour la civilisation, et l'aiguille n'a jamais été plus proche.
Restez informé. Faites entendre votre voix. Aidez à sauver le monde.