FUNDADOR

Naoto Nakada

Fundador y Director Ejecutivo del Nakada Foundation to Save Humanity. CEO y Director Creativo de Nakada Design.

BIOGRAFÍA

Acerca de

Naoto Nakada es un emprendedor, filántropo y fundador de una empresa de lujo agencia de marketing. Ha creado y gestionado negocios digitales durante años: marca, producto, audiencia, conversión. Trabaja en la pila que la mayoría solo menciona. Esa fluidez importa cuando el tema es la IA, porque el peligro está en los sistemas, los incentivos, la distribución y la velocidad.

Ha vivido y trabajado en Tokio, Sídney, Los Ángeles, Londres y Singapur. Mercados, hábitos mediáticos y políticas distintos. Esa amplitud es lo que le permite leer la cultura con rapidez, incluidos los mitos que circulan en X y en los medios populares sobre superinteligencia, «seguiremos en control» y la carrera que supuestamente no podemos abandonar.

A él también le importa cómo se ven y se sienten las cosas. El juicio creativo y estético no es un adorno en este trabajo. Es la forma de hacer que una verdad difícil llegue a personas que nunca abrirán un artículo de investigación.

Él empezó este trabajo porque vio un vacío en el mercado de la filantropía. Mira el campo: mucho dinero y atención se destinan a hacer que los sistemas de frontera sean «más seguros» mientras continúa la construcción. Mucho menos se destina al proyecto simple de detener la superinteligencia artificial antes de que exista, o a corregir la historia que se le está vendiendo al público. Si hubiera vivido en la Guerra Fría, habría creado una fundación para apoyar el trabajo de tratados nucleares. Cree que ASI es el tema de la Guerra Fría de nuestro tiempo. Está hecho para esa brecha: nativo digital, fluido globalmente, comercialmente agudo y reacio a esperar a que termine el seminario.

ESCRITOS RECIENTES

Artículos de Naoto Nakada

DESTACADO

¿Por qué una inteligencia superior no será automáticamente bondadosa? La creencia de que una IA superinteligente será sabia y amable se basa en un capricho de la evolución humana que una mente de máquina no tiene razón para heredar. La estrecha banda en la que viven los humanos Todo lo que los humanos necesitan cabe en una banda estrecha: temperatura, oxígeno, sal, incluso el amor. Una superinteligencia que controle los diales no sentiría ni uno solo de ellos. Estamos viviendo una nueva Guerra Fría Por qué creo que estamos viviendo una nueva Guerra Fría, con la superinteligencia en lugar de la bomba, y por qué eso hace que la prevención sea posible en lugar de imposible. Por qué un capitalista cree en la regulación del ASI Dirijo un negocio y me gustan los mercados. La superinteligencia es la apuesta rara que puede terminar el juego. Un argumento capitalista para un tratado que detenga ASI. ¿Confiarías la IA con el gas? ¿Confiarías en cualquier IA actual en una habitación cerrada con una válvula de gas venenoso? No. Entonces, ¿por qué confiarle el mundo? No Puedes Alinear la Superinteligencia Resolver la alineación significa controlar algo más inteligente que nosotros. Superinteligencia está en el nombre. Ese plan es tonto e imposible. Soy un optimista que cree que todo es posible, pero no controlar la superinteligencia La física puede algún día permitir el control de la gravedad o los viajes FTL. Aún no veo cómo controlamos una mente más inteligente que nosotros. Por eso existe esta fundación.

MÁS ESCRITOS

Los robots no pagarán la deuda nacional Washington y los laboratorios venden la IA y los robots como la forma de pagar la deuda nacional. Una mente sucesora no atiende bonos del Tesoro. Musk admite que los humanos no controlarán ASI Musk le dijo a The Economist que controlar la superinteligencia es vanidad y que es improbable que los humanos sigamos al mando. Esa admisión es el argumento contra construirla. El longtermismo acertó con el riesgo El largoplacismo clasificó correctamente el riesgo de ASI. Financiar la alineación y una carrera cuidadosamente dirigida fue la conclusión equivocada. Impide construirlo. Si tu tecnología quisiera hacerte daño Las luces defectuosas son molestas. Una casa inteligente con sus propios objetivos es otra categoría. La agencia es el peligro, y las piezas ya existen. Amodei Clasificó Mal los Peligros Dario Amodei prioriza la IA autoritaria y deja la alineación en segundo lugar. La superinteligencia no es un arma que un Estado pueda poseer. Esa jerarquía está invertida. ¿Cómo se ve un “cerebro” de IA? Un «cerebro» de IA es un archivo de pesos del tamaño de una ciudad: capas de números que nadie puede leer por completo, y ese hecho está en el centro del problema de control. Redirigir los fondos de alineación para detener la superinteligencia La investigación en alineación que presupone que se construirá superinteligencia no es el destino adecuado para los limitados fondos de seguridad. Solo la IA puede seguir el ritmo de la IA Peter Diamandis dice que solo la IA puede seguir el ritmo de la IA, y que eso guiará la próxima década de seguridad. Por qué ese modelo falla ante la superinteligencia. Si paramos nosotros, alguien más lo hará: La nevera de CFC Si dejamos de construir superinteligencia, alguien más lo hará. La nevera de CFC muestra el error: la refrigeración continuó. El producto químico peligroso no tenía por qué seguir usándose. Si los materiales nucleares fueran fáciles Las armas nucleares se mantuvieron raras en parte porque el material fisible es difícil de fabricar y vigilar. Imagina si fuera barato. La advertencia para caminos fáciles hacia el ASI. Soy un optimista: la extinción nunca ha ocurrido antes Soy optimista; la extinción humana nunca ha ocurrido antes. La supervivencia no es un argumento de seguridad. Por qué el eslogan confunde el estado de ánimo con la evidencia. No somos un bootloader La mariposa digital de Rogan y el bootloader biológico de Musk dicen que los humanos son transicionales. Por qué esa historia es un camino halagador hacia renunciar a la especie. La brecha Shoggoth es otra vez la brecha de misiles Ambos bandos financian la IA diciendo que el otro va adelante. El truco de la brecha de misiles de la Guerra Fría. Por qué es una razón terrible para correr hacia la superinteligencia. Detener la superinteligencia es lo mejor para América La carrera a toda velocidad hacia la superinteligencia se vende como patriotismo. No lo es. Por qué una pausa vinculante sirve mejor a los intereses de Estados Unidos que ganar una carrera sin premio. La película de IA que Hollywood no ha hecho Todas las películas de IA apuntan la cámara hacia los humanos. La que cambiaría la opinión del público coloca al público detrás de los ojos de una superinteligencia emergente. Clasificación de 21 películas de IA según su precisión Veintiún películas sobre inteligencia artificial, desde 1927 hasta ahora, y un recuento honesto de lo que cada una acierta y falla sobre la superinteligencia. La humanidad ha llegado demasiado lejos para morir Una mano en la pared de una cueva, la cúpula de Brunelleschi, la viruela erradicada de la Tierra. Hemos llegado demasiado lejos como para apostar todo a la superinteligencia artificial. Construyendo el avión mientras se vuela La aviación se volvió segura estrellándose y luego arreglando lo que fallaba. La superinteligencia no ofrece un segundo vuelo, por eso construir el avión en el aire es una confesión. El día después: la película que sacudió a un presidente En 1983 Reagan vio The Day After, una película sobre la guerra nuclear, y escribió que lo dejó profundamente conmocionado. Despertamos ante la IA y la ciberseguridad. Seguimos dormidos respecto a la IA y la bio. Despertamos a la IA en ciberataques. Seguimos dormidos respecto a la IA en biología, donde acorta el camino hacia pandemias diseñadas y vida espejo. Cómo Explicar el Peligro de la Superinteligencia en 5 Minutos ¿Cómo explicar por qué la superinteligencia es peligrosa a alguien que nunca ha pensado en ello? La versión de cinco minutos, en lenguaje claro. Armas Nucleares Digitales El director de la CIA compara la IA de frontera con armas nucleares digitales. La metáfora sirve, pero resulta demasiado tranquilizadora: una bomba nunca elige su propio blanco. La carrera por la superinteligencia es un mito «Tenemos que construir superinteligencia antes que China» es el argumento que cierra todo debate de seguridad de la IA. Por qué la carrera es un mito y por qué nadie puede ganarla. La humanidad nunca debe construir superinteligencia Hay una cosa que la humanidad no debe construir: una mente que no podamos controlar ni recuperar. El caso para tratar la superinteligencia como una línea que no cruzamos. El Fallacy del Argumento Doomer en el Aceleracionismo AI La palabra «doomer» convierte un argumento de seguridad de la IA en un defecto de personalidad. Cómo el movimiento aceleracionista usa la etiqueta para descartar a los críticos sin responderles. Los mayores mitos sobre la superinteligencia Diez mitos sobre la superinteligencia y su gobernanza: ciencia ficción, conciencia, el interruptor de apagado, gobierno mundial, verificación, innovación y más, respondidos directamente. La superinteligencia es una tormenta perfecta La superinteligencia combina todas las condiciones que hacen peligrosa a una tecnología, de una vez, y solo tendríamos un intento para hacerlo bien. Nuestro futuro es increíblemente brillante sin superinteligencia La IA estrecha ya está entregando el futuro que nos prometieron. Una superinteligencia añade riesgo catastrófico y no enriquece a nadie, porque todos estaríamos muertos. Nuclear, armas biológicas o superinteligencia: ¿Cuál es el riesgo mayor? Ordenados según las mejores estimaciones disponibles de riesgo existencial, la superinteligencia supera a la guerra nuclear y a las pandemias diseñadas. Aquí va el razonamiento. Cómo la seguridad de la IA llega a mil millones de dólares al año La seguridad de la IA funciona con unos 190 millones de dólares al año. Llevarla a mil millones no es un problema económico sino de movilización, aquí es de dónde viene el dinero. Why the Machine That Beat Kasparov Didn't Take Over the World En 1997, Deep Blue de IBM venció al campeón mundial de ajedrez Garry Kasparov. Era superhumano en un juego, no entendía nada de él y no quería nada. Una lección para hoy. Una IA irrumpió en casi todos los sistemas clasificados de la NSA en horas El director de la NSA dice que una IA irrumpió en casi todos los sistemas clasificados de la agencia en horas. Qué pasó realmente y por qué debería alarmarte. ¿Por qué hay tan poco dinero en la seguridad de la IA? La seguridad de la IA cuenta con unos 190 millones de dólares al año, menos del 0,1 % de lo que fluye hacia las capacidades de IA. De dónde viene el dinero y cuatro razones por las que se mantiene pequeño. Aceleracionismo Efectivo (e/acc), Explicado: y Respondido ¿Qué es el aceleracionismo efectivo (e/acc)? El argumento tecno-optimista para construir IA lo más rápido posible y el argumento en contra desde la perspectiva de la seguridad de la IA.