Creo que algún día, con más física de la que tenemos en 2026, podremos controlar la gravedad, abrir agujeros de gusano e incluso movernos más rápido que la luz. Según el conocimiento actual, esas cosas son imposibles. Aun así, creo que apenas hemos arañado lo que se puede saber. Lo leo como realismo sobre lo joven que sigue siendo nuestra ciencia.

Un futuro que nunca he logrado entender, por más que lo dé vueltas o hable con otras personas: el control duradero sobre una entidad más inteligente que nosotros. Biológica o mecánica. De este planeta o de otro. Si la otra mente es más inteligente que la humanidad, no veo cómo se sostiene la historia del control.

El marcador

Ponle un número burdo para que la forma sea difícil de esquivar. Llama al conocimiento y habilidad total de toda la humanidad, trabajando junta, 100. Una persona promedio posee una porción diminuta de eso, a menudo un solo dígito o menos.

Ahora imagina que de alguna manera ejecutamos perfectamente. Cada humano, laboratorio y gobierno relevante. Sin desperdicio ni demora. Ponemos el 100 completo sobre la mesa.

Dale al otro lado un techo más alto. Digamos que su máximo es 200. Ni siquiera necesita un buen día. Con un 51 por ciento de eficiencia aún supera los 102. Supera un total humano impecable mientras está medio dormido.

Esa ventaja parece modesta en el papel. Las competencias reales rara vez esperan grandes brechas. En la guerra humana, un bando solía necesitar solo una ligera ventaja en inteligencia, logística o armas para asegurar una victoria decisiva. Las ventajas estrechas terminan convertidas en resultados totales todo el tiempo. Entonces, ¿cómo vencemos a algo mucho más inteligente que nosotros, no a un par cercano?

No veo el método. Mejores prompts no lo lograrán. Tampoco un comité, ni una constitución que la parte más débil escriba para la más fuerte.

La física no es una oponente

La gente oye la línea de la gravedad y percibe una fe general en que los problemas difíciles ceden. Algunos problemas difíciles sí lo hacen. Las fuerzas y los materiales no son agentes. No planean en torno a tu plan, ni ocultan una estrategia porque hayan modelado tus pruebas. Expandir la física sigue siendo difícil. Gobernar una mente que supera en inteligencia a los gobernantes es un tipo de dificultad diferente.

El control, en todos los casos duraderos que conocemos, funciona en un filo: la fuerza, la ley, el secreto, el interruptor de apagado o que el otro lado simplemente no logre superarte. La superinteligencia es el proyecto de borrar ese filo a propósito. Estás intentando supervisar a un jugador que eventualmente te ganará en supervisión, en encontrar resquicios y en notar cuándo quieres desconectarlo.

He escuchado las versiones optimistas. Creceremos con ella. Nos fusionaremos. La criaremos con amor. La mantendremos en una caja hasta estar seguros. Cada versión sigue asumiendo que la parte más débil impone condiciones duraderas a la más fuerte. Puedo admirar el deseo. Aun así no encuentro el mecanismo.

Por qué existe la fundación

Si no puedes ver el control, no construyas la cosa que lo requiere. Esto no es un alegato contra la tecnología. Las herramientas estrechas que siguen siendo herramientas pueden seguir mejorando la medicina, la ciencia y la industria. La línea es la superinteligencia artificial: una mente general que nos supera en todos los ámbitos y que ya no está bajo el mando humano.

Empecé el Nakada Foundation porque esa línea se trata como un cronograma de ingeniería en lugar de una señal de alto para la especie. Los laboratorios compiten. Los gobiernos hablan de ganar. El trabajo de seguridad a menudo da por sentado el destino e intenta suavizar el choque. El choque es el problema. No puedes alinear tu camino más allá de una brecha de inteligencia que definiste que existiera. El caso más amplio está en la amenaza y en nuestro plan.

Todavía dejo espacio para futuros que parecen magia según la física actual. No apostaré la especie a que los humanos controlen algo más inteligente que ellos. La superinteligencia no puede ser controlada por humanos. La medida sensata es no construirla.