Dirijo un negocio. Me gustan los mercados. Los precios, la competencia y el derecho a probar algo nuevo han hecho más vidas ordinarias mejor que cualquier plan quinquenal que haya leído. Quiero una parada dura en la superinteligencia artificial. Estoy haciendo un argumento capitalista, y comienza con una distinción el eslogan de libre mercado generalmente salta.

Los mercados son excelentes para asignar capital cuando el lado negativo de una mala apuesta es local. Un restaurante fracasa y el propietario vuelve a alquilar el espacio. Un gadget no funciona y los inversores lo dan por perdido. Incluso un banco que se excede puede, en un sistema que funcione, resolverse sin acabar con la especie. La pérdida queda dentro de un círculo que podemos trazar.

La superinteligencia no es ese tipo de apuesta. Las personas que la construyen dicen, en público, que no saben cómo controlar un sistema más inteligente que ellas en todos los ámbitos. Una carrera por enviar primero ese sistema no es "destrucción creativa". Es una carrera por colocar una sola apuesta irreversible con cada vida humana como prenda. Un capitalismo sin respaldo contra ese tipo de apuesta es ruleta rusa con una fábrica que fabrica más cámaras, no capitalismo.

El argumento para avanzar a toda velocidad

Compuestos de innovación. Cada año de retraso cuesta curas, progreso científico y ventaja nacional. Los gobiernos son torpes. Los tratados se filtran. Si un país se desacelera, un rival no lo hará, y el partido cuidadoso pierde dos veces: sin plomo, y sin seguridad. El único camino realista es construir más rápido que todos los demás, mantener el plomo en manos amistosas, y fijar la alineación a lo largo del camino.

Es el argumento que usted hace cuando no ha precio el producto. Una pista sólo importa si sigues manteniendo lo que construiste. Una superinteligencia mal alineada es un agente que superpone a las personas que firmaron la ronda de financiación: no una empresa de cartera que puedes controlar, y no un misil que apuntas. Llegar primero, si no puedes dirigirlo, significa ser reemplazado primero. No hay salida. No hay serie B después de la extinción.

Qué necesita realmente el capital

El capital necesita un mundo que continúe. Necesita tribunales, propiedad, clientes y un futuro en el que un contrato siga significando algo. Una tecnología que puede acabar con todo eso no es «solo otra plataforma». Tratarla como una aplicación de consumo porque la demo parece una ventana de chat es un error de categoría con un recuento de cuerpos adjunto.

No estoy pidiendo que los mercados dejen de inventar. La IA estrecha que diagnostica enfermedades, diseña materiales y acelera la logística es el tipo de progreso que quiero más. La línea es la superinteligencia: sistemas construidos para superar la cognición humana en todos los dominios cuando todavía no podemos verificar que sus objetivos sigan siendo compatibles con los nuestros. Trazar esa línea es la forma de mantener vivo el resto de la economía el tiempo suficiente para que se acumule.

Un mercado es una máquina para convertir el riesgo en progreso. No es un pacto suicida. Rechazar un tipo de apuesta es lo que permite que el juego siga jugándose.

La regulación como infraestructura

La gente oye «regulación» y piensa en un impuesto burocrático para una startup. Justo, cuando la norma es tonta. Las normas que me importan se parecen más a las que hicieron posibles los mercados de capitales en primer lugar: no puedes vender acciones de una estafa, no puedes verter veneno en el río junto a la fábrica, no puedes construir un reactor nuclear en un sótano porque el beneficio parece emocionante en una presentación.

Un tratado internacional que prohíbe la creación de la superinteligencia artificial, con verificación donde los chips y la formación se ejecutan en realidad, es una de esas reglas. Es infraestructura para la civilización. Sin ella, cada laboratorio está en el dilema de un prisionero que castiga la precaución. Con él, el capital puede mantener la financiación de la mitad útil de la IA sin financiar la mitad que come la junta.

Quiero que mis empresas prosperen en un siglo que aún tenga clientes. Es el mínimo que exige cualquier mercado. Si te llamas capitalista y estás compitiendo por construir algo que nadie puede poseer, no estás defendiendo el capitalismo. Estás prendiendo fuego al libro de cuentas y llamando crecimiento al resplandor.