Esta es la secuela de Parte 1, ¿Por qué hay tan poco dinero en la seguridad de la IA?, que diagnostica por qué el campo funciona con tan poco. Aquí la pregunta es cómo llega a mil millones de dólares al año.
Start with where things actually stand. Parte 1 sumó todas las donaciones filantrópicas, todos los programas gubernamentales de seguridad y todos los dólares que los laboratorios de frontera destinan a sus propios equipos de seguridad y llegó a un total de aproximadamente 190 millones de dólares al año. En comparación, el mundo invierte más de 250 mil millones de dólares anuales en hacer que la IA sea más capaz, y la cifra sigue creciendo. Por cada mil dólares que se gastan en hacer estos sistemas más potentes, se invierte menos de un dólar en hacerlos seguros.
Mil millones de dólares al año comenzarían a cambiar esa aritmética, y es una suma menor de lo que parece. Es menos de dos días de lo que la industria ya gasta en capacidades. Es aproximadamente una décima parte de uno por ciento de lo que Estados Unidos gasta en defensa. Es una décima parte de lo que la filantropía climática mueve cada año, y la filantropía climática no se considera generosamente financiada. Sea lo que sea mil millones de dólares, no es una gran cantidad de dinero para un problema que las personas que construyen la tecnología han comparado, por escrito y bajo sus propios nombres, con pandemias y guerra nuclear.
Así que la razón por la que el campo está desatendido no es que resulte difícil encontrar mil millones de dólares. El mundo ya está gastando muchas veces esa cantidad a pocos metros, al otro lado de los mismos edificios de oficinas. El dinero está ahí. Lo que falta es la decisión de mover parte de él.
El dinero ya existe. El mundo gasta esta cantidad en hacer la IA más poderosa aproximadamente cada día y medio. Lo que falta es la voluntad de mover una fracción de ella en la otra dirección.
Mil millones es el mínimo
¿Por qué mil millones y no trescientos millones? Porque por debajo de esa línea aproximada, el campo solo puede permitirse hacer una cosa a la vez. Con 190 millones de dólares, los números obligan a un triaje brutal. La investigación técnica y las evaluaciones de modelos absorben alrededor de dos tercios de todo. La promoción (el trabajo de lograr que gobiernos y empresas actúen según lo que encuentra la investigación) recibe alrededor del cinco por ciento, del orden de 10 millones de dólares al año, menos de lo que una sola gran empresa tecnológica gasta en cabildeo en una capital nacional. Mil millones de dólares pondrían fin a ese triaje. Permitiría que la seguridad pague de forma competitiva por el talento que los laboratorios absorben actualmente, diversificaría un campo que depende de una sola fundación dominante y financiaría el trabajo político que cambia resultados en lugar de limitarse a documentarlos.
Y mil millones al año es modesto en comparación con cualquier referencia histórica que encaje. El Proyecto del Genoma Humano costó alrededor de 3 mil millones de dólares y se recuerda como una de las mejores inversiones públicas que jamás haya hecho Estados Unidos. Medido contra un riesgo que sus propios creadores equiparan a una guerra nuclear, mil millones de dólares al año no es una cifra generosa. Que estemos debatiendo si es asequible es lo extraño.
Erradicar la viruela costó unos 300 millones de dólares en toda la campaña de trece años, menos de un tercio de un solo año del objetivo que se discute aquí. Desde 1980 ese gasto único ha ahorrado al mundo más de mil millones de dólares cada año, y solo Estados Unidos recupera su parte del costo original aproximadamente cada veintiséis días.
Reducir un riesgo a escala civilizacional casi siempre ha sido una de las cosas más baratas que hemos hecho, medida contra lo que retorna.
De dónde proviene realmente el billón
Nada de esto requiere un invento nuevo ni un acto de generosidad extraordinaria. Solo exige que cuatro fuentes ordinarias se activen al mismo tiempo. Cualesquiera dos de ellas, hechas en serio, alcanzan el objetivo.
| Fuente | Plausible por año |
|---|---|
| Filantropía diversificadaHoy una sola fundación aporta más de la mitad de todo el dinero filantrópico para seguridad. En cambio, la filantropía climática mueve más de 10 000 millones de dólares al año entre muchos donantes. Una sola dotación de 20 000 millones de dólares genera mil millones al año solo con los intereses; alcanzar la décima parte del total climático requiere quizá entre cinco y diez financiadores serios. | $300M |
| Presupuestos gubernamentales de seguridadLos institutos nacionales de seguridad ya existen en UK, US y otros lugares. US gasta unos 47 000 millones de dólares al año en los Institutos Nacionales de Salud; un esfuerzo dedicado a la seguridad de la IA con el uno por ciento de esa cifra son casi quinientos millones por sí solos. | $300M |
| Un gravamen industrial sobre el cómputoLas farmacéuticas financian aproximadamente tres cuartas partes de la revisión de medicamentos de la FDA mediante tarifas de usuario; la industria nuclear financia casi todo su regulador. Cuatro décimas de uno por ciento en la computación e infraestructura de IA frontera que ya se compra (más de 250 mil millones de dólares al año) cubre por sí solo el billón entero. | $300M+ |
| Capital benéfico redirigidoLos fondos asesorados por donantes ya superan los 200 000 millones de dólares comprometidos con la caridad pero aún no desembolsados. Los fondos de dotación universitarios y la creciente infraestructura de donaciones efectivas suman más. Lo que se pide aquí es una reasignación, no nueva riqueza. | $100M |
| Total | ~$1B+ |
La tercera fila es la que más importa, porque es la única fuente que no depende de la buena voluntad de nadie. La filantropía puede evaporarse cuando un donante cambia de opinión, como aprendió el campo cuando su principal financiador recortó las subvenciones de seguridad técnica en más de la mitad en dos años. Los presupuestos gubernamentales cambian con las elecciones. Un gravamen legal sobre la industria que se beneficia de construir el riesgo es duradero, proporcional y enteramente precedido. Ya es así como pagamos a los organismos de control que supervisan la medicina, la aviación y la energía nuclear. Vincular una pequeña parte de la financiación de seguridad a la computación que crea el peligro es una extensión natural del argumento a favor de gobernanza del cómputo.
El dinero se mueve rápido una vez que el riesgo es legible
La historia es clara: cuando un peligro se vuelve evidente para el público y sus gobiernos, el dinero aparece a una velocidad que deja al descubierto el goteo actual como lo que es, una decisión, no una limitación. Las sustancias que destruyen la capa de ozono se eliminaron bajo el Protocolo de Montreal, cuyo fondo ha trasladado desde entonces miles de millones de dólares para hacer posible la transición en países más pobres. Cuando llegó la COVID, el mundo movilizó el desarrollo de vacunas por decenas de miles de millones de dólares en cuestión de meses. Viruela, ozono, polio: en cada caso el límite nunca fue el dinero. Fue el reconocimiento.
La seguridad de la IA aún no ha tenido su momento de reconocimiento, y la razón es estructural más que financiera. El daño que advierte no ha ocurrido. No hay pacientes, ni pueblos inundados, ni familias de luto que le pongan un rostro, y si el trabajo tiene éxito, nunca los habrá. Un riesgo sin base social no tiene a nadie presionando a quienes firman los cheques. Una mejor hoja de cálculo no lo resolverá.
Este es un problema de movilización
Lo que significa que el camino a mil millones de dólares no es, en el fondo, un plan de recaudación de fondos. Es un plan para hacer que el riesgo sea lo bastante legible y que tomarlo en serio sea lo bastante prestigioso como para que el dinero siga el camino de siempre. Ese trabajo avanza por tres líneas.
Hazlo visible. Una amenaza que la gente puede imaginar es una amenaza que la gente financiará: periodismo, cine, datos y argumentación pública que conviertan una probabilidad abstracta en algo que un legislador o un donante pueda sentir, el mismo trabajo cultural que precedió al dinero serio para el clima y para el control de armas nucleares.
Hazlo prestigioso. Cuando premios Nobel, expresidentes y figuras públicas de confianza tratan una causa como seria, tanto las normas como el dinero se mueven detrás de ellos. El consenso científico sobre el riesgo de IA ya existe. Lo que ha tardado es el permiso social para que las personas con recursos y posición actúen en voz alta.
Hazlo obligatorio. Las donaciones voluntarias, impulsadas con fuerza, podrían llevar el campo a trescientos o cuatrocientos millones al año. El salto a mil millones completos (y, lo más importante, su supervivencia más allá del cambio de opinión de un solo donante) proviene de la ley: un impuesto, una partida presupuestaria, una obligación de tratado. Es por eso que la Fundación dirige su trabajo hacia reglas vinculantes y no solo en persuasión. La generosidad es bienvenida, pero no es algo en lo que puedas basarte.
Así que dejemos de lado la idea de que mil millones de dólares al año es la versión ambiciosa de tomarse esto en serio. Es la versión mínima. Es menos que dos días de lo que ya gastamos en empeorar el problema, y una fracción pequeña de lo que costó, una sola vez, erradicar del mundo una enfermedad que había matado durante tres mil años. La suma no es abrumadora. Lo que realmente escasea es la decisión de tratar un riesgo de este tamaño como si creyéramos nuestras propias advertencias.
Esa decisión se toma con presión pública, en lo que los gobiernos oyen de la gente a la que responden, y en si somos suficientes los que tratamos esto como la prioridad que la ciencia dice que es. El argumento a favor de las reglas que harían duradero el dinero está expuesto en nuestro plan, y la forma más rápida de sumarte a ello toma cinco minutos en el tomar acción página.
Pero compara esa cifra con lo que el mundo ya gasta en construir la tecnología, o con lo que la humanidad ha invertido antes en peligros que decidió tomarse en serio, y mil millones deja de parecer ambicioso. Empieza a verse como lo mínimo que podríamos hacer, y está completamente a nuestro alcance.