Un acuerdo internacional de seguridad de la IA no llegará por sí solo. Se construye política por política, voto por voto, conversación por conversación. Elige tu rol a continuación para el trabajo que puedes hacer hoy, no algún día.
Los fundadores, ejecutivos y operadores tienen una credibilidad que los académicos y activistas no poseen. Sus decisiones (qué construyen, qué rechazan, con quién se asocian) son señales públicas que mueven mercados y el comportamiento de sus pares por igual.
Convierte la posición de tu empresa en contractual, aprobada por el directorio y verificable, no en lenguaje aspiracional de una entrada de blog. Comprométete a nunca construir sistemas ASI. Solo cuenta el compromiso al que se te pueda obligar.
Rechace asociaciones, empresas conjuntas y contratos con laboratorios de IA de frontera que corren hacia ASI. Explique públicamente su razonamiento. Un líder empresarial que rechaza un trato y dice por qué envía un mensaje que ninguna campaña de relaciones públicas puede fabricar.
Una IA beneficiosa es posible sin construir sistemas que nadie pueda controlar. Si tu empresa trabaja con IA, comprométela con aplicaciones de propósitos claros y delimitados. Demuestra con el ejemplo rentable que lo seguro y lo útil no están en conflicto.
Tienes acceso a conferencias, publicaciones y redes de pares que la mayoría de los activistas no tienen. Habla con franqueza sobre las apuestas desde esas plataformas. La credibilidad desde dentro del sector es insustituible, no se puede contratar ni fabricar desde fuera.
Establece políticas claras y por escrito sobre qué capacidades de IA tu organización desarrollará o adquirirá y cuáles no. Hazlas vinculantes para proveedores y socios. Normaliza la expectativa de que las empresas serias tienen estándares de seguridad.
El Nakada Foundation está construyendo el caso público para un tratado internacional de seguridad de la IA. No somos un laboratorio de investigación. Somos una campaña filantrópica que necesita recursos para llegar a la gente. La página de donaciones detalla exactamente qué costos cubre tu dinero.
Tanto si despliegas capital por rendimiento financiero como por intención filantrópica, tienes uno de los palancas más directas disponibles. Desinvertir de la carrera y financiar la resistencia están a tu alcance, y ambos importan.
Retira capital de los laboratorios que persiguen explícitamente ASI. El capital retirado es computación no adquirida, ingenieros no contratados y plazos no acortados. Esta es la intervención más directa disponible para un inversor, y está disponible hoy.
Exigir compromisos verificables de seguridad, cumplimiento de gobernanza de cómputo y auditorías independientes de terceros como condiciones innegociables de cualquier inversión o subvención en IA. Si no están dispuestos a aceptarlo, eso dice algo importante sobre sus prioridades.
En las empresas donde tengas acciones o asientos en el consejo, incluye la seguridad de la IA en la agenda. Impulsa compromisos vinculantes, derechos de auditoría y cumplimiento de las normas internacionales emergentes de gobernanza de computación. Los consejos y los inversores responden a los grandes accionistas. Usa ese peso.
El campo de investigación de seguridad de la IA recibe miles de millones de los laboratorios que estudia, una estructura de incentivos comprometida. Las organizaciones independientes de promoción y políticas que trabajan por leyes exigibles reciben casi nada. Una sola donación importante puede cambiar el equilibrio del campo.
El periodismo de investigación sobre las prácticas de los laboratorios de IA, la investigación de políticas sobre marcos de tratados y el trabajo cultural que hace que el riesgo sea visceral e innegable, nada de esto resulta comercialmente atractivo de producir. El capital filantrópico es la única fuente para trabajos que son críticos pero no rentables.
Tienes acceso a donantes, juntas de fundaciones, inversionistas institucionales y responsables de políticas que los activistas no pueden alcanzar con contactos en frío. Convócalos. Preséntales esta causa. Una hora de tu acceso vale un año de esfuerzo de una organización con pocos fondos.
Investigadores, ingenieros y personal técnico de laboratorios de IA y empresas tecnológicas tienen información, acceso y palanca que ningún defensor externo posee. La historia muestra que los trabajadores han cambiado instituciones que parecían imposibles de mover.
Plantea las preocupaciones a través de los mecanismos formales que existan: equipos de seguridad, defensores del pueblo, revisiones éticas, acceso al consejo. Pon toda comunicación por escrito. Crea un registro documental antes de necesitarlo, no después.
No estás solo. Investigadores e ingenieros preocupados por la dirección del desarrollo de la IA de frontera existen en todos los grandes laboratorios. Encuéntrense. La acción colectiva del personal técnico ya ha cambiado el comportamiento corporativo en empresas de IA antes, y puede volver a hacerlo.
Las personas que han revelado información sobre el desarrollo inseguro lo han hecho a un costo personal significativo. Apóyalas públicamente y profesionalmente. Sus revelaciones construyen el caso público que ningún defensor externo puede hacer solo, porque solo los insiders saben qué está pasando realmente.
En muchas jurisdicciones existen protecciones para denunciantes que revelan información sobre actividades que ponen en riesgo la seguridad pública. Conoce tus derechos. Consulta a un abogado especializado en esta área. Sepa sus opciones mientras aún tenga tiempo de prepararse.
Tienes habilidades que están en extraordinaria demanda. Puedes conseguir otro empleo, probablemente mejor. Los investigadores e ingenieros que construyen sistemas de IA de frontera tienen más poder de negociación con sus empleadores que casi cualquier otra fuerza laboral de la historia. La mayoría aún no lo ha usado. La pregunta es si tú lo harás.
Si trabajas en un laboratorio de IA de frontera y tienes motivos para creer que el desarrollo avanza de forma insegura (que no se cumplen los compromisos, que se minimizan los riesgos, que el cronograma es más corto de lo declarado públicamente), la pregunta de qué harías no es hipotética. Piénsalo ahora.
Ninguna organización privada, por muy bien financiada que esté, puede obligar a los Estados soberanos a limitar el desarrollo de la IA. Solo los gobiernos negociando con gobiernos pueden lograrlo. Los políticos, los funcionarios, los diplomáticos y los reguladores son quienes redactarán la ley, o no lo harán.
Exigir aprobación gubernamental para los entrenamientos de IA que superen un umbral de computación definido, propuesto actualmente en 10²⁶ operaciones de punto flotante. Es técnicamente viable, verificable de forma independiente y cuenta con precedentes. Un pequeño número de fabricantes de chips controla el hardware necesario para entrenar modelos de frontera. Otorgar licencias en ese punto de estrangulamiento.
Solicita formalmente a tu gobierno que presente una propuesta ante las Naciones Unidas o un organismo multilateral pertinente para iniciar negociaciones sobre un tratado vinculante de seguridad de la IA. El Protocolo de Montreal pasó del consenso científico a la ratificación en menos de dos años. La ambición a esta escala tiene precedentes, no es ingenua.
El riesgo existencial de la IA aún no es un tema habitual en las audiencias parlamentarias o del Congreso. Ponlo en la agenda. Invita a investigadores y antiguos empleados de laboratorios de IA dispuestos a hablar con franqueza. Crea el registro legislativo que requerirá la acción futura y que la historia consultará para saber si actuamos a tiempo.
Impulsar recursos adecuados para las agencias de monitoreo de IA, los auditores de seguridad independientes y el régimen de inspección internacional que requerirá un tratado efectivo. La Agencia Internacional de Energía Atómica se creó en tres años a partir del NPT. Su equivalente en IA es alcanzable en el mismo plazo si existe la voluntad política.
El riesgo existencial de la IA es un asunto civilizacional, no de izquierda-derecha. Construye coaliciones transversales a nivel doméstico. Extiende puentes hacia tus contrapartes en otras capitales. El tratado requerirá la participación de todas las principales naciones desarrolladoras de IA para ser efectivo; esas conversaciones deben comenzar ahora, a nivel político.
Las empresas de IA destinan recursos enormes al cabildeo y al acceso. Los marcos normativos que promueven están diseñados para preservar la libertad de acción comercial, no para proteger al público. Exige evidencia independiente. Sé escéptico de los estándares de seguridad redactados por las entidades que se supone deben restringir.
Artistas, periodistas, cineastas, músicos, escritores, celebridades y creadores con plataformas: ustedes son quienes hacen que las amenazas abstractas se sientan reales y urgentes. La opinión pública es a lo que responden los políticos. Ustedes moldean la opinión pública.
Las estadísticas y los documentos de política no conmueven a la gente. Las historias sí. Crea trabajo (en el medio que sea el tuyo) que haga sentir a tu audiencia lo que está en juego: lo que significaría equivocarse, para ellos, para las personas que aman, para todas las generaciones que siguen.
Entrevista a investigadores de IA, a exempleados de laboratorios dispuestos a hablar con franqueza y a defensores de políticas que trabajan en estos temas. Tu alcance puede dar a su mensaje una escala que los artículos académicos y los comunicados de prensa no logran por sí solos. Una entrevista puede hacer más que cien informes de política.
Si tienes una plataforma (lectores, seguidores, audiencia), úsala para decir sin rodeos que este es el asunto más importante de tu vida. Sin suavizarlo para que sea más digerible. Sin atenuarlo por razones comerciales. Sin rodeos. Las audiencias respetan la franqueza de quienes tienen algo que perder al ser directos.
Rechaza colaboraciones, avales y contenido patrocinado que beneficien a laboratorios de IA de frontera sin compromisos vinculantes de seguridad. Si un laboratorio te ofrece un trato, rechazarlo públicamente envía un mensaje que no pueden comprar. Necesitan tu audiencia y tu credibilidad. Usa ese apalancamiento de forma explícita.
La ciencia ficción ha hecho más por moldear la conciencia pública sobre la tecnología que cualquier documento de política en la historia. El movimiento climático construyó su caso cultural a través del arte antes de hacerlo a través de la ley. Si creas cosas (escribes, diriges, compones, ilustras), haz la obra que haga que la gente reflexione sobre lo que estamos construyendo.
El Nakada Foundation está construyendo una campaña mediática para cambiar la opinión pública sobre la seguridad internacional de la IA. Queremos trabajar con creadores que entiendan su plataforma como una forma de poder político. Ponte en contacto.
Los jóvenes construyeron cada movimiento social importante del siglo veinte. Este también te necesita a ti, no como espectadores sino como organizadores y tomadores de decisiones cuyos valores y redes se están formando ahora mismo.
Crea o únete a una organización estudiantil de seguridad de la IA. Presiona a tu universidad para que apoye la investigación vinculante de gobernanza de la ASI, invite a ponentes sobre el riesgo de superinteligencia y ponga la prevención en el plan de estudios. Los boicots individuales y el simbolismo de las dotaciones son canales secundarios opcionales. El trabajo que escala es la presión política organizada para lograr un tratado. Los movimientos estudiantiles ya movieron a las universidades antes. Pueden volver a moverlas hacia la ley, no hacia boicots de marca.
El derecho, las políticas públicas, la diplomacia, el periodismo y el gobierno son los campos que determinarán si se negocia y aplica un tratado. El movimiento de seguridad de la IA necesita desesperadamente gente en estas profesiones que entienda las implicaciones técnicas. Tu carrera es una de las decisiones más importantes que tomarás. Haz que cuente.
Los laboratorios de IA de frontera reclutan de forma agresiva en las mejores universidades. Rechazar una oferta (y explicar públicamente por qué) tiene más peso que cualquier compromiso voluntario que asuma un laboratorio sobre seguridad. Tu decisión de ir a otro lado es una forma de discurso político que ellos no pueden contrarrestar.
Tus compañeros de clase son la generación que tomará decisiones importantes sobre políticas de IA dentro de diez o veinte años. Las conversaciones que tengan ahora moldean las intuiciones que llevarán después. No esperes a que esto se convierta en problema de otra persona antes de involucrarte.
Los jóvenes están sistemáticamente subrepresentados en el contacto político, y los funcionarios electos lo saben. Escriban, llamen y preséntense. Digan a sus representantes que la seguridad internacional de la IA es el tema definitorio de su generación, y pregunten qué legislación apoyan.
El Tratado de No Proliferación Nuclear, la Convención sobre Armas Químicas, el Protocolo de Montreal: cada uno ofrece lecciones sobre cómo podría ser un tratado de seguridad de la IA y cómo podría verificarse. Estudia la historia. Conviértete en una de las personas capacitadas para diseñar el siguiente.
Los políticos responden a los electores que hacen preguntas claras y se presentan. Las personas que plantean la seguridad de la IA con sus representantes, en audiencias y en conversaciones ordinarias son el electorado que hace posible todas las demás acciones en esta página. No apoyamos ni nos oponemos a candidatos o partidos.
Pregunta a tus representantes electos qué postura tienen sobre la legislación de licencias de computación y las negociaciones de un tratado internacional de seguridad de la IA. Si no conocen el tema, infórmales. Las preguntas claras y repetidas de los electores son la forma en que un expediente olvidado se convierte en uno real, y casi nadie lo está preguntando todavía.
Las llamadas telefónicas, los correos electrónicos y las visitas presenciales de electores influyen en los funcionarios electos de formas que las peticiones en línea no logran. Sé específico: pídeles que apoyen la legislación de licencias de cómputo y las negociaciones formales de tratados internacionales. Escribe hoy, no cuando se sienta más urgente, porque entonces puede ser demasiado tarde.
Preséntate en persona. Pregunta a tus representantes electos si apoyan un tratado internacional de seguridad de la IA. La pregunta en sí es un acto de educación política, para el funcionario y para todos los demás en la sala que la oyen formular y responder.
Las mayorías políticas se construyen a través de redes sociales, no de anuncios. Habla con tu familia, tus colegas, tus vecinos. Las conversaciones que tengas este año moldean lo que los políticos se sienten seguros de decir el año siguiente, y qué leyes se sienten capaces de aprobar el año posterior.
Si esto te pareció importante, lo más valioso que puedes hacer ahora es ampliar el círculo de personas que apoyan esta causa. Envíalo a alguien que aún no haya reflexionado sobre estas preguntas. Así crecen los movimientos: una conversación a la vez.
Enviamos informes cuando hay desarrollos en la política internacional de IA que requieren tu atención, y cuando hay acciones específicas que puedes tomar.