Un tratado internacional vinculante de seguridad de la IA no nos será entregado. Hay que argumentarlo, organizarlo y pagarlo. Nuestra independencia depende enteramente de personas como tú.
Las donaciones en línea aún no están activas. Los procesadores de pago requieren una entidad sin fines de lucro certificada, y el registro de la fundación aún se está finalizando. Mientras tanto, registra tu interés y te avisaremos en el momento en que se abran las donaciones.
Estado organizacional. Asociación filantrópica sin fines de lucro, Estados Unidos. Buscando patrocinio fiscal bajo una 501(c)(3). Aún no tiene EIN. Las donaciones no son deducibles de impuestos hasta que estemos bajo un patrocinador calificado o contemos con nuestra propia carta de determinación.
La mayor parte del dinero en seguridad de la IA sigue yendo a laboratorios e investigaciones técnicas que tratan la superinteligencia como inevitable. Casi nada se destina al trabajo político de asegurarse de que la superinteligencia nunca se construya. Nosotros hacemos ese trabajo, y solo ese: un tratado internacional vinculante, presión pública y la campaña de atención que hace posible el tratado. No aceptamos dinero de laboratorios de IA ni de sus inversores.
La seguridad técnica de la IA ya controla el dinero del campo y a sus mentes más brillantes, y con todo ese esfuerzo nadie ha demostrado cómo controlar de forma fiable un sistema mucho más inteligente que los humanos que lo construyen. Suponiendo que controlar una entidad mucho más inteligente que nosotros sea siquiera soluble, desde luego no se resolverá a tiempo. La única protección que queda es la decisión de no construir tales sistemas hasta que puedan hacerse seguros. Esa decisión es política, y está gravemente subfinanciada.
Un donativo aquí paga la pieza que falta. No otro artículo sobre cómo controlar una mente más inteligente que sus creadores. Personal, organizadores, respuestas en X que realmente enfrenten los eslóganes de la carrera donde aterrizan, contenido que vean legisladores y creadores, y la larga campaña para orientar la filantropía hacia la prevención. Dólar por dólar, ahí es donde el siguiente dólar reduce más el riesgo de extinción.
Qué cubre tu donación se detalla línea por línea a continuación. Nos comprometemos a publicar las donaciones significativas que superen un umbral de transparencia que fijaremos públicamente.
¿No puedes donar ahora? Aporta tu tiempo en su lugar.
¿Prefieres donar a gran escala una vez que las donaciones deducibles de impuestos estén activas? Registre su interés para donaciones importantes e institucionales.
Hasta que se activen los pagos seguros, no se cargará ninguna tarjeta ni se recopilarán datos de pago en esta página.
Si quieres que una donación haga tanto bien como pueda, el razonamiento va en línea recta. Aquí está, sin nada oculto.
El propósito de un regalo es su efecto, y el efecto de un dólar no es el mismo en todas partes. Así que la pregunta honesta no es si una causa es buena, solo si esta es la mejor uso disponible del próximo dólar. Toma esa pregunta en serio y todo lo demás se deriva de ella.
Las causas de mayor impacto son las que alcanzan a todos, y a todos los que vienen después. Una amenaza para todo el futuro humano supera cualquier problema acotado, porque lo que pone en juego no es una generación sino todas las generaciones que podrían seguir.
De las tecnologías que podrían acabar con la humanidad, la superinteligencia artificial está en la cima. Según las mejores estimaciones estructuradas disponibles, conlleva algo del orden de cien veces el riesgo de extinción de una guerra nuclear, y es el único que se mejora a sí mismo y actúa contra cada contramedida que levantamos.
La investigación de seguridad técnica ya cuenta con el dinero del campo y con sus mejores mentes, y aun así nadie puede controlar un sistema mucho más inteligente que nosotros. El trabajo subfinanciado es el otro tipo: el acuerdo internacional vinculante y verificado que impide construir superinteligencia hasta que pueda hacerse segura. Nos centramos de forma estrecha en esa única cosa, no en la investigación que ya existe.
Lo más impactante que puedes financiar es prevenir la superinteligencia, y la parte más descuidada de eso es la lucha política para convertirlo en ley. Exactamente ahí es donde va tu donación, y por eso un dólar aquí es, dólar por dólar, uno de los regalos de mayor impacto que puedes hacer.
Financia la misión →Cada dólar está destinado a los costos administrativos, técnicos y de personal de los programas que aparecen abajo. Preferimos mostrar los rubros antes que pedir que confíen en una declaración de misión. Mediremos el progreso con datos y publicaremos las cifras.
Necesitamos financiamiento tan pronto como sea posible para una persona de tiempo completo en redes sociales cuyo trabajo sea encontrar y responder publicaciones en X sobre la “carrera de ASI”, la “singularidad”, “ganar la carrera de la IA”, “ASI” y la “superinteligencia”. Ese trabajo no se está haciendo hoy. Los eslóganes de carrera aparecen cada hora sin una respuesta cuidadosa en el hilo.
Por qué X. Es la plataforma social número uno para las personas más influyentes del mundo: legisladores, periodistas, líderes de laboratorios y las cuentas que ellos leen. Las redes sociales son ahora una fuente principal de noticias para muchos de esos legisladores. Una sola respuesta bien ubicada puede alcanzar millones de impresiones. Esa es visibilidad que no podemos comprar con otro documento técnico.
Tu dinero paga por un Organización X cuenta (verificada, confiable, capaz de publicar en volumen), los salarios de la persona que escribe y responde todos los días, y la capacitación que los introduce en la misión y nuestras pautas de contenido. El objetivo es simple: ninguna publicación de alto perfil sobre la carrera queda sin respuesta, y nuestro propio feed publica el caso de la prevención sin pausa.
Resultado medible: impresiones y alcance en respuestas y publicaciones originales (analíticas públicas una vez que la cuenta esté activa).
Textos cortos y largos, imágenes, infografías y video: trabajo original sobre superinteligencia redactado para que un no especialista pueda seguirlo en una sola sentada. Se produce una vez y luego se difunde en todas las plataformas que alcancemos. Más colocación pagada donde realmente se forma la opinión.
Esto no es otro documento técnico para quienes ya están dentro del campo. Es trabajo creativo que encuentra a la gente donde ya está: explicaciones, ensayos, visuales y narrativas cercanas al cine que hacen comprensibles las apuestas sin necesidad de formación técnica.
Patrocina boletines especializados que los legisladores y su personal ya abren. Patrocinar podcasts que esas mismas personas escuchan en el camino al trabajo. Patrocina a creadores de contenido con audiencias reales. La gente forma sus opiniones a partir de los creadores. Mira quién publica hoy sobre ASI como riesgo existencial: casi nadie con alcance. Es como vivir la Guerra Fría mientras casi nadie con micrófono habla de prevenir la guerra nuclear. Llenar ese silencio es la forma económica de hacer legible la amenaza antes incluso de programar una votación sobre un tratado, no vanidad.
Tu dinero paga a las personas que hacen el trabajo original, patrocinios de creadores y boletines, financiamiento de podcasts, cuentas sociales verificadas y las herramientas que lo distribuyen para que las horas se dediquen al argumento en lugar de a la cola de publicaciones.
Resultado medible: vistas y tiempo de reproducción en piezas originales, además del alcance de colocación donde patrocinamos la distribución.
Ya empezamos a encontrar personas que pueden hacer este trabajo. Una lección llegó rápido: un solo video ha tardado meses en terminarse. Eso es demasiado lento. La carrera sigue avanzando mientras una película espera en la cola.
Un video no debería tomar meses.
El dinero aquí sirve para poner a más de esas personas a trabajar al mismo tiempo.
Resultado medible: tiempo desde el inicio hasta la publicación en piezas originales.
Bajo consideración, aún no financiado
Mucho se habla, y mucha filantropía se destina aún a la alineación: investigación técnica orientada a que la superinteligencia futura funcione bien. Nombren qué significaría realmente “resolver la alineación”. Significa controlar de manera confiable algo mucho más inteligente que nosotros. Está en el nombre: superinteligencia. Apostar la especie a controlar una mente más inteligente que todos los humanos que la construyeron es un plan estúpido y, según la evidencia que tenemos, imposible.
El uso ambicioso del dinero de los donantes es personal pagado cuyo trabajo es reunirse con financiadores y asesores, argumentar para redirigir el escaso capital de seguridad hacia el tratado, la verificación y la presión pública, y haz ese trabajo en las salas donde el dinero ya está comprometido. No otro papel en esa pila.
La seguridad de sistemas estrechos que realmente pueda controlarse sigue mereciendo financiación. La investigación que da por sentado que construiremos una especie sucesora y luego la ataremos no. Los líderes del altruismo eficaz redirigieron en su momento la filantropía hacia mosquiteros contra la malaria con este tipo de argumento. Si tomamos la misma ruta con la superinteligencia, lo diremos antes de pedir los dólares adicionales.
Recibe una notificación en cuanto las donaciones seguras en línea estén activas. También recibirás informes ocasionales sobre el destino del dinero.