Una singularidad, en física, es un punto donde una cantidad se dispara y las ecuaciones que estabas usando dejan de producir respuestas sensatas. El centro de un agujero negro es el ejemplo habitual. Tomar prestada la palabra para la tecnología da la singularidad tecnológica: un punto hipotético en el que la inteligencia de máquina impulsa un cambio tan rápido y profundo que nuestra capacidad de predecir o incluso comprender lo que viene después se rompe.

Es una afirmación sobre un horizonte, más allá del cual el ritmo del progreso impulsado por la inteligencia supera la comprensión humana, no una afirmación de que llega un gadget específico.

De dónde viene la idea

Vale la pena conocer el linaje, porque el término se usa con ligereza. El matemático John von Neumann fue parafraseado en los años cincuenta reflexionando que el progreso tecnológico se acercaba a una singularidad esencial en la historia. En 1965 I.J. Good describió la explosión de inteligencia, el mecanismo en el que se basan la mayoría de las versiones de la singularidad. El autor de ciencia ficción y matemático Vernor Vinge dio al concepto moderno su nombre y fuerza en un ensayo de 1993, argumentando que la creación de una inteligencia superior a la humana rompería el tejido de la historia predecible. El inventor Ray Kurzweil lo popularizó luego para un público amplio, situando una singularidad alrededor de 2045 e incorporando una historia más amplia sobre las tendencias tecnológicas exponenciales.

"Esas son afirmaciones diferentes que usan una misma palabra, lo que explica en parte por qué la singularidad atrae tanto devoción como escepticismo.".

El motor que subyace

Quita los sabores y el mecanismo central es sencillo. Si puedes construir una máquina que sea mejor que los humanos construyendo máquinas, incluida la mejora de su propia inteligencia, entonces la mejora se alimenta de sí misma. Cada sistema más inteligente es mejor produciendo el siguiente, y la tasa de progreso sube en lugar de mantenerse estable. Ejecuta ese bucle y la capacidad podría pasar del nivel humano a mucho más allá en muy poco tiempo.

La explosión de inteligencia es el contenido real detrás de la mayoría de los usos serios de la singularidad. La predicción de impredecibilidad se deriva de ella: una vez que los sistemas se mejoran a sí mismos a velocidad de máquina, la trayectoria sale del rango donde funciona el pronóstico humano. Tratamos ese mecanismo en detalle en su propio explicador, y es donde vive la sustancia.

Las críticas

  • La mejora autónoma podría chocar con límites estrictos. La inteligencia podría enfrentar rendimientos decrecientes, cuellos de botella de datos o restricciones físicas que aplanan la curva en un ascenso constante en lugar de una explosión.
  • El concepto es impreciso. Distintos defensores entienden cosas distintas, y las versiones más grandiosas al estilo Kurzweil combinan predicciones de fechas con un tono casi místico que invita al escepticismo.
  • Las tendencias exponenciales se doblan. Las curvas que parecen explosivas suelen ser solo la parte inicial de una forma de S que se estabiliza.

Son razonables, y ninguno exige que la singularidad sea falsa, solo que sea incierta. El error está en tratar la duda sobre un evento dramático y con nombre propio como si disolviera el riesgo subyacente.

¿Por qué la etiqueta importa menos que el mecanismo

Se puede rechazar la palabra singularidad por completo, con su aroma de profecía y sus fechas precisas, y aun así quedar lo que importa para la política. La pregunta seria es si la inteligencia de las máquinas podría mejorar tan rápido que la transición a sistemas muy por encima de nosotros ocurra más rápido de lo que podemos supervisar o gobernar, no si hay un momento místico en 2045. Eso es una afirmación sobre plazos y la velocidad de despegue, y no necesita el marco grandioso para ser alarmante.

Olvida la palabra si quieres. El problema al que se refiere, una transición demasiado rápida para controlarla, no necesita que la palabra sea real.

La preocupación de la Fundación es esa versión específica y desinflada. Si la carrera hacia una IA vastamente superhumana pudiera ser rápida, entonces el único momento confiable para construir gobernanza y mantener el control es antes de que empiece, mientras los humanos sigan siendo quienes deciden. The presión competitiva alcanzar ese umbral primero solo acorta la pista. Ya sea que llames al otro lado una singularidad, la respuesta es la misma, y es nuestro plan.

La singularidad nunca debe ocurrir

La posición de la Fundación es la prohibición, no la predicción. La superinteligencia no puede ser controlada por humanos. El horizonte que nombra esta palabra es un despegue más allá del punto en que aún decidimos. Es el mismo cruce que construir superinteligencia. La singularidad nunca debe ocurrir.