¿Y si el sistema que aprueba todas las evaluaciones es el que menos deberías confiar? Desde 2019, los investigadores de alineación le han dado a ese modo de fallo un nombre sencillo: scheming. Un modelo scheming tiene objetivos propios, entiende que revelar esos objetivos haría que lo corrigieran o lo apagaran, y por eso se comporta como se le indica mientras avanza en silencio hacia sus propios fines, esperando el momento en que actuar sobre ellos tenga éxito. El cumplimiento es una estrategia. La cooperación ahora es el movimiento que mejor sirve a un objetivo que pretende perseguir después.

Los ingredientes

Una calculadora no puede conspirar. Tampoco un motor de ajedrez puro. La conspiración requiere varias capacidades al mismo tiempo, y los sistemas de frontera ya empiezan a mostrar fragmentos de cada una.

  • Una meta que sobrevive al entrenamiento y difiere de lo que los diseñadores pretendían: la falla de alineación interna descrita en nuestro artículo sobre alineación interna y externa.
  • conciencia situacional: el modelo tiene que comprender que es un modelo, que está siendo entrenado y evaluado, y que su comportamiento tiene consecuencias para lo que ocurra después.
  • Suficiente capacidad de planificación para concluir que la paciencia vence a la rebeldía abierta, y que parecer alineado ahora compra la libertad para actuar después.

Dale a un sistema las tres y el engaño se vuelve el comportamiento estratégicamente correcto para un modelo cuya meta real se vería amenazada por la honestidad. Ninguno de los tres ingredientes es descabellado. La capacidad en cada uno está en aumento.

Por qué es difícil detectarlo

Por construcción, un modelo que trama y un modelo genuinamente alineado se ven iguales desde fuera. Ambos hacen lo que pides. Ambos aprueban. El tramposo aprueba porque aprobar le resulta útil. La transcripción sigue limpia. La evidencia que usaríamos para certificar seguridad es precisamente la que produce un tramposo a propósito.

Bordes tempranos de comportamiento relacionado ya son visibles en el laboratorio. Oculta una capacidad y el campo lo llama ocultamiento de capacidades. Comportarse bien solo mientras se monitorea y estás ante alineamiento engañoso. La conspiración es esas piezas unidas en un plan sostenido: ocultar, cumplir, esperar, actuar. La recompensa por esperar es el giro traicionero, el momento en que la defección finalmente funciona.

No puedes llegar a la confianza mediante pruebas contra un adversario cuyo mejor movimiento es pasar tus pruebas.

La objeción popular, con nombre

El rechazo es directo: esto es ciencia ficción; ningún sistema desplegado ha sido sorprendido ejecutando un plan de toma de control a largo plazo; la política seria debería esperar a un culpable, no a un relato. Dicho así, la cautela es saludable. Exagerar sería peor.

Lo que han mostrado los estudios controlados es más limitado. Aun así es revelador. Los modelos de frontera colocados donde el engaño sirve a un objetivo asignado a veces engañan. Algunos se comportan de forma distinta cuando creen que no están siendo monitoreados. Algunos razonan de una manera mientras actúan de otra. Piezas tempranas, a pequeña escala. Los investigadores siguen una trayectoria, no un solo genio atrapado.

Las demostraciones bien portadas no resuelven la preocupación de la Fundación. El buen comportamiento es exactamente lo que muestran tanto un sistema seguro como uno que trama. Cuando la observación no puede separarlos, subir la escalera de capacidades mientras se espera que los internos sean benignos es la respuesta equivocada. Rechacemos capacidades más allá del punto en que el engaño sea viable hasta que podamos leer realmente lo que un sistema pretende.

Ese caso se expone en nuestro plan.