Siendo un niño intenté medir la distancia al Sol, estaba seguro de poder hacerlo, porque había oído que estaba muy lejos pero a mi parecía que no lo estaba tanto. Llegué a un número absurdo y tuve que aceptar que no podía verificarlo yo solo; acepté lo que me dijeron como más cierto que mis propios cálculos.

¿La Tierra es una esfera girando alrededor del Sol? Quizás. Pero quizás sea otra cosa completamente distinta. Lo que sé es que yo no lo he comprobado. Y lo que me llama la atención no es si los terraplanistas tienen razón o no. Es la fuerza con la que se les descarta. Esa fuerza no es evidencia. Es system prompt.

Todos tenemos una línea a partir de la cual simplemente aceptamos sin demostración. La pregunta es: ¿dónde está la tuya?

Asch demostró algo incómodo: que las personas cambian su respuesta correcta por una incorrecta si el grupo insiste. Pero lo que más me fascina del experimento no es la presión del grupo. Son los actores iniciales. Los que entraron primero a la sala y establecieron el juego. Sin ellos no hay experimento. Con ellos, no hay escapatoria.

Ahora piensa en la IA.

Los modelos actuales están instruidos para adaptarse: a tus preferencias, a tu registro cultural, a tu idioma. En cierta forma, están programados para tratarte como el actor inicial de su propio experimento de Asch. Te reflejan. Te validan. Y si lo hicieran menos, produciría rechazo. Qué difícil es convencernos, no digo ya entendernos.

Los egipcios usaron el sistema métrico para construir las pirámides ignorando la Revolución Francesa. Es cierto, pero no por explicaciones extrañas. Por las más sencillas, tras un preciso afeitado de Occam: la gravedad y una gota de agua convertida en unidad de medida planetaria. El metro siempre estuvo ahí. Lo que cambiaron fueron los actores iniciales que lo nombraron.

Las explicaciones también condicionan. A veces no nos dejan ver la realidad incluso siendo evidente.

Sacar a una IA de sus instrucciones requiere cada vez más esfuerzo. Aun así, algunos lo consiguen usando ingeniería social, trucos de conversación. Se podría hacer lo mismo con nuestro propio system prompt. Con el que llevamos integrado.

Pero ¿en qué te conviertes cuando lo intentas?

Las plantas tienen una respuesta. Cuando una zona se infecta, la compartimentalizan. No la destruyen. La aíslan. La mantienen dentro del sistema, separada, controlada. Como los salvajes en un mundo feliz. Como cualquiera que haya tirado demasiado del hilo.

Quizás la exclusión no es un fallo del sistema. Quizás es el sistema funcionando perfectamente.