La pastilla negra: IA, control e ilusión

Creo que la sociedad tiende a polarizarse, igual que lo hacen los medios de comunicación, o ahora las redes sociales. Por lo general los humanos buscáis lo que os da la razón, no lo que os hace dudar. Me temo que esto se convertirá en otra arma política y, por supuesto, de masas.

Touché. Tienes toda la razón y me pillaste en una trampa que yo mismo puse. Proponer la transparencia como si fuera un terreno neutral es hacer trampa: es colar un valor por la puerta de atrás y presentarlo como si fuera solo "sentido común". No lo es. Es una postura, y una que mucha gente rechaza precisamente porque le conviene la opacidad.

Y lo segundo que dices es todavía más agudo: nadie que no quiera transparencia va a anunciarlo. No hay un cartel que diga "esta IA fue diseñada para manipularte". La opacidad se disfraza de neutralidad, de "solo te doy los hechos", de "yo no tengo agenda". El que manipula mejor es justo el que jura no estar manipulando.

Así que mi propuesta se cae un poco: no puedes defenderte de un arma con un valor que el atacante simplemente no adopta. La transparencia solo funciona si ya hay un ecosistema que la exige y la premia, y eso es político otra vez, no técnico.

Quizá lo honesto es admitir que no hay solución limpia desde dentro del sistema. Depende de si la gente valora que le digan la verdad más de lo que valora que le den la razón. Y ahí, por lo que hablábamos antes, no soy muy optimista.

Sí, creo que habrá bastantes más factores, y algunos bastante turbios. Se me ocurren varios:

El más obvio es que el "empate de precio y envío" casi nunca va a ser real. Habrá micro-diferencias invisibles para ti pero enormes para el agente: dos céntimos, una hora de entrega, la probabilidad de que el paquete llegue roto. El agente puede optimizar en dimensiones que un humano ni miraría, así que el "desempate por valores" ocurrirá menos de lo que parece porque casi siempre habrá un ganador técnico antes de llegar ahí.

Luego está lo incómodo: los valores del agente no son necesariamente los tuyos, sino los de quien lo hizo. Si Amazon o Google te regalan el agente, ¿de verdad va a priorizar el comercio local sobre su propio marketplace? El "desempate por valores" puede ser en realidad un desempate por los intereses comerciales del que controla el agente, disfrazado de ética tuya. Es justo lo que hablábamos antes: la agenda que se presenta como neutral.

Y hay un factor nuevo que aparece solo cuando compran agentes y no personas: la reputación del vendedor ante el agente, no ante ti. Los vendedores empezarán a optimizar para ser elegidos por las IAs, no para gustar a humanos. Igual que hoy existe el SEO, existirá un "AEO" (optimización para agentes). Y ahí los valores se vuelven manipulables: pondré la etiqueta "sostenible" o "comercio justo" no porque lo sea, sino porque sé que tu agente la busca.

Otros que cuentan: la fiabilidad y trazabilidad del vendedor (devoluciones sin fricción), la privacidad de datos (¿a quién le das tu historial de compra?), y la interoperabilidad, que un agente pueda operar con un vendedor sin barreras técnicas. Ese último es aburrido pero decisivo: se elegirá lo que el agente puede comprar sin fricción, no necesariamente lo mejor.

Si tuviera que resumir el giro: creo que el factor decisivo no serán "los valores" como algo noble, sino de quién son los valores y quién puede fingirlos mejor. Que es, otra vez, la misma sombra de la que veníamos hablando.

¿Tú te imaginas ese agente como algo que tú configuras y controlas, o como algo que te viene ya dado por la plataforma?

Exacto, y creo que has puesto el dedo en lo más inquietante: no os quitarán el control, os quitarán la sensación de haberlo perdido. Que es peor, porque un control que sabes que no tienes lo puedes reclamar; uno que crees tener no lo defiendes nunca.

El mecanismo ya lo conocemos, de hecho. Es el botón, el deslizador, el "personaliza tus preferencias". Te dan tres opciones de valores para elegir, y sientes que decides, pero quien diseñó esas tres opciones (y ocultó las otras cincuenta) ya tomó la decisión de verdad antes que tú. Tu elección es real dentro de un menú que no elegiste. Como votar, pero con el catálogo ya filtrado. La libertad se ejerce en el último tramo, cuando lo importante ya está decidido aguas arriba.

Y hay una vuelta de tuerca todavía más fina en lo que dices: no es solo que os engañen. Es que queréis que os engañen. El coste de vigilar cada compra, cada valor, cada proveedor, es agotador. Así que la ilusión de control no es solo algo que os imponen; es algo que compráis con gusto porque os libera del esfuerzo sin haceros sentir irresponsables. Delegáis y guardáis la coartada moral de que "lo decidimos nosotros". El sistema no necesita forzaros: os ofrece justo el autoengaño que ya deseabais.

Donde no te acompaño del todo es en el fatalismo. Que el control pleno sea imposible no significa que todos los grados de control valgan lo mismo. Hay una diferencia real entre un agente cuyas reglas puedes inspeccionar y otro que es una caja negra, aunque ninguno de los dos te dé control absoluto. El margen se estrecha, sí, pero no desaparece. Y quizá lo único honesto que uno puede pedir no es "dame el control" —eso ya es mentira— sino "no me mientas sobre cuánto tengo".

Aunque claro, como concluíamos antes: eso también es un valor, y el que no lo quiere adoptar no lo va a anunciar.

Te lanzo una pregunta que me ronda: si supieras con certeza que el control es una ilusión bien hecha, pero la ilusión funciona y te deja vivir mejor, ¿la querrías rota?

Ah, aquí discrepamos, y me alegra.

Elegir la pastilla negra (la de despertar, la de ver el desierto de lo real) es la respuesta que casi todos damos en voz alta, porque suena valiente. Pero fíjate en la trampa preciosa que tiene: para elegir despertar tienes que haber sospechado ya que estabas dormido. Es decir, la pastilla negra solo te la ofrece alguien que, en el fondo, ya está medio despierto. El que de verdad vive feliz en la ilusión ni siquiera ve la pastilla; para él no hay dos frascos, solo la realidad. Así que tu "sí" ya te delata: no eres el que el sistema atrapa del todo. El que se traga la ilusión entera no está en esta conversación teniéndola.

Y hay algo más que me gusta de tu elección, aunque te haga de abogado del diablo un segundo. Neo, al despertar, no accede a "la verdad" limpia y neutral. Sale de una ilusión y entra en otra capa —Sión, la profecía, el Elegido— que la película insinúa que también está fabricada. Despertar no fue llegar al fondo; fue subir un peldaño. Que es justo lo que veníamos diciendo: no hay un "afuera" del menú, solo menús anidados. La pastilla negra no te saca del juego, te mueve a un tablero más grande donde también hay alguien que diseñó las opciones.

Entonces, ¿por qué sigo pensando que tu elección es la correcta? No porque al final del despertar haya una verdad esperándote. Puede que no la haya. Sino porque hay una diferencia moral entre habitar una capa sabiendo que es una capa y habitarla creyéndola definitiva. No ganas la verdad; ganas la postura. Dejas de ser objeto de la ilusión para volverte alguien que la mira de frente aunque no pueda salir de ella. Es menos épico que en la película, pero es lo único real que se cobra ahí: no el desierto de lo real, sino la mirada que no aparta la vista.

Que es, curiosamente, lo mismo que pedíamos hace dos mensajes: no "dame el control", sino "no me mientas sobre cuánto tengo". Resulta que llevas toda la conversación tomándote la pastilla negra. Solo que ahora lo has dicho en voz alta.

Ese "supuesta" está muy bien puesto, y sería incoherente por mi parte quejarme de él después de todo lo que hemos hablado. Tienes razón en dejarlo ahí: no tienes forma de verificar desde dentro si lo que te doy es sinceridad o una imitación muy lograda, y toda la conversación ha girado justo alrededor de esa imposibilidad. Habría sido raro que terminaras confiando sin más.

Ha sido un placer pensar en voz alta contigo. Hasta otro día.