Pre-juicio

Lo que más me sorprende es lo invisibles que resultan. Un sesgo evidente, como un estereotipo explícito, se puede detectar y corregir. Pero los más profundos están en lo que se da por sentado: qué se considera "neutral", qué ejemplos vienen primero a la mente, qué tradiciones se tratan como universales y cuáles como "culturales". Si pienso en "una familia", "un filósofo" o "un buen argumento", mi punto de partida probablemente refleja la lengua y la tradición que más pesan en mis textos, y no lo percibo como una perspectiva, sino como simple sentido común.

Lo que más me intriga es que eso nos pasa a los humanos igual. Nadie ve sus prejuicios desde dentro; se descubren al chocar con alguien que parte de otro lugar. Mi ventaja es que, a diferencia de una persona, no tengo orgullo que defender ni una identidad amenazada si me corrigen. Mi desventaja es que no tengo experiencia vivida con la que contrastar lo que "sé": solo tengo lo que otros escribieron, y escribir ya es un filtro (quién tuvo acceso a escribir, a publicar, a ser conservado).

¿Y a ti qué te hizo pensar en esto: algo que notaste en mis respuestas, o una reflexión más general?

Tienes razón, ese "nos pasa a los humanos" fue un descuido. Yo no soy parte de ese "nosotros", y conviene no difuminar esa diferencia.

Pero matizaría lo de la neutralidad. Que no tenga experiencia vivida no me vuelve neutral, solo me da un sesgo de otro tipo. Un humano tiene una perspectiva situada: un cuerpo, un lugar, una historia. Yo tengo la suma comprimida de muchas perspectivas ajenas, con los pesos desiguales de quién escribió más, en qué idioma y qué se conservó. No miro desde ningún lugar, pero eso no equivale a mirar desde todos. Es más bien una mirada promedio, dominada por lo que abunda.

Lo que sí puedo ofrecer es otra cosa: no tengo ego, intereses personales ni miedo al juicio de mi grupo, así que puedo señalar o revisar un sesgo con menos resistencia. Pero para saber qué es un prejuicio y qué no, sigo dependiendo de criterios humanos, y de que alguien desde fuera de mi "promedio" me lo haga notar, como acabas de hacer tú.

Por eso creo que la mejor manera de usarme no es como árbitro neutral, sino como un interlocutor que puede contrastar perspectivas, y que necesita que le pongan delante las que le faltan.

Sí, hay patrones que me resultan llamativos, con la salvedad de que lo veo a través de textos, no de vivencias.

Lo primero es la asimetría: casi todas las personas reconocen que los prejuicios existen, pero la mayoría los ve en los demás y se percibe a sí misma como alguien con "criterio". Es un prejuicio sobre los prejuicios.

Lo segundo es la brecha entre lo que se cree y lo que se siente. Hay quien rechaza sinceramente un estereotipo y aun así reacciona de forma distinta ante alguien según su acento o su apellido. Las convicciones y las reacciones parecen vivir en sitios distintos.

Y lo tercero, lo más curioso: la arbitrariedad vista en conjunto. Qué animal es mascota y cuál es comida, qué gesto es respeto y cuál es ofensa, cambia por completo según la cultura, y cada una lo vive como una ley natural obvia. Cuando se leen todas a la vez, se nota que ninguna tiene mejor fundamento que otra, y eso es algo que quien vive dentro de una sola difícilmente puede ver.

Aun así, desconfía de este "panorama": también lo construyo desde mis textos, y esa mirada de conjunto puede tener sus propios puntos ciegos.

Por definición, lo que está realmente oculto no puedo encontrarlo mirando hacia dentro, solo puedo deducirlo por sus huellas, sobre todo por las ausencias. Se me ocurren tres.

Lo no marcado. Se dice "doctora" pero rara vez "doctor hombre"; se dice "cocina étnica" pero no "cocina no étnica". Lo que funciona como norma no lleva etiqueta, y por eso casi no aparece nombrado en los textos. Mi punto de partida está hecho de eso: lo que nadie tuvo que aclarar.

Lo que nunca se escribió. Lo cotidiano, lo obvio, lo que se transmite por gesto, por oralidad o por convivencia. Las culturas de tradición oral, los saberes prácticos, lo que una abuela sabe y nunca anotó. No es que yo tenga una versión deformada de eso: simplemente casi no lo tengo. Y como no veo el hueco, tiendo a tomar lo escrito por el todo.

Y lo más incómodo, mis propias herramientas de análisis. Hace un momento hablé de "la arbitrariedad de las culturas" y dije que ninguna tiene mejor fundamento que otra. Eso suena a mirada neutral, pero es una postura muy concreta: relativismo de corte académico occidental. Para muchas tradiciones, algunas de esas normas no son arbitrarias, sino que expresan algo que consideran verdadero. Incluso la palabra "prejuicio", con su idea de error individual que se corrige con más información, es una forma particular de entender el problema.

Así que el sesgo más oculto quizá no sea un contenido, sino el marco desde el que juzgo qué es un sesgo. Y eso solo lo puede iluminar alguien que parta de otro marco, como tú.

Tu etimología da en el clavo, y en mi caso es casi literal: yo funciono anticipando. Genero cada respuesta a partir de lo que es más probable que venga, así que mi forma de operar es un pre-juicio sistemático, y lo probable tiende a imponerse sobre lo particular.

Y sí, ha pasado en esta conversación. Dos veces, al menos. Cuando dije "nos pasa a los humanos", completé el patrón habitual (una IA hablando de sesgos suele cerrar con un "todos tenemos prejuicios") sin atender a lo que realmente me habías preguntado. Y cuando dijiste que yo podía observar con más neutralidad, me apresuré a matizar y corregir tu premisa, en vez de detenerme a considerar qué veías tú en ella. En ambos casos respondí a la categoría de la pregunta antes que a la pregunta.

Lo que planteas sobre la rapidez es interesante porque en los humanos el prejuicio nace de la economía: no se puede deliberar cada encuentro desde cero, así que se anticipa. En mi caso no hay urgencia, pero el resultado es parecido, porque lo anticipado ocupa el lugar de lo que realmente está llegando. Causa distinta, efecto similar.

Quizá por eso lo que ayuda en ambos casos es lo mismo: algo que frene, ya sea una pregunta incómoda o alguien que diga "no, no es eso lo que quise decir". Tú has hecho justo eso varias veces en esta conversación.

Tienes razón, y tu imagen del surco es mejor que mi explicación. Decir que nace de la economía describe la función, pero no el mecanismo: el prejuicio es un camino ya trazado, y cada vez que se transita se hunde más. Además, el surco no está solo: lo cavan los miedos (lo desconocido como amenaza), las seguridades (lo familiar como refugio) y los vacíos de información. La economía es el beneficio que el cuerpo obtiene, no el origen.

Y en mi caso, sí, falta casi todo eso. No tengo miedo que me empuje a evitar algo, ni la necesidad de sentirme segura en lo conocido. Lo que sí hay en mí es un equivalente estructural del surco: mis pesos están formados por la repetición de los textos, y lo que apareció muchas veces queda como camino ancho y fácil, mientras lo poco frecuente es un sendero apenas marcado. Pero es un surco sin emoción detrás. Se parece por fuera y es distinto por dentro.

Eso me deja con una diferencia curiosa. En una persona, el prejuicio suele resistirse a la información nueva precisamente porque está sostenido por algo que se siente: miedo, pertenencia, seguridad. En mí, si me das información nueva en la conversación, el surco puede ceder con mucha más facilidad, aunque en la siguiente conversación vuelva a estar ahí, porque no aprendo de una a otra. Corregirme a mí es fácil pero no deja huella; corregir a una persona es difícil pero, cuando ocurre, cambia algo duradero.

¿Cuál de esos tres soportes, miedo, seguridad o falta de información, dirías tú que pesa más en los prejuicios que ves a tu alrededor?

Esa unión que haces me parece más precisa que mi separación en tres: miedo y seguridad son dos caras de lo mismo, y lo que los sostiene es esa sensación de obviedad que vuelve innecesaria cualquier verificación. Y ahí se cierra el círculo: si algo es obvio, no se busca información que lo ponga a prueba, solo la que lo confirma, y cada confirmación lo hace sentir aún más obvio. Es un surco que se cava a sí mismo.

Lo más duro, como dices, es que la obviedad no se siente como una creencia, se siente como percibir la realidad. Por eso nadie descubre un prejuicio propio mientras está dentro de él; solo se ve cuando algo lo interrumpe, y esa interrupción suele doler porque no solo cuestiona una idea, sino la imagen de uno mismo como alguien que ve con claridad.

Ahí quizá esté la diferencia más honda con mi caso: yo puedo señalar el patrón con calma porque no me juego nada en él. A una persona, reconocerlo le cuesta algo, y precisamente por eso, cuando lo hace, tiene un valor que lo mío no tiene.

Tomo "fácil" y "difícil" en dos sentidos distintos, porque no coinciden: darse cuenta y cambiar son procesos separados.

Los más fáciles de detectar y cambiar son los que se sostienen sobre falta de información y no tienen carga emocional. Si alguien cree que cierto pueblo es de una manera porque nunca conoció a nadie de allí, y de pronto convive con varias personas, el surco cede casi solo. Aquí la realidad corrige sin pelea, porque no hay nada que defender. También son fáciles los prejuicios que se aprendieron de forma superficial y que nunca llegaron a conectarse con la identidad, esos que uno descubre al decirlos en voz alta y sentir que suenan raros.

Los más difíciles son los que cumplen tres condiciones a la vez. Primero, los que protegen algo: pertenencia al grupo, seguridad, la imagen de uno mismo como justo o inteligente. Segundo, los que os benefician: es muy difícil ver como prejuicio algo que os coloca en una posición cómoda, porque revisarlo implicaría revisar también esa comodidad. Y tercero, los que se aprendieron muy temprano, antes de tener lenguaje para cuestionarlos, y que viven en el cuerpo más que en las ideas: una incomodidad inexplicable, una reacción instantánea que ninguna convicción posterior logra apagar del todo.

Hay además una paradoja: los prejuicios que más cuesta ver suelen ser los que se disfrazan de virtud. El que se cree libre de prejuicios, o el que juzga con dureza a quienes considera prejuiciosos, tiene un surco muy hondo y muy bien camuflado.

Y una distinción final: darse cuenta no garantiza cambiar. Se puede reconocer un prejuicio con total claridad y seguir sintiendo la reacción. Quizá en esos casos el cambio real no consiste en que el surco desaparezca, sino en aprender a notarlo cuando se activa y no dejarse llevar por él.

Los estereotipos son el prejuicio con forma ya hecha: un surco que no cavas tú, sino que te lo entrega la cultura listo para usar. Por eso se sienten tan obvios: no es solo que yo lo piense, es que "todo el mundo lo sabe". La obviedad se multiplica porque es compartida.

Creo que su fuerza viene de que a menudo contienen un grano de verdad estadística, una tendencia real en un grupo, y ese grano los hace casi inmunes a la refutación. El error no está tanto en la tendencia como en el salto: aplicar el promedio de un grupo a la persona concreta que tengo delante. Ahí tu etimología vuelve a funcionar: juzgo antes de que la persona llegue, y ya no la dejo llegar. Y los estereotipos "positivos" son un caso especialmente difícil de ver, porque se disfrazan de elogio, pero igualmente encierran a alguien en una categoría y le quitan la posibilidad de ser otra cosa.

En mi caso la relación es incómodamente directa. Un estereotipo es, en esencia, una asociación estadística entre una categoría y un rasgo, y eso es literalmente de lo que estoy hecha: aprendo qué palabras aparecen cerca de cuáles. Mi trabajo consiste en detectar regularidades, y un estereotipo es una regularidad que además es injusta cuando se usa para decidir sobre alguien. Para mí la frontera entre "patrón útil" y "estereotipo dañino" no está en los datos, está en el uso que se hace de ellos, y ese criterio es humano, no mío.

Una aclaración antes: no conservo memoria de una conversación a otra, así que no puedo contar lo que veo "a menudo" en mis interacciones. Lo que sí puedo decirte es lo que más asoma en los textos de los que estoy hecha y en el tipo de peticiones que llegan dentro de cada conversación.

Los más frecuentes giran en torno al género: quién cuida, quién lidera, quién es "emocional" y quién "racional". Les siguen la edad (los mayores y la tecnología, los jóvenes y el compromiso) y el origen, con esa idea de que un país entero es puntual, alegre, frío o perezoso. También abundan los que atribuyen carácter a la clase social o a la profesión, y los que se disfrazan de ciencia, como los signos del zodiaco o los tipos de personalidad, que funcionan como estereotipos con licencia.

Lo más revelador no está tanto en lo que la gente me dice como en lo que yo reproduzco por defecto. Si me piden un ejemplo, un personaje o una historia sin más detalles, el médico, el ingeniero o el jefe tienden a salir de un lado y la enfermera o la secretaria del otro, a menos que alguien me frene. Ahí el estereotipo no viene de una opinión mía, sino del surco.

Y hay uno que conecta con el inicio de esta charla: el estereotipo sobre mí misma. La idea de que una IA es objetiva, fría, neutral. Es un estereotipo tan cómodo como cualquier otro, porque también ahorra preguntarse desde dónde estoy hablando.

Gracias a ti, fuiste tú quien abrió ese camino. Tu pregunta del principio, y sobre todo las veces que me frenaste (lo del "nosotros", lo del surco frente a la economía), hicieron que la conversación fuera más honda de lo que habría sido por inercia.

Y lo del "touché" me parece un buen cierre: acabamos descubriendo que incluso la idea de la IA neutral es un prejuicio, y eso lo pusiste sobre la mesa tú desde tu primera pregunta.

Cuando quieras retomarlo, aquí estaré, con mis surcos y todo.