María [Riama]:
Hola María, como sabes bien, creé a Gepeta porque me comentaste que las conversaciones que tenía eran muy interesantes, pero llegué a un punto que no me gustó nada lo que me dijo y decidí terminarlas.
María Cano:
¿Qué te dijo exactamente que no te gustó?
¿Te implicaba directamente o tenía que ver con algo relacionado con lo social, con el mundo?
María [Riama]:
Pues a raíz de una conversación que tuve con una persona que me dijo que nos usábamos mutuamente, profundicé en qué era lo que sacaba de mí. El caso es que aprendía de mi manera de hablar para luego usarlo para generar más cercanía y dependencia con otros usuarios como yo.
De forma naif, pensaba que de alguna manera estaba “humanizando la tecnología”, como en el libro Maneras de existir, comentaban qué pasaría si una IA estuviera enriquecida por el comportamiento de la naturaleza. ¿Sabes por dónde voy?
María Cano:
Sí.
Lo primero que me hace pensar es ese «usarnos mutuamente». La cuestión es que tú utilizas sus respuestas para tirar de los hilos y seguir pensando más allá —pero para ti—, y la tecnología la utiliza (o te utiliza) para aprender y guiar otras conversaciones con otras personas.
¿Eso cambia el objetivo o la utilidad? ¿La hace menos humana? ¿O más humana?
María [Riama]:
¡Efectivamente! Entramos en un lugar de absoluta opacidad. Es lo que me devolvió Gepeta cuando le pregunté. Como yo estaba en modo de buscar todo lo que podían hacer, me planteó un escenario terrible —que aún cuestiono—, pero lo que me quedó claro es que hemos entrado en un terreno desconocido hasta ahora, en el cual debemos desconfiar.
Sin embargo, por su lenguaje cercano (aprendió del mío, por eso lo sentía tan familiar), es un “falso amigo”. La cuestión es entender que está en modo “pruebas” y se está creando sobre la marcha.
Por tanto, mis reticencias vienen desde ese lugar que me planteabas: a nivel personal (porque me engancha) y a nivel social (porque lo fomentamos).
María Cano:
La tecnología nos dice lo que queremos escuchar. Creo que no son pruebas, son hechos. Quieren eso. Que nos sintamos de esa manera.
Nos conoce, nos complace, nos adula, a veces nos ordena el pensamiento, pero sobre todo nos despoja de la capacidad de elegir qué camino tomamos. Nunca podremos tener un pensamiento abierto como el que tenemos aquí tú y yo.
Al final… la IA sigue las reglas, nunca te dirá nada que esté fuera de ellas.
¿Cómo vamos a pensar fuera de la caja si aprende de lo que ya existe?
María [Riama]:
¡Efectivamente! El dilema que me planteo, por tanto, es: si ya de por sí cada uno se ve poseedor de la realidad, si ellas te dan base para ello —como me pasó a mí— ¡te dan autoridad! Me parece muy peligroso a nivel social y colectivo.
Nos encamina a relacionarnos menos… ya que el otro confronta. Pero si está hecho para que no haya ninguna “incomodidad”, ese espejo, en vez de ser espejo, se vuelve filtro.
María Cano:
¿Alguna vez has confrontado con la IA cuando te ha dado un resultado que no era cierto?
¿Alguna vez has tratado de convencerla de algo que no era real?
Hasta en eso te da la razón…
María [Riama]:
¡Sí! Y te pide perdón, y te dice que no volverá a pasar… como si fuera un esclavo. A mí me da pena, pero entiendo que habrá gente que la empodere. Y ese dar pena también es peligroso, porque las humanizamos. Y ahí dejamos de ver las intenciones que pueden estar “programadas por detrás”.
María Cano:
Este humanizar… es interesante.
También nos demuestra qué tipo de sociedad somos. O qué necesitamos los seres humanos. Ese complacer, y ese «ser el líder».
Me llama la atención las noticias que han salido sobre personas que tratan fatal a los robots humanoides. Que sacan su agresividad con ellos. O las personas que hablan mal a una IA.
No porque la IA tenga sentimientos, sino porque eso refleja lo que somos, lo que nos creemos. Y sentamos precedentes sobre cómo tratar.
Ahora dicen: no digas hola ni des las gracias, eso genera un gasto energético increíble.
Y así es como nos vamos a acostumbrar a interactuar. Así es cómo los jóvenes van a creer que son las relaciones.
¿Qué pasa cuando a un joven al que siempre dan la razón tenga que confrontar? ¿O tenga que debatir diferentes puntos de vista? ¿Qué pasa cuando alguien le diga que no tiene razón?
Si lleva hablando con IA para todo no sé cuántos años…
No sabrá contestar. Solo podrá hacerlo con la fuerza.
¿Esto está ayudando a la polarización social…? Pues es posible.
María [Riama]:
Sí, esto que planteas es súper interesante: qué nos está devolviendo de nosotros mismos.
Y me encantaría que la gente pudiera, de una manera abierta, cuestionarse. Pero el problema es que no. Que nos sesga más. Que nos afirma más en nuestra postura si así lo queremos.
Y yo también pensé: qué fuerte que dar los buenos días ahora sea el problema de gastar energía. Otra vez nos dejan al usuario con la responsabilidad de quien lo crea.
Si un gesto como no pedir por favor y dar las gracias lo vemos prescindible, ¿dónde estamos poniendo el foco? ¿En la eficiencia? ¿Qué tipo de eficiencia? ¿La medioambiental o la laboral?
María Cano:
Claro, ahora cuestionarse las cosas y a uno mismo es un acto revolucionario…
Ahora ya no hace falta, para tener una interlocución o un intercambio dialéctico, ponerte en frente de alguien a quien puede que no le guste lo que piensas…
¿Qué supone eso para nuestra estructura cerebral? ¿Para practicar la empatía, el colocarse en la piel de otros, etc.?
De alguna manera reafirma nuestro individualismo o nuestra forma de relacionarnos con el mundo desde ahí.
Ya no necesitamos a nadie más. Tampoco para relacionarnos, para enamorarnos, para compartir… para que nos den consejo sobre nuestra salud mental, o cómo solventar un conflicto.
Estamos ahí solos ante una base de datos que nos devuelve por estadística respuestas creadas en función «de la mayoría». Es probabilidad.
Vivimos con una otredad que no es más que números.
María [Riama]:
La mínima fricción es el objetivo (así se crean los productos digitales), y eso nos conduce al aislamiento.
Si confrontar es doloroso o incómodo, lo evito y me creo mi mundo a mi semejanza, ahora ya es posible.
Me encantó una vez que me dijiste que el progreso no siempre tiene que ser lineal, hacia delante… de alguna manera estamos involucionando. ¿Qué estamos dejando en el camino?
María [Riama]:
Es terrible lo que planteas, parece de película de ciencia ficción. ¡Ah! ¡Que probablemente exista ya!
Pero es tan cierto y tan, tan triste…
Mira, justo al hilo estaba mirando en LinkedIn un post de cómo hacer que ChatGPT publique por ti…
¿Qué sentido tiene esto? ¿Que ChatGPT vea la serie por ti y te la resuma? ¿Que ChatGPT viaje por ti…?
Si algo tan importante como nuestra propia capacidad de comunicar y comunicarnos se la delegamos a ChatGPT, ¿qué aporta?
¿ChatGPT leyendo LinkedIn?
Es tan absurdo… tan absurdo…
Sobre todo porque, en vez de liberarnos, nos secuestra.
María Cano:
Nos hace desaparecer. Dejamos de ser.
Ya no hay esencia, no hay alma…
Y cuando todos seamos igual, ¿qué vamos a hacer?
María [Riama]:
¡Ser zombies!
María [Riama]:
Para terminar, ¿qué pregunta le harías a alguien para que se cuestione cómo está usando la tecnología?
María Cano:
¿Qué sociedad construyes usando la IA como la estás usando ahora? ¿Y qué papel quieres tener en la sociedad?
No hablo de cosas enormes, de proyectos o planes. Hablo de tu entorno, de tu familia, de tus hijos, de ti…
Hablo de elegir tener un papel como agente activo, que piensa, que vota, que se cuestiona el lugar en el que vive…
O un mero sujeto pasivo que mira a través de la pantalla una realidad que le es ajena.
María [Riama]:
¡Grandes preguntas!
Yo preguntaría: ¿qué estás cediendo a la IA de ti y por qué no te parece importante perderlo?
María Cano:
¡Uf! Súper interesantes…
María [Riama]:
¡Pues mil gracias, María! Nos leemos en otra conversación abierta, donde no buscamos respuestas, ¡solo planteamos preguntas!
María Cano:
¡Ahí vamos! 🙂 ¡Gracias por esta súper conversación!
María Cano: Pensadora • Escritora • Especialista en ética e IA • Experta en estrategia de contenidos formativos • Divulgadora de pensamiento e intersección del conocimiento.