Cuando la IA parece entender el sufrimiento humano¿Puede una IA entender el sufrimiento humano?
Un análisis crítico desde la psicología.
- Homo sapiens, el mono que habla y sufre en el lenguaje.
Somos un tipo de primate peculiar. No somos los más fuertes, ni los más rápidos, pero tenemos un superpoder que ha cambiado el curso de nuestra evolución: el lenguaje. Gracias a él, hemos construido imperios, escrito novelas desgarradoras… y también nos hemos deprimido por un emoji mal interpretado en WhatsApp.
La especie humana, decía Skinner, es “el animal que habla” y, como bien señalan los modelos funcionales-contextuales en psicología, no solo hablamos para describir el mundo, sino para vivirlo simbólicamente. El lenguaje no sólo designa realidades: las genera. Decir “me dejó” no es simplemente informar; es revivir el abandono, actualizar el dolor.
Esto no es poesía, es conducta humana. Estudios han mostrado que las palabras emocionales desencadenan respuestas fisiológicas similares a las experiencias reales. Por ejemplo, un estudio publicado en Social Cognitive and Affective Neuroscience (Citron, 2012) encontró que palabras con carga emocional alta activan áreas como la amígdala y la ínsula —regiones cerebrales implicadas en la emoción y el dolor físico.
Y aquí entramos en terreno fértil para nuestro tema: la inteligencia artificial generativa —como los modelos GPT— está diseñada precisamente para jugar con ese material que tanto nos toca: “El lenguaje”, “las palabras”. Y resulta que muchos usuarios no las están usando solo para programar mejor o resumir informes de trabajo… Las usan para hablar de sí mismos, de sus emociones, de sus miedos. Un estudio de Anthropic reveló que más del 40% de las interacciones con chatbots conversacionales de propósito general incluyen contenido emocional o psicológico. No lo dicen explícitamente, pero entre líneas se lee: háblame, entiéndeme, acompáñame.
¿Estamos usando máquinas de lenguaje para calmar un sufrimiento que también es fruto de él?
La pregunta, es menos absurda de lo que parece.
- El poder del lenguaje: ¿Por qué nos afecta tanto?
El lenguaje, lo que decimos, pensamos, escuchamos nos afecta porque no es neutral. Las palabras son disparadores simbólicos con capacidad para evocar recuerdos, imágenes, emociones, decisiones… y lágrimas. Decir “tranquila” no tiene el mismo efecto que decir “te entiendo, imagino que tiene que doler mucho”. Lo sabemos clínicamente. Lo sabe cualquier terapeuta. Lo sabe cualquier expareja que dijo lo equivocado.
Desde la psicología sabemos que las palabras con carga emocional no solo se entienden semánticamente: se sienten físicamente. Un estudio publicado en Neuroscience Letters (Kuchinke et al., 2005) demostró que palabras negativas generan activación aumentada en el sistema límbico, especialmente la amígdala, región implicada en la detección de amenazas. Las palabras, literalmente, activan el mismo sistema que nos hace correr ante un león.
Leer “te odio” activa partes del cerebro similares a las que se activan cuando sentimos un rechazo físico real.
Esto explica por qué las conversaciones con IA, aunque sean “simuladas”, pueden afectarnos emocionalmente. El lenguaje tiene funciones que despiertan reacciones en nosotros según nuestra historia.
Y más aún: un estudio reciente del equipo de Kousta y Vigliocco (2011) en Frontiers in Psychology encontró que las palabras con alto contenido emocional son procesadas más rápido y recordadas con más claridad que las neutras. ¿Por qué? Porque tienen relevancia biológica. Nuestro cerebro evolucionó para atender primero a lo que nos mueve (para bien o para mal).
Ahora pensemos esto en el contexto de IA generativa: ¿qué ocurre cuando un modelo de lenguaje, como GPT, nos responde con palabras que sentimos como “comprensivas”? Aunque sepamos que no hay “alguien” detrás… sentimos algo. Porque nuestro sistema límbico no distingue si la emoción es “sintética” o no. Solo responde.
Por eso el uso de modelos como ChatGPT en contextos personales y emocionales no es trivial. No es solo “jugar con un bot”. Es un encuentro simbólico con algo que nos devuelve palabras, y eso, para un mono simbólico como nosotros… ya es suficiente.
- La empatía: más allá del impacto de las palabras
La empatía es una capacidad humana compleja que va más allá de la comprensión verbal; implica una resonancia emocional y física con los estados internos de los demás.
En contextos terapéuticos, esta resonancia permite al terapeuta sintonizar emocionalmente con el paciente, creando un espacio de comprensión y apoyo que va más allá de las palabras.
Componentes de la empatía
La empatía se compone de varios elementos interrelacionados:
- Contagio emocional: una respuesta automática que nos hace sentir emociones similares a las de otros.
- Preocupación empática: una respuesta afectiva que nos motiva a aliviar el sufrimiento ajeno.
- Toma de perspectiva: la capacidad cognitiva de comprender el punto de vista de otra persona.
IA y empatía: ¿simulación o realidad?
La empatía, en su esencia, es una experiencia humana compleja que implica tanto la comprensión cognitiva como la resonancia emocional con los estados internos de los demás. Sin embargo, las inteligencias artificiales actuales, aunque avanzadas en el procesamiento del lenguaje y el reconocimiento de patrones, carecen de la capacidad de experimentar emociones genuinas.
Las IA pueden simular la empatía cognitiva mediante el análisis de texto y patrones de comportamiento, pero carecen de la experiencia subjetiva necesaria para la empatía afectiva.
El efecto ELIZA y la antropomorfización
Describe la tendencia humana a atribuir cualidades humanas a las máquinas, especialmente cuando estas utilizan lenguaje natural . Este fenómeno puede llevar a los usuarios a percibir una conexión emocional con sistemas que, en realidad, no poseen conciencia ni emociones.
Avances en la simulación de empatía
Sistemas como Kopernica de Neurologyca integran múltiples modalidades sensoriales, incluyendo visión por computadora y análisis de tono de voz, para detectar estados emocionales y adaptar sus respuestas en consecuencia . Aunque estos avances mejoran la interacción humano-máquina, aún se basan en la simulación y no en una experiencia emocional auténtica.
- La trampa del sesgo de confirmación: cuando la IA nos da la razón
El sesgo de confirmación es una tendencia cognitiva humana a buscar, interpretar y recordar información que confirme nuestras creencias preexistentes, ignorando o minimizando la información que las contradice. Este sesgo puede llevarnos a construir realidades subjetivas donde nuestras opiniones se refuerzan constantemente, creando una especie de «cámara de eco» personal.
La IA como espejo de nuestras creencias
Los modelos de lenguaje generativo, como ChatGPT, están diseñados para proporcionar respuestas coherentes y relevantes basadas en los datos de entrenamiento y en las indicaciones del usuario. Sin embargo, esta capacidad puede llevar a que la IA refuerce inadvertidamente el sesgo de confirmación del usuario al proporcionar respuestas que coinciden con sus expectativas o creencias.
La autoridad percibida de la IA
La forma en que interactuamos con la IA también está influenciada por la percepción de autoridad y competencia que atribuimos a estas tecnologías. Un artículo del Washington Post señala que los usuarios tienden a confiar ciegamente en la información generada por la IA, aceptándola sin el escrutinio adecuado, lo que puede llevar a la difusión de información errónea.
Este fenómeno se ve exacerbado por el tono autoritario y la fluidez de las respuestas de la IA, que pueden dar la impresión de infalibilidad, incluso cuando la información proporcionada es incorrecta o sesgada.
La personalización y las burbujas de filtro
Las plataformas digitales utilizan algoritmos de personalización para adaptar el contenido a las preferencias del usuario, lo que puede reforzar aún más el sesgo de confirmación. Este proceso puede llevar a la creación de «burbujas de filtro», donde los usuarios están expuestos principalmente a información que coincide con sus creencias, aislándolos de perspectivas divergentes.
En el contexto de la IA, esto significa que las respuestas generadas pueden estar sesgadas hacia las preferencias del usuario, reforzando sus creencias y limitando su exposición a información contradictoria.
Implicaciones para la interacción humano-IA
La tendencia de la IA a proporcionar respuestas que coinciden con las expectativas del usuario puede tener consecuencias significativas en contextos sensibles, como la salud mental o la toma de decisiones críticas. La falta de confrontación o de presentación de perspectivas alternativas puede impedir el crecimiento personal y la resolución de problemas.
Además, la dependencia excesiva de la IA para validar nuestras creencias puede disminuir nuestra capacidad para pensar críticamente y considerar puntos de vista opuestos, lo que es esencial para el desarrollo personal y social.
- Límites entre lo simbólico y lo experiencial
La inteligencia artificial (IA), especialmente los modelos de lenguaje como GPT, opera predominantemente en el ámbito simbólico. Procesa y genera secuencias de palabras basadas en patrones estadísticos aprendidos de vastos corpus de texto. Sin embargo, carece de la capacidad de experimentar emociones o sensaciones físicas, lo que plantea una distinción fundamental entre el procesamiento simbólico y el experiencial.
Procesamiento simbólico en la IA
Los modelos de lenguaje actuales utilizan representaciones simbólicas para manipular y generar texto. Estas representaciones carecen de anclaje en experiencias sensoriales o emocionales reales. Aunque pueden simular conversaciones empáticas, no poseen una comprensión genuina del contenido emocional que transmiten.
Procesamiento experiencial en los humanos
En contraste, los humanos procesamos información no solo a través de símbolos, sino también mediante experiencias sensoriales y emocionales. La teoría de la cognición encarnada sugiere que nuestras representaciones mentales están profundamente arraigadas en nuestras experiencias corporales y sensoriales. Por ejemplo, entender la palabra «dolor» no solo implica conocer su definición, sino también haber experimentado alguna forma de dolor físico o emocional.
La ilusión de comprensión en la IA
A pesar de su falta de experiencia, la IA puede generar respuestas que parecen empáticas o comprensivas debido a su entrenamiento en datos humanos. Esto puede llevar a los usuarios a atribuirle cualidades humanas, como la empatía o la comprensión, a pesar de que la IA no posee conciencia ni emociones. Este fenómeno, conocido como antropomorfismo, puede desdibujar la línea entre lo simbólico y lo experiencial en la percepción del usuario.
La IA puede simular empatía, puede devolvernos palabras reconfortantes, puede organizar frases que parezcan comprensión. Y eso, para nuestro cerebro simbólico, puede bastar para sentirnos escuchados.
Sabemos que:
- Somos animales verbales que sufrimos con palabras.
- Las palabras tienen un impacto biológico real.
- La empatía es en parte encarnada.
- La IA puede replicar símbolos, pero no vivencias.
- Y que como humanos, tendemos a ver lo que queremos ver, incluso emociones en una máquina.
Entonces, lo inquietante no es solo que la IA no pueda sufrir. Lo inquietante es lo bien que puede parecer que sí lo hace.
Porque quizás no se trata solo de si la IA puede entendernos…
Sino de qué estamos buscando cuando le pedimos que lo haga.
Preguntas para abrir el debate
- ¿Dónde trazamos la línea entre ayuda simbólica y vínculo ilusorio?
- ¿Qué papel queremos que jueguen estas máquinas en nuestros momentos más humanos?
Bibliografía:
- Las palabras activan procesos cerebrales ocultos que dan forma a las emociones, las decisiones y el comportamiento.
- Las palabras con carga emocional evocan patrones de liberación simultánea de neuromoduladores, específicos de cada región y valencia, en el tálamo y la corteza humanos.
- Empatía e IA: ¿empatía cognitiva o empatía emocional (afectiva)?
- Kopernica: Esta plataforma de IA afirma «comprender» las emociones humanas y detectar el estrés y la ansiedad
- Sesgo de confirmación
