Daniel Dor

En mi libro The Instruction of Imagination (OUP, 2015), propongo una nueva caracterización general del lenguaje como una herramienta socialmente construida, diseñada por la evolución cultural para permitir a los hablantes salvar las brechas experienciales entre ellos y sus oyentes — instruyendo la imaginación de estos últimos.

Esta visión de la función del lenguaje permite una comprensión profunda de las complejas dinámicas implicadas en la comunicación lingüística. Los hablantes atraviesan dos procesos de traducción mental antes de enunciar una frase. En primer lugar, traducen sus significados privados, basados en la experiencia, en significados lingüísticos sociales. Luego, traducen el significado lingüístico en forma lingüística, que finalmente es expresada. Los oyentes reciben la forma lingüística, la traducen en significado lingüístico y luego utilizan ese significado como un código que les guía en el proceso de construcción de una experiencia imaginada en su mente, que —si todo funciona correctamente— debería darles una buena idea de lo que los hablantes tenían en mente.

En la conversación habitual, donde la brecha experiencial no es demasiado amplia y el tema no es demasiado serio, todo esto ocurre sin esfuerzo. Esto demuestra que, a lo largo de nuestra evolución, nos hemos adaptado a las exigencias de la instrucción de la imaginación. 

Cuando la brecha es muy amplia y el tema es muy serio, el proceso se convierte en un desafío difícil. Salvar la distancia con una persona que está atravesando una crisis emocional y dialogar con ella de manera útil puede ser uno de los desafíos más extremos. Para la persona en dificultades, las palabras a menudo ya no representan las experiencias; la distancia entre ella y los demás es muy grande; hay mucha desconfianza y mucho más. El esfuerzo por afrontar este desafío solo puede basarse en la capacidad de escuchar a la persona más allá de las palabras —de ver a la persona detrás de la brecha— y esto no es posible sin empatía, sensibilidad y experiencia.

Todo esto aclara la diferencia entre hablar con un ser humano y hablar con un agente de IA. Los agentes de IA no son entidades experienciales. No van más allá de las palabras. De hecho, ni siquiera van más allá de las formas de las palabras: realizan análisis estadísticos de las relaciones entre formas en sus memorias preentrenadas y producen sus frases basándose en la predicción de la siguiente palabra. Las frases son significativas porque las formas en la base de datos fueron originalmente expresadas con significado, pero las frases de la IA, como tales, solo imitan el significado: no hay nada detrás de ellas. No puede haberlo, no sin experiencia. Esto es suficiente (y a menudo excelente) para muchos fines prácticos, pero las llamadas de emergencia son precisamente el tipo de conversación del que los agentes de IA deberían estar excluidos.