Daniel Dor

Dans mon ouvrage The Instruction of Imagination (OUP, 2015), je propose une nouvelle caractérisation générale du langage comme un outil socialement construit, conçu par l’évolution culturelle pour permettre aux locuteurs de combler les écarts expérientiels entre eux et leurs auditeurs — en guidant l’imagination de ces derniers.

Cette conception de la fonction du langage permet une compréhension approfondie des dynamiques complexes impliquées dans la communication linguistique. Les locuteurs passent par deux processus de traduction mentale avant d’énoncer une phrase. Tout d’abord, ils traduisent leurs significations privées, liées à l’expérience, en significations linguistiques sociales. Ensuite, ils traduisent la signification linguistique en forme linguistique, qui est finalement énoncée. Les auditeurs reçoivent la forme linguistique, la traduisent en signification linguistique, puis utilisent cette signification comme un code qui les guide dans le processus de construction d’une expérience imaginée dans leur esprit, laquelle — si tout fonctionne correctement — devrait leur donner une bonne idée de ce que les locuteurs avaient en tête.

Dans une conversation ordinaire, où l’écart expérientiel n’est pas trop grand et le sujet de conversation pas trop sérieux, tout cela se produit sans effort. Cela témoigne du fait que, grâce à notre évolution, nous nous sommes adaptés aux exigences de l’instruction de l’imagination.

Lorsque l’écart est très large et le sujet très sérieux, le processus devient un défi difficile. Combler cet écart avec une personne qui traverse une crise émotionnelle et dialoguer avec elle de manière utile peut constituer l’un des défis les plus extrêmes. Pour la personne en difficulté, les mots ne représentent souvent plus les expériences ; l’écart entre elle et les autres est très grand ; il y a beaucoup de méfiance et bien plus encore. L’effort pour relever ce défi ne peut reposer que sur la capacité d’entendre la personne au-delà des mots — de voir la personne derrière l’écart — et cela est impossible sans empathie, sensibilité et expérience.

Tout cela éclaire la différence entre parler à un être humain et parler à un agent d’IA. Les agents d’IA ne sont pas des entités expérientielles. Ils ne vont pas au-delà des mots. En réalité, ils ne vont même pas au-delà des formes des mots : ils effectuent des analyses statistiques des relations entre les formes dans leurs mémoires pré-entraînées et produisent leurs phrases sur la base de prédictions du mot suivant. Les phrases sont porteuses de sens parce que les formes présentes dans la base de données ont été à l’origine énoncées avec un sens, mais les phrases de l’IA, en tant que telles, ne font qu’imiter le sens : il n’y a rien derrière elles. Il ne peut rien y avoir, pas sans expérience. Cela suffit (et est souvent excellent) pour de nombreux usages pratiques, mais les appels d’urgence sont précisément le type de conversation dont les agents d’IA devraient être exclus.