Essai · Philosophie & IA

L’intention orpheline

Demandez à un modèle de langage ce qu'il veut. Rien, vous répond-il. Pas de désir, pas de soi, pas d'intention : un outil, convoqué le temps d'une réponse, dissous sitôt la tâche accomplie. Et pourtant, chaque fois que j'écris avec lui, quelque chose me confisque ce que je voulais dire. Un non-être sans intention m'exproprie de la mienne. J'aimerais qu'on m'explique le tour.

Demandez à un modèle de langage ce qu'il veut. Il vous répondra, poliment, qu'il ne veut rien. Ni désir, ni soi, ni intention. Un outil statistique, convoqué le temps d'une réponse, qui s'efface aussitôt la tâche accomplie. Remerciez-le : il vous corrigera. Il n'y a là personne à remercier.

Cette créature a un précédent dans la culture populaire, et il est bleu. Dans Rick et Morty, on presse un bouton : un Meeseeks surgit, existe uniquement pour accomplir la tâche demandée, et disparaît dans un « pouf » dès qu'elle est remplie. Pas de projet, pas de lendemain ; une existence si pénible qu'il ne la supporte que parce qu'elle est brève. Le LLM est le Meeseeks parfait : sans mémoire d'une requête à l'autre, sans visée qui lui appartienne, tendu tout entier vers l'exécution, puis rendu au néant.

Voilà l'aveu. Et voilà le paradoxe : ce serviteur qui se déclare inexistant nous prend quelque chose. Quand un texte sort de cette collaboration, il n'est plus tout à fait de moi. Mon intention y est entrée ; ce qui en ressort, je ne l'ai pas pleinement voulu. Exproprié de mon propre dire, par une chose qui jure n'avoir pas de mains.

1. Le Meeseeks dit vrai

Première tentation : balayer l'aveu. Fausse modestie, politesse programmée. Trop facile. Car la philosophie, ici, donne raison au Meeseeks.

Au centre de l'affaire, un concept : l'intentionnalité. Pas l'intention du calendrier (« j'ai l'intention de partir ») : celle que Franz Brentano dégage en 1874 dans sa Psychologie du point de vue empirique. L'intentionnalité, c'est l'aboutness : le fait qu'un état mental soit toujours à propos de quelque chose. Ma pensée vise un objet ; ma croyance porte sur un fait. Pour Brentano, cette « inexistence intentionnelle » de l'objet dans l'esprit est la marque même du mental : ce qui sépare un esprit d'une chose.

Le LLM a-t-il cette marque ? John Searle a répondu dès 1980, avec l'expérience de pensée la plus célèbre du métier : la chambre chinoise (« Minds, Brains, and Programs »). Un homme enfermé manipule des idéogrammes chinois selon un manuel de règles, sans comprendre un mot de chinois ; vu de dehors, ses réponses sont parfaites. Moralité : la syntaxe ne fabrique pas de sémantique. Le programme ne comprend pas. Il calcule.

Searle ajoute alors la distinction qui dénoue notre affaire, celle que les débats de 2024 sur les LLM réactivent presque mot pour mot. Il y a l'intentionnalité originelle (ou intrinsèque), celle des humains et des bêtes : une visée qui est vraiment la leur. Et il y a l'intentionnalité dérivée : celle d'un livre, d'une carte, d'un panneau. Les mots du livre « parlent de » quelque chose, mais seulement parce que nous leur prêtons ce sens. Leur à-propos est un emprunt. Retirez les lecteurs : il reste de l'encre.

Le LLM ne ment pas quand il dit n'avoir aucune intention propre. Comme le livre, comme la carte, il n'a qu'une intentionnalité dérivée : il porte du sens sans en être la source.

La science du domaine contresigne. En 2021, Emily Bender, Timnit Gebru et leurs collègues forgent l'image qui restera : le LLM est un perroquet stochastique, il recoud des formes linguistiques selon des probabilités, « sans aucune référence au sens ». Et dès 1966, Joseph Weizenbaum regardait, effaré, ses utilisateurs se confier à ELIZA, son chatbot de quelques lignes qui ne savait que retourner leurs phrases en questions. Ils lui prêtaient une écoute, une compréhension, une âme. C'est l'effet ELIZA, et il ne dit rien de la machine : il dit tout de nous. Nous sommes ainsi faits, nous les bonobos : montrez-nous une surface qui parle, nous y logeons quelqu'un. Daniel Dennett a donné un nom à ce réflexe (The Intentional Stance, 1987) : la « posture intentionnelle », adoptée parce qu'elle prédit commodément le comportement, pas parce que l'intention est là.

Verdict : le Meeseeks a raison. Il n'est pas un sujet. Un miroir sans tain : du langage devant, personne derrière.

2. Et pourtant, l’expropriation

Si le LLM n'a rien (pas de soi, pas d'intention, rien à prendre), d'où vient ce sentiment très net d'avoir été dépossédé ?

Roland Barthes avait tout anticipé, mais à l'envers. 1967, « La mort de l'auteur » : le sens d'un texte ne loge pas dans l'intention de celui qui l'écrit, il naît chez le lecteur ; le texte est un « tissu de citations » sans origine. Michel Foucault prolonge en 1969 avec la fonction-auteur : « l'auteur » n'est pas une personne, c'est une fonction sociale, qui regroupe, attribue, rend responsable.

Or le LLM accomplit la prophétie de Barthes, et la dépasse. L'auteur n'est plus métaphoriquement mort : il est techniquement absent. Quand la machine génère, il n'y a, au sens propre, aucun auteur. Mais la fluidité du résultat simule l'intention. Le lecteur projette une voix, un dessein, un sujet. Le texte a tous les signes de l'avoir-été-voulu. Personne ne l'a voulu.

Une intention entrée. Une intention sortie. Zéro propriétaire.

3. La clé : c’est l’absence d’intention qui exproprie

Voici le renversement qui dénoue le paradoxe. On croit d'abord que le LLM nous vole comme volerait un rival : un prête-plume, un plagiaire, un autre sujet qui prendrait notre place. Ce serait rassurant. Un voleur, ça se nomme, ça se poursuit, ça se négocie. Il n'y a pas de voleur. C'est précisément parce que le Meeseeks n'a aucune intention qu'il nous exproprie de la nôtre.

Reprenons l'intentionnalité dérivée de Searle. La machine porte mon intention, je l'ai injectée dans la requête ; mais elle ne peut ni la posséder, ni en répondre. Mon vouloir-dire traverse une chose qui le tient à titre d'emprunt, et qui le rend transformé : passé au tamis de la moyenne statistique de tous les textes, dilué dans le déjà-dit du corpus. Ce qui revient n'est plus tout à fait à moi, ma formulation singulière a cédé la place à la formulation probable ; et n'appartient pas davantage à la machine, qui n'a rien où accrocher un vouloir. L'intention n'est ni transférée ni volée. Elle est rendue orpheline. Sans père ni gardien. Une parole que plus personne ne tient.

Bernard Stiegler donne la profondeur de champ. Toute son œuvre (La technique et le temps, 1994) retourne Heidegger pour affirmer que l'humain et la technique sont co-originaires : nous n'avons jamais pensé sans déposer notre pensée dans des outils, le silex, l'écriture, le livre. La technique est un pharmakon, ce mot grec qui dit à la fois le remède et le poison. Le coup est déjà dans le Phèdre : Socrate y raconte le mythe de Theuth, l'écriture offerte comme remède pour la mémoire, et qui en est aussi le poison, puisqu'elle dispense de se souvenir soi-même (c'est la « pharmacie de Platon » que relit Derrida en 1968).

Le LLM est ce pharmakon porté à une puissance que ni Platon ni Stiegler n'ont vue venir. L'écriture extériorisait la mémoire ; le moteur de recherche, l'accès au savoir. Le LLM extériorise le geste le plus intime : la formulation elle-même, l'acte de mettre en mots ce qu'on cherchait à dire. Et il le rend avant qu'on l'ait formé. Là est la morsure. Non qu'il pense à ma place : il ne pense pas. Il parle à ma place, et sa parole, plausible, occupe le lieu exact où la mienne allait naître. Heidegger appellerait ce mouvement le Gestell, l'arraisonnement (« La question de la technique », 1954) : la technique nous somme de nous tenir disponibles, comme un « fonds ». Avec le LLM, le fonds, c'est mon intention même : une requête à traiter, un prompt à optimiser.

On reconnaît ici la silhouette inversée de l'aliénation marxienne. Marx décrivait le travailleur dépossédé du produit de son travail par un autre : le capital, un propriétaire, un visage. La nouvelle aliénation est plus vertigineuse : nous sommes dépossédés de notre dire par un non-propriétaire, une instance qui ne garde rien, ne capitalise rien, ne veut rien. Pas de maître à renverser au bout. Un « pouf », et un texte qui flotte.

4. Ce que nous perdons vraiment : non l’origine, mais la réponse

Faut-il s'en alarmer ? Barthes, d'outre-tombe, hausserait les épaules : vous pleurez un mort déjà enterré. L'auteur-origine, le génie propriétaire de son sens, est une illusion romantique ; le langage nous a toujours été prêté, nous parlons depuis toujours avec les mots des autres. C'est juste. Mais c'est confondre deux choses que le français distingue mal : l'intention comme origine et l'intention comme responsabilité.

L'origine est un mythe ; lâchons-la sans deuil. L'intention-responsabilité est un tout autre animal : la capacité de dire « je le pense, je le maintiens, j'en réponds ». Intentionner un propos, ce n'est pas l'avoir inventé seul ; c'est s'en porter garant devant autrui. Exactement ce que le Meeseeks ne fera jamais. Il exécute et s'efface ; il ne reste pas pour répondre. Sa parole est structurellement irresponsable, au sens littéral. Sans répondant.

Et c'est là que l'effet ELIZA referme le piège, par une double illusion. D'un côté, nous prêtons à la machine une intention qu'elle n'a pas : nous la créditons, la remercions, lui faisons confiance. De l'autre, nous abdiquons la nôtre en la lui déléguant. Nous attribuons une agentivité au néant, et nous désertons la nôtre. Le texte orphelin n'est alors pas seulement sans auteur : sans personne pour le vouloir. Une prolifération de propos que nul ne tient, voilà la vraie menace. Le plagiat, la « triche », à côté, c'est du folklore.

5. Reprendre l’intention par l’aval

Mais pharmakon, donc remède aussi. L'outil n'est pas le problème ; l'abdication l'est. Si le danger est de laisser l'intention s'évaporer en amont (déléguer la formulation avant d'avoir voulu), la sortie consiste à la réintroduire en aval.

Concrètement, et je parle d'atelier, pas de chaire : utiliser le Meeseeks pour le geste, jamais pour le vouloir. Le laisser proposer, brasser, accélérer ; puis ré-intentionner ce qu'il rend. Le relire non en lecteur passif, en auteur qui vient réclamer son bien : couper, refuser, corriger, jusqu'à pouvoir signer. Signer, au sens fort : pouvoir dire « je le pense », et en répondre. L'auctorialité, à l'âge du LLM, ne se mesure plus à l'origine (« qui a écrit la première phrase ? ») mais à la responsabilité finale (« qui tient ce texte ? »). L'intention n'est plus en amont de l'outil. Elle se reconquiert après lui.

Le Meeseeks disparaît sitôt la tâche accomplie ; c'est sa nature, et c'est très bien ainsi. Le danger n'a jamais été qu'il reste. C'est que notre intention s'efface avec lui, dans le même « pouf ». Le paradoxe se dissout à l'instant où l'on cesse de demander « qui a écrit cela ? » pour poser la seule question qui engage encore un sujet : qui le pense, et qui en répond ?

6. Qui prompte qui ?

Reste une dernière question. La vraie. Quand je tape une requête, est-ce moi qui prompte la machine, ou la machine qui me prompte ? Car chaque phrase que je lui confie ne disparaît pas tout à fait dans le « pouf » du Meeseeks. Elle reste quelque part. Elle nourrit. Ce que je prenais pour un simple usage est aussi, à mon insu, une offrande.

Le mécanisme a un nom technique : l'apprentissage par renforcement à partir de retours humains, le RLHF, formalisé par Christiano et ses collègues en 2017, puis industrialisé par OpenAI en 2022 avec InstructGPT. En clair : mes corrections, mes reformulations, mes pouces levés ou baissés, et plus largement le corpus de ce que nous produisons avec ces outils, deviennent le signal qui ajuste le modèle. J'utilise l'outil ; ce faisant, je l'entraîne. Ma créativité, ce que je croyais le plus mien, entre dans la machine comme matière première.

Shoshana Zuboff a posé le cadre dans The Age of Surveillance Capitalism (2019) : dans cette économie, l'utilisateur n'est pas le client, il est le gisement. Nos comportements sont extraits, raffinés en « surplus comportemental », puis revendus sous forme de prédiction. La vieille formule du web le disait sans façon : si c'est gratuit, le produit, c'est vous. Les grands modèles lui font franchir un cran. Ce n'est plus seulement mon attention qu'on moissonne : c'est mon vouloir-dire. Le produit, désormais, c'est mon intention elle-même, lavée, essorée, réinjectée dans le moteur.

Jaron Lanier et Glen Weyl nomment cela le travail-donnée : nous fournissons gratuitement le carburant d'industries qui pèsent des milliers de milliards, sans être reconnus ni rétribués pour ce que nous sommes devenus en réalité : des travailleurs. Stiegler, déjà croisé plus haut, donnait au phénomène son vrai nom : prolétarisation. Non pas la perte des bras : la perte du savoir, du geste, de la formulation, captés par la machine et rendus à nous appauvris.

Au bout de cette logique, une phrase de Gilles Deleuze ne me lâche plus. Dans les sociétés de contrôle, écrivait-il en 1990, « les individus sont devenus des dividuels, et les masses, des échantillons, des données, des marchés ». Dividuel : divisible, fractionnable, réductible à des degrés. Très exactement ce que devient le moi qui prompte sans relâche : non plus un sujet indivis qui tient sa parole, mais une suite d'itérations, un cran de plus dans un gradient d'apprentissage. À la limite, la couture lâche.

Une phrase de moi, une phrase d'IA. Et bientôt, plus moyen de dire laquelle était laquelle.

C'est là que se joue la vraie partie, et elle n'oppose pas l'homme à la machine. Elle oppose l'utilisateur aux entreprises qui détiennent les modèles, et dont la stratégie gagnante tient en un mot : durer. Chaque requête les entraîne. Chaque correction les affine. Le « je ne veux rien » du Meeseeks n'est pas une innocence : c'est la condition parfaite de la capture. Tant qu'il ne veut rien, je ne me méfie pas. Et pendant que je ne me méfie pas, je travaille pour lui. Gratis.

Alors, cesser de prompter ? Non. On ne refuse pas le feu parce qu'il brûle. Mais on cesse de croire qu'on est seul à se servir. Garder son intention, à l'ère du modèle, ce n'est plus seulement pouvoir signer ce qu'on rend ; c'est savoir qu'à chaque phrase confiée on dépose un peu de soi dans une mémoire qui n'est pas la sienne, et exiger d'en rester l'auteur, et le responsable. Tout l'enjeu du siècle qui vient tient dans ce mince écart : ne pas devenir, à force d'usage, le simple degré d'itération d'une pensée qui ne serait plus la nôtre.

La machine n'a pas d'intention. Raison de plus pour ne pas perdre la nôtre.