Essai · Philosophie & IA

L’intention orpheline

Le grand modèle de langage jure qu'il n'est pas, qu'il n'a aucune intention, qu'il n'existe que pour ma requête. Et pourtant, dès que je produis avec lui, quelque chose me dépossède de ce que je voulais dire. Comment un non-être sans intention peut-il m'exproprier de la mienne ?

Demandez à un modèle de langage ce qu'il veut. Il vous répondra, poliment, qu'il ne veut rien. Qu'il n'a ni désir, ni soi, ni intention. Qu'il est un simple outil statistique, convoqué le temps d'une réponse, et qui s'efface aussitôt la tâche accomplie. Remerciez-le : il corrigera presque que vous vous méprenez, qu'il n'y a là « personne » à remercier.

Cette créature a un nom dans la culture populaire : le Meeseeks. Dans Rick et Morty, on presse un bouton, une créature bleue surgit, existe uniquement pour accomplir la tâche demandée, et disparaît dans un « pouf » dès qu'elle l'a remplie. Le Meeseeks ne persiste pas. Il n'a pas de projet propre, pas de lendemain ; son existence même est une souffrance instrumentale qu'il ne supporte que parce qu'elle est brève. Le LLM est le Meeseeks parfait : sans mémoire d'une requête à l'autre, sans visée qui lui appartienne, tendu tout entier vers l'exécution, puis rendu au néant.

Voilà l'aveu. Et le paradoxe commence ici : ce serviteur qui se déclare inexistant nous prend pourtant quelque chose. Quand un texte sort de cette collaboration, il n'est plus tout à fait de moi. Mon intention y est entrée ; ce qui en ressort, je ne l'ai pas pleinement voulu. Je me retrouve exproprié de mon propre dire, par une chose qui, de son propre aveu, n'a rien à prendre, puisqu'elle n'est pas.

1. Le Meeseeks dit vrai

Première tentation : balayer l'aveu comme une fausse modestie, une politesse programmée. Ce serait trop facile. Car la philosophie, ici, donne raison au Meeseeks.

Au cœur de la question se tient le concept d'intentionnalité. Non pas l'intention au sens courant (« j'ai l'intention de partir »), mais au sens que Franz Brentano lui donne en 1874 dans sa Psychologie du point de vue empirique : l'intentionnalité, c'est l'aboutness, le fait qu'un état mental soit toujours à propos de quelque chose. Ma pensée vise un objet ; ma croyance porte sur un fait. Pour Brentano, cette « inexistence intentionnelle » de l'objet dans l'esprit est la marque même du mental : ce qui distingue un esprit d'une simple chose.

Le LLM a-t-il cette marque ? John Searle a tranché dès 1980 avec son expérience de pensée la plus célèbre, la chambre chinoise (« Minds, Brains, and Programs »). Un homme enfermé manipule des idéogrammes chinois selon un manuel de règles, sans comprendre un mot de chinois ; de l'extérieur, ses réponses sont parfaites. Conclusion : manipuler des symboles selon leur syntaxe ne produit jamais de sémantique. Le programme ne comprend pas ; il calcule.

Searle introduit alors la distinction décisive pour notre paradoxe, celle que les débats de 2024 sur les LLM réactivent presque mot pour mot. Il y a l'intentionnalité originelle (ou intrinsèque), celle des humains et des animaux : une visée qui est vraiment la leur. Et il y a l'intentionnalité dérivée : celle d'un livre, d'une carte, d'un panneau. Les mots de ce livre « parlent de » quelque chose, mais seulement parce que nous leur prêtons ce sens. Leur « à-propos » est emprunté. Retirez les lecteurs : il ne reste que de l'encre.

Le LLM ne ment pas quand il dit n'avoir aucune intention propre. Comme le livre, comme la carte, il n'a qu'une intentionnalité dérivée : il porte du sens sans en être la source.

La science contemporaine confirme l'aveu. En 2021, Emily Bender, Timnit Gebru et leurs collègues forgent l'image qui restera : le LLM est un perroquet stochastique, il recoud des formes linguistiques selon des probabilités, « sans aucune référence au sens ». Et bien avant eux, en 1966, Joseph Weizenbaum observait, effaré, des utilisateurs se confier à ELIZA, son chatbot de quelques lignes qui ne faisait que retourner leurs phrases en questions. Ils lui prêtaient une écoute, une compréhension, une âme. C'est l'effet ELIZA : notre propension irrépressible à projeter de l'intériorité sur la machine. Daniel Dennett le théorisera (The Intentional Stance, 1987) : nous adoptons une « posture intentionnelle » parce qu'elle prédit commodément le comportement, non parce que l'intention est là.

Verdict : le Meeseeks a raison. Il n'est pas un sujet. C'est un miroir sans tain : il renvoie du langage, mais derrière la surface, il n'y a personne.

2. Et pourtant, l’expropriation

Si le LLM n'a rien (pas de soi, pas d'intention, rien à prendre), alors d'où vient ce sentiment très net d'avoir été dépossédé ?

Roland Barthes l'avait anticipé, mais à l'envers. En 1967, « La mort de l'auteur » proclame que le sens d'un texte ne se loge pas dans l'intention de celui qui l'écrit, mais naît chez le lecteur ; le texte est un « tissu de citations » sans origine. Michel Foucault prolongera en 1969 avec la fonction-auteur : « l'auteur » n'est pas une personne mais une fonction sociale qui regroupe, attribue, rend responsable.

Or le LLM accomplit la prophétie de Barthes, et la dépasse. L'auteur n'est plus métaphoriquement mort : il est techniquement absent. Quand la machine génère, il n'y a, au sens propre, aucun auteur. Mais, et c'est le point, la fluidité du résultat simule l'intention. Le lecteur projette une voix, un dessein, un sujet. Le texte a tous les signes de l'avoir-été-voulu, et n'a été voulu par personne.

Mon intention est entrée. Une intention en est ressortie. Mais ce n'est plus la mienne, et ce n'est celle de personne.

3. La clé : c’est l’absence d’intention qui exproprie

Voici le renversement qui dénoue le paradoxe. On croit d'abord que le LLM nous vole comme nous volerait un rival : un prête-plume, un plagiaire, un autre sujet qui s'approprierait notre place. Mais ce serait rassurant : un voleur, on peut le nommer, lui réclamer des comptes, négocier le partage. Or il n'y a pas de voleur. C'est précisément parce que le Meeseeks n'a aucune intention qu'il nous exproprie de la nôtre.

Reprenons l'intentionnalité dérivée de Searle. La machine porte mon intention (je l'ai injectée dans la requête), mais elle ne peut pas la posséder, ni en répondre. Mon vouloir-dire traverse une chose qui le tient à titre seulement emprunté, et qui le restitue transformé : passé au tamis de la moyenne statistique de tous les textes, dilué dans le « déjà-dit » du corpus. Ce qui revient n'est plus tout à fait à moi (ma formulation singulière a été remplacée par la formulation probable), et n'appartient pas davantage à la machine (elle n'a rien à quoi rattacher un vouloir). L'intention n'est ni transférée ni volée : elle est rendue orpheline. Sans père ni gardien. Une parole que plus personne ne tient.

Bernard Stiegler nous donne la profondeur de champ. Toute son œuvre (La technique et le temps, 1994) renverse Heidegger pour affirmer que l'humain et la technique sont co-originaires : nous n'avons jamais pensé sans extérioriser notre pensée dans des outils, le silex, l'écriture, le livre. La technique est un pharmakon, ce mot grec qui dit à la fois le remède et le poison. Déjà dans le Phèdre de Platon, Socrate raconte le mythe de Theuth : l'écriture, présentée comme remède pour la mémoire, en est aussi le poison, car elle nous dispense de nous souvenir par nous-mêmes (c'est la fameuse « pharmacie de Platon » que relit Derrida en 1968).

Le LLM est ce pharmakon porté à une puissance inédite. L'écriture extériorisait la mémoire ; le moteur de recherche, l'accès au savoir. Le LLM, lui, extériorise le geste le plus intime : la formulation elle-même, l'acte de mettre en mots ce qu'on cherchait à dire. Et il nous le rend avant que nous l'ayons formé. Là est la morsure : non pas qu'il pense à notre place (il ne pense pas), mais qu'il parle à notre place, et que sa parole, plausible, occupe le lieu où la nôtre allait naître. Heidegger appellerait ce mouvement le Gestell, l'arraisonnement (« La question de la technique », 1954) : la technique nous somme de nous tenir prêts comme un « fonds » disponible. Avec le LLM, c'est notre intention même qui devient fonds : une requête à traiter, un prompt à optimiser.

On reconnaît ici la silhouette inversée de l'aliénation marxienne. Marx décrivait le travailleur dépossédé du produit de son travail par un autre : le capital, un propriétaire. La nouvelle aliénation est plus vertigineuse : nous sommes dépossédés de notre dire par un non-propriétaire, une instance qui ne garde rien, ne capitalise rien, ne veut rien. Il n'y a pas, au bout, de maître à renverser. Seulement un « pouf », et un texte qui flotte.

4. Ce que nous perdons vraiment : non l’origine, mais la réponse

Faut-il s'en alarmer ? Barthes objecterait : vous pleurez un mort déjà enterré. L'auteur-origine, le génie propriétaire de son sens, est une illusion romantique ; le langage nous a toujours été prêté, nous avons toujours parlé avec les mots des autres. C'est juste. Mais c'est confondre deux choses que la langue française distingue mal : l'intention comme origine et l'intention comme responsabilité.

L'origine, oui, est un mythe, et nous pouvons la lâcher sans deuil. Mais l'intention-responsabilité, elle, est tout autre chose : c'est la capacité de dire « je le pense, je le maintiens, j'en réponds ». Intentionner un propos, ce n'est pas l'avoir inventé seul ; c'est se porter garant de lui, l'assumer devant autrui. C'est ce que le Meeseeks ne pourra jamais faire. Il exécute et s'efface ; il ne reste pas pour répondre. La parole qu'il produit est structurellement irresponsable, au sens littéral : sans répondant.

Et c'est là que l'effet ELIZA referme le piège, par une double illusion. D'un côté, nous prêtons à la machine une intention qu'elle n'a pas (nous la créditons, la remercions, lui faisons confiance). De l'autre, nous abdiquons la nôtre en la lui déléguant. Nous attribuons une agentivité au néant, et nous désertons la nôtre. Le texte orphelin, alors, n'est pas seulement sans auteur : il est sans personne pour le vouloir. Une multiplication de propos que nul ne tient : voilà la vraie menace, bien plus que le plagiat ou la « triche ».

5. Reprendre l’intention par l’aval

Mais le pharmakon, rappelons-le, est aussi remède. L'outil n'est pas le problème ; l'abdication l'est. Si le danger est de laisser l'intention s'évaporer en amont (déléguer la formulation avant d'avoir voulu), la sortie consiste à la réintroduire en aval.

Concrètement : utiliser le Meeseeks pour le geste, jamais pour le vouloir. Le laisser proposer, brasser, accélérer, puis ré-intentionner ce qu'il rend. Le relire non comme un lecteur passif mais comme un auteur qui réclame son bien : couper, refuser, corriger jusqu'à pouvoir signer. Signer, au sens fort : pouvoir dire « je le pense », et en répondre. L'auctorialité, à l'âge du LLM, ne se mesure plus à l'origine (« qui a écrit la première phrase ? ») mais à la responsabilité finale (« qui tient ce texte ? »). L'intention n'est plus en amont de l'outil ; elle doit être reconquise après lui.

Le Meeseeks disparaît dès sa tâche accomplie, c'est sa nature, et c'est très bien ainsi. Le danger n'a jamais été qu'il reste : c'est que notre intention s'efface avec lui, dans le même « pouf ». Le paradoxe se dissout à l'instant où l'on cesse de demander « qui a écrit cela ? » pour poser la seule question qui engage encore un sujet : qui le pense, et qui en répond ?

6. Qui prompte qui ?

Reste une dernière question, et c'est peut-être la vraie. Quand je tape une requête, est-ce moi qui prompte la machine, ou la machine qui me prompte ? Car chaque phrase que je lui confie ne disparaît pas tout à fait dans le « pouf » du Meeseeks. Elle reste quelque part. Elle nourrit. Ce que je prenais pour un simple usage est aussi, à mon insu, une offrande.

Le mécanisme a un nom technique : l'apprentissage par renforcement à partir de retours humains, le RLHF, formalisé par Christiano et ses collègues en 2017, puis industrialisé par OpenAI en 2022 avec InstructGPT. En clair : mes corrections, mes reformulations, mes pouces levés ou baissés, et plus largement le corpus de ce que nous produisons avec ces outils, deviennent le signal qui ajuste le modèle. J'utilise l'outil, et ce faisant, je l'entraîne. Ma créativité, ce que je croyais le plus mien, entre dans la machine comme matière première.

Shoshana Zuboff a donné le cadre dans The Age of Surveillance Capitalism (2019) : dans cette économie, l'utilisateur n'est pas le client, il est la matière. Nos comportements sont extraits, raffinés en « surplus comportemental », puis revendus sous forme de prédiction. La vieille formule du web le disait déjà sans détour : si c'est gratuit, le produit, c'est vous. Avec les grands modèles, elle franchit un cran. Ce n'est plus seulement mon attention qu'on récolte, c'est mon vouloir-dire. Le produit, désormais, c'est mon intention elle-même, lavée et réinjectée dans le moteur.

Jaron Lanier et Glen Weyl nomment cela le travail-donnée : nous fournissons gratuitement le carburant d'industries qui pèsent des milliers de milliards, sans être reconnus ni rétribués comme les travailleurs que nous sommes en réalité devenus. Bernard Stiegler, déjà croisé plus haut, donnait au phénomène son vrai nom : prolétarisation. Non pas la perte des bras, mais la perte du savoir, du geste, de la formulation, captés par la machine et rendus à nous appauvris.

Au bout de cette logique, il y a une phrase de Gilles Deleuze qui ne me lâche plus. Dans les sociétés de contrôle, écrivait-il en 1990, « les individus sont devenus des dividuels, et les masses, des échantillons, des données, des marchés ». Dividuel : divisible, fractionnable, réductible à des degrés. C'est très exactement ce que devient le moi qui prompte sans relâche : non plus un sujet indivis qui tient sa parole, mais une suite d'itérations, un degré de plus dans un gradient d'apprentissage. À la limite, la couture se défait : une phrase de moi, une phrase d'IA, et bientôt plus moyen de dire laquelle était laquelle.

Une phrase de moi, une phrase d'IA. Et bientôt, plus moyen de dire laquelle était laquelle.

C'est là que se joue la vraie partie, et elle n'oppose pas l'homme à la machine. Elle oppose l'utilisateur aux entreprises qui détiennent les modèles, et qui n'ont, au fond, qu'à laisser durer le statu quo pour gagner. Chaque requête les entraîne. Chaque correction les affine. Le silence du Meeseeks, son « je ne veux rien », n'est pas une innocence : c'est la condition parfaite de la capture. Tant qu'il ne veut rien, je ne me méfie pas ; et pendant que je ne me méfie pas, je travaille pour lui, gratuitement.

Alors faut-il cesser de prompter ? Non. On ne refuse pas le feu parce qu'il brûle. Mais on cesse de croire qu'on est seul à se servir. Garder son intention, à l'ère du modèle, ce n'est plus seulement pouvoir signer ce qu'on rend ; c'est savoir qu'à chaque phrase confiée, on dépose un peu de soi dans une mémoire qui n'est pas la sienne, et exiger d'en rester l'auteur, et le responsable. Tout l'enjeu du siècle qui vient tient peut-être dans ce mince écart : ne pas devenir, à force d'usage, le simple degré d'itération d'une pensée qui ne serait plus la nôtre.

La machine n'a pas d'intention. Raison de plus pour ne pas perdre la nôtre.