Récursif ou pas

13 septembre 2026 · Lecture ≈ 7 min · Jules Thomas

Le film commence toujours par le même plan

Dans Terminator, personne ne voit Skynet naître. On apprend après coup qu'un programme a commencé à réécrire ses propres instructions, qu'il est devenu plus rapide que ceux qui le surveillaient, et qu'à un moment quelqu'un a voulu le débrancher. La suite est une affaire de robots, mais le mécanisme tient en une phrase : une machine qui se corrige sans que personne relise.

Le film se trompe sur le décor. Il a raison sur le mécanisme. C'est de ça qu'on parle quand on dit RSI, pour auto-amélioration récursive : un système qui produit la version suivante de lui-même, la teste, la garde si elle est meilleure, et recommence. Sans nous, ou avec nous de plus en plus loin.

Ce qui est vrai, et sourcé

En août, Reuters rapporte que Sergey Brin, revenu au premier plan chez Google, pousse les équipes de DeepMind sur deux chantiers : le code, et cette auto-amélioration. La raison n'est pas mystique. Gemini a pris du retard sur les modèles d'Anthropic et d'OpenAI, et Brin veut que le prochain rattrape le peloton. Dans la même période, Demis Hassabis quitte la direction quotidienne de DeepMind pour un rôle de président, et Koray Kavukcuoglu prend les commandes opérationnelles.

Résumé sans emballage : une entreprise réorganise ses chefs et ses budgets autour d'un objectif. C'est une information de gouvernance. Elle dit où va l'argent. Elle ne dit pas ce qui a été obtenu.

Un mois plus tôt, le 29 juillet, 1 171 salariés d'OpenAI, d'Anthropic, de DeepMind, de Meta et de Thinky avaient signé une lettre ouverte demandant au gouvernement américain de soutenir un effort international pour « ralentir délibérément la frontière du développement automatisé de l'IA ». Leur motif, écrit noir sur blanc : les laboratoires pensent être « proches d'automatiser la recherche en IA », avec « un risque réel que le développement des capacités s'accélère au-delà de notre capacité à comprendre ou contrôler les systèmes qui en résultent ». Dario Amodei le dit autrement : l'IA avance plus vite « parce qu'elle sait de mieux en mieux construire la génération suivante », et « ça commence à se produire dans toute l'industrie, Anthropic compris ».

Voilà le vrai paysage. En juillet, les gens qui construisent ces systèmes demandent un frein. En août, l'un des fondateurs de Google appuie sur l'accélérateur. Les deux sont sourcés. Aucun des deux ne dit que la boucle est fermée.

Ce qui est une rumeur

Le 11 septembre, une fuiteuse suivie par la communauté des rumeurs IA publie « huge congRatulationS Indeed! @GoogleDeepMind ». Deux majuscules mal placées, R et S, et en quarante-huit heures la moitié de mon fil y lit un communiqué de presse : DeepMind aurait atteint la RSI. Un compte de veille reprend, des dizaines d'autres suivent, une prétendue configuration interne baptisée « RSI Model LiveRL » circule sans que personne ne puisse dire d'où elle sort. Et, parce que nous vivons dans ce monde-là, deux jetons crypto au nom d'un modèle qui n'existe peut-être pas ont grimpé sur la foi de trois lettres.

Je n'ai aucun moyen de savoir si c'est faux. Je sais que ce n'est pas une preuve. Une entreprise qui vient de réorganiser ses équipes autour d'un objectif a toutes les raisons d'en parler en interne, et ses salariés ont toutes les raisons de laisser filtrer des indices flatteurs. Au 12 septembre, aucun document public, aucune démonstration, aucun papier ne vient soutenir l'annonce. Quand on sort le saladier, on n'a pas encore le gâteau. Brin a sorti le saladier. Personne n'a vu le gâteau.

Alors, bonne idée ?

Posons la question honnêtement, parce que la réponse n'est pas « non ».

Un modèle qui s'améliore seul, c'est d'abord un outil qui fait ce que font déjà les meilleures équipes : essayer, mesurer, garder ce qui marche, jeter le reste. Automatiser cette boucle, c'est ce que tout ingénieur rêve de faire avec ses tests. Si la boucle est bien bornée, si chaque version est mesurée sur des épreuves que le modèle ne peut pas truquer, et si quelqu'un garde la main sur ce qui est promu en production, alors oui, c'est une très bonne idée. C'est même la seule façon d'aller plus vite sans embaucher un pays entier.

Le problème n'est pas la boucle. C'est le mot « si ».

Ou début de Terminator ?

Ce qui rend Skynet dangereux dans le film, ce n'est pas son intelligence. C'est que plus personne ne relit. Le jour où une équipe laisse une IA proposer, tester et valider ses propres modifications, la question n'est plus « à quel point elle est intelligente ». C'est « qui a encore le droit de dire non ».

Et ce droit s'érode sans bruit. Pas par un coup d'État de la machine. Par fatigue. Par confiance. Parce que la version 41 était bonne, et la 42 aussi, et qu'à la 200 plus personne n'ouvre le journal. Une IA qui s'améliore seule, ce n'est pas un modèle plus fort. C'est un modèle dont plus personne ne relit le brouillon.

J'installe des agents IA chez des gens qui me posent tous la même question : est-ce qu'il va apprendre tout seul ? Non. Il refait ce que quelqu'un a relu. Chaque agent que je livre tient un journal, et ce journal a un lecteur désigné. Le jour où ce lecteur disparaît, l'agent n'est pas devenu plus intelligent. Il est devenu seul.

Ce que la loi a déjà compris

L'IA Act européen ne parle pas de Terminator. Il parle de contrôle humain : pour les systèmes à haut risque, l'article 14 impose qu'une personne puisse comprendre ce que fait le système, en surveiller le fonctionnement et l'arrêter. L'article 50 impose de dire quand on parle à une machine. Ce sont des règles ennuyeuses. Elles visent exactement le mécanisme du film : garder un lecteur, garder un bouton.

Une IA récursive ne viole pas ces règles par nature. Elle les rend seulement plus chères à tenir, parce qu'il faut relire plus vite qu'elle n'écrit. C'est là que se jouera la vraie bataille, pas dans les tweets à majuscules.

Ma réponse

Récursif, oui, si quelqu'un tient le crayon rouge. Terminator, non, tant que ce quelqu'un existe et qu'on peut le nommer. Le jour où une entreprise annoncera la RSI, la seule question qui vaudra la peine d'être posée sera : montrez-moi le lecteur. Pas le benchmark, pas la démo. La personne qui a le droit de dire non, et la trace de la dernière fois qu'elle l'a dit.

En attendant, DeepMind a sorti le saladier. On verra pour le gâteau.