Les garde-fous ont changé de rive

10 novembre 2026 · Lecture ≈ 5 min · Jules Thomas

Un mois sur la rive chinoise

Le 8 novembre, le South China Morning Post met bout à bout un mois de déclarations. En octobre, à l'ONU, l'ambassadeur chinois pour le désarmement, Li Chijiang, dit que l'IA mêlée aux technologies biologiques et chimiques est en train de « lowering the barriers for terrorist attacks ». La semaine précédente, Tencent, Huawei et Alibaba contribuent à un rapport sur la sécurité de l'IA de pointe, publié à la World Internet Conference de Wuzhen : la conception de pathogènes par l'IA serait « potentially creating major public health risks ». Le mercredi 4, Tencent sort son modèle Hy4 et affirme lui avoir retiré ses capacités d'attaque informatique en filtrant ses données d'entraînement. Pékin propose des contrôles à l'export au-delà de certains seuils cyber.

Le samedi 7, à Hong Kong, Yao Shunyu, ancien d'OpenAI devenu chef scientifique IA de Tencent, prévient que « soon [the] bio ability of models will reach a threshold where it's actually possible to do harm ». Toujours selon le journal, il juge qu'Anthropic et d'autres ont présenté un « strong argument » pour garder fermés les modèles de pointe. Il conclut pourtant sur « a mix of closed and open-source », et Tencent promet les poids de Hy4 pour les jours qui viennent, avec une « comprehensive system card ».

Une précaution d'archéologue avant de décrire la pièce : le South China Morning Post appartient à Alibaba, l'un des contributeurs du rapport de Wuzhen. Le journal l'écrit lui-même.

La rive américaine

Le vendredi 6 novembre, Donald Trump reçoit 60 Minutes à la Maison-Blanche. Sur les risques de l'IA : « I think that the risk is not nearly as real as [...] they talk. And I think the risk can be managed. » Sur la sécurité de l'IA : « I don't mind guardrails. But I don't wanna put us in a deep second position. We're leading number one. And China has no guardrails, by the way. »

L'intervieweur, Ross Douthat, objecte que la Chine a « the guardrails of being a totalitarian state ». Trump reprend : « They have the guardrails that whatever [...] President Xi says goes. »

Le même mot désigne donc deux objets. Pour les deux hommes, le garde-fou chinois est un chef qui décide. Pour Yao, c'est un seuil technique au-delà duquel un modèle devient dangereux. Le week-end entier tient dans cet écart.

Asilomar, l'autre rive du Pacifique

En juillet 1974, un comité de l'Académie des sciences américaine mené par le biochimiste Paul Berg demande, par lettre, une pause sur certaines expériences d'ADN recombinant. Berg écrit en 2008 dans Nature que ce moratoire volontaire fut « universally observed in academic and industrial research centres ». En février 1975, environ 140 personnes se réunissent au centre de conférences d'Asilomar, à Pacific Grove, sur la côte californienne : des chercheurs, des juristes, des fonctionnaires, et des journalistes, environ 15 % de la salle selon lui.

Ce qu'ils y découvrent n'a rien d'une vertu. Berg : « I was struck by how often scientists willingly acknowledged the risks in other's experiments but not in their own. » Sydney Brenner, l'un des organisateurs, répète que si les chercheurs ne font rien, on les accusera de servir leurs intérêts, et l'État s'en mêlera, jusqu'à légiférer.

Le résumé publié en juin 1975 part d'un aveu : « It is this ignorance that has compelled us to conclude that it would be wise to exercise considerable caution in performing this research. » La plupart des travaux reprennent, derrière des barrières. Certains « ought not to be done » avec les moyens de confinement du moment. Une règle tient l'ensemble : « the effectiveness of the containment should match, as closely as possible, the estimated risk ». Les lignes directrices officielles suivent en juillet 1976.

La même grille, des deux côtés

On retrouve cette règle aujourd'hui. En 2023, Anthropic présentait ses niveaux de sécurité de l'IA comme « modeled loosely after the US government's biosafety level (BSL) standards ». En novembre 2026, Tencent dit que les capacités biologiques de Hy4 restent « well below » son seuil de risque élevé. Même grammaire : un seuil, et des précautions qui montent avec lui. Ce que le SCMP appelle une convergence des deux industries, c'est d'abord cette langue commune.

Ce qui n'a pas traversé

En 2008, Berg jugeait un nouvel Asilomar bien plus difficile à réunir. En 1975, la plupart des chercheurs du domaine travaillaient dans des institutions publiques et parlaient librement ; beaucoup travaillent désormais pour le privé. Sa dernière phrase : « Once scientists from corporations begin to dominate the research enterprise, it will simply be too late. »

En 2026, côté chinois, un État et des entreprises parlent de seuils : Pékin pour ses exportations, Tencent pour ses modèles. Côté américain, Anthropic en parle depuis 2023, mais l'État dont Brenner redoutait la loi juge le risque surestimé. Les rôles de 1975 se sont inversés. Le constat de Berg, lui, n'a pas bougé : le risque se voit d'abord dans l'expérience du voisin.

Le garde-fou se pose chez soi

Le mot français dit mieux que l'anglais à quoi sert l'objet : un garde-fou retient celui qui marche au bord, pas son voisin. « China has no guardrails », c'est l'argument d'un homme qui veut bien d'une rambarde à condition qu'elle ne le ralentisse pas, et qui rappelle que le balcon d'en face n'en a pas.

Tencent dit avoir posé la sienne dans ses données d'entraînement ; pour l'instant, c'est sa parole. La preuve est promise sous quelques jours, dans une fiche système. Elle se lira comme Asilomar nous a appris à lire : en cherchant ce que chacun s'interdit chez lui.