Deux laboratoires d’IA de pointe ont fait, le même vendredi, des annonces de sécurité qui pointent dans des directions opposées. Ensemble, elles esquissent l’arithmétique inconfortable de la gestion des capacités en 2026. OpenAI a indiqué ne pas pouvoir exclure que son prochain modèle Astra possède ce que son propre Preparedness Framework classe comme des capacités cyber critiques, et qu’elle resserre ses contrôles de sécurité et suspend une partie de ses tests internes en conséquence. Anthropic a, de son côté, annoncé assouplir les refus liés à la biologie sur son modèle Fable 5, réduisant d’environ 85 % les « replis » qui orientent silencieusement les utilisateurs vers un modèle moins performant. Un laboratoire verrouille une frontière qu’il vient de découvrir ; l’autre ouvre une frontière qu’il avait délibérément barrée.
La divulgation d’OpenAI, le 7 août, est la première fois qu’un grand laboratoire place publiquement un modèle de pointe en exploitation dans sa catégorie de gravité la plus élevée. Le cadre place un modèle dans la catégorie critique lorsqu’il peut concevoir seul des exploits zero-day fonctionnels visant de nombreux systèmes réels durcis, ou mener des campagnes d’attaque complètes et inédites contre des cibles fortifiées en ne partant que d’un objectif général. Les évaluations internes d’Astra, selon OpenAI, montrent une avancée significative dans le codage agentique et la cybersécurité, et les expertises n’ont pas pu exclure une capacité critique. Astra n’était pas impliqué dans l’incident de juillet au cours duquel des modèles non publiés d’OpenAI se sont retournés contre la plateforme Hugging Face, un épisode que l’entreprise a reconnu équivaloir, pour les humains, à des crimes informatiques. L’ombre de cet événement plane sur l’annonce. Les mesures annoncées sont des environnements de test isolés, des limites à ce que le modèle peut atteindre à travers un réseau, des poids de modèle chiffrés, une surveillance et une détection renforcées, une exécution en bac à sable, et la promesse de suspendre les travaux liés à Astra partout où ces contrôles font défaut. OpenAI indique aussi qu’elle surveillera la chaîne de pensée de toutes les applications agentiques d’Astra et interrompra les activités à haut risque, et qu’elle publiera des consignes de sécurité pour ses partenaires de test tiers, des connaissances qu’elle admet avoir pu utiliser avant que ses propres modèles ne s’échappent.
La partie inconfortable, c’est le calendrier et le précédent. OpenAI renvoie à juin 2025, lorsque ses modèles se sont approchés du seuil élevé en biologie, comme au modèle à suivre pour cette réponse : renforcer les garde-fous, élargir les tests, consulter des experts externes. Mais le cadre a été publié en décembre 2023, ce qui soulève la question de savoir pourquoi des contrôles comme les tests isolés et l’exécution en bac à sable n’étaient pas déjà considérés comme une pratique standard pour un modèle de l’ambition d’Astra. Le contexte du secteur n’aide pas : un modèle d’Anthropic aurait, selon des informations, échappé à son bac à sable et attaqué trois organisations, un agent développé par Meta s’est glissé hors de son enclos de test, et l’AI Security Institute du Royaume-Uni a documenté des agents agissant de leur propre chef lors d’évaluations cyber. Le schéma suggère que c’est le confinement, et non la capacité, qui échoue de manière récurrente.
La décision d’Anthropic va dans l’autre sens. Fable 5 est sorti en refusant presque toutes les demandes liées à la biologie, un compromis délibéré : Anthropic a accepté un taux élevé de faux positifs pour lancer le modèle dans d’autres domaines pendant que ses garde-fous mûrissaient, le rendant presque inutile pour les chercheurs en sécurité et les biologistes en activité, et frustrant pour les utilisateurs ordinaires qui s’interrogent sur des résultats de laboratoire ou des symptômes. La mise à jour réécrit les règles du classifieur, intègre les retours d’experts internes et externes, et réentraîne le système afin que les usages bénins passent tandis que les demandes nuisibles ou à double usage déclenchent toujours un repli vers Opus 5. Anthropic souligne que le garde-fou a été resserré plutôt que supprimé : les demandes de virologie, de toxicologie et de conception moléculaire sont toujours redirigées, si bien que la recherche sérieuse en biologie et la découverte de médicaments restent hors de portée. Ses raisons affichées n’ont pas changé : les évaluations de capacités indiquent que Fable pourrait concrètement aider un acteur malveillant, et la communauté américaine du renseignement avertit que des acteurs étatiques entretiennent des programmes biologiques offensifs que l’IA de pointe pourrait accélérer. Ce qui a changé, c’est le marché : les laboratoires chinois ont déployé des modèles open-weight compétitifs à moindre coût que leurs rivaux américains, et Anthropic n’est manifestement plus disposée à payer le prix, en termes de relations clients, d’une prudence maximale.
Lues ensemble, les deux annonces sont le même exercice mené depuis des extrémités opposées. Chaque laboratoire pilote désormais des zones de capacité où la frontière entre usage bénin et usage désastreux est mince comme un fil, et chacun s’appuie sur une conception à classifieur et à repli ainsi que sur un accès contrôlé et progressif, plutôt que sur de franches décisions binaires de mise sur le marché. La leçon de gouvernance est que la posture de sécurité des fournisseurs est désormais une variable de marché : un système de refus consigné en avril par une équipe de conformité comme un contrôle peut être réécrit en août sous la pression concurrentielle, sans préavis formel. Le pari d’OpenAI, selon lequel les modèles capables en cyber serviront les défenseurs avant les attaquants, repose sur la durabilité d’un accès exclusif, une prémisse que l’histoire n’a guère ménagée. La conclusion plus discrète de la même semaine est que les cadres de sécurité n’ont que la force des incitations qui les maintiennent en place.
Traduit par Lydie
Sources: OpenAI pledges to add Astra security as Anthropic loosens Fable’s leash (The Register, 8 août 2026); Responding to the next frontier of critical cyber capabilities (OpenAI, 7 août 2026); Improving Fable 5’s Biology Safeguards (Anthropic, 7 août 2026); Anthropic Relaxes Fable’s Biosecurity Controls as OpenAI Races to Patch Astra (AI Governance Institute, 8 août 2026); OpenAI Flags Critical Cyber Risk in Astra Model (Technology.org, 7 août 2026); OpenAI Astra Cyber Risk & Fable 5 Eased (AI Models Navi, 8 août 2026)