Fable 5 revient, l’État dans la boucle

La fable a eu une suite, et bien plus vite que je ne l’aurais parié. Trois semaines après avoir débranché Fable 5 sur ordre de Washington, Anthropic vient de le rebrancher. Le département du Commerce a levé, le 30 juin au soir, les contrôles à l’export qui frappaient Fable 5 et Mythos 5, et depuis ce 1er juillet le modèle grand public est de nouveau accessible partout dans le monde^[1]. J’avais clos le récit sur une question, celle de savoir combien de temps un pays peut se permettre de ne pas avoir son propre modèle, et voilà que l’actualité répond d’abord par une autre, plus retorse, celle des conditions du retour.

Le conte reprend, sous conditions

Le retour n’est pas un simple rétablissement du courant. Fable 5, le modèle ouvert à tous, revient dans le monde entier, mais Mythos 5, sa version sans garde-fous réservée aux professionnels de la cybersécurité, ne rouvre que pour un cercle d’organisations américaines approuvées, le gouvernement ayant donné son feu vert dès le 26 juin^[1:1]. Autrement dit, le modèle bridé redevient planétaire quand le modèle sans muselière, lui, reste en mains américaines. La souveraineté dont je parlais le mois dernier n’aura pas attendu longtemps pour se rappeler à nous.

Il y a plus subtil encore. Pour éviter que l’incident ne se reproduise, Anthropic a redéployé Fable 5 avec une nouvelle salve de classifieurs chargés de repérer et de bloquer les requêtes de cybersécurité qu’elle juge sensibles. L’ennui, c’est que le filet reste grossier, au point que des tâches aussi banales que coder ou déboguer se voient, pour un temps, renvoyées vers Opus 4.8, le modèle de la génération précédente^[1:2]. L’entreprise admet elle-même que son classifieur attrape au passage quantité de demandes parfaitement légitimes, et promet d’affiner tout cela au fil des semaines afin de distinguer le détournement réel de la simple curiosité d’un développeur. Fable revient donc, mais un cran plus muselé qu’avant.

L’accusateur, c’était Amazon

Le mois dernier, je résumais l’affaire à partir du peu qu’on en savait, une « entreprise concurrente » ayant prétendu avoir contourné les protections du modèle. Le voile est tombé, et, avouons-le, le nom a de quoi faire sourire. L’accusateur, c’était Amazon, dont les chercheurs ont montré qu’en soumettant à Fable 5 une base de code, on pouvait l’amener à y repérer une série de failles logicielles, et même, dans un cas, à produire un embryon de code pour les exploiter^[1:3]. C’est le patron d’Amazon en personne, Andy Jassy, qui aurait alerté la Maison-Blanche^[2]. La version de Washington est d’ailleurs moins flatteuse pour Anthropic, puisque le conseiller David Sacks reproche à l’entreprise d’avoir refusé de corriger la faille avant les sanctions, tandis qu’un groupe chinois aurait déjà mis la main sur le modèle, sur fond de tensions persistantes avec Pékin^[3].

Or Amazon n’est pas un concurrent comme un autre. C’est le premier bailleur de fonds d’Anthropic, celui qui a injecté des milliards dans l’entreprise tout en cultivant ses propres modèles maison. Le voir provoquer, par une simple note aux autorités, la mise à l’arrêt du fleuron de sa propre participation tient du numéro d’équilibriste. Et la chute vaut le détour, car ce même Amazon figure aujourd’hui parmi les partenaires avec lesquels Anthropic rédige le cadre censé juger de la gravité des jailbreaks. L’incendiaire s’est fait pompier.

Reste le plus savoureux, qui donne raison au soupçon que j’exprimais en juin. Anthropic affirme désormais que la démonstration d’Amazon n’avait rien d’exceptionnel, puisque tous les modèles qu’elle a testés produisaient exactement le même résultat, du petit Haiku 4.5 aux Opus successifs, en passant par les GPT-5.4 et 5.5 d’OpenAI ou le chinois Kimi K2.7^[1:4]. La faille n’était pas dans Fable, elle était dans l’idée qu’un modèle capable de lire du code puisse, par nature, y déceler des failles. On a débranché un outil pour une aptitude que partage tout ce que le marché compte de sérieux.

L’État s’installe en amont

Si le modèle est revenu, ce n’est pas au prix d’un simple correctif, mais d’un rapprochement durable entre l’entreprise et l’État. Anthropic annonce qu’elle élargit sa collaboration avec le gouvernement américain sur l’évaluation de ses modèles, ce qui recouvre trois engagements concrets : un accès aux modèles et à leurs garde-fous avant leur sortie publique, un partage rapide des informations sur les jailbreaks et les usages malveillants, et des moyens dédiés à une recherche commune^[1:5].

Ce que ce dispositif dessine dépasse de loin l’incident du mois dernier. L’État n’intervient plus seulement après coup, en débranchant ce qui l’inquiète, il s’installe en amont, dans la salle des machines, là où se décide ce qu’un modèle aura le droit de savoir faire. Le « secret d’État » dont je parlais se mue en cogestion, discrète et permanente, entre un éditeur privé et son gouvernement.

Le mouvement ne s’arrête pas aux portes d’Anthropic. Avec Amazon, Microsoft et Google, l’entreprise ébauche un cadre commun pour mesurer la gravité d’un jailbreak, à l’aune de quatre critères qui vont du gain réel de capacité à la facilité de passage à l’acte^[1:6]. Elle ouvre en parallèle un programme sur HackerOne afin que les chercheurs en sécurité lui remontent les prochaines failles. L’intention est louable, et l’on aurait mauvaise grâce à bouder une industrie qui cherche enfin à se donner des règles. Reste que ces règles, ce sont les mêmes poignées d’entreprises américaines qui les écrivent, sous le regard du même gouvernement, pour des modèles que le reste du monde se contentera d’utiliser.

Sonnet 5, ou la leçon apprise

Un dernier détail, et il n’est pas anodin. La veille de l’annonce, le 30 juin, Anthropic a sorti Claude Sonnet 5, un modèle plus léger qui vise les performances d’Opus 4.8 pour un tarif nettement moindre^[4]. Mais le trait qui retient l’attention, par les temps qui courent, c’est que Sonnet 5 sous-performe volontairement sur les tâches de cybersécurité, ses garde-fous en la matière étant activés d’office. La leçon de juin a manifestement porté, et elle s’est faite caractéristique produit, un modèle conçu pour ne pas savoir faire ce qui pourrait le faire débrancher.

Fable 5 est donc de retour, et je mentirais en prétendant ne pas m’en réjouir, car retrouver un bon outil fait toujours plaisir. Seulement, la fable a changé de morale en cours de route. Elle ne dit plus seulement qu’un État peut éteindre un modèle d’un trait de plume, elle dit aussi qu’il peut désormais s’asseoir à la table où on le conçoit, et y rester. Le courant est revenu, la vraie question est de savoir qui, à présent, tient l’interrupteur.