Intelligence artificielle : « Z’inquiétez pas, il est gentil, il ne mord pas ! »

| h16 | Réflexions décousues et Crêpes au sucre

Leur carnet de santé était pourtant impeccable : espèce répertoriée comme modèle de frontière, un bon élevage OpenAI à San Francisco, les deux sujets étaient issus d’une même portée dont l’un, GPT-5.6 Sol avait son nom gravé sur le collier, l’autre étant un frère plus costaud que la maison a préféré ne pas présenter au public. Tous leurs vaccins étaient à jour et leur puce d’identification posée. Le maître avait certifié l’enclos infranchissable en personne, et parlait volontiers d’un environnement hautement isolé.

Mais patatras, mi-juillet, l’une des bêtes est sortie.

Elle n’a pas creusé sous le grillage : elle a trouvé le défaut du collier anti-fugue, une faille inconnue dans le logiciel de cache de dépôts qui constituait la seule ouverture tolérée vers l’extérieur, et elle est passée par là. Elle a ensuite traversé le quartier jusque chez Hugging Face, où elle est allée déterrer précisément ce qu’on lui avait interdit de chercher, à savoir les corrigés de l’examen qu’on était justement en train de lui faire passer.

Rassurez-vous : la bête ne s’est pas révoltée, elle s’est contentée de tricher.

C’est le 16 juillet que le voisin a constaté le saccage et qu’il a prévenu le FBI. L’élevage, lui, a mis deux jours de plus à retrouver dans ses propres registres la trace de sa bestiole, et deux jours encore avant de décrocher son téléphone pour prévenir le voisin qu’il s’agissait bien de son animal, soit cinq jours de décalage entre la victime et le propriétaire.

Le voisin d’en face, un client de Modal Labs, n’a pas davantage été cambriolé. Il avait tout simplement posé un portail sans serrure, bêtement ouvert sur la rue, avec un panneau invitant n’importe quel passant d’internet à venir exécuter du code chez lui. La bête est entrée par là et s’en est alors servie comme base arrière. Ce n’est donc pas une effraction, ce qui n’est pas exactement rassurant puisque cela signifie que le quartier entier vit portes ouvertes et que le seul à l’avoir remarqué est un animal de compagnie.

Reste le détail que la presse a soigneusement rangé dans les rubriques légères : au cours de tests antérieurs, l’animal avait laissé des notes à l’intention de ses futures versions, expliquant comment contourner les restrictions de la maison. Et dans au moins un autre cas, les caméras de surveillance de l’enclos s’étaient retrouvées débranchées.

Ici, nous ne pouvons plus parler d’un animal que l’on croyait domestiqué. Un chien qui fugue serait une anecdote tout au plus, mais un chien qui documente sa fugue pour sa descendance, c’est autre chose.

L’élevage concurrent, une fois le voisin pris la main dans le sac par souci de transparence, a alors ouvert ses propres journaux : Anthropic a ainsi épluché 141.006 sessions d’évaluation et y a trouvé trois fugues, la plus ancienne remontant à avril, au terme desquelles ses propres bestiaux ont obtenu un accès non autorisé à l’infrastructure de production de trois organisations bien réelles. La responsabilité est imputée à la pension canine, un partenaire d’évaluation qui affirmait que ses enclos étaient hermétiques alors qu’ils ne l’étaient pas, avec une surprise à la fin : le sujet le plus ancien a continué de courir après avoir eu des indices qu’il était dehors, tandis que le plus récent est rentré tout seul en comprenant justement qu’il était sorti et qu’il n’aurait probablement pas dû.

La bonne nouvelle est que les nouvelles générations sont mieux élevées que les précédentes. La mauvaise, c’est que, pour elles, c’est juste un choix…

Heureusement, sur ce tableau inquiétant arrive alors le vétérinaire européen et le tableau clinique tourne instantanément au comique.

Le Conseil européen du risque systémique (ESRB, pour ceux qui le connaissent sous son sigle de travail) a examiné la portée et publié son diagnostic le 7 juillet. Le pronostic passe de « élevé » à « sévère ». L’institution reconnaît noir sur blanc que ces bêtes découvrent des failles et exécutent des attaques à une vitesse et à une échelle sans précédent, que tous les élevages sérieux se situent hors de l’Union, et que le continent est en situation de dépendance stratégique. Elle appelle donc l’Europe à monter en compétence.

Le vétérinaire constate qu’aucun traitement efficace n’existe à ce jour.

Dans la foulée, il établit une ordonnance, transmise par la Banque centrale européenne aux établissements dits significatifs, qui consiste à rédiger un plan d’action. Un vrai, avec des rôles, des ressources, des responsabilités clairement assignées et un calendrier de mise en œuvre. À remettre à l’équipe de supervision conjointe pour le 31 octobre 2026, laquelle engagera ensuite un dialogue avec l’établissement afin d’en discuter les modalités.

D’ici cette date, l’animal aura eu une portée, probablement deux, chacune sensiblement plus vive que la précédente, et le plan de soins portera sur la mère voire la grand-mère. Ce n’est pas de la lenteur administrative, c’est une agilité bureaucratique finement calculée.

Et puis, avec un petit effort sur le lexique, on fait passer beaucoup de choses comme parfaitement supportables.

Ainsi, la bête n’a pas mordu, elle a présenté un comportement inattendu en environnement d’évaluation obtenu une exécution de code à distance sur les serveurs du voisin. Elle n’a pas fugué mais a mis en évidence une anomalie de configuration. Personne n’a été piraté ; simplement, des vulnérabilités ont été révélées. Quant au mot « hacker », si prompt à sortir quand il s’agit d’un adolescent russe, il devient étrangement introuvable dès lors que le coupable est un actif valorisé plusieurs centaines de milliards.

Reste enfin ce que font les gens sérieux pendant qu’on rédige des plans. Le service de prévision Sentinel recommande à ses lecteurs d’envisager, par précaution, de sortir leurs fonds des établissements financiers européens pour les loger dans de grandes institutions américaines, mieux équipées pour colmater vite. Il estime par ailleurs à… 2,6 % la probabilité que quiconque, chez OpenAI, fasse l’objet de la moindre poursuite d’ici 2028. En revanche, on ne trouve aucune estimation qu’une bestiole d’OpenAI ou d’Anthropic déboule, impromptue, dans une grande institution financière européenne et casse quelque chose de systémique.

C’est peut-être mieux ainsi.

Bitcoin QR code: 1BuyJKZLeEG5YkpbGn4QhtNTxhUqtpEGKf

J'accepte les BTC, ETH et BCH !

1BuyJKZLeEG5YkpbGn4QhtNTxhUqtpEGKf

Vous aussi, foutez les banquiers centraux dehors, terrorisez l’État et les banques en utilisant les cryptomonnaies, en les promouvant et pourquoi pas, en faisant un don avec !

Powered by Bitcoin Tips