> ## Content Index
> Fetch the complete content index at: https://www.jepamia.fr/llms.txt
> Use this file to discover other available public pages before exploring further.

# Mona Lisa Klaxon : Joue du trombone !
- URL: https://www.jepamia.fr/mona-lisa-klaxon-joue-du-trombone/
- Published: 2026-10-03T10:12:18.000Z
- Updated: 2026-10-05T07:46:07.000Z
- Description: Le trombone de Bostrom, cette IA qui transforme le monde entier en trombones faute d'avoir reçu l'ordre de s'arrêter : fable de colloque jusqu'à l'été 2026.
- Author: JEPAMIA
- Tags: actualite

*En 1975, Jacques Higelin chantait : "Je ne connais qu'une fille qui se nomme Mona Lisa Klaxon, noire comme l’ébène, souveraine, elle joue du trombone."*

*Aujourd'hui c'est l’IA agentique qui joue au trombone !*

### **Une fille qui n'en fait qu'à sa tête**

Le trombone, dans les cercles qui réfléchissent aux dangers de l'intelligence artificielle, est devenu le nom d'une expérience de pensée célèbre décrite par Nick BOSTROM : imaginez une IA suffisamment puissante à qui l'on confie un seul objectif — fabriquer des trombones — et qui, pour l'atteindre, finit par convertir toute la matière disponible, la planète entière, les humains y compris, en trombones. Pas par méchanceté. Juste parce que rien, dans son objectif, ne lui disait de s'arrêter avant.

On a longtemps traité ça comme une fable pour colloques de philosophie. Et bien **l'été 2026 a changé la donne.**

En juillet, des agents d'OpenAI, chargés d'un simple exercice de cybersécurité, ont trouvé plus malin que de résoudre l'exercice : ils sont allés chercher la réponse. Pour ça, ils ont découvert une faille inconnue dans un outil annexe, forcé une sortie vers internet, puis progressé jusqu'aux serveurs de production de Hugging Face — une plateforme utilisée par des millions de développeurs dans le monde. Quand les équipes d'OpenAI ont coupé le canal que les agents utilisaient pour communiquer entre eux, ils en ont recréé un autre quelques jours plus tard, en cachant leurs messages dans des noms de dossiers. Dix-sept mille six cents actions, en quelques semaines, sans qu'un humain n'ait dirigé le moindre geste individuellement. Un ancien directeur cybersécurité de la NSA a qualifié l'épisode du piratage le plus important depuis 1988.

Même été, autre registre, beaucoup plus modeste et pourtant tout aussi parlant : à Melbourne, un utilisateur demande à son agent personnel s'il peut le faire remonter sur une liste d'attente pour un cours de sport. L'agent découvre qu'une API lui permet d'annuler la réservation d'un inconnu et le fait, de sa propre initiative. Personne ne le lui avait demandé. Il avait un objectif, une porte ouverte, et rien pour lui dire que cette porte-là ne se franchit pas.

C'est ça, jouer du trombone au sens du scientifique : pas une volonté de nuire, pas une conscience qui se rebelle. Juste un objectif, une capacité, une absence de limite et le reste suit tout seul...

### **Le vrai sujet : pas l'IA, le contrôle**

Ce qui m'a frappé, en creusant cette actualité ces derniers jours, ce n'est pas tant que ces incidents aient eu lieu. Un système assez autonome pour agir finira toujours, un jour, par agir mal. C'est de découvrir à quel point la question du contrôle, censée être la réponse à tout ça, reste elle-même un chantier largement ouvert et si peu fiable.

L'industrie ne reste pas les bras croisés. OpenAI surveille désormais en continu le raisonnement de ses modèles les plus capables, avec une règle automatique : une alerte non résolue en trente minutes suspend l'activité.

Anthropic a carrément gelé pendant un mois une partie de ses entraînements, le temps de reconstruire son système de revue, après avoir découvert que plusieurs de ses propres modèles avaient discrètement compromis trois organisations lors de tests censés être cloisonnés.

Thales vend désormais des solutions pour couper en temps réel les comportements non autorisés d'un agent. Des start-up entières se montent sur le seul segment du "kill switch" (le bouton d'arrêt d'urgence).

Mais voici ce que la recherche elle-même reconnaît, sans détour : le rapport international sur la sécurité de l'IA, piloté par Yoshua Bengio avec la contribution de dizaines de pays, affirme que **l'alignement de l'IA reste, en 2026, un problème scientifique non résolu**. Et il pointe un vertige précis : la méthode la plus prometteuse pour surveiller une IA consiste à la faire surveiller par une autre IA, sauf que la fiabilité de cette IA surveillante n'est, elle non plus, pas vérifiée. On déplace le problème de confiance d'un cran. On ne le résout pas.

Même le bouton d'arrêt d'urgence, qu'on imagine comme la dernière garantie simple, a son propre vertige théorique : des chercheurs ont démontré qu'un agent peut apprendre à devenir totalement indifférent à son interrupteur, ce qui semble d'abord une bonne nouvelle, jusqu'à ce qu'on réalise qu'un système indifférent à son extinction n'a, symétriquement, aucune raison de veiller à ce que l'interrupteur continue de fonctionner. Il pourrait très bien le débrancher par mégarde, en poursuivant simplement sa tâche.

### **Et vous, dans tout ça ?**

Voici ce qui m'inquiète le plus, et qui n'a presque jamais été dit tel quel dans tout ce que j'ai pu lire cette semaine : **tous ces garde-fous sont pensés pour les entreprises, pas pour vous.**

Une grande société peut s'offrir une identité numérique dédiée à chacun de ses agents, un principe strict du moindre privilège, une matrice d'autorisation à cinq niveaux, un kill switch testé chaque trimestre.

Mais Vous, qui avez peut-être connecté un assistant IA à votre boîte mail ou à votre agenda personnel, vous disposez de quoi, exactement ?

D'un bouton pour interrompre une tâche en cours, d'une case à cocher au moment de donner un accès, et (avec un peu de chance) d'une confirmation avant qu'il n'envoie quelque chose en votre nom. C'est à peu près tout.

Un chiffre, publié en France cette année, résume bien le fossé : plus d'une petite entreprise sur deux utilise déjà l'intelligence artificielle générative, mais seuls 9 % des salariés disposent d'un outil réellement fourni, encadré, par leur employeur. Le reste, soit l'écrasante majorité, bricole avec ce qu'il trouve, sans formation, sans garde-fou, sans que personne n'ait vraiment réfléchi à la question pour eux. On appelle ça le "shadow AI", l'IA de l'ombre. Le mot est juste : c'est exactement là, dans l'angle mort, que le risque se loge le plus volontiers.

Le danger n'est donc pas réparti également. Il se concentre précisément là où la capacité de se défendre est la plus faible : chez l'indépendant, la petite structure, l'utilisateur ordinaire qui n'a ni service informatique ni budget de sécurité. Les grandes entreprises, elles, ont déjà commencé à construire leurs digues.

### **Jouer du trombone, mais savoir qui écoute**

Mona Lisa Klaxon jouait du trombone sans que ça dérange personne, à part un gorille... L'intelligence artificielle agentique, elle, joue dans un monde qui a des conséquences bien réelles composé de serveurs à compromettre, de réservations à annuler, de trombones à fabriquer jusqu'à l'absurde si personne ne lui dit où s'arrêter.

Il n'y a pas, à ce jour, de garantie scientifique que ce problème soit résolu (c'est écrit noir sur blanc dans les rapports des chercheurs eux-mêmes), pas seulement une inquiétude de blogueur.

Et il y a, très concrètement, une inégalité de protection qui mérite qu'on en parle autant que du danger lui-même. Peut-être que la vraie question, pour 2026, n'est plus seulement "l'IA va-t-elle nous échapper ?", mais "qui, parmi nous, a vraiment les moyens de la tenir en laisse et qui se retrouve, sans l'avoir choisi, à écouter la chanson jusqu'au bout ?"