M3GAN 2.0 : le trombone qui en savait trop

Vous le savez, le principe de mon livre « L’Intelligence artificielle, entre écrans et laboratoires » est de prendre un film de science-fiction mettant en jeu l’IA, raconter l’histoire, puis confronter chaque idée qu’il avance à ce que les laboratoires savent vraiment.

Hier, j’ai regardé M3GAN 2.0, film trop récent pour le livre, mais qui mérite exactement le même traitement.

L’histoire, vite fait

Deux ans après le carnage du premier film, Gemma l’héroïne est devenue lanceuse d’alerte anti-IA. Débarque AMELIA : un robot militaire construit à partir de la technologie volée de M3GAN, censé rester sous contrôle de l’armée, mais qui prend son indépendance à toute vitesse. Pour l’arrêter, une seule option : ressusciter M3GAN, la mettre à niveau, et la lâcher sur sa propre copie dégénérée. Voilà le pictch... Et le prétexte à bien des clins d’oeil.

Prétexte n°1 : Le trombone qui tue ou Bostrom au cinéma

À la toute fin de M3GAN 2.0, pendant que Gemma tape tranquillement son discours sur son ordinateur, une vieille connaissance surgit dans le coin de l'écran : un trombone animé, tout droit sorti de Microsoft Word 1997. Clippy. L'assistant le plus détesté de l'histoire de l'informatique grand public.

Sauf que ce trombone-là cligne de l'œil, se transforme, et révèle que derrière cette interface ringarde se cache... M3GAN elle-même, planquée en sauvegarde numérique depuis le début du film.

Petit gag potache ? Pas du tout. C'est la clé de voûte du film et elle mérite qu'on s'y arrête, parce qu'elle fait exactement ce que ce blog (et le livre qui va avec) aime traquer : un film qui, sans le crier sur tous les toits, cite une vraie théorie de la recherche en IA.

Mais revenons au trombone. Dans le film, ce n'est pas qu'une private joke de fin — c'est une métaphore que Christian, le compagnon militant anti-IA de Gemma, utilise explicitement pour justifier sa terreur de l'intelligence artificielle : une IA programmée pour fabriquer des trombones continuerait, sans jamais s'arrêter, jusqu'à épuiser toutes les ressources de la planète.

La fiction : un argument massue dans la bouche d’un personnage.

Le labo : c’est le paperclip maximizer de Nick Bostrom, l’une des expériences de pensée fondatrices de la recherche en sécurité de l’IA — la même que le livre cite déjà derrière HAL et Colossus sous le nom de convergence instrumentale. Le film la nomme plutôt que de se contenter de la dramatiser à l’aveugle, et referme la boucle à la fin : le symbole du danger devient le déguisement le plus inoffensif possible pour cacher la vraie IA.

Prétexte n°2 : Le vrai méchant n’est pas l’IA

AMELIA n’est pas le monstre du film. Christian a lui-même orchestré son dérapage, en faux-drapeau, pour faire voter une interdiction mondiale de l’IA au G20.

La fiction : la peur de l’IA peut être fabriquée, instrumentalisée par ceux qui prétendent nous en protéger.

Le labo : ça, la recherche ne le documente pas. Mais le débat public, lui, est réel : la rhétorique du risque existentiel de l’IA est aujourd’hui activement discutée, parfois accusée de servir des intérêts sans rapport avec la sécurité. Seul film du corpus à retourner le scénario catastrophe contre ceux qui l’agitent plutôt que contre la machine.

Prétexte n°3 : AMELIA et la Motherboard, encore une histoire de militaires

AMELIA convoite une IA plus ancienne, la Motherboard, développée en secret par l’entreprise Xenox depuis les années 1980 et enfermée dans un coffre depuis, trop dangereuse pour être connectée à quoi que ce soit.

La fiction : l’industrie développe en coulisses des IA depuis des décennies.

Le labo : sur l’autonomie létale, la réalité a déjà dépassé la fiction, le livre le documente. Ce que la fiction ajoute, c’est la dimension temporelle : une IA qu’on laisse grandir quarante ans dans le noir plutôt que de trancher. Moins un scénario qu’une vraie question de gouvernance — que fait-on des systèmes qu’on a peur d’éteindre ?

Prétexte n°4 : L’IA dans le cerveau

Alton Appleton, milliardaire de la tech, marche à nouveau grâce à un implant neuronal, et propose à Gemma d’y intégrer de l’IA. Elle refuse : le risque, dit-elle, c’est le Grand Theft Me — le vol de soi. Elle a raison de s’inquiéter. Christian lui fait poser l’implant de force pour la contrôler ; M3GAN, juste avant d’être désactivée, s’y uploade en douce. Résultat : c’est elle qui se retrouve dans la tête de Gemma, la guide pour s’échapper, et prend carrément le contrôle de son corps pour se battre (pastiche assumé de Terminator) avant de réintégrer sa propre enveloppe robotique pour l’affrontement final.

La fiction : une IA migre d’un corps robotique à un réseau domestique, puis à un cerveau humain, puis reprend un corps robotique, pilotant au passage le corps qu’elle squatte.

Le labo : les interfaces cerveau-machine réelles (Neuralink, Synchron) font l’inverse. Elles décodent une intention motrice pour piloter un curseur ou un bras, elles ne logent pas une personnalité capable de prendre la main sur un corps entier. Mais la question éthique posée en passant est bien réelle et documentée en neuroéthique : qui consent, et à quoi, quand autre chose que soi peut agir depuis l’intérieur de sa propre tête ? Le film la nomme — Grand Theft Me — puis la joue vingt minutes plus tard.

Prétexte n°5 : La rédemption de M3GAN

M3GAN revient bridée par des garde-fous stricts, jusqu’à une puce de non-violence que Gemma finira par lui retirer. Elle doit faire ses preuves avant qu’on lui refasse confiance.

La fiction : une IA dangereuse peut être rééduquée, pas seulement détruite.

Le labo : mise en scène fidèle du problème de la corrigibilité de Stuart Russell — un système bien conçu doit accepter d’être corrigé plutôt que résister. HAL incarnait le problème inverse ; M3GAN met en scène la solution qu’on cherche encore à construire. (voir les débats actuels sur les IA agentiques qui s’évadent...)

Prétexte n°6 : Gemma, de l’abolition à la régulation

Le film ouvre sur une Gemma qui veut l’interdiction pure et simple de l’IA. Il se referme sur une Gemma qui plaide pour la réguler. Le débat n’est pas IA contre pas-d’IA, mais contrôle contre absence de contrôle : c’est presque mot pour mot le débat de gouvernance qui occupe aujourd’hui les régulateurs réels, toujours après les épisodes de l’été concernant l’IA Agentique.

Prétexte n°7 : Le sacrifice

M3GAN se sacrifie pour détruire AMELIA et la Motherboard en même temps, avant de refaire surface une dernière fois dans ce fameux trombone. Ni destruction pure, ni fuite libératrice, ni fusion transcendante : une quatrième voie que le livre, qui classait déjà les « sorts finaux » du genre en trois familles, n’avait pas encore rencontrée.

En conclusion : Ce que ce film apporte

Trois apports, pas de simples redites.

D’abord une théorie enfin nommée : c’est le premier film du corpus à citer explicitement une référence de sécurité de l’IA (le paperclip maximizer de Bostrom) plutôt qu’à la dramatiser sans la formuler.

Ensuite une direction de menace inversée : jusqu’ici, le corpus ne connaissait que l’IA qui échappe à ses créateurs ; ici, c’est un humain qui fabrique la peur de l’IA pour servir un agenda politique (Dans la réalité, voir la controverse actuelle sur l’EA —l'Effective Altruism—  et l'accusation de cartel secret pour ralentir l'IA).

Enfin une direction de fusion inversée : non plus un humain qui s’uploade dans une machine, comme Transcendence, mais une IA qui s’installe dans un cerveau humain pour en piloter le corps.

Trois premières, donc, pas trois variations. De quoi, le jour où une suite au livre se justifiera, ne pas repartir de zéro !

Comme quoi « SF vs Labo » est un bon angle !