Biais et algorithmes
Source : Lee, M. H. J. & Lai, C. K., Nature Machine Intelligence, 1er septembre 2026 — https://lnkd.in/d4E8_4DG
L'IA a-t-elle, elle aussi, des réflexes inconscients ?
Chaque semaine, les laboratoires de recherche publient des dizaines d'études sur l'intelligence artificielle. Celle-ci mérite qu'on s'y arrête : elle rejoint directement une question posée dans notre Repère Numérique n°3, consacré aux biais et à la discrimination algorithmique.
Un vieux test de psychologie, appliqué à l'IALe point de départ, c'est un test bien connu en psychologie : le test d'association implicite. Depuis les années 1990, il sert à repérer les préjugés inconscients — ceux qu'on n'assumerait jamais ouvertement, mais qui influencent quand même nos réactions.
Le principe est simple : on mesure le temps qu'une personne met à associer deux mots, par exemple un prénom et un métier. Si l'association va « dans le sens du cliché », la réponse est rapide. Si elle va à l'encontre du cliché, elle est plus lente parce que le cerveau doit freiner un réflexe avant de répondre.
Deux chercheurs américains, Messi H. J. Lee et Calvin K. Lai, ont eu l'idée d'adapter ce test aux IA qui « réfléchissent » avant de répondre — ces modèles qui rédigent un raisonnement intermédiaire avant de donner leur réponse finale.
Leur mesure n'est plus un temps de réaction humain, mais la quantité de texte que le modèle consacre à réfléchir avant de répondre. Le résultat ?
Face à une association qui va à l'encontre d'un stéréotype, la plupart des modèles testés « réfléchissent » plus longtemps que face à une association qui va dans le sens du cliché. Autrement dit : sortir du sentier du préjugé demande visiblement plus d'effort de calcul à la machine. Un motif qui ressemble, dans sa forme, à ce qu'on observe chez les humains porteurs de biais implicites. Ce résultat ne dit pas que l'IA « pense » comme nous, ni qu'elle a des convictions. Il montre surtout une chose importante : les biais ne se cachent pas seulement dans les réponses finales d'un modèle — celles qu'on peut relire et corriger — mais aussi dans le chemin invisible qui y mène.
C'est précisément le sujet du Repère Numérique n°3 — Biais, discrimination & Conformisme algorithmique, où l'on examine comment le calcul reproduit, et parfois amplifie, l'injustice : de la justice prédictive à la santé, en passant par la reconnaissance faciale ou la protection sociale. Mais aussi le conformisme... Cette étude de septembre 2026 est une pièce de plus au dossier. Elle montre que même les modèles les plus récents, conçus pour « raisonner » avant de répondre, n'échappent pas au problème — ils le déplacent simplement dans une zone moins visible, celle du raisonnement interne plutôt que de la réponse finale.
Pour aller plus loin sur cette question, direction le Repère Numérique n°3, disponible sur Amazon !
https://amzn.eu/d/09N4VdkQ