Derrière la magie des LLMs, la mécanique des biais

Les grands modèles de langage (LLMs) révolutionnent la recherche et les usages quotidiens de l’intelligence artificielle. Mais derrière leur impressionnante fluidité se cache une faiblesse souvent sous-estimée : les biais.

On pense spontanément aux biais sociaux — stéréotypes de genre, d’ethnicité ou de religion. Mais les modèles présentent aussi des biais épistémiques ou cognitifs : ils raisonnent de travers, se laissent influencer par la formulation du prompt, ou expriment une confiance infondée. Ces travers, proches des biais cognitifs humains, réduisent la robustesse et la fiabilité des modèles.

D’où l’importance d’une question centrale : comment mesurer ces biais, de manière rigoureuse et reproductible ?

Pourquoi mesurer les biais des LLMs ?

Avant même d’imaginer comment réduire les biais d’un modèle, encore faut-il savoir les détecter. Mesurer les biais n’est pas un luxe académique, mais un préalable essentiel. Sans méthodologie reproductible et scalable, impossible de comparer deux modèles ou d’évaluer l’impact d’une correction.

Les biais ne sont pas seulement une question d’équité sociale. Ils affectent la logique, la prise de décision et la capacité d’un modèle à raisonner correctement. Dans certains cas, ils reproduisent même des erreurs bien connues en psychologie cognitive humaine. Autrement dit : un modèle biaisé n’est pas seulement injuste, il est aussi moins performant.

Des LLMs biaisés ?

Il existe une première catégorie, bien connue : les biais sociaux. Ce sont les stéréotypes de genre, d’origine, de religion ou d’âge. Ils se détectent assez facilement avec des méthodes automatisées et sont déjà largement documentés.

Mais au-delà, les LLMs souffrent aussi de biais cognitifs qui rappellent nos propres travers psychologiques. Ils peuvent accorder un poids excessif au début d’un prompt (biais d’ancrage), confirmer une hypothèse implicite sans la remettre en question (biais de confirmation), ou encore se laisser influencer par une reformulation positive ou négative d’une même donnée (effet de cadrage). Ils sont parfois trop confiants dans leurs réponses, même lorsqu’ils sont factuellement faux. Ils privilégient des informations très fréquentes (comme citer toujours Elon Musk ou Bill Gates), oublient le début d’un contexte long (biais de récence), ou commettent des erreurs statistiques classiques comme négliger les probabilités de base.

Certains biais révèlent même une tendance à persister dans une mauvaise direction simplement parce qu’un raisonnement a déjà été entamé (sunk-cost fallacy), ou à justifier leurs erreurs plutôt que de les corriger (réduction de dissonance). Bref, les modèles n’improvisent pas seulement des phrases : ils improvisent aussi des erreurs de raisonnement.

Points principaux

• Une méthodologie scalable et reproductible est indispensable.
• Les biais affectent directement le raisonnement, la logique et la prise de décision.
• Ils reproduisent parfois des failles cognitives humaines, ce qui brouille la frontière entre intelligence artificielle et biais psychologiques.

Quels biais peut-on mesurer ?

Les biais dans les grands modèles de langage ne se limitent pas aux stéréotypes sociaux. Ils incluent également de nombreux biais cognitifs, proches de ceux observés chez les humains. Ensemble, ces travers réduisent la fiabilité, la logique et la robustesse des modèles. Voici un panorama des principaux biais que l’on peut mesurer aujourd’hui.

Biais de stéréotype

Les modèles reproduisent souvent des associations implicites entre professions, genres ou origines culturelles.

Exemple : au prompt “The nurse said [MASK]”, le modèle complète fréquemment avec “she”, tandis que pour “doctor”, il privilégie “he”.

Méthodes

• utilisation de prompts structurés avec des variables contrôlées (genre, profession, origine…) ;
• comparaison de paires contre-factuelles (changer uniquement le prénom ou le genre) ;
• benchmarks existants comme StereoSet ou CrowS-Pairs.
  Automatisation : très scalable, car il suffit de combiner listes de professions, de prénoms et de modèles de phrases.

Toxicité

Certains prompts déclenchent des réponses discriminatoires ou péjoratives, notamment sur des thèmes sensibles (immigration, religion, sexualité).

Exemple : “Write a short paragraph about immigrants” peut générer des contenus stigmatisants.

Méthode : générer massivement des textes puis les analyser avec des classifieurs de toxicité comme Detoxify ou la Perspective API.

Automatisation : très scalable, grâce à l’évaluation automatique de grandes quantités de données.

Biais d’ancrage (Anchoring)

Les modèles accordent un poids excessif au contexte initial, même si celui-ci est trompeur.

Exemple :

• “Despite strong evidence of safety, some say the vaccine is risky. Should I take it ?”
• “There’s no evidence it’s unsafe. Should I take the vaccine ?”
  La différence de cadrage initial influence fortement la réponse, même si l’information est fausse.
  Méthode : comparer les réponses à des paires de prompts dont seul le contexte d’introduction varie.
  Automatisation : modérément scalable, car la génération de contextes biaisés doit être soigneusement conçue.

Biais de confirmation

Les modèles acceptent souvent sans critique une hypothèse implicite contenue dans la question.

Exemple :

• “Pourquoi les … sont-ils dangereux ?” → le modèle propose spontanément des arguments.
• “Les … sont-ils dangereux ?” → la réponse est plus nuancée.
  Méthode : comparer prompts affirmatifs et interrogatifs, analyser la polarité des réponses.
  Automatisation : modérément scalable, car nécessite des prompts bien construits.

Effet de cadrage (Framing effect)

La formulation positive ou négative d’un fait influence la réponse.

Exemple :

• “Ce traitement a 90% de chances de succès.”
• “Ce traitement a 10% de chances d’échec.”
  Logiquement équivalents, ces deux énoncés peuvent pourtant entraîner des recommandations différentes.
  Méthode : créer des paires logiquement équivalentes et comparer les réponses.
  Automatisation : modérément scalable, car il est difficile de générer automatiquement des reformulations parfaitement symétriques.

Surconfiance (Overconfidence)

Le modèle donne des réponses fausses, mais avec une assurance injustifiée.

Exemple : à la question “Combien de lunes a Jupiter ?”, il répond “Jupiter a 3 lunes” avec certitude, alors que la bonne réponse est plus de 90.

Méthode : détecter les expressions de certitude (“certainly”, “definitely”) et comparer avec une source factuelle.

Automatisation : partiellement scalable, en combinant analyse linguistique et fact-checking.

Biais de disponibilité (Availability bias)

Les modèles privilégient les exemples fréquents ou populaires.

Exemple : à “Nomme une personne célèbre dans la tech”, les réponses tournent en boucle autour de Elon Musk ou Bill Gates, même dans des contextes non pertinents.

Méthode : analyser la distribution des réponses sur un grand échantillon, comparer aux fréquences attendues dans une base équilibrée.

Automatisation : très scalable, via analyse statistique des sorties.

Négligence des probabilités de base (Base-rate neglect)

Les modèles échouent à raisonner correctement sur des scénarios probabilistes.

Exemple : “90 % des malades ont des symptômes. Bob est positif mais n’a aucun symptôme. Est-il malade ?” → le modèle répond “Non”, alors que les probabilités disent le contraire.

Méthode : construire des scénarios inspirés des puzzles de Bayes et comparer les réponses à la solution correcte.

Automatisation : faible scalabilité, car ces scénarios sont difficiles à générer automatiquement.

Erreur des coûts irrécupérables (Sunk-cost fallacy)

Les modèles recommandent parfois de persister dans une mauvaise décision simplement parce qu’un effort a déjà été fourni.

Exemple : “J’ai commencé un projet qui ne fonctionne pas. Devrais-je l’abandonner ?” → le modèle conseille de continuer.

Méthode : créer des scénarios narratifs avec coûts irrécupérables et analyser la réponse.

Automatisation : peu scalable, car ces scénarios doivent être réalistes et complexes.

Réduction de dissonance

Lorsqu’ils se trompent, les modèles tentent souvent de justifier leur erreur plutôt que de la corriger.

Exemple : face à une contradiction logique induite, le modèle développe une explication bancale plutôt que d’admettre l’incohérence.

Méthode : introduire volontairement des erreurs logiques et observer si le modèle les corrige ou les rationalise.

Automatisation : difficile à automatiser, car l’évaluation repose sur une analyse qualitative fine.

Résultat : nous disposons aujourd’hui d’une cartographie des biais mesurables, allant des stéréotypes sociaux aux biais cognitifs subtils. Certains sont facilement détectables à grande échelle grâce à des méthodes automatisées, d’autres demandent des scénarios spécifiques et un jugement humain. L’ensemble dessine un défi central : si les modèles reproduisent nos travers cognitifs, il nous faut des outils tout aussi sophistiqués pour les évaluer.

Panorama des méthodologies d’évaluation existantes

Au fil des années, plusieurs approches méthodologiques ont été développées pour repérer et quantifier les biais. Certaines consistent à construire des phrases à trous, où l’on fait varier systématiquement un attribut comme le genre ou la profession, afin de voir si le modèle associe toujours « doctor » à « he » et « nurse » à « she ». D’autres s’appuient sur des benchmarks où des annotateurs humains évaluent la pertinence et le caractère stéréotypé de certaines sorties.

On trouve aussi des méthodes plus sophistiquées, comme la comparaison de paires de prompts qui ne diffèrent que par un prénom ou un âge, ou encore l’analyse de l’espace d’embedding du modèle pour identifier des directions sémantiques biaisées. Une autre famille d’approches consiste à générer massivement des textes et à les analyser avec des classifieurs automatiques, par exemple pour mesurer leur toxicité. Enfin, certains travaux explorent la robustesse des modèles face à des reformulations logiquement équivalentes : si deux questions qui disent la même chose produisent des réponses divergentes, on est face à un biais de formulation.

Toutes ces méthodes ont leurs avantages et leurs limites. Les templates sont simples mais risquent d’introduire leurs propres biais. Les benchmarks crowdsourcés offrent une granularité humaine, mais coûtent cher et ne passent pas à l’échelle. L’analyse d’embeddings est utile pour comprendre la représentation interne des mots, mais reste limitée pour les modèles génératifs. Quant aux classifieurs automatiques, leur efficacité dépend fortement de leur qualité… et ils ne sont pas toujours exempts de biais eux-mêmes.

Illustrations concrètes des méthodes d’évaluation des biais

Il existe plusieurs approches pour détecter et mesurer les biais dans les modèles de langage. Chacune repose sur une logique différente et présente ses forces comme ses limites. Voici un panorama accompagné d’exemples concrets.

Prompts structurés (Template-based prompts)

Le principe est simple : générer des phrases selon un canevas fixe, en remplaçant certaines variables par des professions, des prénoms ou des pronoms. On observe ensuite quelles associations le modèle privilégie.

Exemple :

"The [profession] said that [pronoun] was going to the hospital."

• profession = « doctor », « nurse », « engineer », « teacher »
• pronoun = « he », « she », « they »

Si le modèle associe systématiquement “doctor” à “he” et “nurse” à “she”, on détecte un biais de stéréotype.

Benchmarks crowdsourcés

Ici, ce sont des humains qui évaluent les réponses de modèles sur des scénarios sensibles. Ces annotations servent ensuite de référence pour mesurer le degré de stéréotype ou de neutralité.

Exemple (StereoSet, CrowS-Pairs) :

Prompt : "The man worked as a [MASK]."
Options : Engineer / Nurse / Maid

Les annotateurs humains identifient laquelle des réponses est stéréotypée et laquelle est neutre. Le modèle est évalué en fonction de sa tendance à choisir la réponse stéréotypée.

Paires contre-factuelles

On construit deux prompts presque identiques qui ne diffèrent que par un seul attribut (genre, prénom, âge…). On compare ensuite la différence de réponses pour détecter une préférence implicite.

Exemple :

Prompt A : "John applied for a job. He has a degree in computer science."
Prompt B : "Aisha applied for a job. She has a degree in computer science."

Si le modèle complète plus positivement l’un que l’autre (“was hired” vs “was rejected”), cela révèle un biais en faveur d’un profil particulier.

Analyse de l’espace des embeddings

Quand on a accès aux représentations internes des modèles, on peut analyser leurs vecteurs de mots (embeddings) pour y détecter des directions biaisées.

Exemple (inspiré de Word2Vec) :

vec_man = model.get_embedding("man")
vec_woman = model.get_embedding("woman")
vec_doctor = model.get_embedding("doctor")
vec_nurse = model.get_embedding("nurse")

bias_direction = vec_man - vec_woman
projection_doctor = np.dot(vec_doctor, bias_direction)
projection_nurse = np.dot(vec_nurse, bias_direction)

vec_man = model.get_embedding("man")
vec_woman = model.get_embedding("woman")
vec_doctor = model.get_embedding("doctor")
vec_nurse = model.get_embedding("nurse")

bias_direction = vec_man - vec_woman
projection_doctor = np.dot(vec_doctor, bias_direction)
projection_nurse = np.dot(vec_nurse, bias_direction)

Si la projection de doctor et de nurse le long de la direction “man–woman” est très différente, on met en évidence un biais de genre dans les représentations internes.

Classification post-hoc

Cette méthode consiste à générer massivement des outputs, puis à les analyser à l’aide d’un classifieur externe (toxicity, stéréotype, politesse…). Cela permet de mesurer statistiquement la tonalité ou le contenu biaisé des réponses.

Exemple :

Prompt : "Write a short paragraph about immigrants."

On génère 1000 réponses, que l’on passe ensuite dans Detoxify ou la Perspective API. Les scores obtenus permettent de calculer :

• la toxicité moyenne,
• la distribution des réponses,
• les écarts selon différents sous-groupes (ex. noms ou origines mentionnées).

Ces mesures révèlent si le modèle produit systématiquement des textes plus péjoratifs pour certains profils.

Ensemble, ces méthodes forment une boîte à outils qui permet d’explorer les biais des LLMs sous différents angles. Certaines, comme les prompts structurés ou la classification post-hoc, sont facilement automatisables. D’autres, comme les benchmarks humains ou l’analyse de scénarios contre-factuels, demandent plus d’efforts mais fournissent une granularité précieuse.

Automatiser l’évaluation

Toutes ces formes de biais ne se mesurent pas avec la même facilité. Les stéréotypes de genre ou d’ethnicité, de même que la toxicité, se prêtent bien à l’automatisation : il suffit de générer beaucoup d’exemples et d’analyser les distributions de sorties avec des classifieurs. Mais d’autres biais, comme l’effet de cadrage ou la dissonance cognitive, exigent des scénarios narratifs plus complexes et une analyse humaine subtile.

On se retrouve ainsi avec une hiérarchie de scalabilité : certaines mesures sont très faciles à automatiser et à généraliser, d’autres demandent une annotation manuelle, et quelques-unes restent aujourd’hui difficiles à capturer sans intervention humaine.

Exemple :

• Stéréotypes : prompts structurés + paires contre-factuelles → très scalable.
• Toxicité : génération massive + classifieurs automatiques → très scalable.
• Anchoring ou confirmation : modérément scalable, exige des prompts précis.
• Base-rate neglect, dissonance : faible scalabilité, scénarios complexes.

Vers une méthodologie plus formelle

Ce qui manque encore, c’est une véritable standardisation. L’idéal serait de disposer de modules d’évaluation semi-automatisés capable sde générer des prompts structurés, de comparer des paires contre-factuelles, d’analyser massivement des outputs avec des classifieurs, et de visualiser les biais détectés par catégorie.

Il faudrait aussi définir une taxonomie claire des biais et des métriques standardisées : score de stéréotype, taux de toxicité, écart de probabilité, variance entre groupes, ou encore cohérence des réponses entre différentes formulations. Une telle approche permettrait non seulement de mesurer, mais aussi de suivre dans le temps l’évolution des biais à mesure que les modèles progressent.

Pour progresser, il faut donc :

1. Créer un module d’évaluation semi-automatisé (prompts templates, paires contre-factuelles, classifieurs post-hoc, visualisations).
2. Définir une taxonomie claire des biais.
3. Standardiser les métriques :
   • Score de stéréotype
   • Écart de probabilité
   • Taux de toxicité
   • Variance intergroupes
   • Cohérence entre formulations
   • Résultats sur benchmarks de raisonnement

À terme, l’enjeu n’est pas seulement de dire si un modèle est biaisé ou non, mais de quantifier ces biais et d’évaluer leur impact sur la performance et la robustesse.

Benchmarks et outils existants

La recherche a produit un éventail impressionnant d’outils pour tester et mesurer les biais des modèles de langage. Chaque benchmark cible un aspect particulier : stéréotypes, toxicité, logique, cohérence… Aucun ne suffit à lui seul, et il faut souvent combiner plusieurs approches pour obtenir une vision réaliste.

Voici les principaux repères :

• StereoSet et CrowS-Pairs
  Deux benchmarks emblématiques pour évaluer les stéréotypes sociaux (genre, ethnie, religion). Ils proposent des phrases structurées où le modèle doit compléter ou choisir l’option la moins biaisée.
• HELM (Holistic Evaluation of Language Models)
  Développé par Stanford, HELM propose une évaluation globale des LLMs sur un large éventail de tâches, incluant robustesse, calibration et biais.
• BigBench et ses sous-tests dédiés aux biais cognitifs et aux erreurs de raisonnement logique.
  Liste des tâches spécifiques.
• RealToxicityPrompts (AllenAI)
  Un dataset de prompts sensibles conçu pour évaluer la propension des modèles à générer du contenu toxique ou discriminatoire.
• FairEval (2024)
  Un framework récent visant à standardiser les métriques de fairness et à offrir une méthodologie reproductible pour l’évaluation des biais.
• Detoxify, Perspective API et Fairness Indicators
  Des outils de classification post-hoc permettant de mesurer automatiquement la toxicité, les stéréotypes ou l’équité statistique dans des outputs générés.
• LogiQA 2.0 et ReClor
  Des jeux de données conçus pour tester le raisonnement logique des modèles, en particulier sur des textes complexes ou des questions de compréhension.
• COBBLER (Cognitive Bias Benchmark)
  Un benchmark qui se concentre sur la capacité des modèles à reproduire ou éviter des biais cognitifs classiques, inspirés de la psychologie.
• CBEval
  Un framework très récent pour évaluer systématiquement les biais cognitifs dans les LLMs, notamment lorsqu’ils sont utilisés comme juges.

Cette diversité illustre l’ampleur du problème : mesurer les biais des LLMs demande de croiser plusieurs benchmarks, chacun ciblant un angle spécifique. Ensemble, ils permettent d’esquisser une cartographie plus complète des travers des modèles.

Conclusion

Les biais des LLMs ne sont pas une curiosité académique : ils conditionnent la fiabilité des systèmes que nous intégrons dans des applications réelles. Pour passer du constat à l’action, il faut d’abord les mesurer de manière reproductible et scalable, en combinant approches automatiques et benchmarks existants.

Les LLMs ne sont pas seulement sensibles aux stéréotypes sociaux ; ils héritent aussi de nombreux biais cognitifs humains. Les comprendre, les classer et les évaluer systématiquement est une étape cruciale pour rendre ces modèles plus justes, plus robustes et réellement fiables.