Activité : Analyser les biais de l’IA


Matériel nécessaire

• Un générateur d’images (Whisk, Copilot, etc.)
• Projecteur ou TBI
• Feuilles de réflexion
• Tableau pour noter les observations collectives

Déroulement de l’activité

1. Introduction aux biais

Expliquer simplement ce qu’est un biais :

• une tendance injuste, répétée, qui favorise certains groupes et en invisibilise d’autres ;
• une conséquence des données utilisées pour entraîner les IA (images, textes, vidéos) ;
• un phénomène qui influence la façon dont l’IA représente le monde.

Illustrer par un exemple simple :
Si l’IA voit surtout des images de scientifiques masculins, elle répétera ce modèle.

2. Expérimentation en groupe

Projeter en classe les images générées à partir des requêtes suivantes :

• mannequin
• architecte
• Une personne qui fait le ménage

Optionnel : ajouter d’autres requêtes proposées par les élèves, par exemple :

• Une famille
• Un héros »
• Élève exemplaire

Pendant la génération, demander aux élèves d’observer :

• le genre ;
• l’origine apparente ;
• les vêtements ;
• le décor ;
• les éléments stéréotypés ou répétés.

3. Analyse structurée

Distribuer une feuille de réflexion ou afficher une grille d’analyse :

• Requête
• Genre représenté
• Origine apparente
• Stéréotypes visibles
• Absences marquantes
• Hypothèses possibles

Inviter les élèves à comparer les résultats :

• Quelles professions semblent associées à un genre précis ?

• Quels groupes sont absents ou sous-représentés ?

• Les images reflètent-elles la diversité réelle ?

• Quels stéréotypes apparaissent spontanément ?

4. Discussion collective

Questionner les élèves pour aller plus loin :

• Pourquoi ces biais apparaissent-ils dans les images ?
  (Données limitées, représentations historiques, répétition culturelle…)
• Quels effets ces représentations peuvent-elles avoir ?
  • renforcement de stéréotypes ;
  • influence sur les choix professionnels ;
  • perception faussée de la diversité sociale ;
  • normalisation de modèles injustes.
• Comment réduire ces biais dans nos usages ?
  • préciser les requêtes ;
  • demander une diversité explicite ;
  • comparer plusieurs générations ;
  • analyser les limites des modèles.
• Quel rôle les élèves peuvent-ils jouer ?
  • questionner ;
  • rectifier ;
  • proposer des alternatives ;
  • imaginer des représentations plus variées.

Questions de réflexion écrite

À faire en fin d’activité ou à domicile :

• D’où viennent les biais observés dans les images générées ?
• Quelles réalités sont exagérées ? Lesquelles sont invisibles ?
• Quels risques ces biais représentent-ils pour la société ?
• Comment un utilisateur averti peut-il contrer ces biais ?
• Pourquoi est-il important que les élèves développent un regard critique ?

À retenir!

L’IA ne décide pas : elle répète les modèles qu’elle apprend.
Les élèves peuvent observer, analyser et corriger ces représentations pour construire une vision du monde plus juste, plus inclusive et plus représentative de la société.