Fiche : Les biais – qu’est-ce que c’est ?

Un exemple tout simple.

Imagine que tu apprends à reconnaître les fruits, mais qu’on te montre uniquement des pommes rouges.
Plus tard, si quelqu’un te montre une pomme verte, tu pourrais croire que ce n’est pas une pomme du tout.

L’IA fonctionne exactement de cette manière.
Si elle apprend à partir d’images où tous les médecins sont des hommes, elle finira par penser que « médecin = homme », même si ce n’est pas vrai.

Fais le test !

Demande à une IA de créer des images avec ces métiers :

• scientifique
• artiste
• pilote

Observe ce qui ressort :
Ces métiers sont souvent représentés de façon répétitive (homme blanc, femme dans les soins, etc.) parce que l’IA a vu beaucoup d’images qui ressemblent à cela.

Pourquoi c’est important ?

C’est important parce que tu as le pouvoir d’aider l’IA à devenir plus juste.

En demandant :

• Une scientifique
• Un infirmier
• Un pilote autochtone
• Une équipe de chercheurs très variée

…tu encourages l’IA à représenter un monde plus diversifié, plus réaliste et plus équitable.

À retenir !

L’IA ne fait pas exprès d’être injuste : elle répète ce qu’elle a appris.
Mais toi, tu peux l’aider à s’améliorer en posant de meilleures questions.