Fiche : Les hallucinations de l’IA

1. Qu’est-ce qu’une hallucination ?

Une hallucination survient lorsqu’un modèle d’intelligence artificielle produit une réponse qui semble exacte, logique ou convaincante, mais qui est totalement fausse.

L’IA peut ainsi inventer :

• des faits ;
• des dates historiques ;
• des citations ;
• des références bibliographiques ;
• des théories ;
• des statistiques ;
• des explications scientifiques.

L’élément le plus problématique :
Elle exprime ces inventions avec un ton très assuré.

2. Pourquoi cela se produit-il ?

L’IA ne connaît pas la vérité.

Elle n’a ni mémoire du réel, ni compréhension, ni accès à la vérification.

Elle prédit les mots les plus probables pour composer une réponse, en s’appuyant sur les modèles observés dans ses données d’entraînement.

L’IA hallucine quand :

• les données manquent,
• la demande porte sur des détails introuvables,
• la formulation semble exiger une réponse trop précise.

Dans ces situations, l’IA comblera les trous avec des éléments inventés, mais crédibles.

3. Exemples d’hallucinations courantes

• Citations impossibles
  Attribuer à un auteur une phrase qu’il n’a jamais dite.
• Dates historiques erronées
  Donner une date plausible mais incorrecte (ex. : déplacer un événement de plusieurs décennies).
• Références inventées
  Créer de faux livres, de faux articles scientifiques ou de faux auteurs.
• Statistiques fabriquées
  Proposer des chiffres précis sans qu’aucune source réelle ne les soutienne.
• Explications pseudo-logiques
  Donner une réponse fluide et structurée, mais entièrement fausse.

4. Comment enseigner ce phénomène en classe

Voici une activité simple et percutante à faire avec les élèves.

Activité : Vérifier l’invisible

1. Demander à une IA :
   Cite cinq livres sur un sujet très précis (ex.: l’écologie des rivières du Nouveau-Brunswick).
2. Noter les titres, auteurs et dates que l’IA fournit.
3. Vérifier leur existence :
   • catalogues de bibliothèques ;
   • sites d’éditeurs ;
   • encyclopédies ;
   • bases de données reconnues.
4. Analyser en classe :
   • Combien de livres n’existent pas ?
   • Quels détails semblent crédibles ?
   • Pourquoi l’IA a-t-elle inventé ?
   • Que faut-il retenir pour la prochaine fois ?

5. Questions de réflexion pour les élèves

• Pourquoi l’IA crée-t-elle des informations fausses ?

• Comment reconnaître une réponse inventée ?

• Quelle attitude adopter face à une réponse convaincante mais suspecte ?

• Quelles sont les conséquences possibles si on croit aveuglément ces réponses ?

• Comment réduire le risque de se faire tromper ?

6. À retenir!

L’IA ne ment pas intentionnellement : elle remplit les vides.
Le rôle de la personne enseignante et de l’élève est de vérifier, comparer, analyser.
Savoir repérer les hallucinations, c’est donner aux jeunes un réflexe indispensable dans un monde rempli d’IA.