🧠 L'IA ne sait pas ce qu'elle dit (et ce n'est pas une insulte)

Une machine à prédire le mot suivant

Entraînée sur d'énormes quantités de textes, l'IA a appris quels mots suivent quels autres. Quand vous lui posez une question, elle produit, mot après mot, la continuation la plus plausible. C'est une machine à probabilités, pas une encyclopédie qui consulterait ses fiches.

D'où sa force : elle reformule, résume, traduit, propose des idées, trouve le mot juste. Et sa faiblesse : elle peut écrire avec un aplomb parfait une information parfaitement fausse.

Les « hallucinations », en clair

Quand elle ne sait pas, l'IA ne dit pas toujours qu'elle ne sait pas : elle invente ce qui a l'air vrai. Un titre de livre crédible, une date plausible, une référence inexistante mais bien formatée. Le terme technique est « hallucination ».

Conséquence pratique : tout ce qui est vérifiable — un chiffre, une date, une citation, une source, une règle de droit — doit être vérifié ailleurs avant d'être utilisé.

Bien s'en servir : trois habitudes

• Demander le brouillon, pas la vérité. Un plan, une reformulation, dix idées : excellent. « Combien coûte exactement… » : à vérifier.
• Ne rien confier de sensible. Ce que vous écrivez peut servir à améliorer le service : pas de données personnelles, médicales, professionnelles confidentielles, ni de copies d'élèves nominatives.
• Le dire quand on l'a utilisée. C'est la règle appliquée aux élèves ; elle vaut pour les adultes. Utiliser l'IA n'est pas tricher, cacher qu'on l'a utilisée, si.