Comprendre 6 min Parents, enseignants, tout le monde

L'IA ne sait pas ce qu'elle dit (et ce n'est pas une insulte)

Une IA générative ne cherche pas la vérité : elle cherche la suite la plus probable. Comprendre ça, c'est déjà savoir s'en servir — et s'en méfier.

Étape 1 : Une machine à prédire le mot suivant

Elle cherche la suite la plus probable, pas la vérité

Entraînée sur d'énormes quantités de textes, l'IA a appris quels mots suivent quels autres. Quand vous lui posez une question, elle produit, mot après mot, la continuation la plus plausible. C'est une machine à probabilités, pas une encyclopédie qui consulterait ses fiches.

Sa force

Elle reformule, résume, traduit
Elle propose des idées
Elle trouve le mot juste

Sa faiblesse

Elle peut écrire avec un aplomb parfait une information parfaitement fausse

Le temps pour atteindre 100 millions d'utilisateurs

Aucune technologie n'était entrée aussi vite dans nos vies.

ChatGPT (2022-2023)

2 mois

TikTok

9 mois

Instagram

30 mois

Source : Analyse UBS d'après Sensor Tower, février 2023

Le temps pour atteindre 100 millions d'utilisateurs
ChatGPT (2022-2023)	2 mois
TikTok	9 mois
Instagram	30 mois

Étape 2 : Les « hallucinations », en clair

Quand elle ne sait pas, elle invente ce qui a l'air vrai

Quand elle ne sait pas, l'IA ne dit pas toujours qu'elle ne sait pas : elle invente ce qui a l'air vrai. Le terme technique est « hallucination ».

Un titre de livre crédibleUne date plausibleUne référence inexistante mais bien formatée

Tout ce qui est vérifiable doit être vérifié ailleursUn chiffre, une date, une citation, une source, une règle de droit : avant de l'utiliser.

Combien d'eau pour refroidir les serveurs pendant une conversation de 20 à 50 questions ?

Une IA « dans le cloud », c'est un bâtiment de serveurs qui chauffe.

🤔 À votre avis : Litres d'eau par conversation ?

2 L 05

Réponse : 0,5 L. Un demi-litre : une petite bouteille. Multipliée par des centaines de millions de conversations par jour.

ordre de grandeur · Source : Li, Yang, Islam, Ren — université de Californie Riverside, 2023 (GPT-3, ordre de grandeur)

Combien d'eau pour refroidir les serveurs pendant une conversation de 20 à 50 questions ?
Litres d'eau par conversation	0,5 L

Étape 3 : Bien s'en servir : trois habitudes

Brouillon, discrétion, honnêteté

Demander le brouillon, pas la vérité.Un plan, une reformulation, dix idées : excellent. « Combien coûte exactement… » : à vérifier.
Ne rien confier de sensible.Ce que vous écrivez peut servir à améliorer le service : pas de données personnelles, médicales, professionnelles confidentielles, ni de copies d'élèves nominatives.
Le dire quand on l'a utilisée.C'est la règle appliquée aux élèves ; elle vaut pour les adultes.

Utiliser l'IA n'est pas tricher. Cacher qu'on l'a utilisée, si.

La même question, mal posée et bien posée

L'IA prédit le mot suivant : plus la demande est précise, moins elle invente.

3 faits vérifiables

« Liste 3 cyclones ayant touché la Guadeloupe depuis 1989, avec l'année et une source à vérifier »

Réponse cadrée, datée, que l'on peut contrôler point par point.

Source : Bonnes pratiques de « prompt » — guides Éducation nationale et CNIL 2024

La même question, mal posée et bien posée
Vague	0 source — Réponse générale, parfois fausse sur les dates, impossible à vérifier.
Précise	3 faits vérifiables — Réponse cadrée, datée, que l'on peut contrôler point par point.

🎯 Le défi — 3 questions

Plus court qu'un test de certification, mieux expliqué, et sans inscription. Rien n'est enregistré.

🎯 Le défi — 3 questions

À lire ensuite