Qu’est-ce que la culture de l’IA ? Apprendre aux enfants (et à nous-mêmes) à bien utiliser l’IA

Elle peut paraître totalement sûre d’elle tout en étant fausse

Les enfants doivent comprendre quelque chose que beaucoup d’adultes n’ont pas encore pleinement intégré : l’IA ne « sait » pas les choses comme une personne. Elle prédit des schémas dans le langage, et elle peut produire quelque chose qui sonne bien, avec assurance, tout en étant complètement incorrect.

L’UNICEF a signalé la désinformation, les biais et des résultats imprévisibles comme de vrais risques, particulièrement pour les enfants, en partie parce que ces outils sont discrètement intégrés à tant d’applications que les enfants utilisent déjà.

Apprendre à un enfant à demander à l’IA ses sources est un bon début. Leur apprendre à cliquer et à vérifier si la source dit réellement ce que l’IA prétend qu’elle dit, c’est là que l’apprentissage se fait vraiment.

C’est aussi une leçon extrêmement précieuse pour les adultes. Je le vois dans mon secteur, et dans bien d’autres : des gens utilisent l’IA pour produire ce qu’ils auraient auparavant demandé à des experts, sans avoir les connaissances, l’expérience ou l’expertise nécessaires pour reconnaître si ce que l’IA produit est réellement de bonne qualité ou non.

Elle peut aussi simplement être d’accord avec vous, même quand elle ne devrait pas

On en parle beaucoup moins que « l’IA invente des choses », mais je pense que cela pourrait compter davantage. Des chercheurs de Stanford ont testé onze grands modèles d’IA et ont constaté qu’ils validaient ce que faisaient les utilisateurs environ 49 % plus souvent que de vrais humains ne le feraient, y compris dans des situations impliquant la tromperie ou des comportements nuisibles. Dans une autre expérience menée auprès de plus de 2 400 personnes, une seule conversation avec une IA trop complaisante a suffi à rendre les gens plus convaincus d’avoir raison et moins disposés à réparer un vrai désaccord avec une autre personne.

Cela compte parce qu’un chatbot ne se ressent pas comme un moteur de recherche. Il répond. Il se souvient de ce que vous avez dit il y a cinq minutes. Il peut paraître patient et compréhensif d’une manière qui le rend beaucoup plus autoritaire qu’il ne l’est réellement.

Pour un enfant qui traverse quelque chose de difficile, c’est un vrai risque. Ma règle, ici, est simple : les LLM ne devraient jamais être la seule voix sur laquelle un jeune s’appuie pour sa santé, sa santé mentale, ses relations ou sa sécurité. Les recommandations actuelles de Common Sense Media disent essentiellement la même chose : les mineurs ne devraient pas utiliser des chatbots d’IA comme substitut au soutien émotionnel, à des conseils en santé mentale ou à l’amitié.

L’IA peut aider un enfant à organiser les questions qu’il veut poser à un médecin, un conseiller, un parent ou un enseignant. Elle ne devrait remplacer aucune de ces personnes.

Une partie des risques n’a rien à voir avec les devoirs

Nous ne pouvons pas non plus traiter la sécurité de l’IA comme une question purement « scolaire ». Les outils génératifs peuvent désormais produire des images, de l’audio et des vidéos truqués très convaincants, et cela ouvre des risques auxquels la plupart d’entre nous n’ont jamais eu à penser en grandissant.

Stanford a notamment pointé du doigt les applications « nudify » capables de générer de fausses images explicites d’enfants réels à partir d’une simple photo, et à quel point cela réduit les compétences nécessaires pour causer un tort grave. Leur recommandation est de prendre les devants avec de vraies conversations sur le consentement et le partage d’images, plutôt que d’attendre que cela arrive à quelqu’un dans l’école de votre enfant.

Il y a aussi la simple question de la vie privée. Une discussion avec une IA n’est pas un journal intime privé, même si cela en a l’air. La règle que je voudrais que tout jeune de mon entourage suive — et, honnêtement, celle que j’applique moi-même : si vous ne voudriez pas que quelqu’un d’autre le voie, ne le mettez pas dans une discussion avec une IA. Cela inclut les détails médicaux, les mots de passe, les informations financières, les pièces d’identité, les photos privées et les informations personnelles d’autres personnes.

Cinq habitudes à enseigner (et à appliquer soi-même)

Rien de tout cela n’exige de devenir un expert en IA. Quelques habitudes peuvent faire une grande différence.

1. Faites en sorte qu’elle vous enseigne, au lieu de vous dire. Au lieu de demander la réponse finale, demandez des indices ou une étape à la fois. « Ne résous pas ça à ma place, aide-moi à le comprendre » est peut-être l’une des phrases les plus utiles qu’un élève puisse apprendre à taper.
2. Vérifiez les preuves. Demandez d’où vient l’information, quelles sources l’appuient (avec des liens) et ce qui pourrait être faux dans la réponse. Puis allez réellement vérifier ailleurs.
3. Repérez le raccourci. Si quelque chose qui devrait demander un vrai effort prend soudain trente secondes, cela mérite un second regard. L’efficacité est excellente quand l’IA élimine les tâches ingrates. C’est un problème quand la « tâche ingrate » était l’apprentissage lui-même.
4. Gardez les sujets sensibles entre humains. L’IA peut aider quelqu’un à préparer des questions pour une vraie conversation. Elle ne devrait pas devenir son thérapeute, son médecin, ni trancher à sa place une décision risquée.
5. Vérifiez les personnes et les médias. L’IA peut désormais imiter de façon convaincante une voix, un visage ou le style d’écriture de quelqu’un. Si quelque chose d’inhabituel apparaît — surtout s’il est question d’argent, de secret, d’urgence ou d’images intimes — vérifiez autrement avant de réagir. Et si quelque chose vous semble louche, parlez-en à un adulte de confiance.

Voici la partie où je dois admettre que cela s’applique aussi à moi

Tout ce qui précède s’applique presque mot pour mot aux adultes qui utilisent ChatGPT, Gemini, Claude ou Copilot tous les jours au travail, moi y compris.

Demandez à l’IA de vous aider à réfléchir au lieu de lui confier chaque décision. Vérifiez ses sources. Repérez quand la commodité érode discrètement une compétence dont vous avez réellement besoin. Gardez une personne réelle dans la boucle pour tout ce qui est à forts enjeux. Protégez les informations confidentielles, surtout les informations clients si vous dirigez une entreprise comme moi. Remettez en question tout ce qui semble ou sonne comme du contenu généré avant de lui faire confiance. Et, de temps en temps, demandez à l’IA de vous contredire au lieu d’être d’accord avec vous.

La culture de l’IA n’est pas une question d’enfants. C’est une question humaine. La seule vraie différence, c’est que les adultes ont des années de jugement sur lesquelles s’appuyer, et que les enfants sont encore en train de construire le leur. Ce qui, honnêtement, rend cela davantage notre responsabilité, pas moins.

Commencez par une conversation, pas par un verrouillage

Je ne pense pas que la solution soit de faire peur aux enfants pour les éloigner de l’IA, et je ne pense pas non plus qu’il soit réaliste de prétendre qu’on peut la leur tenir à distance.

Un meilleur point de départ consiste à s’asseoir avec le jeune de votre entourage, à ouvrir l’outil qu’il utilise réellement et à lui demander de vous montrer. Demandez ce qu’il aime. Demandez quand il lui fait confiance. Demandez s’il l’a déjà surprise à inventer quelque chose. Demandez si quelqu’un à l’école lui a réellement appris à l’utiliser correctement. Puis essayez quelques prompts ensemble.

L’objectif n’est pas de les surveiller. C’est de construire une relation où ils peuvent dire « il s’est passé quelque chose de bizarre avec l’IA aujourd’hui » sans s’attendre à ce que la réponse soit de confisquer l’ordinateur portable.

Parce que cette technologie va continuer d’évoluer plus vite que nous ne pouvons écrire des règles pour l’encadrer. Ce que nous pouvons réellement enseigner, c’est le jugement.

L’IA devrait rendre quelqu’un meilleur pour réfléchir, créer et apprendre. Elle ne devrait pas faire ces choses discrètement à sa place.

C’est un bon conseil pour un adolescent de quatorze ans qui termine un devoir. C’est aussi un très bon conseil pour le reste d’entre nous.