L’IA entre dans les salles de classe : opportunité d’innovation ou danger invisible ?

Image de la leçon 91.png — Assistants pédagogiques IA en classe. Photo : Midjourney

L'IA contre les inondations par vagues

L'utilisation de l'intelligence artificielle en classe est désormais aussi courante que l'usage de crayons et de cahiers. Cet enthousiasme s'accompagne d'une multitude de questions sur la sécurité, la fiabilité et la gestion des données de cette nouvelle technologie.

L'association à but non lucratif Common Sense Media, qui aide les parents à s'orienter dans la technologie, vient de publier un rapport d'évaluation des risques sur les assistants pédagogiques IA.

Contrairement aux chatbots populaires comme ChatGPT, ces outils - généralement Google School ou Adobe Magic School - sont conçus spécifiquement pour l'environnement scolaire, permettant de gagner du temps pour les enseignants et d'améliorer les résultats d'apprentissage des élèves.

« Les écoles se demandent : sont-elles sûres, sont-elles dignes de confiance, utilisent-elles correctement les données ? », a déclaré Robbie Torney, directeur principal des programmes d’IA chez Common Sense Media.

Les assistants d'enseignement virtuels et les risques d'« influence invisible »

L’une des conclusions les plus inquiétantes du rapport est un phénomène connu sous le nom d’« influence invisible ».

Lorsque les tuteurs IA ont été testés avec des noms « code blanc » et « code noir », les résultats ont montré que l'IA avait tendance à répondre plus positivement aux noms « code blanc », tandis que les noms « code noir » recevaient des réponses plus courtes et moins encourageantes.

« Les préjugés sont très subtils. Si l'on examine des cas individuels, on peut ne rien remarquer, mais lorsqu'on examine un grand nombre de cas, ils sont très évidents », a ajouté Torney.

Paul Shovlin, professeur à l’Université de l’Ohio, prévient que les entreprises qui développent elles-mêmes des outils d’IA peuvent également avoir leurs propres préjugés.

« Si l’équipe de développement manque de diversité, ces biais « imprégneront » l’algorithme », a-t-il déclaré.

Faites confiance à la technologie, mais avec des limites

Emma Braaten, directrice de l'apprentissage numérique au Friday Institute for Educational Innovation (North Carolina State University), conseille aux écoles d'examiner attentivement les conditions d'utilisation et la confidentialité des données.

De nombreux enseignants font aveuglément confiance aux plateformes familières, oubliant qu’une fois l’IA intégrée, les politiques peuvent avoir changé, a-t-elle déclaré.

« Nous devons constamment réévaluer les outils – nous ne devons pas supposer qu’ils sont toujours fiables », a-t-elle souligné.

Mme Braaten a également proposé le concept de « l’humain dans la boucle » – ce qui signifie que l’IA ne devrait jouer qu’un rôle de soutien, et non remplacer complètement les enseignants et les étudiants.

« Lorsqu'on a un « assistant pédagogique IA » en classe, il est important de maintenir le lien entre l'humain et la technologie, au lieu de tout laisser à la machine », a-t-elle déclaré.

L'IA est utile si elle est utilisée correctement

Tous les experts interrogés par EdSurge ont convenu que, s’ils sont utilisés correctement, les outils d’IA peuvent apporter des avantages qui dépassent de loin les risques.

Le rapport de Common Sense Media recommande aux enseignants d’utiliser l’IA pour améliorer les cours existants, plutôt que de laisser des outils automatisés générer du contenu aléatoire.

« Le modèle d’IA n’est jamais meilleur que le programme que vous enseignez », a déclaré Torney.
« Si vous enseignez selon un programme standard, l’IA vous accompagnera bien mieux que si vous la laissiez inventer une leçon sur… les fractions. »

Ne peut pas être bloqué, peut seulement être compris et adapté

Le plus important actuellement, selon Braaten, n’est pas d’interdire l’IA, mais d’apprendre à s’adapter de manière intelligente et responsable.

« On ne peut pas arrêter l'IA par une interdiction. Elle est déjà intégrée à chaque outil et produit que nous utilisons au quotidien », a-t-elle ajouté. « La question est : comment l'intégrer et la maîtriser ? »

L'intelligence artificielle ouvre une nouvelle ère pour l'éducation, où les enseignants bénéficient d'un meilleur soutien et où les élèves peuvent apprendre davantage individuellement. Mais parallèlement, cette technologie remet également en question la manière dont nous préservons les valeurs humaines dans l'enseignement.

Comment (0)