9.4 L’intelligence artificielle

9.4.1 Se concentrer sur les moyens de l’IA pour l’enseignement et l’apprentissage

L’intelligence artificielle (IA) est un sujet redoutable, car son utilisation dans l’éducation pose de nombreux problèmes. L’IA traverse également actuellement une autre période de battage médiatique extrême en tant que panacée pour l’éducation, étant actuellement au sommet du pic des attentes gonflées, mais ce battage médiatique est principalement motivé par des applications réussies en dehors du domaine de l’éducation, comme dans la finance, le marketing et la recherche médicale. De plus, le terme « IA » est de plus en plus utilisé (à tort) comme terme général pour toute activité de calcul complexe.

Même dans l’éducation, les domaines d’application possibles de l’IA sont très différents. Zeide (2019) fait une distinction très utile entre les applications institutionnelles, de soutien aux étudiants et pédagogiques (figure 9.4.2 ci-dessous).

Bien que les applications d’IA à des fins de soutien aux établissements ou aux étudiants soient très importantes, ce chapitre se concentre sur les possibilités pédagogiques des différents médias et technologies (ce que Zeide appelle les applications « pédagogiques »). En particulier, l’accent sera mis dans cette section sur le rôle de l’IA en tant que forme de média ou de technologie pour l’enseignement et l’apprentissage, ses possibilités pédagogiques, ainsi que ses forces et ses faiblesses dans ce domaine.

De plus, l’IA est vraiment un sous-ensemble de l’informatique. Ainsi, toutes les conditions générales de l’informatique dans l’éducation énoncées au Chapitre 8, Section 5 s’appliqueront à l’IA.  Cette section vise à mettre en évidence le potentiel supplémentaire que l’IA peut offrir dans l’enseignement et l’apprentissage. Cela impliquera de se concentrer particulièrement sur son rôle de support plutôt que de technologie générale dans l’enseignement, ce qui implique d’examiner un contexte plus large que les seuls aspects informatiques de l’IA, en particulier son rôle pédagogique.

9.4.2 Qu’est-ce que l’intelligence artificielle ?

La définition originale de l’intelligence artificielle par McCarthy (1956, cité dans Russell & Norvig, 2010) est la suivante :

chaque aspect de l’apprentissage ou toute autre caractéristique de l’intelligence peut en principe être décrit avec une telle précision qu’une machine peut être conçue pour le simuler. Une tentative sera faite pour trouver comment faire en sorte que les machines utilisent le langage, forment des abstractions et des concepts, résolvent des types de problèmes désormais réservés aux humains et s’améliorent.

Zawacki-Richter et al. (2019), dans une revue de la littérature sur l’IA dans l’enseignement supérieur, rapportent que les auteurs qui ont défini l’intelligence artificielle avaient tendance à la décrire comme suit :

systèmes informatiques intelligents ou agents intelligents dotés de caractéristiques humaines, telles que la capacité de mémoriser des connaissances, de percevoir et de manipuler leur environnement de la même manière que les humains et de comprendre le langage naturel humain.

Klutka et al. (2018) ont également défini l’IA en fonction de ce qu’elle peut faire dans l’enseignement supérieur (figure 9.4.3 ci-dessous) :

Il existe trois exigences informatiques de base qui distinguent l’IA « moderne » des autres applications informatiques :

• Accès à des quantités massives de données;
• Puissance de calcul à grande échelle pour gérer et analyser les données;
• Des algorithmes puissants et pertinents pour l’analyse des données.

9.4.3 Pourquoi utiliser l’intelligence artificielle pour enseigner et apprendre ?

Il existe deux objectifs quelque peu différents pour l’utilisation générale de l’intelligence artificielle. La première consiste à augmenter l’efficacité d’un système ou d’une organisation, principalement en réduisant les coûts élevés de la main-d’œuvre, notamment en remplaçant des travailleurs humains relativement coûteux par des machines relativement moins coûteuses (automatisation). Les politiciens, les entrepreneurs et les décideurs voient de plus en plus le passage à l’automatisation comme un moyen de réduire les coûts de l’éducation. Cependant, dans l’éducation en particulier, les enseignants et les instructeurs représentent le principal coût.

Le second est d’accroître l’efficacité de l’enseignement et de l’apprentissage, en termes économiques pour augmenter les résultats : de meilleurs résultats d’apprentissage et des avantages plus importants pour un coût identique ou supérieur. Dans ce but, l’IA serait utilisée aux côtés ou en soutien des enseignants et des instructeurs.

Klutka et al. (2018) ont fourni un énoncé général du potentiel de l’IA dans « l’enseignement » de l’enseignement supérieur à travers la figure 9.4.4.

Ce sont des objectifs compréhensibles, mais nous verrons plus loin dans cette section que ces objectifs à ce jour sont principalement des aspirations plutôt que de réels objectifs.

Dans le cadre de ce livre, l’accent est mis sur le développement des connaissances et des compétences requises par les apprenants à l’ère numérique. Le test clé pour l’intelligence artificielle est donc de savoir dans quelle mesure elle peut aider au développement de ces compétences de niveau supérieur.

9.4.4 Affordances et exemples d’utilisation de l’IA dans l’enseignement et l’apprentissage

Zawacki-Richter et al. (2019) dans une revue de la littérature sur l’IA dans l’éducation ont initialement identifié 2 656 articles de recherche en anglais ou en espagnol, puis ont réduit la liste en éliminant les doublons, en limitant la publication aux articles dans des revues à comité de lecture publiées entre 2007 et 2018 et en éliminant les articles qui finalement ne concernaient pas l’utilisation de l’IA dans l’éducation. Cela a abouti à un total de 145 articles qui ont ensuite été analysés. Puis, Zawacki-Richter et al. ont classé ces 145 articles en différentes utilisations de l’IA dans l’éducation. Cette section s’inspire largement de cette classification. (Il convient de noter que parmi les 145 articles, seuls 92 étaient axés sur l’enseignement/le soutien aux étudiants. Le reste portait sur des utilisations institutionnelles telles que l’identification des étudiants à risque avant l’admission).

L’étude Zawacki-Richter offre un aperçu des principales façons dont l’IA a été utilisée dans l’éducation pour l’enseignement et l’apprentissage au cours des dix années entre 2007 et 2018, ce qui se rapproche le plus des « affordances ». Tout d’abord, trois principales catégories « d’enseignement » générales (avec un chevauchement considérable) de l’étude sont fournies ci-dessous, suivies de quelques exemples spécifiques. (J’ai omis la catégorie de profilage et de prédiction de Zawacki-Richter et al. concernant les questions administratives telles que les admissions, la planification des cours et les systèmes d’alerte précoce pour les étudiants à risque.)

9.4.4.1 Systèmes de tutorat intelligents (29 articles sur 92 examinés par Zawacki-Richter et al.)

Systèmes de tutorat intelligents :

• fournir un contenu d’enseignement aux étudiants et, en même temps, les soutenir en donnant des commentaires adaptatifs et des conseils pour résoudre les questions liées au contenu, ainsi qu’en détectant les difficultés/erreurs des étudiants lorsqu’ils travaillent avec le contenu ou les exercices;
• organiser le matériel d’apprentissage en fonction des besoins des élèves, par exemple en fournissant des recommandations spécifiques concernant le type de matériel de lecture et d’exercices effectués, ainsi que des plans d’action personnalisés;
• faciliter la collaboration entre les apprenants, par exemple, en fournissant des commentaires automatisés, en générant des questions automatiques pour la discussion et l’analyse du processus.

9.4.4.2 Appréciation et évaluation (36 articles sur 92 examinés)

L’IA prend en charge l’appréciation et l’évaluation à travers :

• classement automatisé;
• retour d’information, y compris une gamme d’outils destinés aux étudiants, tels que des agents intelligents qui fournissent aux étudiants des instructions ou des conseils lorsqu’ils sont confus ou bloqués dans leur travail;
• évaluation de la compréhension, de l’engagement et de l’intégrité académique des étudiants.

9.4.4.3 Systèmes adaptatifs et personnalisation (27 sur 92)

L’IA permet des systèmes adaptatifs et la personnalisation de l’apprentissage :

• enseigner le contenu du cours puis diagnostiquer les points forts ou les lacunes dans les connaissances des étudiants et fournir une rétroaction automatisée;
• recommander un contenu personnalisé;
• soutenir les enseignants dans la conception de l’apprentissage en recommandant des stratégies d’enseignement appropriées basées sur les performances des élèves;
• soutenir la représentation des connaissances dans les cartes conceptuelles.

Klutka et al. (2018) ont identifié plusieurs utilisations de l’IA pour l’enseignement et l’apprentissage dans les universités aux États-Unis :

• ECoach, développé à l’Université du Michigan, fournit une rétroaction formative pour une variété de grandes classes principalement dans le domaine STEM. Il suit les progrès des étudiants tout au long d’un cours et les oriente vers les actions et activités appropriées sur une base personnalisée;
• analyse des sentiments (utilisation des expressions faciales des étudiants pour mesurer leur niveau d’engagement dans l’étude);
• une application pour surveiller l’engagement des étudiants dans les forums de discussion, et
• organiser les erreurs communément partagées dans les examens en groupes pour que l’instructeur réponde une fois au groupe plutôt qu’individuellement.

9.4.4.4 Chatbots

Un « chatbot » est une programmation qui simule la conversation ou le « bavardage » d’un être humain par le biais d’interactions textuelles ou vocales (Brush and Scardina, 2018). Les « chatbot » en particulier sont un outil utilisé pour automatiser les communications avec les étudiants. Bayne (2014) décrit une telle application dans un MOOC avec 90 000 abonnés. Une grande partie de l’activité des étudiants s’est déroulée en dehors de la plate-forme Coursera au sein des médias sociaux. Les cinq universitaires enseignant le MOOC étaient tous actifs sur Twitter, chacun avec de grands réseaux, et l’activité Twitter autour du « hashtag » MOOC (#edcmooc) était élevée dans toutes les instances du cours (par exemple, un total d’environ 180 000 tweets ont été échangés sur le première offre du MOOC). Un « Teacherbot » a été conçu pour parcourir les tweets en utilisant le « hashtag » Twitter du cours, en utilisant des mots-clés pour identifier les « problèmes », puis en choisissant des réponses prédéfinies à ces problèmes, ce qui impliquait souvent de diriger les étudiants vers des recherches plus spécifiques sur un sujet. Pour un examen des recherches sur les « chatbots » dans l’éducation, voir Winkler et Söllner (2018).

9.4.4.5 Notation automatisée des essais

Thompson (2022) fournit une explication simple, destinée principalement aux enseignants, du fonctionnement de la notation automatisée des essais (AES).

La première et la plus importante chose à savoir est qu’il n’y a pas d’algorithme qui « lit » les essais des étudiants. Au lieu de cela, vous devez former un algorithme… Vous devez réellement noter les essais (ou au moins un grand échantillon d’entre eux) et ensuite utiliser ces données pour adapter un algorithme d’apprentissage automatique.

Cela signifie identifier les rubriques que vous utilisez dans la notation des essais. Vous marquez ensuite un grand nombre d’essais pour déterminer le poids (disons sur une échelle de cinq points) que vous attribuez à chaque rubrique pour noter chaque devoir. Vous essayez plusieurs modèles de notation d’essais automatisés par l’IA et exécutez vos devoirs à travers ces modèles un certain nombre de fois pour voir ce qui correspond le mieux à votre propre notation. Les modèles « apprendront » en fait à s’améliorer au fur et à mesure que vous les parcourrez.

Comme le dit Thompson :

Il y a un compromis entre simplicité et précision. Les modèles complexes peuvent être précis, mais prendre des jours à s’exécuter. Un modèle plus simple pourrait prendre 2 heures, mais avec une baisse de précision de 5%… Le consensus général dans la recherche est que les algorithmes AES fonctionnent aussi bien qu’un deuxième humain, et servent donc très bien dans ce rôle. Mais vous ne devriez pas les utiliser comme seul score.

Les systèmes d’intelligence artificielle de traitement du langage naturel (TLN) – souvent appelés moteurs de notation automatisés des essais – sont désormais l’évaluateur primaire ou secondaire des tests standardisés dans au moins 21 États des États-Unis (Feathers, 2019). D’après Feathers :

Les moteurs de notation des essais n’analysent pas réellement la qualité de l’écriture. Ils sont formés sur des ensembles de centaines d’exemples d’essais pour reconnaître les modèles qui sont en corrélation avec des notes supérieures ou inférieures attribuées par l’homme. Ils prédisent ensuite quelle note un humain attribuerait à un essai, en fonction de ces modèles.

Cependant, Feathers affirme que les recherches de psychométriciens et d’experts en IA montrent que ces outils sont susceptibles d’avoir un défaut commun à l’IA : les préjugés contre certains groupes démographiques (voir Ongweso, 2019).

Lazendic et al. (2018) offrent un compte rendu détaillé du plan de notation automatique dans les lycées australiens. Ils déclarent :

Il est … crucial de reconnaître que les modèles de notation humaine, qui sont développés pour chaque invité l’écriture NAPLAN, et leur application cohérente, garantissent et maintiennent la validité des évaluations d’écriture NAPLAN. Par conséquent, la fiabilité statistique des résultats de la notation humaine est fondamentalement liée et constitue la principale preuve de la validité du marquage écrit NAPLAN.

En d’autres termes, le marquage doit être basé sur des critères humains cohérents. Cependant, il a été annoncé plus tard (Hendry, 2018) que les ministres australiens de l’Éducation avaient convenu de ne pas introduire de notation automatisée des essais pour les tests d’écriture NAPLAN, tenant compte des appels des groupes d’enseignants à rejeter la proposition.

Perelman (2013) a développé un programme informatique appelé le générateur BABEL qui a assemblé des chaînes de mots et de phrases sophistiqués dans des essais de charabia dénués de sens. Les essais absurdes ont toujours reçu des scores élevés, parfois parfaits, lorsqu’ils sont exécutés sur plusieurs moteurs de notation différents. Voir aussi Mayfield, 2013, pour une analyse réfléchie des enjeux du marquage automatisé de l’écriture. Pour une bonne description de la direction que prend la notation automatisée des essais, voir Kumar et Boulanger (2020).

L’AES peut éventuellement avoir le potentiel de noter un nombre massif de devoirs pour des examens standard à l’échelle nationale tels que le NAPLAN en Australie ou le General Certificate of Secondary Education au Royaume-Uni, mais de telles méthodes sont toujours peu pratiques pour la plupart des enseignants ou instructeurs individuels. Au moment de la rédaction de cet article, malgré une pression considérable pour utiliser la notation automatisée des essais pour les examens standardisés, la technologie a encore de nombreuses questions en suspens.

9.4.4.6 Surveillance en ligne

Surtout à la suite de la pandémie de Covid-19, il y a eu une augmentation rapide de l’utilisation des services de surveillance basés sur l’IA pour vérifier si les étudiants qui passent des examens à la maison trichent. Il existe un nombre étonnamment élevé de sociétés de surveillance en ligne, telle que Examity, Mercer/Mettle, Proctortrack, OnVUE (de Pearson Publishing), Meazure Learning (anciennement ProctorU) et Proctorio. Ceux-ci utilisent des caméras installées soit dans l’ordinateur des étudiants, soit fournies par la société de surveillance pour être utilisées au domicile des étudiants ou à l’endroit où l’examen est passé. La plupart des surveillances en ligne se présentent sous deux formes : en direct, avec une personne qui surveille à distance (généralement sous contrat avec la société de surveillance); ou automatisé. Parfois, il y a un mélange des deux.

De plus en plus, ces services utilisent l’IA pour identifier les proxys possibles pour les comportements de triche, tels que :

• Le visage des étudiants ne correspondant pas à une photo d’identité téléchargée avant l’examen,
• « Distraction » : mouvement de l’étudiant pendant l’examen au-delà de la limite de la caméra,
• D’autres personnes dans la salle,
• Son humain étranger,
• Livres ou autres documents sur le bureau,
• Une vue à 360 degrés de la salle où l’étudiant passe l’examen.

Certaines entreprises créent, grâce à l’utilisation de l’IA, un « indice de crédibilité » en conséquence. Les étudiants doivent généralement fournir des données personnelles, telles que le nom, l’adresse, le numéro d’étudiant et parfois des informations sur la carte de crédit. Les étudiants – voire l’institution ou l’école requérant le recours au service de surveillance – n’ont aucun contrôle sur l’utilisation de ces données personnelles, qui peuvent être et sont souvent partagées avec des tiers.

Les informations sensibles collectées par les sociétés de surveillance en ligne ont suscité de nombreuses inquiétudes parmi les étudiants – et les parents, qui sont automatiquement exclus du processus d’examen.

Nigam et al. (2021) ont systématiquement examiné 43 articles sur les systèmes de surveillance basés sur l’IA et non basés sur l’IA publiés entre 2015 et 2021 ont été répertoriés de l’année 2015 à 2021. Ils rapportent :

Notre analyse … révèle que les problèmes de sécurité associés à l’AIPS se multiplient et sont une source de préoccupation légitime. Les principaux problèmes incluent les problèmes de sécurité et de confidentialité, les préoccupations éthiques, la confiance dans la technologie basée sur l’IA, le manque de formation concernant l’utilisation de la technologie, le coût et bien d’autres. Il est difficile de savoir si les avantages de ces technologies de surveillance en ligne l’emportent sur leurs risques. La conclusion la plus raisonnable à laquelle nous pouvons arriver à l’heure actuelle est que la justification éthique de ces technologies et de leurs diverses capacités nous oblige à veiller rigoureusement à ce qu’un équilibre soit trouvé entre ces préoccupations et les avantages possibles.

La surveillance en ligne est un bon exemple d’essai d’adaptation des méthodes du 19e siècle à la technologie du 21e siècle. L’évaluation en ligne est abordée plus en détail au Chapitre 6.8.4, qui indique que l’évaluation peut être effectuée différemment avec l’apprentissage en ligne, en utilisant par exemple l’évaluation continue, car l’apprentissage des élèves est automatiquement suivi via un SGA ou des ePortfolios, qui permettent aux élèves de créer un véritable portefeuille numérique de travail. Ce qu’il faut éviter, c’est l’intrusion, le manque de confidentialité et le manque de transparence qui accompagnent les services de surveillance basés sur l’IA.

9.4.5 Forces et faiblesses

Il existe plusieurs façons d’évaluer la valeur des possibilités d’enseignement et d’apprentissage d’applications particulières de l’IA dans l’enseignement et l’apprentissage :

• L’application est-elle basée sur les trois caractéristiques essentielles de l’IA « moderne » : des ensembles de données massifs, une puissance de calcul massive, des algorithmes puissants et pertinents?
• L’application présente-t-elle des avantages évidents en termes d’affordances par rapport à d’autres médias, et en particulier aux applications informatiques générales ?
• L’application facilite-t-elle le développement des compétences et des connaissances nécessaires à l’ère numérique ?
• Y a-t-il un biais involontaire intégré dans les algorithmes ? Semble-t-il discriminer certaines catégories de personnes ?
• L’application est-elle éthique en termes de respect de la vie privée des étudiants et des enseignants/instructeurs et de leurs droits dans une société ouverte et démocratique ?
• Les résultats de l’application sont-ils « explicables » ? Par exemple, un enseignant ou un instructeur ou les responsables de l’application peuvent-ils comprendre et expliquer aux étudiants comment les résultats ou les décisions prises par l’application d’IA ont été atteints ?

Ces questions sont traitées ci-dessous.

9.4.5.1 S’agit-il vraiment d’une application d’IA « moderne » dans l’enseignement et l’apprentissage ?

En regardant l’étude de Zawacki-Richter et al et de nombreux autres articles de recherche publiés dans des revues à comité de lecture, très peu d’applications dites d’IA dans l’enseignement et l’apprentissage répondent aux critères de données massives, de puissance de calcul massive et d’algorithmes puissants et pertinents. Une grande partie du tutorat intelligent au sein de l’éducation conventionnelle est ce que l’on pourrait appeler l’IA « ancienne » : il n’y a pas beaucoup de traitement en cours et les points de données sont relativement faibles. De nombreux articles soi-disant sur l’IA axés sur le tutorat intelligent et l’apprentissage adaptatif ne sont en réalité que des applications informatiques générales.

En effet, les soi-disant systèmes de tutorat intelligents, la notation automatisée des tests à choix multiples et les commentaires automatisés sur ces tests existent depuis le début des années 1980. Les applications les plus proches des applications d’IA modernes semblent être la notation automatisée des essais de tests standardisés administrés dans l’ensemble du système éducatif et l’utilisation de l’IA dans la surveillance en ligne. Cependant, il existe des problèmes majeurs avec ces deux applications. Des développements supplémentaires sont clairement nécessaires pour rendre la notation automatisée des essais et la surveillance en ligne basée sur l’IA plus fiables et sécurisées.

Le principal avantage que Klutka et al. (2018) identifient pour l’IA est qu’elle ouvre la possibilité aux services d’enseignement supérieur de devenir évolutifs à un rythme sans précédent, à la fois à l’intérieur et à l’extérieur de la salle de classe. Cependant, il est difficile de voir comment l’IA « moderne » pourrait être utilisée dans le système éducatif actuel, où la taille des classes voire des départements universitaires entiers, et donc des points de données, sont relativement faibles, en termes de nombres nécessaires pour l’IA « moderne ». On ne peut pas dire à ce jour que l’IA moderne a été tentée et a échoué dans l’enseignement et l’apprentissage; elle n’a pas été réellement testée.

Les applications en dehors des systèmes d’éducation formelle actuels sont plus réalistes, pour les MOOC par exemple, ou pour des formations en entreprise à l’échelle internationale, ou pour des universités d’enseignement à distance avec un très grand nombre d’étudiants. L’exigence de données massives suggère que l’ensemble du système éducatif pourrait être considérablement perturbé si l’échelle nécessaire pouvait être atteinte en offrant une éducation moderne basée sur l’IA en dehors des systèmes éducatifs existants, par exemple par de grandes sociétés Internet qui pourraient exploiter et utiliser des données personnelles et leurs énormes marchés de consommateurs. Cependant, il reste encore un long chemin à parcourir avant que l’IA ne rende cela possible. Cela ne veut pas dire qu’il ne pourrait pas y avoir de telles applications de l’IA moderne à l’avenir, mais pour le moment, selon les mots du vieil anglais bobby, « Allez-y, maintenant, il n’y a rien à voir ici ». Cependant, pour les besoins de la discussion, supposons que la définition de l’IA proposée ici est trop stricte et que la plupart des applications abordées dans cette section sont des exemples d’IA. Comment ces applications de l’IA répondent-elles aux autres critères ci-dessus ?

9.4.5.2 Les applications facilitent-elles le développement des compétences et des connaissances nécessaires à l’ère numérique ?

Cela ne semble pas être le cas dans la plupart des applications dites d’IA pour l’enseignement et l’apprentissage aujourd’hui. Elles se concentrent fortement sur la présentation du contenu et les tests de compréhension et d’interprétation. En particulier, Zawacki-Richter et al. soulignent que la plupart des développements de l’IA pour l’enseignement et l’apprentissage – ou du moins les articles de recherche – sont réalisés par des informaticiens, et non par des éducateurs. Puisque l’IA a tendance à être développée par des informaticiens, ils ont tendance à utiliser des modèles d’apprentissage basés sur le fonctionnement des ordinateurs ou des réseaux informatiques (puisque bien sûr ce sera un ordinateur qui devra faire fonctionner l’IA). En conséquence, ces applications d’IA ont tendance à adopter un modèle d’apprentissage très comportementaliste : présentation/test/rétroaction. Lynch (2017) soutient que :

Si l’IA doit profiter à l’éducation, il faudra renforcer le lien entre les développeurs d’IA et les experts des sciences de l’apprentissage. Sinon, l’IA « découvrira » simplement de nouvelles façons d’enseigner mal et perpétuera des idées erronées sur l’enseignement et l’apprentissage.

La compréhension et l’interprétation sont en effet des compétences fondamentales importantes, mais jusqu’à présent, l’IA n’aide pas au développement de compétences d’ordre supérieur chez les apprenants en matière de pensée critique, de résolution de problèmes, de créativité et de gestion des connaissances. En effet, Klutka et al. (2018) affirment que l’IA peut gérer de nombreuses fonctions de routine actuellement effectuées par les instructeurs et les administrateurs, les libérant pour résoudre des problèmes plus complexes et se connecter avec les étudiants à des niveaux plus profonds. Cela renforce l’idée que le rôle de l’instructeur ou de l’enseignant doit passer de la présentation du contenu, de la gestion du contenu et des tests de compréhension du contenu – qui peuvent tous être effectués par ordinateur – au développement des compétences. La bonne nouvelle est que l’IA utilisée de cette manière soutient les enseignants et les instructeurs, mais ne les remplace pas. La mauvaise nouvelle est que de nombreux enseignants et instructeurs devront changer leur façon d’enseigner ou ils deviendront superflus.

9.4.5.3 Y a-t-il un biais involontaire dans les algorithmes ?

On pourrait soutenir que tout ce que fait l’IA est d’encapsuler les biais existants dans le système. Le problème est que ce biais est souvent difficile à détecter dans un algorithme spécifique, et que l’IA a tendance à augmenter ou à amplifier ces biais. Ce sont davantage des problèmes pour les utilisations institutionnelles de l’IA, mais le biais basé sur la machine peut également discriminer les étudiants dans un contexte d’enseignement et d’apprentissage, et en particulier dans l’évaluation automatisée.

9.4.5.4 L’application est-elle éthique ?

De nombreux problèmes éthiques potentiels découlent de l’utilisation de l’IA dans l’enseignement et l’apprentissage, principalement en raison du manque de transparence du logiciel d’IA, et en particulier des hypothèses intégrées dans les algorithmes. La revue de littérature de Zawacki-Richter et al. (2019) ont conclu :

…un résultat étonnant de cet examen est le manque dramatique de réflexion critique sur les implications pédagogiques et éthiques ainsi que sur les risques liés à la mise en œuvre d’applications d’IA dans l’enseignement supérieur.

Quelles données sont collectées, qui les possède ou les contrôle, comment sont-elles interprétées, comment seront-elles utilisées ? Des politiques devront être mises en place pour protéger les élèves et les enseignants/instructeurs (voir par exemple les politiques sur les données des élèves du ministère de l’Éducation des États-Unis pour les écoles ou la stratégie d’apprentissage numérique du ministère de l’Enseignement supérieur et de la Formation professionnelle de la Colombie-Britannique). Les élèves et les enseignants/instructeurs doivent être impliqués dans l’élaboration de ces politiques.

9.4.5.5 Les résultats sont-ils explicables ?

Le plus gros problème de l’IA en général, et de l’enseignement et de l’apprentissage en particulier, est le manque de transparence. Pourquoi m’a-t-il donné cette note ? Pourquoi suis-je dirigé vers cette lecture plutôt que celle-là ou redirigé vers une lecture que je n’ai pas comprise la première fois ?? Pourquoi ma réponse n’est-elle pas acceptable ? Lynch (2017) soutient que la plupart des données recueillies sur l’apprentissage des élèves sont indirectes, inauthentiques, manquent de fiabilité ou de validité démontrable et reflètent des horizons temporels irréalistes pour démontrer l’apprentissage.

« Les exemples actuels d’AIEd s’appuient souvent sur …. de mauvais proxys pour l’apprentissage, utilisant des données facilement collectables plutôt que significatives sur le plan éducatif. »

9.4.6 Conclusion

9.4.6.1 Rêvez, passionnés d’IA

En ce qui concerne ce que l’IA fait actuellement pour l’enseignement et l’apprentissage, le rêve est bien au-delà de la réalité. Ce qui fonctionne bien en finance, en marketing ou en astronomie ne se traduit pas nécessairement dans les contextes d’enseignement et d’apprentissage. En effectuant des recherches pour cette section, il s’est avéré très difficile de trouver des exemples convaincants d’IA pour l’enseignement et l’apprentissage, par rapport aux jeux sérieux ou à la réalité virtuelle. Il est toujours difficile de prouver un résultat négatif, mais les résultats à ce jour de l’application de l’IA à l’enseignement et à l’apprentissage sont extrêmement limités et décevants (voir, par exemple, Brooks, 2021).

Cela est principalement dû à la difficulté d’appliquer l’IA « moderne » à grande échelle dans un système très fragmenté qui repose fortement sur des classes, des programmes et des établissements relativement petits. Probablement pour que l’IA moderne « fonctionne », une structure organisationnelle totalement différente pour l’enseignement et l’apprentissage serait nécessaire. Mais faites attention à ce que vous souhaitez.

Il y a une forte influence affective ou émotionnelle dans l’apprentissage. Les élèves apprennent souvent mieux lorsqu’ils sentent que l’instructeur ou l’enseignant s’en soucie. En particulier, les élèves veulent être traités comme des individus, avec leurs propres intérêts, leurs propres façons d’apprendre et un certain sentiment de contrôle sur leur apprentissage. Bien qu’à un niveau de masse, le comportement humain soit prévisible et dans une certaine mesure contrôlable, chaque élève est un individu et réagira légèrement différemment des autres élèves dans le même contexte. En raison de ces aspects émotionnels et personnels de l’apprentissage, les élèves ont besoin d’une certaine manière d’établir un lien avec leur enseignant ou instructeur. L’apprentissage est une activité complexe où seule une infime partie du processus peut être efficacement automatisée. L’apprentissage est une activité intensément humaine, qui bénéficie énormément des relations personnelles et de l’interaction sociale. Cet aspect relationnel de l’apprentissage peut être géré aussi bien en ligne qu’en face à face, mais cela signifie utiliser l’informatique pour soutenir la communication autant que pour fournir et tester l’acquisition de contenu.

9.4.6.2 Pas adapté à l’objectif

Surtout, l’IA n’a pas encore assez progressé pour  prendre en charge les niveaux d’apprentissage plus élevés requis à l’ère numérique ou les méthodes d’enseignement nécessaires pour ce faire, alors que d’autres formes d’informatique ou de technologie peuvent le faire, telles que les simulations, les jeux et la réalité virtuelle.

En particulier, les développeurs d’IA ont largement ignoré que l’apprentissage est développemental et construit, et ont plutôt imposé une méthode d’enseignement ancienne et moins appropriée basée sur le comportementalisme et une épistémologie objectiviste. Cependant, pour développer les compétences et les connaissances nécessaires à l’ère numérique, une approche plus constructiviste de l’apprentissage est nécessaire. Il n’y a aucune preuve à ce jour que l’IA puisse soutenir une telle approche de l’enseignement, bien que cela puisse être possible.

9.4.6.3 Le véritable agenda des défenseurs de l’IA

Les défenseurs de l’IA affirment souvent qu’ils n’essaient pas de remplacer les enseignants, mais de leur rendre la vie plus facile ou plus efficace. Cela devrait être pris avec une pincée de sel. Le principal moteur des applications de l’IA est la réduction des coûts, ce qui signifie la réduction du nombre d’enseignants, car il s’agit du principal coût de l’éducation. En revanche, la leçon clé de tous les développements de l’IA est que nous devrons accorder une attention accrue aux aspects affectifs et émotionnels de la vie dans une société fortement robotisée, de sorte que les enseignants deviendront encore plus importants.

Un autre problème avec l’intelligence artificielle est que le même vieux battage médiatique continue de tourner en rond. Les mêmes arguments en faveur de l’utilisation de l’intelligence artificielle dans l’éducation remontent aux années 1980. Des millions de dollars ont été investis dans la recherche sur l’IA à l’époque, y compris dans des applications éducatives, sans aucun gain.

Il y a eu des développements significatifs dans l’IA depuis lors, en particulier la reconnaissance de formes, l’accès et l’analyse de grands ensembles de données, des algorithmes puissants, conduisant à une prise de décision formalisée dans des limites contraignantes. Cependant, la difficulté est de cerner précisément pour quelles fins et pour quels usages ces nouveaux développements en matière d’IA sont pertinents et, au contraire, ce qu’ils ne seront pas en mesure de faire adéquatement. L’enseignement et l’apprentissage sont ainsi un environnement particulièrement difficile pour les applications d’IA.

9.4.6.4 Définir le rôle de l’IA dans l’enseignement et l’apprentissage

Néanmoins, il existe de nombreuses possibilités d’applications utiles de l’IA dans l’éducation, mais seulement s’il existe un dialogue continu entre les développeurs d’IA et les éducateurs à mesure que de nouveaux développements en matière d’IA deviennent disponibles. Mais cela nécessitera d’être très clair sur le but des applications de l’IA dans l’éducation et d’être bien conscient des conséquences imprévues.

Dans l’éducation, l’IA est encore un géant endormi. Les applications « percées » de l’IA pour l’enseignement et l’apprentissage ne proviendront probablement pas des universités et des collèges traditionnels, mais de l’extérieur du système postsecondaire formel, par le biais d’organisations telles que LinkedIn, lynda.com, Amazon ou Coursera, qui ont accès à de grands ensembles de données qui rendent les applications de l’IA évolutives et intéressantes (pour eux). Cependant, cela constituerait une menace existentielle pour les écoles publiques, les collèges et les universités. La question devient alors : quel système est le meilleur pour protéger et soutenir l’individu à l’ère numérique : les multinationales utilisant l’IA pour l’enseignement et l’apprentissage, ou un système d’éducation publique avec des enseignants humains utilisant l’IA comme support pour les apprenants ?

La question clé est alors de savoir si la technologie doit viser à remplacer les enseignants et les instructeurs par l’automatisation, ou si la technologie doit être utilisée pour responsabiliser non seulement les enseignants, mais aussi les apprenants. Surtout, qui devrait contrôler l’IA dans l’éducation : les éducateurs, les étudiants, les informaticiens ou les grandes entreprises ? Ce sont en effet des questions existentielles si l’IA réussit énormément à réduire les coûts d’enseignement et d’apprentissage : mais à quel prix pour nous en tant qu’humains ? Heureusement, l’IA n’est pas encore en mesure de fournir une telle menace, mais il pourrait bien le faire bientôt.

Références

Bayne, S. (2014) Teacherbot: interventions in automated teaching Teaching in Higher Education, Vol. 20. No.4

Brooks, D.C. (2021) EDUCAUSE QuickPoll Results: Artificial Intelligence Use in Higher Education, EDUCAUSE Review, June 11

Brush, K. and Scardina, J. (2018)  What is chatbot? Techtarget Network Customer Experience, 5 January

Feathers, T. (2019) Flawed Algorithms Are Grading Millions of Students’ Essays, Motherboard: Tech by Vice, 20 August

Hendry, J. (2018) Govts dump NAPLAN robo marking plans itnews, 30 January

Klutka, J. et al. (2018) Artificial Intelligence in Higher Education: Current Uses and Future Applications Louisville Ky: Learning House

Koumar, V. and Boulanger, D. (2020) Explainable Automated Essay Scoring: Deep Learning Really Has Pedagogical Value Frontiers in Education, 6 October

Lazandic, G., Justus, J.-A., and Rabinowitz, S. (2018) NAPLAN Online Automated Scoring Research Program: Research Report, Canberra, Australia: Australian Curriculum, Assessment and Reporting Authority

Lynch, J. (2017) How AI will destroy education, buZZrobot, 13 November (accessed 15 February, 2019 – no longer available.)

Mayfield, E. (2013) Six ways the edX Announcement Gets Automated Essay Grading Wrong, e-Literate, April 8

Nigam, A., Pasricha, R., Singh, T. and Churi, P. (2021) A Systematic Review on AI-based Proctoring Systems: Past, Present and Future, Education and Information Technologies, Vol. 26, June 23

Ongweso jr. E. (2019) Racial Bias in AI Isn’t Getting Better and Neither Are Researchers’ Excuses Motherboard: Tech by Vice, July 29

Perelman. L. (2013) Critique of Mark D. Shermis & Ben Hamner, Contrasting State-of-the-Art Automated Scoring of Essays: Analysis, Journal of Writing Assessment, Vol. 6, No.1

Russell, S. and Norvig, P. (2010) Artificial Intelligence – A Modern Approach New Jersey: Pearson Education

Thompson, N. (2022) What is automated essay scoring?, ASC, April 22

Winkler, R. & Söllner, M. (2018): Unleashing the Potential of Chatbots in Education: A State-Of-The-Art Analysis. Academy of Management Annual Meeting (AOM) Chicago: Illinois

Zawacki-Richter, O. er al. (2019) Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Technology in Higher Education Vo.16, No. 39

Zeide, E. (2019) Artificial Intelligence in Higher Education: Applications, Promise and Perils, and Ethical Questions EDUCAUSE Review, Vol. 54, No. 3, August 26