Apprendre en toute éthique
dans les salles de classe intelligentes

Romain Laurent, Philippe Dessus,
Dominique Vaufreydaz
 

Résumé
Après le numérique sous des formes variées mais désormais familières aux enseignants et à leurs élèves, c'est aujourd'hui l'intelligence artificielle qui s'invite dans les salles de classe. La vision informatique, notamment, offre des opportunités inédites de captation et d'analyse de ce qui se passe dans les classes, dans une perspective d'amplification de la cognition humaine. Les rétroactions formatives à l'enseignant pourraient s'en trouver considérablement enrichies, particulièrement pour saisir l'impact de ses pratiques sur les apprenants, mais cette introduction de la « machine qui pense », souvent présentée dans la littérature scientifique comme une panacée, ne saurait nous exonérer de penser avant elle tous les tenants et aboutissants d'une telle implantation. Comme pour toutes les sphères de l'activité humaine où elle est désormais invitée (voire convoquée), les moyens et buts de l'intelligence artificielle à l'école doivent être interrogés.

Introduction

   Si les enseignants sont désormais habitués à voir leur salle de classe s'équiper d'ordinateurs, ceux-ci demeurent jusqu'à présent assez passifs (Cuban, 1993). Leur manipulation demeure un acte volontaire, contrôlé et réfléchi. L'ordinateur est classiquement utilisé dans le cadre d'une séquence pédagogique, pour un but de familiarisation aux EIAH (Environnements informatiques pour l'apprentissage humain), pour se documenter, pour ludifier l'enseignement, ou pour réaliser une automatisation cadencée d'un support pédagogique numérique. Nous soutenons ici que certains progrès des techniques informatiques appliquées à l'enseignement et à l'apprentissage pourraient changer ces rôles.

   Depuis une vingtaine d'années environ se déploient, souvent encore comme prototypes, des salles sensibles au contexte (dorénavant 2SC). Ces salles de classe sont souvent présentées comme « intelligentes », c'est-à-dire dotées de capteurs chargés de mesurer un certain nombre de phénomènes se déroulant dans la classe et de proposer en retour leur analyse, soit en temps réel, soit rétrospectivement. Nous souhaitons montrer que ces 2SC, si elles peuvent éclairer les processus d'enseignement-apprentissage dans leur contexte authentique de salle de classe, doivent cependant être conçues et utilisées dans un cadre éthique, dont nous expliciterons l'importance.

Que sont les salles de classes intelligentes ?

   Ces salles de classe intelligentes, aussi connues sous le nom de classes « ambiantes », sont a minima dotées de capteurs vidéo et audio (respectivement leurs succédanés d'yeux et oreilles), et d'effecteurs en mesure de répondre aux stimuli perçus, et d'une grande puissance de calcul « en coulisse », afin de recueillir, traiter voire interpréter ce qui se joue dans les activités d'enseignement et d'apprentissage, en fonction de la ou des perspectives retenues.

   Au-delà, le nombre de capteurs aujourd'hui disponibles permet d'envisager un spectre considérable d'analyses. Ainsi, doter l'enseignant d'un oculomètre autorise à la fois de « voir son regard », autrement dit de voir ce qu'il voit, et de voir « à l'intérieur de lui », puisque son diamètre pupillaire peut renseigner sur la charge cognitive qu'il supporte. L'installation de traceurs de position (basés par exemple sur la technologie RFID) permet d'accroître la précision de la détermination des positions relatives. Et si certains capteurs (électroencéphalographie, capteurs de l'activité électrodermale) demeurent à ce jour encore trop envahissants, il semble possible que leur miniaturisation les fasse bientôt sortir des laboratoires expérimentaux et entrer dans les classes.

   Autrement dit, les salles de classe intelligentes sont des augmentations des laboratoires, notamment de sciences de l'éducation et de psychologie cognitive, dans le contexte authentique des salles de classe. À ce titre, elles permettent de mesurer des phénomènes dont la capture en laboratoire enfreignait jusqu'alors l'écologie des situations. Elles ouvrent donc la perspective d'enrichir considérablement notre compréhension des processus en jeu dans les activités enseignantes et étudiantes.

   Si elles se disséminent actuellement plutôt dans l'enseignement supérieur, leur coût décroissant ainsi que la richesse des analyses offertes les rendent exploitables à tout niveau du continuum scolaire, comme le démontre Montebello (2019). Pour autant, la plupart des expérimentations conduites aux États-Unis d'Amérique ou en République populaire de Chine sont toujours présentées « pour le bien des élèves », et s'entourent de précautions éthiques qui nous semblent insuffisantes. Après avoir présenté une typologie des différents types de salles intelligentes, nous nous interrogerons sur les risques de passage, intentionnel ou non, du suivi adaptatif des élèves à la surveillance de leurs corps et de leurs esprits.

Une typologie des salles de classe intelligentes

   Le terme « classe intelligente » a recouvert, au cours du temps, des classes aux fonctionnalités très différentes. Dans les années 2000, une classe intelligente était une classe où des informations pouvaient être transmises d'une classe à l'autre (Abowd, 1999), par exemple à des fins d'enseignement à distance ; ou encore une classe où des informations issues d'un tableau blanc interactif sont diffusées. Puis sont apparues plus récemment, toujours sous la même désignation, des classes équipées d'ordinateurs et de tableaux blancs interconnectés, permettant le traçage de l'activité des élèves par l'enseignant, sous la forme de tableaux de bord. Encore plus récemment, et grâce aux avancées de la recherche en traitement du signal, des salles traçant des caractéristiques reliées aux interactions enseignant-élèves sont construites et testées. Trois grandes catégories de salles intelligentes se dessinent dès lors, qui recouvrent davantage une sédimentation de couches d'usage et d'analyse que la complexité des technologies sollicitées, presque toute fondées sur des techniques de vision artificielle (branche de l'intelligence artificielle).

Les salles-outils

   Les « salles-outils » permettent de gérer des taches de bas niveau, comme régir l'ambiance lumineuse ou la température (comme l'iClass, cf. Ramadan, 2010). Elles sont également capables de faciliter le travail de l'enseignant et des apprenants (la caméra suit l'enseignant ou zoome sur la zone de l'écran regardée par l'enseignant, pour la retransmettre en vidéoconférence). L'Open Smart Classroom (Suo et al., 2009) offre ce type de fonctionnalité, en l'augmentant même d'un système de traduction automatique chinois-japonais, autorisant ainsi des étudiants séparés par la barrière de la langue à discuter entre eux à distance. Les salles-outils peuvent plus prosaïquement autoriser l'automatisation de tâches dites d'administration, comme compter les élèves, voire les identifier facialement pour renseigner automatiquement le registre des présents et transmettre cette information à l'administration.

Les salles-tableaux de bord

   Les « salles-tableaux de bord » permettent à l'enseignant de superviser l'activité des élèves, par le biais de tableaux de bord informatisés, traçant leur activité. Celle-ci peut être perceptible à travers les traces informatiques (et donc disponible dans des modalités présentielles ou distancielles) ou à travers les traces analogiques, issues du comportement physique des élèves : dans quoi sont-ils engagés ? Quelles émotions ressentent-ils ? Sont-ils confus ? Enthousiastes ? Attentifs ? Les capteurs de ces classes sont en mesure de renseigner leurs utilisateurs et les chercheurs sur un grand nombre de phénomènes : les positions des participants, leur mouvement, leur posture, leur gestuelle, leur attention, leur engagement dans la tâche (informatisée ou non) et même une inférence de leurs émotions, perceptibles à travers leurs expressions faciales. En plus de ces données visuelles, les capteurs audio sont capables de déterminer l'ambiance sonore, la distribution du son, la prosodie des interactants, voire leur verbalisation, au travers de techniques de reconnaissance automatique de la parole (speech to text). Combinées (donc multimodales), ces données offrent une puissance descriptive inédite dans la perception, par la machine puis par l'humain, de ce qui se passe dans les salles de classes.

   Un lycée de Hangzou, en République populaire de Chine, utilise ainsi la vision par ordinateur pour analyser les émotions et actions de ses élèves (Ngoc Anh et al., 2019). Un tableau de bord en renseigne l'enseignant en temps réel, afin de lui permettre d'adapter au plus près son enseignement à l'activité de ses élèves. Mais on pourrait aller encore plus loin, et attribuer à chaque participant un tableau de bord complet de son activité en classe, notamment pour l'évaluer. Le dispositif PLACE (Tissenbaum & Slotta, 2019) est une autre illustration de ces salles-tableaux de bord : les élèves, par groupes, résolvent des problèmes en affichant les procédures et solutions sur leur télévision partagée, pouvant également être vue par l'enseignant, qui joue le rôle d'un « facilitateur ambulant » (wandering facilitator). L'enseignant dispose de plus d'une tablette qui rapporte, groupe par groupe, les résultats aux exercices et leurs traces, le système jouant à la fois le rôle d'un distributeur d'exercices et de superviseur du progrès des élèves. Il est notable que des pans de plus en plus importants du rôle organisateur-facilitateur de l'enseignant pourraient être délégués à la machine, comme dans le dispositif ClassMate (Leonidis, 2010), qui suit et supervise la délivrance du contenu pédagogique. Enfin, la Smart Classroom System (Gligoric et al., 2015) monitore le degré d'attention des élèves en temps réel, en analysant leurs mouvements oculaires et leur production orale (analyse des caractéristiques des tours de parole), le mouvement de l'enseignant étant également récupéré avec un accéléromètre.

   Dès qu'un changement dans l'intérêt du cours est détecté par des techniques d'apprentissage machine (e.g., les élevés bâillent, regardent par la fenêtre ou surfent sur internet), le système en informe à la fois l'enseignant et les étudiants via une notification.

Les salles-thermomètres

   Les « salles-thermomètres » analysent quant à elles les éléments précités du contexte de la salle pour mieux le caractériser, principalement à des fins de rétroactions pour le développement professionnel des enseignants, ou pour la validation de construits empiriques, quand confiés à des chercheurs. Cette dernière typologie de salle ne se distingue au final de la précédente que par le rôle confié aux effecteurs, décidant ainsi de la temporalité de la rétroaction : immédiate pour les salles-tableaux de bord, différée dans les salles-thermomètres, influençant selon nous différemment l'écologie de la scène et l'intégrité de ses participants. Ce type de salles étudie donc quelques paramètres de ce qu'on pourrait appeler le « climat de la classe », c'est-à-dire le niveau socio-émotionnel des interactions enseignant-élèves, interactions très difficiles à observer directement, car agrégées de très nombreux indicateurs (voir par exemple le CLASS, Classroom assessment scoring system, de Pianta, Hamre, & Mintz, 2012).

   Ainsi le système ACORN (Automatic Classroom Observation Recognition Network) de Ramakrishnan et al. (2020) propose d'analyser des captations audio-vidéo de séquences de classe afin de mesurer deux dimensions caractéristiques du climat de classe, respectivement les climat positif (défini par la chaleur, le respect et le plaisir communiqués par des interactions verbales et non verbales) et négatif (défini par le niveau global de la négativité exprimée en classe), en utilisant des techniques de reconnaissance d'objets, d'émotions et d'analyse de la parole. Il est intéressant de noter que James et al. (2019) étaient arrivés à un résultat similaire avec une approche beaucoup plus frugale, à partir des seuls indices verbaux et prosodiques captés par un microphone porté par l'enseignant. Au-delà de ces premières tentatives fructueuses d'émulation par la machine de la perception humaine d'interactions in vivo, les projets de recherche pluridisciplinaires se multiplient pour augmenter l'acuité des modèles perceptifs informatisés.

À quoi devraient servir les salles de classe sensibles au contexte ?

   L'usage des 2SC est donc large, de la simple réaction à un stimulus (l'ajustement de la lumière, la reconnaissance de l'identité étudiante) à la supervision panoptique de l'activité de la classe, soit pour adapter en temps réel le rythme de la classe, soit pour enrichir la réflexion rétrospective autour d'une séance. Pour Montebello (2019), les salles de classe intelligentes sont susceptibles d'offrir de nouvelles opportunités d'apprentissage, en s'adaptant de surcroît aux différences entre apprenants. Elles modifieraient ce faisant les rôles et les responsabilités professionnelles de l'enseignant. Au-delà de l'aspect incantatoire d'une telle hypothèse, au demeurant mal explicitée « le rôle des éducateurs et les éducateurs eux-mêmes doivent changer et s'adapter pour s'adapter à une nouvelle ère » (notre traduction, id., p. 123), la puissance démonstratrice de la recension de Montebello (2019), ainsi que celles des études relatives aux salles de classe intelligentes ne peuvent selon nous n'être jugées qu'à l'aune de deux critères indépassables : leur utilité pour les participants et leur éthique, toutes deux conditions de leur acceptabilité pour les participants, et donc de leur écologie, indispensable au bon déroulement des processus d'enseignements et d'apprentissage. On sait que ces critères sont obérés par des biais des algorithmes de reconnaissance faciale (e.g., Zou & Schiebinger, 2018), ces derniers reproduisant les biais des humains qui les ont entraînés, mais plus généralement on peut s'interroger sur deux rôles des 2SC : surveiller ou éclairer les pratiques ?

Surveiller ?

   Les opportunités offertes par les 2SC de mieux appréhender les phénomènes à l'oeuvre dans l'apprentissage (attention, émotions, interactions) pourraient s'avérer contre-productives dès lors que leurs initiateurs (au premier chef les élèves) se sentiraient oppressés par les dispositifs de capture et/ou de traitement. De même, d'instrument de soutien à l'individualisation de l'enseignement et de rétroactions enrichies par des données probantes, ces dispositifs peuvent imperceptiblement glisser dans le contrôle et la surveillance des participants. Imaginons un instant qu'une boucle de surveillance informe en temps réel l'enseignant des émotions et de la distribution de l'attention des élèves, il est possible que cette boucle soit utilisée précautionneusement par l'enseignant, mais il se peut aussi que cette boucle incommode les apprenants, qui se sentiraient traqués dans leur for intérieur. Cette surveillance perçue pourrait par conséquent nourrir chez eux des comportements légitimes de conformation simulée, d'évitement, de masquage ou de tricherie (Crooks, 2019). Qu'aurait à y gagner la relation pédagogique ? Que ressentiraient du reste les enseignants si les données d'ambiance, interactions et attentions de leur classe étaient remontées à leur tutelle hiérarchique, par exemple afin d'instruire les rétroactions d'inspection ? Parce que les interactions socio-émotionnelles sont cruciales dans le processus d'enseignement-apprentissage (Creemers & Tillema, 1987), leur authenticité doit être sauvegardée, et le dispositif sensible matérialiser cette intégrité. Il ne suffit d'ailleurs pas que le système soit « intègre » dans ses finalités, mais bien qu'il soit indubitablement compris et perçu comme tel par les participants.

Éclairer ?

   Ainsi, nous proposons, suivant Martinez-Maldonado et al. (2020), que ces salles, tout comme du reste les Learning Analytics, adoptent une approche translucide de conception (design). Cette translucence peut s'appuyer sur trois piliers. D'abord l'obtention du consentement éclairé des propriétaires de ces données, au premier rang les apprenants. Éclairé signifie qu'ils doivent être informés en termes compréhensibles de ce qui est capté, puis des traitements et des analyses appliqués. Cette précaution, en donnant à voir à travers le dispositif, permet d'en éclairer les enjeux et finalités. Ensuite le renoncement de toutes rétroactions immédiates, afin de ne pas risquer de perturber l'écologie de la classe, notamment caractérisée par Doyle (2011) comme imprévisible, cette imprévisibilité pouvant représenter une condition de l'engagement sincère des enseignant et étudiants. Enfin en obfusquant les données, c'est-à-dire en anonymisant irrévocablement leur source. Cette obfuscation est du reste à la portée des mêmes techniques d'intelligence artificielle que celles mises en oeuvre pour analyser les données, pour peu qu'elles aient été conçues ainsi (e.g., Petrova et al., 2020).

   En revanche, cette obfuscation protectrice de l'intégrité psychologique, physique et pédagogique des protagonistes ainsi que la temporalisation de la rétroaction à l'enseignant pourraient sonner le glas de l'individualisation de l'enseignement en temps réel assisté par la machine, hors traces objectives perçues dans les EIAH. Du reste, la différenciation pédagogique induite par la rétroaction médiée par l'intelligence artificielle, en rendant plus immédiate et plus visible la comparaison entre élèves, s'avérerait probablement contre-productive (Galand, Hospel & Baudoin, 2014), alors qu'une différenciation « classique », moins intrusive et plus respectueuse de l'intimité des protagonistes (attentes élevées conjuguées à une diversification des types d'activités évaluées, soutenance, positivité, variations des regroupements, rétroactions riches et signifiantes, etc.) accroîtrait la motivation des élèves (Galand, 2017).

   Ainsi contraintes, les salles intelligentes sont susceptibles de devenir des instruments de compréhension de ce qui se joue (et probablement de ce qui est en jeu) dans les salles de classes. En éclairant rétrospectivement les enseignants et leur pratique de données probantes, en informant les chercheurs de ces résultats, autrement dit en alimentant une boucle de rétroactions recherche-action profitable à tous les protagonistes, ces salles pourraient devenir des laboratoires écologiques respectueux de leurs participants et de la richesse des relations enseignant-apprenants.

Conclusion

   Les salles de classe intelligentes s'incarnent, en fonction des couches de perception et de la temporalité de leurs rétroactions, dans un continuum allant de l'administration de variables de bas niveau (ambiance physique, comptage des élèves) à la perception multimodale de l'activité des élèves et de l'enseignant. Cette puissance descriptive inédite est de nature à considérablement enrichir des rétroactions différées mais fondées sur les preuves à destination des enseignants, en mesure de faciliter leur compréhension de ce qui se passe dans leur salle de classe, tant de leur point de vue que de celui de leurs apprenants. Toutefois, pour que leur activité conjointe soit la plus authentique et fluide possible, elle ne doit pas risquer d'être corrompue par le soupçon de la surveillance. Nous observons que la littérature décrivant le design et les bénéfices de ces salles de classe occulte trop souvent les garde-fous éthiques qui doivent selon nous les maintenir dans le respect de l'intégrité psychologique, physique et pédagogique des participants. Seul ce strict respect, porté à la négociation des équipes conceptrices et des utilisateurs est selon nous en mesure de préserver l'indispensable écologie de la salle de classe, que nous devons à nos élèves, nos enseignants et à la qualité des rétroactions que nous nous proposons de leur apporter (Laurent et al., 2020).

Recommandations préalables à la conception et à l'utilisation des salles de classes intelligentes

1. Intégrer des garde-fous éthiques dès la conception de la salle, notamment via une obfuscation des traces individuelles et la temporisation de la rétroaction.

2. Privilégier les modèles de traitement et d'analyse les plus frugaux possibles en termes de recueil de données individuelles.

3. Discuter itérativement et respecter les attendus des participants en termes de spectre d'analyse et de rétroactions : de quoi ont-ils besoins ?

4. Rendre le dispositif translucide, c'est-à-dire donner à voir ce qu'il voit, expliciter ses inférences.

5. Obtenir un consentement éclairé de tous les participants (enseignants, élèves, familles, administration), une fois que les points 3 et 4 ci-dessus sont compris.

Romain Laurent,
laboratoire LaRAC de l'université Grenoble Alpes et CNRS, Grenoble INP.
Philippe Dessus,
laboratoire LaRAC de l'université Grenoble Alpes.
Dominique Vaufreydaz,
Université Grenoble Alpes, CNRS, Grenoble INP,.
Univ. Grenoble Alpes, LaRAC, 38000 Grenoble, France.

Les auteurs

Romain Laurent est ingénieur d'études et doctorant en sciences de l'éducation (Université Grenoble Alpes ; Laboratoire de Recherche sur les Apprentissages en Contexte, LaRAC ; Laboratoire d'Informatique de Grenoble, LIG).
Philippe Dessus est enseignant-chercheur en sciences de l'éducation à l'Université Grenoble Alpes (Institut National Supérieur du Professorat et de l'Education de Grenoble ; Laboratoire de Recherche sur les Apprentissages en Contexte, LaRAC).
Dominique Vaufreydaz est enseignant-chercheur en informatique à l'Université Grenoble Alpes (Faculté d'Économie de Grenoble, Laboratoire d'Informatique de Grenoble, LIG).
Tous trois ont conçu et développé le projet Teaching Lab, financé par le projet 15-IDEX-0002, PIA 3, volet Formation de l'univ. Grenoble Alpes, projet ayant partiellement financé l'écriture de cet article.

Article publié sur le site CANOPÉ, archivé le 27 mai 2021 sur l'archive ouverte HAL.
https://www.reseau-canope.fr/agence-des-usages/apprendre-en-toute-ethique-dans-les-salles-de-classes-intelligentes.html
https://hal.archives-ouvertes.fr/hal-03239879

Cet article est sous licence Creative Commons (selon la juridiction française = Paternité - Pas de Modification). http://creativecommons.org/licenses/by-nd/2.0/fr/

Références

Abowd, G. D. (1999). Classroom 2000 : An experiment with the instrumentation of a living educational environment. IBM Systems Journal, 38(4), 508-530.

Creemers, B. P. & Tillema, H. H. (1987). The classroom as a social/emotional environment. The Journal of Classroom Interaction, 23(2), 1-7.

Crooks, R. (2019). Cat-and-Mouse games : Dataveillance and performativity in urban schools. Surveillance & Society, 17(3/4), 484-498.

Cuban, L. (1993). Computers meet classroom : Classroom wins. Teachers College Record, 95(2), 185-210.

De Hert, P., Gutwirth, S., Moscibroda, A., Wright, D. & Fuster, G. G. (2009). Legal safeguards for privacy and data protection in ambient intelligence. Personal and Ubiquitous Computing, 13(6), 435-444.

Doyle, W. (2011). Ecological approaches to classroom management. In C. M. Evertson & C. S. Weinstein (Eds.), Handbook of classroom management (p. 97-126). New York : Routledge.

Galand, B. (2017). Quels sont les effets de la différenciation pédagogique sur les dimensions cognitives et socio-affectives ? Conférence de consensus « Différenciation pédagogique : Comment adapter l'enseignement pour la réussite de tous les élèves ? ». CNESCO – Ifé : Paris, p. 177-187

Galand, B., Hospel, V. & Baudoin, N. (2014). Prévenir le harcèlement via les pratiques de classe ? Une étude multiniveaux. Revue Québécoise de Psychologie, 35(3), 137-156.

Gligoric, N., Uzelac, A., Krco, S., Kovacevic, I. & Nikodijevic, A. (2015). Smart classroom system for detecting level of interest a lecture creates in a classroom. Journal of Ambient Intelligence and Smart Environments, 7(2), 271-284.

James, A., Chua, Y. H. V., Maszczyk, T., Núñez, A. M., Bull, R., Lee, K. & Dauwels, J. (2019). Automated classification of classroom climate by audio analysis. In 9th International Workshop on Spoken Dialogue System Technology (p. 41-49). Springer, Singapore.

Laurent, R., Vaufreydaz, D., & Dessus, P. (2020). Ethical Teaching Analytics in a Context-Aware Classroom : A Manifesto. ERCIM News, 120, 39-40.

Leonidis, A., Margetis, G., Antona, M. & Stephanidis, C. (2010). ClassMATE : enabling ambient intelligence in the classroom. World Academy of Science, Engineering and Technology, 66, 594-598.

Martinez-Maldonado, R., Elliott, D., Axisa, C., Power, T., Echeverria, V. & Buckingham Shum, S. (2020). Designing translucent learning analytics with teachers : an elicitation process. Interactive Learning Environments. doi : 10.1080/10494820.2019.1710541

Montebello, M. (2019). The ambient intelligent classroom. Beyond the indispensable educator. Cham : Springer.

Ngoc Anh, B., Tung Son, N., Truong Lam, P., Le Chi, P., Huu Tuan, N., Cong Dat, N., ... & Van Dinh, T. (2019). A computer-vision based application for student behavior monitoring in classroom. Applied Sciences, 9(22), 4729.

Petrova, A., Vaufreydaz, D. & Dessus, P. (2020). Group-level emotion recognition using a unimodal privacy-safe non-individual approach. Paper presented at the 8th Emotion Recognition in the Wild Challenge (EmotiW) Int. Conf., Joint to the ACM Int. Conf. on Multimodal Interaction (ICMI 2020). ACM : Utrecht.

Pianta, R. C., Hamre, B. K. & Mintz, S. L. (2012). Classroom Assessment Scoring System : Secondary manual. Charlottesville : Teachstone.

Ramadan, R. A., Hagras, H., Nawito, M., El Faham, A. & Eldesouky, B. (2010, July). The intelligent classroom : Towards an educational ambient intelligence testbed. In 2010 Sixth International Conference on Intelligent Environments (p. 344-349). IEEE.

Ramakrishnan, A., Zylich, B., Ottmar, E., LoCasale-Crouch, J. & Whitehill, J. (2020). Toward Automated Classroom Observation : Multimodal Machine Learning to Estimate CLASS Positive Climate and Negative Climate. ArXiv Preprint. arXiv :2005.09525.

Suo, Y., Miyata, N., Morikawa, H., Ishida, T. & Shi, Y. (2009). Open Smart Classroom : Extensible and Scalable Learning System in Smart Space Using Web Service Technology. IEEE Transactions on Knowledge and Data Engineering, 21(6), 814-828. doi : 10.1109/TKDE.2008.117

Tissenbaum, M. & Slotta, J. D. (2019). Developing a smart classroom infrastructure to support realtime student collaboration and inquiry : a 4-year design study. Instructional Science, 47(4), 423– 462. doi : 10.1007/s11251-019-09486-1

Zou, J. & Schiebinger, L. (2018). AI can be sexist and racist – it's time to make it fair. Nature, 549, 324–326. doi : 10.1038/d41586-018-05707-8