L'Intelligence Artificielle au lycée
 

   Rappelons tout d'abord la publication par la revue La Recherche, le mardi 17 octobre, d'une nouvelle tribune du Collectif Maths&Sciences (dont l'EPI est membre) concernant les impacts de la réforme du lycée général. La Tribune, intitulée : « Réforme du lycée : petites failles ou grandes fractures ? » [1] concerne notamment les impacts de la réforme du lycée sur la formation des élèves et leurs conditions d'apprentissage. Sur ces impacts : « La réforme du lycée pose, en particulier en sciences, des problèmes de fond en créant des fractures au sein de différentes catégories d'élèves. Elle présente des failles majeures impossibles à combler avec l'architecture actuelle qui appellent a minima deux amendements significatifs : 

• rééquilibrer le tronc commun en faveur des sciences pour que lettres et sciences soient d'égale importance dans la besace culturelle du citoyen du XXIe siècle ;

• conserver en terminale, sans perte de contenu, les trois spécialités de première pour maintenir la polyvalence des élèves ».

   Par ailleurs, dans l'éditorial d'octobre d'EpiNet, nous faisions un point sur la réforme du lycée [2]. Ses effets sont délétères. Rappelons quelques critiques : concurrences malsaines entre les disciplines, perte de sens du métier chez les enseignant·e·s, disparition du groupe classe, inflation des notes dans le cadre du contrôle continu, stress et dégradation de la santé mentale des jeunes... Après de tels constats, il semble bien difficile d'envisager autre chose que l'abrogation de la réforme du lycée, une refonte totale des enseignements et de l'examen du bac. 

   Dans le prolongement des éditoriaux de mai et de juin 2023 et des nombreux documents signalés dans les différentes rubriques d'EpiNet, nous revenons sur une problématique très présente actuellement.

L'Intelligence artificielle (suite)

   L'année 2023 a indubitablement été marquée jusqu'ici, pour le grand public, par l'émergence de l'intelligence artificielle. Pour le grand public, à la suite de ChatGPT, mais pas pour la communauté scientifique informatique pour qui elle existe depuis longtemps sous différentes formes. Elle est apparue au début des années 1950 avec les premiers langages informatiques associés comme LISP (LIST processing, pour le traitement dit intelligent de listes) et le fameux test de Turing qui consiste à tester la capacité d'une machine à imiter une conversation humaine et à ainsi se faire passer pour un humain.

   L'IA est désormais présente partout dans nos vies. L'IA est utilisée depuis des années pour traiter des données, résoudre des problèmes, faire de la prédiction ou de la recommandation, dans des univers aussi variés que les sciences, l'industrie, les banques ou le commerce en ligne. Les IA génératives, quant à elles, tentent également d'imiter les compétences cognitives de l'être humain pour générer des contenus. Et lorsque l'on touche au langage, les résultats peuvent avoir un impact important sur de nombreuses compétences transverses. Ces IA sont aujourd'hui accessibles par tous, grâce à diverses applications.

   Les débats sont multiples. Par exemple, certains préfèrent traduire IA par Intelligence (humaine) Augmentée. D'autres pensent que bien malin est celui qui prétendrait définir avec précision ce qu'est l'intelligence. préférant parler de capacités cognitives, de savoir apprendre, mémoriser, faire des rapprochements, des analogies, des raisonnements, des marqueurs de l'intelligence mais qui ne la définissent pas.

   Cela étant quid de l'IA et de l'éducation avec une question : faut-il enseigner l'IA au lycée ?

Oui, il faut enseigner l'IA au lycée

   Oui mais le plus tôt dans la scolarité serait le mieux car les écoliers et les collégiens sont déjà confrontés aux IA (moteurs, traducteurs, chatbots...) présents sur les smartphones ! Oui au lycée mais donc après son enseignement au primaire et au collège (on connaît l'importance des apprentissages précoces).

   L'IA est une technologie qui est en train de transformer nos vies de manière profonde et durable. Elle est donc déjà utilisée dans de nombreux domaines tels que la santé, la finance, la logistique et l'éducation. Des emplois vont disparaître, d'autres vont émerger. Certains vont se transformer. Avec l'appropriation de l'intelligence numérique, les compétences requises dans de nombreux emplois vont se modifier.

   L'IA doit être au service de tous, du bien commun, de l'amélioration des conditions de travail... Et non uniquement dans les mains des GAFAM et autres firmes informatiques dans l'objectif de profits à court terme. Cela suppose une implication des travailleurs et des citoyens formés dans la politique menée et les réalisations. Il ne faut pas dans l'entreprise qu'un algorithme soit le responsable d'un salarié au point de remplacer les supérieurs hiérarchiques. L'utilisation de l'IA dans les administrations et les entreprises ne doit pas discriminer les personnes n'ayant pas les moyens ou le savoir pour y accéder. Les réels progrès dus à l'IA par exemple en médecine ne sauraient être une excuse à des dérives.

   En effet, une médecine plus précise se dessine, aidée par une IA qui sait utiliser les données efficacement ; des catastrophes naturelles peuvent être anticipées, des zones de pauvreté peuvent être analysées grâce à l'analyse automatique des photographies aériennes et... Il est donc important que les lycéens soient préparés à cette nouvelle réalité. Les liens entre IA génératives et enseignement sont indéniables. Comment intégrer l'IA dans la préparation de ses cours ? Comment accompagner les élèves ? Comment penser l'évaluation et la transformation des compétences ?

   L'enseignement de l'IA au lycée doit avoir deux objectifs principaux :

• Dans le cadre des missions traditionnelles de l'enseignement scolaire, former les hommes et les femmes, les travailleurs et les citoyens dans la société numérique,  : les lycéens doivent comprendre les principes de base de l'IA, ainsi que les différents types d'IA qui existent. Ils doivent également être capables d'évaluer les impacts de l'IA sur la société. Il est aussi grand temps de donner à tous la culture informatique de notre époque, dans ce cadre d'initier tous les élèves à la programmation,

• Préparer les futurs professionnels de l'IA : l'IA étant une industrie en plein expansion, les lycéens qui souhaitent travailler dans ce domaine doivent avoir une formation solide en mathématiques, en informatique, en particulier en IA.

   L'IA a sa place naturelle dans le cours d'informatique. Et comme pour l'informatique en général chaque discipline (mathématiques, biologie, sciences physiques, français, histoire, géographie...) doit l'intégrer d'une manière spécifique à partir de ses utilisations et de son impact sur ses contenus. Elle doit être dans l'enseignement scolaire à la fois comme science et science humaine.

   Voici quelques exemples de compétences que les lycéens devraient acquérir dans le cadre d'un cours d'IA :

• Comprendre les principes de base de l'IA, tels que l'apprentissage automatique, le traitement du langage naturel, et la vision par ordinateur.
• Développer des compétences en programmation pour créer des applications d'IA.
• Évaluer les impacts de l'IA sur la société, tels que les risques éthiques et les opportunités économiques.

   L'enseignement de l'IA au lycée est un investissement important pour l'avenir. Il permettra aux lycéens de comprendre et de s'approprier cette technologie et de devenir des citoyens éclairés dans un monde de plus en plus numérique. il est encore trop tôt pour mesurer les conséquences sur l'enseignement de ces modèles de langage générant automatiquement des textes et des images et de leur mise à disposition auprès du grand public. Un vaste débat au sein du corps enseignant s'impose donc sans tarder, dès maintenant. Et ne pas oublier que, si les outils utilisés par les enseignants contribuent à modifier la pratique de leur métier, pour autant, l'éducation n'en reste pas moins une relation humaine, la relation forte entre les enseignants et leurs élèves étant absolument fondamentale. La construction des savoirs par chaque élève est hautement favorisée par ses relations avec les autres, la dynamique de la classe. Travailler ensemble est efficace et permet de s'enrichir les uns des autres. La coopération plutôt que la concurrence. Cette dimension sociale est aussi un apprentissage de la vie en société.

Des questions importantes

La véracité

   Parmi ces questions il y a celle de la véracité. Une réponse à une requête peut être un mélange de vrai et de faux (une hallucination). Un spécialiste du domaine de la requête s'en rendra compte immédiatement. Mais pas nécessairement un élève en phase d'apprentissage. Prudence donc. Ce que l'algorithme génère, à très grande vitesse, c'est une série de probabilités. Il faut prendre garde au monopole de la requête en ligne, tel que visé par Microsoft (Bing) et Google (Bard) et d'autres, en jouant de la concurrence entre elles, donc en utilisant régulièrement plusieurs applications différentes. Et que va  peser la parole du professeur ? Des soucis en perspective. D'où l'importance de la formation, pour les professeurs et pour les élèves. Formation à l'IA, répétons-le comme science et science humaine (IA et société, éthique, formation de l'homme, du travailleur et du citoyen). Laissez les adolescents aux mains des chatbots de plus en plus « évolués » n'est pas possible. Il faut imposer de bonnes habitudes comme indiquer en filigrane qu'un document a été produit par une IA ou avec son aide et donc qu'il ne vaut pas vérité. L'IA ne peut pas remplacer la nécessité pour les élèves de développer leur esprit critique et leur propre créativité, de se former et s'informer en maîtrisant leurs sources et ressources. Il faut aussi être attentif à la dimension de la nuance pouvant être mise à mal par des approches binaires. On vit une période nouvelle (nouveau paradigme ?) à bien des égards et ça ne fait que commencer.

   Des conseils sont donnés ici et là pour réduire les hallucinations des chatbots, dans la presse et sur les sites éducatifs déjà signalés dans EpiNet [3].

La donnée

   Autre question importante, celle de la donnée qui est au cœur des problématiques. En effet les données sont les nouvelles matières premières, qui, comme les traditionnelles, donnent lieu à une énorme compétition, parfois déloyale, ainsi qu'à des prédations, comme c'est le cas pour les ressources naturelles. Les données doivent toujours pouvoir être gérées par des lois protectrices : protectrices d'essais non éthiques, comme les données médicales, protectrices du traçage de la vie, non seulement du point de vue de leur protection privée, mais aussi de la finalité de leur utilisation. Les États riches en données médicales, comme la France, sont de ce point de vue des cibles de choix.

   Concernant la donnée, ChatGPT pose un problème spécifique qui ne lui est pas propre. Il a été entraîné et nourri par plus de 500 milliards de textes issus de livres, d'encyclopédies et d'informations provenant du Web. Il y a là un réel problème : pour l'instant 46 % sont d'origine anglo-saxonne... et 5 % française. Un problème linguistique mais aussi culturel, politique, géopolitique. Quelle vision du monde ? Poser la question c'est y répondre. Importantes questions que la souveraineté, les modèles culturels, la nécessité d'un pluralisme linguistique. Les questions du stockage, des échanges et de la territorialité sont à considérer pour des raisons de souveraineté et d'intelligence économique.

   L'IA renforce l'acuité d'une réponse à ces enjeux qui en réalité relèvent de décisions politiques. Une géopolitique difficile avec l'incroyable concentration de pouvoir et d'argent par un très petit nombre d'entreprises de la Silicon Valley. Elles se donnent le monopole de l'accès à l'information et de toutes les productions en découlant. Elles alimentent la concurrence frontale entre États-Unis et Chine sur le sujet. La stratégie de Google et Microsoft a en effet pour but de couper l'herbe sous les pieds du gouvernement chinois, qui ne cache pas ses légitimes ambitions en matière de développement de l'IA.

   Une équipe française de choc sur l'IA : pour contrer l'avancée inexorable des entreprises américaines, plusieurs chercheurs français viennent de lancer la startup Mistral AI. Cette initiative stratégique, encore très secrète, est portée par des pionniers de l'IA et plusieurs ex-employés des GAFAM. Mistral AI a sorti son premier modèle [4].

Les biais de genre

   Laurence Devillers, professeure à Sorbonne-Université, nous prévient que « les systèmes d'intelligence artificielle vont amplifier les biais de genre dans tous les domaines, les biais des données peuvent aller jusqu'au stéréotype grossier ». Il est nécessaire de prendre ce sujet très au sérieux et d'y apporter des solutions par des règles, des normes et des guides éthiques en Europe et au niveau mondial.

   Or, par ailleurs, les lycéennes ont tendance à déserter les formations en informatique, la France peinant à encourager les femmes à s'intéresser au secteur en tension du numérique. Et la réforme du lycée a aggravé la situation... [5].

L'écriture des algorithmes. Décoder des images perçues par le cerveau humain

   Et puis qui écrit ces algorithmes ? Qui supervise leur écriture ? Sans forcément penser à mal, les choix seront évidemment différents selon l'auteur ou la formation initiale des programmeurs et des data scientists. La dimension culturelle de l'éthique est évidente ainsi que celle du choix de la langue. Et surtout, la dimension de la nuance, si importante en éthique, paraît mise à mal par ces approches binaires. Une réflexion éthique généraliste doit inspirer la réflexion éthique opérationnelle, en la faisant respecter dès la conception technique et le déploiement de la digitalisation par des équipes dûment informées. Cette conception ne doit pas être aléatoire et laissée au seul jugement de ceux qui écrivent les algorithmes, mais répondre à des standards cependant suffisamment larges pour ne pas devenir de nouveaux impératifs rigides [6].

Décoder des images perçues par le cerveau humain

   L'IA parvient à décoder des images perçues par le cerveau humain. Les algorithmes de Meta AI (ex-groupe Facebook) sont parvenus à reproduire des photographies regardées par des volontaires en analysant leur activité cérébrale [7]. Quand on pense, les signaux émis sont plus faibles. Mais si on les amplifie...

   Et pour terminer ce tour d'horizon de l'Intelligence artificielle, on doit dire, encore et toujours, qu'il confirme le caractère essentiel de la formation initiale et continue des enseignants. Il y va de leur métier !

Jean-Pierre Archambault
Président de l'EPI

NOTES

[1] Rubrique « Documents » de ce numéro 259 d'EpiNet et site du Collectif Maths&Sciences :
https://collectif-maths-sciences.fr/wp-content/uploads/2023/10/23_10_17_Tribune_LR.pdf
https://www.epi.asso.fr/revue/articles/a2311h.htm

[2] Pour des avancées de l'enseignement de l'informatique :
https://www.epi.asso.fr/revue/articles/a2310a.htm

[3] https://www.zdnet.fr/pratique/8-conseils-bien-utiles-pour-reduire-les-hallucinations-de-chatgpt-39961810.htm

[4] https://www.numerama.com/tech/1368778-mistral-ai-qui-sont-ces-francais-qui-osent-se-mesurer-a-openai.html

[5] https://www.zdnet.fr/actualites/mais-pourquoi-donc-les-lyceennes-ignorent-les-formations-en-informatique-39961764.htm

[6] https://publika.skema.edu/fr/intelligence-artificielle-algorithmes-ethique-de-la-juste-cooperation-en-ia-et-intelligence-humaine/

[7] https://www.ouest-france.fr/high-tech/intelligence-artificielle/lia-parvient-a-decoder-des-images-percues-par-le-cerveau-humain-eb598d32-6f46-11ee-a00f-d55111ba52f2