Pourquoi est-il important d'avoir une égalité femmes-hommes dans le monde de l'IA ?

Pourquoi est-il important d'avoir une égalité
femmes-hommes dans le monde de l'IA ?

Agnès Helme-Guizon, Céline Ternon,
Florence Sèdes

Y a-t-il un lien entre les stéréotypes véhiculés par l'IA
et le manque d'égalité dans le secteur ?
chenspec, Pixabay , CC BY.

Avez-vous remarqué que les assistants virtuels se prénomment Alexa (Google), Siri (Apple) ou Cortana (Microsoft) ? Et que la version initiale de Siri répondait « I'd blush if I could » (« je rougirais si je le pouvais ») [1] quand la question ne pouvait être interprétée. Connaissez-vous Eliza [2] ? Une pionnière, l'IA ancêtre des agents conversationnels ou chatbots capable de « dialoguer » avec les humains dès 1964. Avez-vous entendu parler de Sophia [3] de Hanson Robotics, annoncée comme l'humanoïde la plus avancée et réputée figurer le futur de l'IA ? Dotée d'un visage (quasi) humain, elle est invitée sur les plateaux de télé pour partager son quotidien, et a même été faite citoyenne d'Arabie saoudite.

Alors que dans l'industrie et dans l'armée les robots portent plutôt des noms masculins (Syrano, Barakuda [4]), les IA de type « assistant personnel », comme les GPS, parées d'attributs féminins, rendent service, sont à l'écoute, répondent poliment. Y aurait-il un lien entre ces représentations stéréotypées et le manque d'égalité aujourd'hui dans le secteur de l'IA ?

De nombreux acteurs se penchent sur la question de l'égalité femmes-hommes dans le numérique, par exemple l'Assemblée Nationale [5], la Commission Européenne [6] ou l'UNESCO [7]. C'est également une préoccupation forte des Instituts interdisciplinaires de l'intelligence artificielle [8] créés en 2019, qui ont notamment organisé une table ronde [9] commune le 8 mars 2021 afin de sensibiliser les communautés de l'IA (universitaires et industriels) à ces questions, en dressant un état des lieux des inégalités femmes-hommes et un panorama des initiatives menées au sein de ces instituts interdisciplinaires.

L'intelligence artificielle, une technologie à l'usage de tous les domaines sociétaux, et pourtant à dominante masculine

L'IA cherche à reproduire le fonctionnement du cerveau humain. On peut la définir comme « un ensemble d'algorithmes conférant à une machine des capacités d'analyse et de décision lui permettant de s'adapter intelligemment aux situations en faisant des prédictions à partir de données déjà acquises ».

L'IA n'est pas un métier en soi, mais une technologie utilisée dans différents domaines – santé, communication, bâtiment, marketing, industrie, juridique – et qui fait appel à plusieurs spécialités – mathématiques, informatique, sciences cognitives notamment.

Dresser un tableau exact de la situation comparée des femmes et des hommes en IA n'est pas aisé. Toutefois, on peut citer la moyenne de 20 % de femmes [10] dans les écoles d'ingénieurs et les métiers du numérique, ainsi que les 29 % de femmes dans les métiers de la data science et de l'IA, ainsi qu'un taux de femmes inférieur à 20 % parmi les spécialistes de l'IA au niveau mondial en 2019 [11]. En 2018, les femmes représentaient environ 10 % des effectifs de Google et Facebook aux postes techniques et scientifiques [12].

Les bénéfices associés à l'égalité femmes-hommes dans les équipes de développement de l'IA

Une IA égalitaire [13], développée par des équipes mixtes, pourrait se révéler un levier fondamental pour la mixité.

Une IA égalitaire qui serait utilisée pour le recrutement proposerait indifféremment des femmes et des hommes pour les postes à responsabilités. Elle enseignerait en se comportant de la même manière avec les garçons et les filles et proposerait des livres de cuisine ou des jeux de réflexion sans cibler un genre en particulier. Les outils dotés d'une IA égalitaire contribueraient à lever les biais de genre et au respect des droits de toutes et tous à tous les moments de la vie : de l'école à l'entreprise, à la banque, chez le médecin comme face à un site Internet.

Or, il est aujourd'hui reconnu que les IA véhiculent les stéréotypes et reproduisent la discrimination, que ce soit par exemple par la reconnaissance faciale [14], la reconnaissance vocale [15] ou encore la communication ciblée [16], du fait principalement des données utilisées pour entraîner ces IA. Par exemple, les systèmes de reconnaissance faciale sont plus performants sur des visages à peau blanche que sur des visages à la peau plus sombre, et sur des visages d'hommes que de femmes, car les données d'apprentissage contiennent essentiellement des visages d'hommes à peau blanche. De même, les moteurs de reconnaissance faciale chinois ont d'excellentes performances sur les visages de leurs compatriotes uniquement. Ces exemples soulignent l'importance cruciale des bases d'apprentissage, sur lesquelles ces systèmes « apprennent » en termes de qualité, d'exhaustivité et de représentativité.

Intégrer des femmes dans les équipes de développement pourrait permettre l'inclusion de données et de points de vue propres aux femmes en raison des effets de l'« appartenance groupale » sur les émotions et les comportements [17]. En effet, il est démontré depuis plus de 50 ans que l'appartenance groupale induit des biais positifs au sein du groupe et sur la discrimination intergroupe.

De même, plus les « fabricants de l'IA » seront diversifiés, sur le plan de l'origine ethnique, culturelle, du niveau ou type d'étude, plus de points de vue différents pourront être pris en compte, ce qui favorisera la création de bases d'apprentissage plus représentatives de la société, et permettra ainsi de mieux garantir la bonne robustesse et fiabilité des algorithmes d'IA.

Ainsi, la mixité et la diversité au sens large des équipes pourraient conduire à une IA plus inclusive et plus égalitaire, en plus des bénéfices connus [18] de la mixité des équipes, que sont une meilleure performance et une productivité et une créativité accrues.

Les filles sont les grandes absentes des filières du numérique

Depuis la réforme du baccalauréat, 3,7 % d'élèves de première ont choisi la spécialité NSI (« Numérique et Science informatique ») [19], parmi lesquels à peine 10 % de filles. Après le bac, moins de 15 % d'étudiants ingénieurs en informatique sont des étudiantes, à comparer avec les 40 % et plus de femmes dans les années 70 [20]. Ce mouvement de désintérêt des filles pour les carrières scientifiques en général et du numérique en particulier, amorcé dans les années 80 [21], perdure [22] malgré des initiatives menées par un grand nombre d'acteurs.

La création de la spécialité NSI a mené à la création d'un CAPES [23] et d'une agrégation d'informatique. Ces débouchés potentiels pourraient rendre les filières informatiques plus attractives pour les filles. La multiplicité des métiers impactés par l'IA doit aussi être une opportunité pour faire connaître les approches « métiers » qui en découleront, en termes de défis citoyens, sociétaux, inclusifs, éthiques et exemplaires en termes de protection des données, de la vie privée et des libertés.

Une raison de ce désintérêt pourrait être les stéréotypes de genre [24]. Véhiculés par tous les acteurs de la société, française et européenne en général, ces stéréotypes (comme « les filles ne sont pas faites pour les maths ») sont acquis et acceptés par les filles dès l'école élémentaire [25]. À cet égard, les contre-exemples de certains pays, comme Oman ou la Malaisie, où respectivement 75 % et 62 % des diplômés en sciences sont des femmes [26], montrent bien que non seulement il s'agit bien de préjugés ancrés dans la société et non de caractère essentialiste, mais aussi qu'il est possible d'œuvrer pour inciter les filles à se tourner vers les métiers scientifiques et numériques.

Favoriser l'égalité entre les sexes face aux sciences numériques à tous les âges de la vie

L'éducation pourrait contribuer à améliorer la féminisation du numérique.

À l'école primaire, les Partenaires scientifiques pour la classe [27] organisent par exemple des interventions en classe réunissant élèves, professeurs et scientifiques autour de la pratique scientifique et technologique, éveillant ainsi l'intérêt de tous les enfants, filles et garçons, pour la démarche d'investigation et les métiers liés.

Pour les enseignants et enseignantes, l'Institut Interdisciplinaire d'IA de Toulouse [28] propose un dispositif centré sur l'IA pour leur permettre de réaliser des ateliers de sensibilisation auprès de leurs classes. Par ailleurs, les Maisons pour la science, qui contribuent au développement professionnel des professeurs des écoles et des collèges, proposent des formations spécifiques en lien avec l'IA [29] ou sur les stéréotypes de genre [30].

Des expositions comme la Science taille XXelles [31], visant le grand public, les parents et les enfants, dressent le portrait de ces femmes scientifiques et permettent non seulement d'afficher la mixité de tous les métiers, mais aussi à des jeunes filles de s'identifier à ces rôles modèles [32].

L'IA hérite de la situation d'inégalité et de discrimination du domaine numérique et des formations et métiers de l'informatique. L'égalité femmes-hommes est un des objectifs parmi les 17 Objectifs Développement Durables de l'ONU [33]. Au-delà de l'équilibre des genres, la responsabilité sociétale démontre la nécessité de considérer la question de l'inclusion en luttant contre les inégalités sociales, les discriminations. L'IA, domaine de compétence nouveau, en pleine maturation, doit s'emparer de ce défi en devenant inclusive.

Agnès Helme-Guizon
Professeure des Universités, Marketing social,
Grenoble IAE Graduate School of Management

Céline Ternon
Maitresse de Conférences, Grenoble INP,
Université Grenoble Alpes (UGA)

Florence Sèdes
Professeure des Universités en Informatique -
Vice Présidente en charge de la Responsabilité Sociétale de l'Université,
Université de Toulouse III – Paul Sabatier

Cet article a été co-écrit par Marjorie Allain-Moulet, Responsable R&D IA et data chez CS GROUP et Coordinatrice industrielle du 3IA de Toulouse ANITI.

À lire aussi :

« Un $ % de programme sexiste » : comment détecter et corriger les biais des IA.
https://theconversation.com/un-de-programme-sexiste-comment-detecter-et-corriger-les-biais-des-ia-156874

Emploi, sécurité, justice : d'où viennent les « biais » des IA et peut-on les éviter ?
https://theconversation.com/emploi-securite-justice-dou-viennent-les-biais-des-ia-et-peut-on-les-eviter-154579

Pourquoi l'égalité entre les sexes n'efface-t-elle pas les ségrégations dans les filières scientifiques ?
https://theconversation.com/pourquoi-legalite-entre-les-sexes-nefface-t-elle-pas-les-segregations-dans-les-filieres-scientifiques-152272

Publié le 16 avril 2021, sur le site The Conversations.
https://theconversation.com/pourquoi-est-il-important-davoir-une-egalite-femmes-hommes-dans-le-monde-de-lia-157619

Cet article est sous licence Creative Commons (selon la juridiction française = Paternité - Pas de Modification). http://creativecommons.org/licenses/by-nd/2.0/fr/

NOTES

[1] https://en.unesco.org/Id-blush-if-I-could

[2] https://en.wikipedia.org/wiki/ELIZA

[3] https://www.hansonrobotics.com/being-sophia/

[4] https://www.challenges.fr/entreprise/shark-nouveau-champion-francais-des-robots-militaires_651463

[5] https://www.assemblee-nationale.fr/dyn/15/rapports/ega/l15b1016_rapport-information,

[6] https://ec.europa.eu/info/policies/justice-and-fundamental-rights/gender-equality/gender-equality-strategy_fr

[7] http://www.unesco.org/new/fr/culture/gender-and-culture/gender-equality-and-culture/the-report

[8] https://www.enseignementsup-recherche.gouv.fr/cid141320/lancement-de-4-instituts-interdisciplinaires-d-ia-3ia-et-ouverture-de-deux-appels-a-projets-complementaires.html

[9] https://www.youtube.com/watch?v=HK8LDm3mLmA

[10] https://www.monster.fr/recruter/conseil-en-ressources-humaines/marche-emploi/statistique-emploi/emploi-numerique-et-mixite-7-chiffres-a-retenir/

[11] https://www.weforum.org/reports/gender-gap-2020-report-100-years-pay-equality