Vers des dispositifs techniques numériques
orientés éthiques ?

Alain Mille
 

Résumé
Les débats sur les questions éthiques posées par les innovations techniques se focalisent spécifiquement à l'ère du numérique sur le Web et l'Intelligence Artificielle. Cet article s'intéresse aux dispositifs techniques numériques qui déploient ces innovations proclamées. Un dispositif technique numérique, est un dispositif dont le fonctionnement général repose sur l'information, la mémoire et le calcul. Le focus sur le Web repose sur le caractère massif du phénomène. Le focus sur l'intelligence artificielle s'explique facilement puisque depuis 5 à 10 ans, le terme Intelligence Artificielle est à nouveau utilisé pour désigner des innovations désirées ou craintes de manière massive. Les dispositifs techniques numériques actuels s'emparent en effet du marché de la cognition. La nécessité de proposer des voies pour gérer les questions éthiques posées est souvent considérée comme urgente. C'est dans ce contexte mouvant et où le marketing l'emporte souvent sur la rigueur que nous proposons une démarche orientée éthique, pour mettre l'utilisateur en situation de pouvoir déterminer le savoir quoi faire pour bien faire, quand la question se pose à l'évidence pour lui.

Cet article étudie comment un dispositif technique numérique pourrait être mobilisé pour révéler les questions éthiques, les comprendre et supporter les processus d'établissement de comportements adaptés. La première section s'intéresse à élucider quelles seraient les capacités nécessaires à donner à un utilisateur pour qu'il puisse être capable de gérer une question éthique posée par ou via un dispositif technique numérique. En supposant avoir correctement identifié ces capacités, la seconde section étudie quelles seraient alors les conditions générales et les bonnes propriétés techniques à garantir pour que ces capacités puissent se mettre en place ? Pour établir cette grille de capacités et de bonnes propriétés associées, nous nous sommes livrés à une enquête virtuelle, auprès d'un certain nombre de philosophes depuis les plus anciens jusqu'à maintenant.

La section principale de l'article s'attache à l'étude des possibilités existantes, et à imaginer celles qu'il conviendrait de donner aux dispositifs techniques pour qu'ils exhibent les bonnes propriétés nécessaires à l'encapacitation éthique.

La discussion est ouverte sur la valeur de la proposition, sur sa crédibilité, sur les difficultés à surmonter et conclue à l'urgence et la nécessité de parvenir à concevoir des dispositifs techniques numériques orientés éthiques.

Mots-clés : Dispositifs techniques numériques, méta-éthique, réflexivité, intelligence artificielle, Web, encapacitation éthique.

Introduction

   Les débats sur l'éthique associés aux innovations techniques se sont radicalisés à l'ère du numérique et les positions se polarisent entre les uns qui considèrent l'innovation technique numérique comme une solution aux défis de la société et les autres qui, au contraire, considèrent que ces innovations ne font qu'accentuer les questions éthiques posées. La grande majorité hésite car ne sait pas bien comment avoir un avis sur la question. Les utilisateurs de ces innovations techniques sont écartés du débat par des discours techniques et scientifiques mais aussi par des injonctions à s'adapter aux nouveaux usages. Nous allons nous focaliser sur les innovations qui aujourd'hui soulèvent un problème croissant dans la société : innovations articulant l'intelligence artificielle et le Web : nous nous intéresserons plus précisément aux dispositifs techniques numériques qui déploient ces innovations proclamées. La notion de dispositif technique est empruntée à Bruno Bachimont : « la technique opère à travers différentes structures : l'outil, l'instrument, le contenu et finalement la machine. Mais globalement la technique se ramène à la notion de dispositif : un dispositif correspond à une organisation spatiale d'éléments telle que cette configuration détermine un déroulement temporel ». Un dispositif technique numérique, est un dispositif dont le fonctionnement général repose sur l'information, la mémoire et le calcul. Nous rejoignons en celà Jean-Michel Salanskis dans son livret sur le monde computationnel, qui montre que le caractère numérique d'un dispositif technique introduit une rupture radicale dans l'évolution technique. Le focus sur le Web repose sur le caractère massif du phénomène et son succès fondé initialement et paradoxalement, sur l'encapacitation [1] offerte par le dispositif technique numérique qu'il constituait. Le focus sur l'intelligence artificielle mérite qu'il soit précisé : l'histoire de la notion d'intelligence artificielle se confond avec celle de la notion du mécanique d'abord, puis du computationnel avec Turing, et l'intelligence artificielle a pris le statut d'objet de recherche à l'occasion de la fameuse conférence de Dartmouth College, en 1956 [2]. Récemment, depuis 5 à 10 ans tout au plus, le terme Intelligence Artificielle échappe à ce mouvement initial lié à la recherche ou à l'entreprise pour être maintenant désiré ou craint de manière massive. Nous, chercheurs en IA, n'avons pas compris tout de suite pourquoi, à la radio, dans les médias, on parlait d'Intelligences Artificielles, au pluriel, quand souvent nous n'y voyions que des algorithmes relativement standards, et en tout cas produits en dehors du mouvement de recherche sur l'intelligence artificielle. Cette confusion algorithme-IA semble aujourd'hui admise largement, et passé le moment d'incrédulité, nous comprenons pourquoi il est en fait correct de considérer de nombreux algorithmes comme des intelligences artificielles.

   En effet, nous réalisons que les dispositifs techniques numériques actuels s'intéressent à réguler des fonctions cognitives qui, jusqu'à il y a peu, étaient réputées hors du champ de l'automatisation. Les dispositifs techniques numériques actuels s'emparent du marché de la cognition, se déclinant en recommandation comportementale, orientation de la décision, décidant de ce qui est bien ou non pour l'utilisateur, jugeant des capacités cognitives lors des apprentissages, classant inlassablement les profils cognitifs au profit de stratégies marchandes ou sécuritaires, et s'engageant à tout faire pour le bien-être des utilisateurs. Nous trouvons dans cet état de fait, la justification de la nécessité de proposer des voies pour gérer la question éthique à l'ère de ces intelligences artificielles, que tout un chacun peut installer sur son terminal numérique, et en premier lieu actuellement son smartphone. À ces usages massifs, s'ajoute la perspective des robots compagnons, de la voiture autonome, de l'humain augmenté... La question éthique se pose alors de manière plus directe et sensible, et ces développements relèvent du même marché de la cognition, présenté comme considérable. La société du bien-être [3] est la justification de ces développements dans l'offre du numérique. La diffusion massive d'objets interconnectés en un internet des objets (Internet of things), facilite cette mise en œuvre en ajoutant au raisonnement-calcul, des capacités sensori-motrices par extension et même par procuration de l'utilisateur. C'est dans ce contexte mouvant et où le marketing l'emporte souvent sur la rigueur que nous proposons une démarche orientée éthique. Par démarche orientée éthique, nous voulons simplement dire que par conception, le dispositif technique numérique est conçu pour mettre l'utilisateur en situation de pouvoir déterminer le savoir quoi faire pour bien faire, quand la question se pose à l'évidence pour lui.

   Un dispositif technique numérique ne peut pas être, en lui-même, éthique ou non éthique : il ne « pense » pas dirait le philosophe [4]. Il est possible que cette affirmation soit contestée, mais nous la considérons valide, jusqu'à preuve du contraire. Il peut être conçu pour faire respecter la loi, la réglementation, mais c'est une toute autre question que d'être éthique ou non. Mais si un dispositif technique numérique ne peut pas être éthique ou non éthique, est-il neutre pour autant ? Il semblerait bien que non, puisque l'on voit bien comment les questions éthiques sont nombreuses à se poser à l'ère du Web et de l'intelligence artificielle [5]. En effet si le discours d'une technique neutre est encore parfois utilisé, il n'est plus majoritaire pour ce qui concerne les dispositifs techniques numériques. L'éthique est convoquée dans beaucoup d'institutions, entreprises, collectifs, « think tanks » ; les séminaires, colloques, réflexions, conseils spécialisés se sont multipliés. Des lois et réglementations tentent de protéger la vie privée et la propriété privée (droit d'auteur), des comités d'éthiques fleurissent pour étudier les dangers potentiels des dispositifs techniques numériques et tenter de fournir des règles de bonne conduite ou de précautions adressées aux personnes qui les conçoivent, les déploient ou les utilisent [6].

   En France, le conseil national du numérique [7] publie dès juin 2015 un rapport « Ambition Numérique » dont le titre long indique clairement l'enjeu d'une éthique associée au développement du numérique : Révolution numérique : tenir les promesses d'empouvoirement de la société et de transformation de l'économie. [8]. Les questions soulevées dans ce rapport sont clairement posées et un appel est fait pour que des réponses y soient faites de manière urgente au niveau national, européen et international. Plus concrètement, l'agence ETALAB [9] gère les données ouvertes de l'état et recommande l'utilisation de dépôts ouverts pour les codes sources (type Framagit [10]), donnant l'exemple d'un comportement ouvert devant faciliter la mise en place d'une éthique du numérique.

   D'autres, intellectuels, collectifs, mouvements citoyens, en particulier dans la mouvance des « communs » [11], argumentent sur la nécessaire encapacitation (Genard, 2013) de l'utilisateur dans son activité médiée par un dispositif technique numérique.

   Le dispositif technique numérique est souvent présenté comme un pharmakon [12] – poison et remède – pour la société. Cet article s'intéresse à étudier quelles seraient les conditions techniques, et par extension sociales pour qu'il se révèle remède quand c'est nécessaire. Un remède n'empêche pas la maladie mais permet de la soigner quand c'est nécessaire. Nous allons donc étudier comment il est possible de penser les dispositifs techniques numériques pour qu'ils soient orientés éthiques.

   Concrètement, nous étudions dans cet article comment un dispositif technique numérique pourrait être mobilisé pour révéler les questions éthiques, les comprendre et supporter les processus d'établissement de comportements adaptés, alors même qu'il peut lui-même être à l'origine de la question éthique soulevée.

   Les termes de transparence, loyauté, traçabilité, équité et explicabilité reviennent souvent dans les recommandations faites par les institutions comme le CNNUM, le CIGREF [13], la CNIL avec le rapport Comment permettre à l'Homme de garder la main ? [14], mais aussi par des associations comme la Quadrature du Net [15]. Nous tenterons dans cet article d'illustrer comment leur donner de la substance dans une démarche « orientée éthique », en les reprenant dans l'analyse des bonnes propriétés de dispositifs techniques numériques orientés éthiques.

   La première section s'intéresse d'abord à élucider quelles seraient les capacités nécessaires à donner à un utilisateur pour qu'il puisse être capable de gérer une question éthique posée par ou via un dispositif technique numérique. En supposant avoir correctement identifié ces capacités, la seconde section étudie quelles seraient alors les conditions générales et les bonnes propriétés techniques à garantir pour que ces capacités puissent se mettre en place ? Pour établir cette grille de capacités et de bonnes propriétés associées, nous nous sommes livrés à une enquête virtuelle, auprès d'un certain nombre de philosophes depuis les plus anciens jusqu'à maintenant.

   L'évocation des postures philosophiques, et des théories sous-jacentes alimente une réponse fictive que nous prêtons aux philosophes interrogés. Cette section n'a aucune prétention dans le domaine de la philosophie, mais a l'ambition de permettre aux chercheurs, ingénieurs, techniciens, utilisateurs du numérique de nourrir leur propre pensée avec un point de vue en résonance philosophique avec leurs pratiques. Il s'agit d'avoir une meilleure chance de situer les enjeux de l'éthique en s'appropriant un tant soit peu cette notion de l'éthique toujours difficile à comprendre. Nous ne gardons qu'un tableau de synthèse des lectures référencées sans nous livrer dans cet article à leur analyse argumentée.

   La section principale de l'article s'attache à l'étude des possibilités existantes, et à imaginer celles qu'il conviendrait de donner aux dispositifs techniques pour qu'ils exhibent les bonnes propriétés nécessaires à l'encapacitation éthique. Ce sera l'occasion d'interroger les pratiques actuelles et de proposer de nouvelles pratiques qui pourraient fournir ces bonnes propriétés comme remède disponible pour l'encapacitation.

   Nous terminerons par une section de discussion ouverte sur la valeur de la proposition, de sa crédibilité, des difficultés à surmonter mais nous affirmerons sa nécessité puisque nous pensons qu'il est sans doute impossible de penser l'éthique à l'ère actuelle du numérique sans disposer de ces bonnes propriétés pour les dispositifs techniques numériques.

Alain Mille
Professeur émérite (Intelligence Artificielle)
Université Claude Bernard Lyon 1
LIRIS UMR CNRS 5205 · Pôle COGITE

Article complet : httm://www.epi.asso.fr/revue/articles/a2010d.pdf

Paru dans Intellectica n° 70 de janvier 2019 pages 119-163.

NOTES

[1] Encapacitation est une des nombreuses façons de traduire le terme « empowerment » : renforcement du pouvoir d'agir, renforcement des capacités, responsabilisation (ne décrit pas suffisamment la motivation, la prise de parole, le passage à l'action), responsabilisation sociale, appropriation des responsabilités, émancipation, capacitation, enpuissancement, désinfériorisation.

[2] http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html

[3] Voir par exemple une liste déjà bien longue d'applications sur
https://simonae.fr/sante-bien-etre/self-care/ameliorer-son-quotidien-grace-aux-applications-pour-smartphone/

[4] Nous reviendrons sur cette question lors de l'interrogation autour de technique et éthique chez Heidegger.

[5] Voir par exemple l'initiative : https://www.partnershiponai.org/

[6] Un certain nombre de principes et recommandations sont ainsi listés sur
https://futureoflife.org/ai-principles/?cn-reloaded=1

[7] https://cnnumerique.fr/

[8] Sur le site de la documentation française :
https://www.ladocumentationfrancaise.fr/var/storage/rapports-publics/154000400.pdf

[9] https://www.etalab.gouv.fr/qui-sommes-nous

[10] https://framagit.org

[11] Nous utilisons ce terme pour désigner les personnes qui se réclament du mouvement des communs, rétabli dans ses potentiels par Elinor Ostrom :
https://fr.wikipedia.org/wiki/Elinor_Ostrom.

[12] Le terme pharmakon a sans doute été proposé pour la première fois par Bernard Stiegler pour caractériser les dispositifs numériques de masse.

[13] https://www.cigref.fr/

[14] Rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle :
https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-ethiques-des-algorithmes-et-de

[15] https://www.laquadrature.net/donnees_perso/