Priorités de recherche
pour une intelligence artificielle
robuste et bénéfique
 

Dans La vie 3.0 paru en français aux éditions Dunod en 2018 [1], Max Tegmark (président du Future of Life Institut) fait état de la conférence de Porto Rico qui a réuni en 2015 la fine fleur des spécialistes de l'IA et de sujets connexes. Les participants de cette conférence publièrent une lettre ouverte qui a réuni 8 000 signatures. Cette lettre que nous reproduisons ci-dessous redéfinit les buts de l'IA qui devraient être bénéfiques et devenir dominants pour la société. La question du contrôle de ces buts est, selon Max Tegmark, entièrement entre nos mains. Jacques Baudé.

Une lettre ouverte [2]

   « La recherche sur l'intelligence artificielle (IA) a exploré une variété de problèmes et d'approches depuis sa création, mais au cours des 20 dernières années environ, elle s'est concentrée sur les problèmes entourant la construction d'agents intelligents – des systèmes qui perçoivent et agissent dans un environnement. Dans ce contexte, « l'intelligence » est liée aux notions statistiques et économiques de rationalité – familièrement, la capacité de prendre de bonnes décisions, de planifier ou de faire des déductions. L'adoption de représentations probabilistes et décisionnelles et de méthodes d'apprentissage statistique a conduit à un degré élevé d'intégration et de fertilisation croisée entre l'IA, l'apprentissage automatique, les statistiques, la théorie du contrôle, les neurosciences et d'autres domaines. La mise en place de cadres théoriques partagés, combinée à la disponibilité des données et à la puissance de traitement, a donné des succès remarquables dans diverses tâches telles que la reconnaissance vocale, la classification des images, les véhicules autonomes, la traduction automatique, la locomotion pédestre et les systèmes de questions-réponses.

   Alors que les capacités dans ces domaines et d'autres franchissent le seuil de la recherche en laboratoire vers des technologies économiquement valables, un cercle vertueux s'installe dans lequel même de petites améliorations de la performance valent de grosses sommes d'argent, ce qui incite à investir davantage dans la recherche. Il existe désormais un large consensus sur le fait que la recherche sur l'IA progresse régulièrement et que son impact sur la société est susceptible d'augmenter. Les avantages potentiels sont énormes, puisque tout ce que la civilisation a à offrir est un produit de l'intelligence humaine ; nous ne pouvons pas prédire ce que nous pourrions réaliser lorsque cette intelligence est amplifiée par les outils que l'IA peut fournir, mais l'éradication de la maladie et de la pauvreté n'est pas insondable. En raison du grand potentiel de l'IA, il est important de rechercher comment tirer parti de ses avantages tout en évitant les pièges potentiels.

   Les progrès de la recherche sur l'IA rendent opportun de concentrer la recherche non seulement sur l'amélioration des capacités de l'IA, mais également sur la maximisation des avantages sociétaux de l'IA. De telles considérations ont motivé le panel présidentiel AAAI 2008-2009 sur l'avenir à long terme de l'IA et d'autres projets sur les impacts de l'IA, et constituent une expansion significative du domaine de l'IA lui-même, qui jusqu'à présent s'est largement concentré sur des techniques neutres. Nous recommandons une recherche élargie visant à garantir que des systèmes d'IA de plus en plus performants sont robustes et bénéfiques : nos systèmes d'IA doivent faire ce que nous voulons qu'ils fassent. Le document ci-joint sur les priorités de recherche [3] donne de nombreux exemples de ces directions de recherche qui peuvent aider à maximiser les avantages sociétaux de l'IA. Cette recherche est par nécessité interdisciplinaire, car elle implique à la fois la société et l'IA. Cela va de l'économie, du droit et de la philosophie à la sécurité informatique, aux méthodes formelles et, bien sûr, à diverses branches de l'IA elle-même.

   En résumé, nous pensons que la recherche sur la manière de rendre les systèmes d'IA robustes et bénéfiques est à la fois importante et opportune, et qu'il existe des orientations de recherche concrètes qui peuvent être poursuivies dès aujourd'hui. »

——————————

NDLR EPI : Voir également, sur le site de la CNIL : Intelligence Artificielle

https://www.cnil.fr/fr/intelligence-artificielle-ia

NOTES

[1] « La vie 3.0 » Max Tegmark, 448 pages, https://www.dunod.com/

[2] http://futureoflife.org/ai-open-letter

[3] https://futureoflife.org/data/documents/research_priorities.pdf?x76795