Entre l’Homme et l’IA : qui décide ?
Entre imaginaires et réalités autour de l’IA, jusqu’où resterons-nous maîtres de nos décisions, s’interrogent les élèves de Terminale du Lycée Déodat de Séverac à Toulouse. Les scientifiques Evgeniia Volkova, spécialiste des questions juridiques et éthiques de l’IA, et Denis Benoît, professeur honoraire en Sciences de l'information et de la communication leurs répondent.
--
Nos invités :
Evgeniia Volkova : Doctorante de l’Université Toulouse Capitole, à l’Institut du droit, de l’espace, des territoires, de la culture et de la communication (IDETCOM). Elle travaille sur la ville intelligente et est spécialiste des questions juridiques et éthiques de l’IA.
Denis Benoit : Professeur honoraire en Sciences de l'information et de la communication. Ancien directeur du Cercle d'étude et de recherche en information-communication (CERIC), aujourd’hui LERASS-CERIC de l’Université Paul Valéry Montpellier III.
--
Morceaux choisis :
« Aujourd’hui l’IA est utilisée dans beaucoup de domaines. Dans les transports avec les véhicules autonomes, dans la santé pour prédire des maladies ou fournir des recommandations de traitements, dans le e-commerce pour conseiller des achats ou afficher des publicités, dans la surveillance de l’espace public, dans le domaine bancaire et financier pour détecter des opérations frauduleuses ou accorder un prêt, elle est largement présente dans la vie quotidienne. »
« Les algorithmes ont des biais. Les systèmes d’IA peuvent discriminer des individus sur la base de critères spécifiques comme le sexe, l’âge ou encore la race. Ce fut le cas aux Etats-Unis : le système de justice pénale a utilisé l’IA pour prédire la récidive et aider aux décisions de justice. Ce système était biaisé et dirigé vers les afro-américains. Ces biais de l’IA sont le reflet des biais et stéréotypes qui existent dans la société. »
« La notion de boîte noire est le fait qu’on ne peut pas expliquer la logique et les raisons d’une décision algorithmique. C’est une opacité. Par exemple les algorithmes de recommandations de FaceBook ont des performances élevées, mais les utilisateurs ne savent pas pourquoi et comment s’affichent ces recommandations. C’est un vrai dilemme aujourd’hui de créer un système compréhensible et qui préserve en même temps ses performances. »
« Un projet de réglementation sur l’IA publié par la Commission Européenne en avril 2021 interdit les systèmes d’IA qui menacent les droits des individus. Y compris la notation sociale, comme cela existe en Chine. »
→ Evgeniia Volkova
--
« La technologie numérique contemporaine est extrêmement efficace. Et la faculté de prédiction de l’IA est phénoménale. Par exemple Google a mis en place un système d’observation sur la façon dont une personne utilise sa carte de crédit pendant une année et peut prédire avec 85% de certitude si la personne va divorcer dans les 3 ans à venir. »
« Les analyses des algorithmes à partir de nos données réduisent l’individu à ses micro comportements. Il n’y a plus d’individus, ni de communauté, mais des profils, des avatars virtuels. Si les modèles obtenus peuvent prévoir des comportements, ils sont en revanche incapables de les comprendre. »
« La prodigieuse capacité de calcul de l’IA, qui est de plusieurs millions par seconde, biaise indéniablement à la fois notre réflexion et nos décisions. Car les systèmes en arrivent à nous spécifier. »
« A mon sens on assiste davantage aujourd’hui à une colonisation du vivant qu’à une hybridation profitable entre l’humain et la machine. Nous fonctionnons de mieux en mieux certes, mais nous existons de moins en moins. L’IA prend le pouvoir. »
→ Denis Benoit
--
Références conseillées par les invités :
→ Documentaire I Human, l’intelligence artificielle et nous de Tonje Hessen Schei - Norvège – 1h37 min (2019)
→ Alexandra Bensamoun et Grégoire Loiseau (dir), Droits de l’Intelligence artificielle ; Editions LGDJ, coll. Les Intégrales (2019)
→ Luc Julia, L’intelligence artificielle n’existe pas ; Editions First (2019)
→ L’émission La méthode scientifique sur France Culture (mars 2019) : Y-a-t-il un cerveau dans la machine ? avec Yann Le Cun, professeur d’informatique et de neurosciences à l’université de New York :
→ Vidéo des Matins de Guillaume Erner sur France Culture (octobre 2019) : L’intelligence artificielle nous veut-elle du bien ? avec Yann Le Cun, professeur d’informatique et de neurosciences à l’université de New York et Gaspard Koenig, philosophe et président du think-tank Generation Libre
→ Vidéo conférence d’Alain Damasio : Etre ou ne pas être artificiel (novembre 2017) :
--
Sources citées pendant l’émission :
→ Propositions de la Commission européenne pour établir de nouvelles règles et actions visant à faire de l'Europe le pôle mondial d‘une intelligence artificielle (IA) digne de confiance (avril 2021)
→ Miguel Benasayag, La tyrannie des algorithmes ; Editions Textuel (2019)
→ Antoinette Rouvroy et Thomas Berns, Gouvernementalité algorithmique et perspectives d'émancipation
→ Gaspard Koening, La fin de l’individu, voyage d’un philosophe au pays de l’Intelligence Artificielle ; Editions L’Observatoire (2019)
--
Le podcast Au Crible de la Science est une coproduction Exploreur / Université fédérale Toulouse Midi-Pyrénées et Quai des Savoirs. Présentation : Sophie Chaulaic - journaliste. Préparation : Catherine Thèves, chercheuse CNRS. Réalisation : Arnaud Maisonneuve. Technique : Vincent Navarro. Production radiophonique conçue en partenariat avec le Ministère de la Culture, l'académie de Toulouse et Campus FM.
Crédit : Pablo García Saldaña / Unsplash