La Commission Nationale de l’Informatique et des Libertés publie un rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et l’intelligence artificielle. Un débat public innovant d’où ressortent deux principes et six recommandations.
Le rapport que publie aujourd’hui la CNIL s’appuie sur les résultats d’un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017 : 3 000 personnes ont participé à 45 manifestations qui se sont tenues à l’initiative de 60 partenaires en France (Ax les Termes, Bordeaux, Caen, Lille, Lyon, Marseille, Paris, Toulouse) et à l’étranger (Etats-Unis). Une concertation citoyenne a également été organisée à Montpellier le 14 octobre pour compléter la démarche.
Médias, vie publique et politique, éducation, culture, santé, justice, sécurité et défense, banque et finance, emploi et recrutement ont été abordés comme champs d’exploration des algorithmes et de l’intelligence artificielle par les partenaires : des instituts de recherches (CREOGN, CNAM, ENSC, INSA), des institutions publiques (ministères, universités et grandes écoles), des fédérations professionnelles, des syndicats, des ordres d’avocat, des hôpitaux, des think tanks, des entreprises, etc.
De ces travaux, deux grands principes fondateurs se dégagent pour une intelligence artificielle au service de l’Homme. Un principe de loyauté et un principe de vigilance et de réflexivité.
Ces principes pourraient s’inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l’ère numérique, des « droits-système » organisant la gouvernance mondiale de notre univers numérique, indique la CNIL.
- Un principe de loyauté appliqué à tous les algorithmes et intégrant les impacts collectifs, et pas seulement personnels, de ces derniers. Tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l’existence pourrait être directement affectée. L’intérêt des utilisateurs doit primer. Par exemple, un tel principe pourrait avoir vocation à s’appliquer à l’impact potentiel des réseaux sociaux sur la structure du débat public dans nos démocraties (segmentation du corps politique par le ciblage de l’information) ou à celui d’algorithmes de police prédictive sur des communautés ou quartiers entiers.
- Un principe de vigilance/réflexivité : il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants. Ce principe constitue une réponse directe aux exigences qu’imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s’insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C’est l’ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes (par exemple, des comités d’éthique assurant un dialogue systématique et continu entre les différentes parties-prenantes).
A ses deux principes fondateurs vient s’ajouter une série de six recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.)
- Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
- Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
- Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ;
- Constituer une plateforme nationale d’audit des algorithmes ;
- Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
- Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées).
Pour en savoir plus : Enjeux éthiques des algorithmes et de l’intelligence artificielle / Comment permettre à l’Homme de garder la main?
[wpedon id= »26112″]
Vous avez aimé cet article? NewZilla.NET a besoin de VOUS. Cela mérite une explication. On vous explique tout ICI. Merci pour votre soutien et pour votre fidélité à NewZilla.NET.
NewZilla.NET Information & Technologie depuis 2010
