En continu
Accueil / Intelligence artificielle / La CNIL planche sur les enjeux éthiques des algorithmes et de l’intelligence artificielle

La CNIL planche sur les enjeux éthiques des algorithmes et de l’intelligence artificielle

La Commission Nationale de l’Informatique et des Libertés publie un rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et l’intelligence artificielle. Un débat public innovant d’où ressortent deux principes et six recommandations. 

 

Le rapport que publie aujourd’hui la CNIL s’appuie sur les résultats d’un débat public ouvert et décentralisé que la CNIL a animé de janvier à octobre 2017 : 3 000 personnes ont participé à 45 manifestations qui se sont tenues à l’initiative de 60 partenaires en France (Ax les Termes, Bordeaux, Caen, Lille, Lyon, Marseille, Paris, Toulouse) et à l’étranger (Etats-Unis). Une concertation citoyenne a également été organisée à Montpellier le 14 octobre pour compléter la démarche.

Médias, vie publique et politique, éducation, culture, santé, justice, sécurité et défense, banque et finance, emploi et recrutement ont été abordés comme champs d’exploration des algorithmes et de l’intelligence artificielle par les partenaires : des instituts de recherches (CREOGN, CNAM, ENSC, INSA), des institutions publiques (ministères, universités et grandes écoles), des fédérations professionnelles, des syndicats, des ordres d’avocat, des hôpitaux, des think tanks, des entreprises, etc.

De ces travaux, deux grands principes fondateurs se dégagent pour une intelligence artificielle au service de l’Homme. Un principe de loyauté et un principe de vigilance et de réflexivité.

Ces principes pourraient s’inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l’ère numérique, des « droits-système » organisant la gouvernance mondiale de notre univers numérique, indique la CNIL.

  • Un principe de loyauté appliqué à tous les algorithmes et intégrant les impacts collectifs, et pas seulement personnels, de ces derniers. Tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l’existence pourrait être directement affectée. L’intérêt des utilisateurs doit primer. Par exemple, un tel principe pourrait avoir vocation à s’appliquer à l’impact potentiel des réseaux sociaux sur la structure du débat public dans nos démocraties (segmentation du corps politique par le ciblage de l’information) ou à celui d’algorithmes de police prédictive sur des communautés ou quartiers entiers.

Intelligence-artificielle-cnil

  • Un principe de vigilance/réflexivité : il s’agit d’organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants. Ce principe constitue une réponse directe aux exigences qu’imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s’insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C’est l’ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes (par exemple, des comités d’éthique assurant un dialogue systématique et continu entre les différentes parties-prenantes).

A ses deux principes fondateurs vient s’ajouter une série de six recommandations opérationnelles à destination tant des pouvoirs publics que des diverses composantes de la société civile (entreprises, grand public, etc.)

  1. Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
  2. Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
  3. Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ;
  4. Constituer une plateforme nationale d’audit des algorithmes ;
  5. Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
  6. Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées).

Pour en savoir plus : Enjeux éthiques des algorithmes et de l’intelligence artificielle / Comment permettre à l’Homme de garder la main? 

NewZilla.NET a besoin de vous

Depuis 2010, NewZilla.NET est fidèle à sa promesse originelle et à un concept aussi simple que nécessaire: faire respirer l’information, en particulier cette actualité liée aux « nouvelles technologies » dont la production ne cesse de s’abîmer dans une course effrénée et irréfléchie à la mise en ligne.

Depuis 2010, NewZilla.NET est fidèle à sa promesse éditoriale: publier (sans souci d’exhaustivité) ce qui nous apparaît comme étant pertinent, vous fournir – avec les modestes moyens qui sont les nôtres – une information fiable, une information sourcée, une information qui tourne le dos aux supputations, à la rumeur et aux effets d’annonce.

Et depuis 2010, vous êtes au rendez-vous.

Comme vous le savez peut-être, NewZilla.NET est un site d’information indépendant. NewZilla.NET n’est pas une agence de communication déguisée en site d’information, NewZilla.NET n’appartient ni à un grand groupe média, ni à un opérateur télécom.

  1. NewZilla.NET, et c’est une question de principe, ne touche aucun argent public.
  2. NewZilla.NET n’est pas financé par le « Fonds Google pour l’innovation numérique de la presse ».
  3. NewZilla.NET ne dispose pas d’un carnet d’adresses qui lui permette en un claquement de doigts de réaliser une levée de fonds de plusieurs millions d’euros pour s’assurer (en toute dépendance) un avenir, en se détournant de toute notion d’équilibre et de rentabilité financière.
  4. NewZilla.NET n’achète pas de faux « likes » ou de faux « fans » sur Facebook, de faux « followers » sur Twitter, ou de faux « abonnés » sur Instagram pour « booster » artificiellement sa popularité sur les réseaux sociaux. 
  5. NewZilla.NET n’utilise pas de « bots » sur Twitter, ces faux comptes qui relaient automatiquement un article dès sa publication.
  6. NewZilla.NET ne fait pas non plus travailler ses rédacteurs bénévolement et/ou pour la gloire de pouvoir signer un papier.
  7. NewZilla.NET ne base pas la publication de ses articles et le choix des sujets traités sur un algorithme qui s’emploie studieusement à prédire ce qui fera de l’audience et ce qui n’en fera pas.
  8. NewZilla.NET n’exploite pas un bataillon de stagiaires chargé(e)s de rédiger entre 5 à 10 articles par jour pour une « gratification » de quelques centaines d’euros par mois.
  9. NewZilla.NET a fait le choix de ne pas délocaliser sa production éditoriale à l’autre bout du monde, certes à moindres coûts, mais sans aucune garantie de qualité. 

Voilà, la liste est un peu longue, mais ce sont des éléments qui, nous le croyons, méritaient d’être précisés en toute transparence.

Pour toutes ces raisons, pour continuer à produire une information de qualité et parce que nous tenons à conserver cette intégrité et cette liberté de ton éditoriale qui font que vous prenez aujourd’hui, nous l’espérons, plaisir à nous lire, NewZilla.NET a besoin de vous et de votre soutien.

NewZilla.NET a besoin de vous en tant que lecteur, NewZilla.NET a besoin de vous en tant que citoyen, NewZilla.NET a besoin de vous en tant que garant du pluralisme de l’information.

Alors « MERCI » ! Merci à vous pour votre fidélité, et merci à vous pour votre soutien à NewZilla.NET.

Votre fidélité et votre soutien nous obligent.





 

A lire aussi

yann-lecun-facebook

Yann LeCun (Facebook) s’exprime sur l’intelligence artificielle

Le directeur du laboratoire de recherche de l'intelligence artificielle de Facebook, était de passage à Paris, ce mardi 23 janvier 2018, à l'occasion de la conférence FBConnexions à la Station F. Voici quelques morceaux choisis de son intervention. 

intelligence-artificielle

L’intelligence artificielle et la protection des données, nouveaux secteurs stratégiques de l’économie française

Le ministre de l’Economie et des Finances, Bruno Le Maire, annonce que les investissements et les prises de participation d’origine étrangère dans les domaines de l’IA (intelligence artificielle) et du stockage de données français seront prochainement intégrés au décret Montebourg qui réglemente les prises de participation par des acteurs étrangers dans des entreprises françaises travaillant dans les secteurs stratégiques.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.