Les bases d’une régulation française pour la reconnaissance Faciale #libertésIndividuelles

Le développement des dispositifs de reconnaissance faciale par l’intelligence artificielle continue de faire parler de lui dans les médias. Sujet de controverses, la semaine dernière deux entités publiques, la Commission Nationale de l’Informatique et des Libertés (CNIL) et le Conseil national du numérique (CNNum), ont choisi de publier des recommandations afin d’alimenter le débat avec des arguments objectifs et constructifs.  On notera également la volonté d’axer les propositions sur la méthodologie comme j’avais pu le faire dans mon rapport OPECST.

En résumé, ce que je retiens :

Deux raisonnements qui se rejoignent sur l’étude par cas d’usage

La CNIL qui rappelle que la reconnaissance faciale est avant tout une fonctionnalité logicielle pour analyser une image fixe ou vidéo. Le CNNum souligne de son côté à quel point l’usage de ces dispositifs est multisectoriel : public ou privé, individuel comme collectif. Ces cas d’usage pluriels sont la raison-même qui amène la CNIL à attirer l’attention sur l’impossibilité de se positionner sur « la reconnaissance faciale dans sa globalité ». Elle appelle donc plutôt à une « une gradation en fonction des cas d’usage » qui pourrait se déterminer selon « degré de contrôle des personnes sur leurs données personnelles, de leur marge d’initiative dans le recours à cette technologie, des conséquences qui en découlent pour elles (en cas de reconnaissance ou de non-reconnaissance) et de l’ampleur des traitements mis en œuvre. ». Cette méthode du cas d’usage par cas d’usage, exigée depuis 1978 au niveau national, a été confirmée au niveau européen en 2016 par le RGPD.

Des risques à ne pas négliger

Les deux entités reviennent sur les risques techniques que supposent la reconnaissance faciale : le besoin de protection des données biométriques recueillies, l’existence de biais algorithmiques, le taux d’erreur potentiel et variable, le fait que ce soit une technologie sans contact (et donc le besoin de réaffirmer l’importance et l’obligation du consentement), etc.

Parmi les risques de société et éthique, le CNNum pointe du doigt l’usage commercial abusif et la CNIL se concentre sur le potentiel de surveillance de la population possible avec ces technologies. Dans les deux cas, il s’agit de choix de société. Nous sommes tous d’accord que le paradigme de surveillance ne doit pas s’installer et que l’anonymat dans l’espace public doit être respecté. La CNIL rappelle que ce n’est pas une fatalité : tout dépend de la mise en place de ces technologies.

Enfin, cette dernière revient sur le coût de ces technologies, plus particulièrement sur le coût économique de la reconnaissance faciale pour les collectivités territoriales qui est à évaluer.  « Le coût économique des dispositifs de reconnaissance faciale doit à cet égard être très précisément documenté. Il pèse le plus souvent sur les collectivités territoriales ou sur les pouvoirs publics, dans un contexte global de rationalisation de la dépense publique, sans que le retour sur investissement soit toujours mesuré avec précision et méthode. Ces coûts (installation de dispositifs physiques, développement de puissances de calcul très importantes, installation de serveurs, capacité de stockage, coûts logiciels, coûts de maintenance et d’évolution, etc.) ne sauraient être minorés et les décisions prises à cet égard impliquent dès lors nécessairement l’affectation de nouvelles ressources ou la réaffectation de ressources allouées à d’autres dispositifs

Le CNNum conclut quant à lui sa partie sur les risques en étudiant, de manière succincte, les opportunités que la reconnaissance faciale offre en soulignant les simplifications et les améliorations possibles de l’expérience d’un service.

Entre expérimentation et réglementation

Le CNNum pense qu’il est nécessaire de réguler la reconnaissance faciale. Il a lancé conjointement avec le forum économique mondial (WEF/4IR) un projet de co-construction d’une régulation de la reconnaissance faciale.  Ces travaux visent à développer un cadre de régulations équilibré qui promeut l’innovation tout en garantissant un niveau élevé de protection des libertés individuelles et en portant une attention particulière aux problématiques de biais et de discrimination.

En faveur de l’expérimentation également, la CNIL réaffirme cependant le besoin de délimiter les lignes rouges avant d’expérimenter. Si ces expérimentations doivent naturellement respecter les libertés fondamentales, la CNIL souligne qu’elle doit pouvoir vérifier la sincérité de l’expérimentation et qu’elle jouera son rôle de garante indépendante de ces grands principes, dans sa double mission de conseil aux pouvoirs publics et, autant que nécessaire, de contrôle du respect de la loi.

Un débat public éclairé : une nécessité

CNIL et CNNUM s’accordent sur la nécessité d’un débat public rejoignant les recommandations que j’avais moi-même faites dans mon rapport de l’OPECST. Nous devons expérimenter et encadrer l’expérimentation, et il est de notre devoir de nourrir le débat public afin d’éclairer tout un chacun. Laisser les citoyens s’exprimer via une consultation publique me semble être la prochaine étape pour alimenter un débat sain et constructif.

 

LIRE LES NOTES :

https://www.cnil.fr/sites/default/files/atoms/files/reconnaissance_faciale.pdf

Note CNNum d’analyse des enjeux de la reconnaissance faciale

En savoir plus :

Note scientifique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques (OPECST) :

Tribune co-écrite avec l’eurodéputé Stéphane Séjourné :

Articles sur mon site Internet :

Articles dans la presse :

passages TV :

 

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.