Depuis quelques temps déjà, un débat autour de la reconnaissance faciale s’érige auprès des sphères politico-industrielles ainsi qu’au sein des organisations de défense des libertés, un développement technologique qui fascine autant qu’il inquiète. Vendue par ses promoteurs comme la solution miracle aux problèmes sécuritaires, la reconnaissance faciale est une véritable marotte contemporaine.
Confortablement installées sur un marché mondial qui se compte en plusieurs milliards de dollars, bon nombre d’entreprises ont fait le choix audacieux depuis maintenant quelques années d’investir le domaine de la reconnaissance faciale. Les principaux acteurs de cette industrie sont clairement identifiés et se nomment ASSA ABLOY AB, Aware Inc, Cognitec Systems GmbH, IDEMIA France SAS, NEC Corp, Safran SA, ou encore Thales Group. Ces compagnies plus ou moins spécialisées dans le domaine ne sont pas seules à se partager le gâteau : les GAFAM sont aussi dans la course, la reconnaissance faciale représentant un support et un outil indispensable de leur développement commercial. À ce sujet, Facebook annonçait dès 2014 le lancement du programme « DeepFace », capable de déterminer si deux visages photographiés appartenaient à la même personne. En 2015, Google lançait « FaceNet » et Amazon à peine deux ans plus tard lui emboîtait le pas et dévoilait « Rekognition », un service de reconnaissance basé sur son cloud et dont la firme de Jeff Bezos faisait activement la promotion auprès des forces de l’ordre américaines. Le géant annonçait au passage pouvoir distinguer jusqu’à 100 visages sur une seule image. L’identification était ensuite suivie d’une comparaison avec une base de données et permettait d’isoler les expressions et humeurs des individus.
Une offre commerciale en pleine expansion et qui selon les dernières estimations, devrait durant les quatre prochaines années croître de 3,35 milliard de dollars. Cette réussite s’explique notamment par la multiplication des applications et l’allongement de la liste des clients potentiels. Avec une technologie située au croisement de l’algorithmie, de l’intelligence artificielle et affichant des taux de correspondance avoisinant les 95% voire 99,63% pour l’outil Google sur le test de référence « Labeled Faces in the Wild » – un record en la matière – les plateformes ont une carte de visite flamboyante. Une prouesse qui s’explique également par la puissance que peut développer de tels agrégateurs de données passés experts dans l’art de la récolte et du traitement. En somme, plus l’intelligence artificielle consomme d’information, plus les modèles s’affinent et plus la précision augmente. Ces effets d’annonce couplés à un marketing et une rhétorique bien rodés suscitent l’intérêt à la fois à l’échelle des collectivités locales, des mairies mais aussi des États, seuls capables de déployer à grande échelle de tels dispositifs.
Un intérêt français
Depuis juin 2019, le gouvernement français a lancé ALICEM (Authentification en ligne certifiée mobile) en phase de test. Derrière cet acronyme se cache en réalité une application smartphone mis en place par le ministère de l’Intérieur, l’Agence Nationale des Titres Sécurisés (ANTS) et la société Gemalto. L’idée est de pouvoir à l’aide de son téléphone et d’une pièce d’identité, être à même de s’identifier pour accéder au portail administratif en ligne. Une application mise en avant par la communication gouvernementale pour son apport non-négligeable en terme d’ergonomie et de sécurité. Cette première européenne mise en place par décret, soulève pourtant quelques inquiétudes de la part des associations des défenses des droits et libertés sur internet.
La Quadrature du Net, plus réactive que la CNIL (Commission Nationale de l’Informatique et des Libertés), avait attaqué cette décision dès le mois de juillet 2019. L’association dénonçait un véritable passage en force de la part du gouvernement Macron en rappelant que « À l’heure où les expérimentations de reconnaissance faciale se multiplient sans qu’aucune analyse ne soit réalisée sur les conséquences d’un tel dispositif pour notre société et nos libertés […] le gouvernement français cherche au contraire à l’imposer à tous les citoyens via des outils d’identification numérique ». En effet, mû par un pragmatisme à toute épreuve, le gouvernement, au travers de son secrétaire d’État au Numérique Cédric O, semble imperturbable.
La technologie vient rendre possible une automatisation et une interconnexion sans précédent.
Si ALICEM confère au dispositif des airs de jouet technologique superficiel et inoffensif, les réflexions se doivent d’anticiper les problématiques et d’étendre le débat sur un spectre élargit. La généralisation et l’acception de ces outils ne doivent pas faire oublier le reste de la machinerie et l’interaction de ses rouages. FPR (Fichier des Personnes Recherchées), TES (Titres Électroniques Sécurisés) ou encore le célèbre fichier TAJ (Traitement des Antécédents Judiciaires) qui répertorie les personnes visées par une enquête (qu’elles soient coupables, suspectes ou victimes) sont des éléments importants à considérer. Le fichier TAJ constitue une base de données d’environ 18,9 millions de personnes, 8 millions de photos et représente 6 téraoctets de données. Au-delà des critiques courantes d’une utilisation abusive, de doublon, de stockage ou encore d’exploitabilité des données, on comprend alors mieux l’attrait et l’enjeu pour les institutions de pouvoir exploiter de telles bases de données à travers l’intelligence artificielle. La technique mise au service de l’ordre permettrait « en direct » d’interroger ces bases à des fins d’identification et de comparaison des individus « potentiellement » dangereux. Si ces bases de données existaient déjà, c’est bien leur entrecroisement en « temps réel » couplé à la reconnaissance faciale qui confère une nouvelle dimension au dispositif.
L’État français est en première ligne dans ce domaine avec premièrement VOIE (Vidéo ouverte et intégrée) qui associe des industriels (Thales, Morpho et Deveryware), des transporteurs (SNCF, RATP) et la préfecture de police de Paris. Ce nouveau projet financé par la Banque publique d’investissement a pour objectif le suivi d’individus et l’analyse vidéo dans le cadre de réquisitions judiciaires. Un second projet dédié cette fois à la « gestion des foules » nommé S2ucre2 (Safety and Security of Urban Crowded Environments) mené conjointement avec l’Allemagne a vu le jour en 2017 et devrait s’achever en octobre 2020. Selon la communication officielle, l’expérimentation repose sur « de l’analyse vidéo avec des méthodes de simulation ». Outre la surveillance d’une foule, l’objectif est de prédire les comportements à court terme, de repérer des comportements suspects, détecter et géo-localiser des auteurs d’infraction et repérer les équipes de sécurité. Là encore les industriels cités en début d’article sont impliqués, avec en tête Idemia (ex Safran), ITlink et Deveryware le tout en partenariat avec la préfecture de police de Paris et le monde universitaire. En Europe, S2ucre fut déployé grandeur nature lors de deux expérimentations officielles, le festival du port de Hambourg (1,5 millions de visiteurs) et la démonstration du 1er mai à Paris (12 000 manifestants).
Selon le site spécialisé Next Impact, le projet aurait tenté de contourner les barrières réglementaires françaises afin de mener davantage de tests. Les autorités auraient pour ce faire, passé un « accord » avec Singapour (la loi européenne RGPD limite fortement ce genre d’expérimentations de grande amplitude du fait de la demande le consentement systématique des participants). Une chose est sûre le partenariat numérique entre la France et la cité État est doté d’un cadre clairement délimité : « Les deux parties souhaitent approfondir le dialogue et le partage de bonnes pratiques en matière de e-government, et s’engagent à utiliser les données et les services numériques pour transformer les services apportés aux citoyens et aux entreprises. La transformation numérique de l’administration pourra être un domaine privilégié d’échanges dans le cadre de ce nouveau partenariat». Une relation diplomatique qui interroge une nouvelle fois quand on sait ce que représente le modèle singapourien en matière de vidéo surveillance labellisé safe-city. Des projets qui continuent d’alimenter une rhétorique de la peur et trouvent inlassablement un écho certain en période électoral ou bien souvent les sujets sécuritaires ont le vent en poupe faisant en partie le succès actuel du marché de la reconnaissance faciale.
Nice, la safe city à la française
En France, Christian Estrosi le maire Républicain de la ville de Nice fait figure de pionner de la promotion de la reconnaissance faciale, convaincu des bienfaits du procédé. Véritable ville laboratoire, Nice est le lieu d’expérimentations et de nombreux partenariats en la matière. En décembre 2018, était adoptée par le conseil régional de la région Provence-Alpes-Côte d’Azur (PACA) une délibération autorisant l’expérimentation de portiques de reconnaissance faciale (portée par l’américain Cisco) dans deux lycées afin de « maîtriser les entrées et sorties » des élèves. Inconcevable pour la CNIL qui avait mis son veto entre temps. Depuis, la mairie ne semble pas avoir dit son dernier mot et veut asseoir son rôle de leader sur ces sujets. Le carnaval niçois de 2019 constitue en cela une date clef dans l’agenda. Bien que vivement critiqué, Christian Estrosi salue la réussite du projet. Selon la mairie, l’expérimentation a rencontré un franc succès notamment auprès des agents de police municipale. Ces derniers se disent “largement favorables à l’utilisation de ce type de technologie qui leur permettrait d’améliorer considérablement leur capacité d’anticipation, de détection et d’intervention”.
Thales, le principal acteur du projet, ne tarit pas non plus d’éloges à propos de ce tropisme sécuritaire « la ville de Nice sera très prochainement considérée comme l’une des premières SAFE-CITY d’Europe, toujours aussi agréable à vivre pour ses habitants, mieux protégée, plus résiliente et plus attractive ». Sur la plaquette de communication, on constate justement une modification du vocable. La « télé-surveillance » devient dans la bouche de l’industriel « télé-protection ». Un détail presque anodin, mais qui en dit long sur le discours mis en place pour forcer l’acceptation auprès des populations. Ces dernières sont au final bien souvent prises au dépourvu tout comme les autorités de contrôle telles la CNIL qui peine une nouvelle fois dans son rôle de régulateur en l’absence notamment de moyens conséquents. Un besoin de cadre qui émane également du maire de Nice, qui fait lui aussi savoir son souhait d’un nouvel appareil juridique adapté. Un vide qui permet pour le moment une certaine latitude auquel l’État français voudrait remédier dans les prochains mois. En attendant, et comme le rappelait très justement Félix Tréguer au Monde Diplomatique dans un article de juin 2019, ce type d’expérimentation devrait être considéré comme illégal au regard de la jurisprudence de la Cour européenne des droits de l’homme.
La région PACA semble être à la pointe sur le sujet : Marseille et son projet de “vidéoprotection urbaine” (VPU) prends une tournure comparable au projet niçois. Plus récemment, Valérie Pécresse, présidente de la région Île-de-France, plaide quant à elle pour la reconnaissance faciale dans les transports. Des idées qui étonnamment ne semblent pas être l’apanage de la droite puisque la marie écologique de Nantes a pour projet l’augmentation de 40% du nombre de caméras de surveillance dans les transports. Comme pour la solution marseillaise, on ne parle pas encore de reconnaissance faciale en “temps réel” mais là encore, un verrou psychologique semble sur le point de lâcher. Autant dire que les élus semblent avoir adopté la rhétorique huilée des industriels. Les propositions vont donc aller bon train dans les prochains mois. Une aubaine pour les carnets de commandes.
Partenariat public-privé
La précédente énumération démontre également la prépondérance de certains acteurs. Thales est pour ainsi dire un des mastodontes en la matière, encouragé par l’État lui-même, qui en détient un tiers des parts. La démarche n’est pas anodine et fait suite à une volonté de souveraineté numérique toujours plus affirmée de la part des nations. Les concurrences chinoise et américaine restent féroces et poussent la France à soutenir ces projets sous l’égide de la recherche et du développement.
Preuve de sa bonne santé, l’entreprise tricolore vient d’acquérir Gemalto, société d’ingénierie bien connue du milieu et qui était entre autre responsable du développement d’ALICEM. Un objectif donnant-donnant et une politique des vases communicants entre État et industriel à peine dissimulée. Cédric O en est d’ailleurs l’exemple parfait, lui qui est « chargé de mission » pour le groupe Safran entre 2014 et 2017 comme en atteste sa déclaration. Même si l’actuel secrétaire n’a apparemment pas évolué dans la branche sécurité du groupe, il est intéressant de noter que ce dernier développe depuis quelques années une nouvelle solution « de reconnaissance faciale et de vérification d’identité » baptisée MorphoFACE, aujourd’hui passée sous la houlette d’Idemia, acteur majeur du projet S2ucre.
Il s’agit de ne pas rater le train de l’innovation. Le sociologue Dominique Boullier en 1985 évoquait le concept de « la tyrannie du retard ». Le récent discours d’Emmanuel Macron, opposant 5G et le modèle Amish, reste symptomatique de cette vision du monde. Renaud Vedel, en charge de la prospective numérique au ministère de l’Intérieur, lui emboîte le pas au dernier congrès Technopolice : « Il faut accepter de trouver un équilibre entre des usages régaliens et des mesures protectrices pour nos libertés. Car sinon, la technologie sera mûrie à l’étranger et nos industriels, pourtant leaders mondiaux, perdront cette course ». Dans la même veine, un colonel déclare sur une note récente de l’École des officiers de la gendarmerie nationale (CREOGN) : « Sous réserve d’algorithmes exempts de biais, elle pourrait mettre fin à des années de polémiques sur le contrôle au faciès puisque le contrôle d’identité serait permanent et général ». Une phrase également relevé par Olivier Tesquet, journaliste à Telerama et auteur d’À La Trace, enquête sur les nouveaux territoires de la surveillance, dans un papier récent sur le même sujet.
On conçoit bien sûr que dans un cadre globalisé, où domine sans partage la loi du libre-échange, un retard pris par la France pénaliserait lourdement son économie. Mais plutôt que de questionner ce cadre globalisé et libre-échangiste, le gouvernement n’envisage d’autre horizon, pour la France, que l’adaptation à ses réquisits.
Neutralité des algorithmes ?
« L’algorithmie exempt de biais » : tel est le rêve des industriels du numérique. On gagnerait pourtant à ne pas oublier que les algorithmes, loin d’échapper à la subjectivité humaine, la reflète. On ne compte plus le nombre de retours d’expérience mettant en avant les biais racistes ou sexistes des algorithmes. En 2016, ProPublica menait justement une enquête sur la discrimination des personnes de couleur noire. Nouvel exemple avec l’outil de recrutement d’Amazon défavorable aux femmes. La CNIL, dans une note datant de novembre 2019, précisait “même si des travaux, et notamment l’auto-configuration des algorithmes, peuvent être mis en œuvre pour réduire ces biais, la nature même du traitement biométrique, quel que soit le degré de maturité de la technologie, implique que des biais continueront nécessairement d’être observés ».
Malgré ces remarques, cela n’a pas empêché la majorité d’inclure la reconnaissance faciale dans la première version du projet de loi vers une sécurité globale. Ce volet a depuis disparu du texte publié le 20 octobre, motivé par la crainte de voir le texte vidé de sa substance par un Conseil constitutionnel qui avait déjà sévi quelques mois plus tôt sur la loi Avia (propos haineux en ligne) et la loi de sûreté contre les ex-détenus terroristes. Rien n’est joué cependant, puisque le texte pourra être amandé abondamment en séance parlementaire. Un retour en force qui pourrait coïncider avec les grands évènements à venir comme les Jeux olympiques en 2024.
Du côté de la société civile, l’actualité récente a vu émerger de nouvelles initiatives pour dénoncer et sensibiliser sur ces sujets. La récente exposition sauvage dans les rues de Paris par l’artiste italien Paolo Cirio a fait grand bruit. Ce dernier a affiché pas moins de 4000 portraits de policiers pour sensibiliser aux dérives de tels dispositifs. L’action a le mérite de retourner le miroir vers nos institutions. Une initiative à laquelle la préfecture de police a très mal réagi. Comme le précise l’artiste : “l’absence de réglementation sur la protection de la vie privée de cette technologie se retourne finalement contre les mêmes autorités qui en recommandent l’utilisation ». Le sujet risque en tout cas de continuer à faire débat dans les prochains mois, la proposition de loi « sécurité globale » ayant pour ambition d’empêcher la diffusion des visages des fonctionnaires de police afin de ne pas porter atteinte à leur intégrité physique ou psychique.
Le temps de la réflexion
Gouverner c’est prévoir. Le célèbre adage pourrait alors être adapté en 2020 par « gouverner c’est prédire ». Une perspective prônée par les industriels et dans laquelle semblent se complaire certains dirigeants. Cet agenda escamote la multitude d’interrogations sur le rapport de l’homme à la technologie, de la société à des réseaux qui ne cessent de croître et sur lesquels elle perd tout contrôle.
Il ne s’agit pas ici de fustiger ni de renier en bloc les avancées technologiques, mais plutôt d’esquisser les bases d’un débat public sur ces questions qui engagent le collectif. Les arguments en faveur et en défaveur de la numérisation des questions sécuritaires mériteraient d’être confrontés. En lieu et place de cela, le gouvernement agit sous l’unique pression des industriels du numérique et de contraintes internationales.
Notes :
- Olivier Tesquet, À la trace, enquête sur les nouveaux territoires de la surveillance, 2019, premier parelle
