La question de la reconnaissance faciale n’a pas figuré dans les deux projets de lois consacrés au numérique en décembre 2019. Selon Jean-Philippe Claret, patron de l’entreprise monégasque Confidentia, en charge de l’installation de la reconnaissance faciale en principauté, elle devait être traitée dans les mois à venir, quand nous l’avons rencontré fin février 2020, avant le confinement. L’occasion de faire le point avant les débats futurs sur cette technologie qui effraie autant qu’elle fascine.
On en parle un peu, beaucoup, mais finalement, sait-on réellement comment fonctionne la reconnaissance faciale ? En principauté, c’est l’entreprise monégasque Confidentia qui a remporté l’appel d’offres pour installer la reconnaissance faciale. Son président, Jean-Philippe Claret, a pris le temps de disséquer l’outil qu’il vend, et dont l’installation se monte à un million d’euros. « Techniquement, c’est un outil qui se rajoute sur une installation existante. Si on prend l’exemple de Monaco, Monaco a des caméras qui sont reliées au centre de la sûreté publique, vous avez des enregistreurs de marque X ou Y. Derrière tout ce système-là, vous venez mettre un serveur dédié à la reconnaissance faciale ou à la détection de personnes. Ce serveur ne fait qu’analyser des images et les comparer avec un fichier de photos qui peut être un enfant perdu ou une personne recherchée, explique Jean-Philippe Claret. De ce qu’il récupère dans les images, il en fait un algorithme de points en 3D, ce qui lui permet de reconnaître des personnes dans à peu près toutes les positions. » C’est cet algorithme de « points cryptés » qui est conservé dans la machine. « Personne n’est capable de retrouver une photo, une image, ou quoi que ce soit », à partir de ces points cryptés, selon lui. La fiabilité de la machine a également été largement mise en cause. « Ce sont des outils qui utilisent tous les dernières technologies d’intelligence artificielle et de “machine learning” [auto-apprenante – N.D.L.R.]. La machine se forme en permanence, en se connectant à des bases de données, et en récupérant des photos pour analyser plus facilement, et mieux déchiffrer, ce qui n’était pas simple au début. C’est-à-dire des personnes asiatiques : ils ont un visage beaucoup plus plat, et beaucoup moins facile à différencier que des visages européens, ou des Noirs. Sans être raciste, il y a beaucoup moins de reliefs. Pour une comparaison type image classique, ce n’est pas très facile de reconnaître le visage d’une personne noire que d’une personne blanche, où il y a beaucoup plus d’ombres. Ce “machine learning” permet d’être efficace sur les visages de toutes les personnes de la planète ». Pourtant, la reconnaissance faciale fonctionne parfaitement en Chine… Peut-être le visage de la personne n’est-il pas le problème, mais plutôt la personne qui conçoit la machine et les algorithmes de reconnaissance.
Une fiabilité qui s’améliore
Sur la question de la fiabilité, l’expérience en 2017 de Notting Hill, dans la banlieue londonienne est souvent citée en exemple pour pointer les écueils du système. Trente-cinq personnes sur trente-cinq avaient été identifiées de façon erronée. Mais selon Jean-Philippe Claret, « les choses qui ont été testées il y a un an ou deux ne sont déjà plus vraies aujourd’hui ». « On est en test aussi sur les gares en France avec la Commission nationale de l’informatique et des libertés (Cnil) et la SNCF. On a démontré qu’on avait un taux de réussite aux alentours de 99 %. Après, c’est du réglage. A Londres, le problème, c’est que si vous avez un outil qui est correct, mais pas très bon, vous êtes obligés de mettre un seuil de déclenchement. Tout ça se paramètre. Vous pouvez mettre un seuil de déclenchement très haut. Mais dès que deux visages se ressemblent, ça va faire des alertes. Il y a tout un paramétrage qui est important. Si vous mettez le potentiomètre un peu trop haut, vous avez des déclenchements d’alerte en permanence. Pour ne pas être embêté toutes les deux minutes, vous le mettez plus bas. Et, à ce moment, vous avez le risque de rater des gens. » La machine apprend très vite. A ce jour, celle de cette entreprise monégasque est capable de reconnaître aussi bien une personne à partir d’une photo vieille de 30 ans, comme ce fut le cas lors de l’expérience menée au carnaval de Nice en 2019, qu’une personne en scooter qui passe devant les caméras. « On a même fait un test avec une personne d’une soixantaine d’années qui a un peu perdu tous ses cheveux, et qui a des lunettes. Il a fourni une photo de l’époque où il avait 30 ans. Il n’avait pas de lunettes et tous ses cheveux. L’outil compare des points. L’entraxe entre les yeux, les formes du nez, ce sont des points qui ne bougent pas. Même si vous prenez des rides, du gras ou perdez vos cheveux, ces points-là restent fixes dans le temps. Vous ne pouvez pas tromper l’outil en vous mettant une perruque, ou une paire de lunettes de soleil ». En témoigne, un autre test réalisé à Monaco « où la personne passait à petite vitesse en scooter, avec un casque, pas un casque intégral, mais un casque classique de moto et des lunettes de soleil. L’outil l’a détecté, à partir du moment où il avait la photo dedans ».
Quelle base de données pour le logiciel ?
Aujourd’hui, si le débat se situe moins sur la fiabilité de la machine, il se pose surtout sur la base de données. Sur quelle base de données va reposer l’utilisation de la reconnaissance faciale ? A quoi les serveurs vont-ils être connectés ? Le ministre d’État, Serge Telle, lors de ses vœux à la presse en janvier 2020, envisageait de relier le système seulement aux fichiers Interpol. On peut douter de voir débarquer des personnes recherchées internationalement dans une enclave territoriale parmi les plus surveillées du monde. Un tel dispositif pour une utilisation si limitée se justifie-t-il ? De plus, toutes les personnes commettant un délit, un crime, ou un acte terroriste ne sont pas toujours connues des services de police. Pour que la reconnaissance faciale soit réellement efficace, il faudrait donc qu’elle s’appuie sur des bases de données plus larges, comme par exemple les données issues du nouveau Registre national monégasque de l’identité numérique (voir encadré). Les caméras thermiques peuvent aussi être mises à contribution pour déceler l’augmentation du rythme cardiaque et détecter des émotions. Une utilisation tout à fait possible, aujourd’hui en principauté : « Aujourd’hui, on est capable de détecter un certain nombre de choses. La première utilisation, c’est de pouvoir savoir où se concentre l’œil humain. Ça peut être utilisé aussi sur une personne qui reste longtemps dans un espace où il ne doit pas rester, avec les yeux orientés trop longtemps vers quelque chose qui n’a pas d’intérêt. Vous considérez que c’est quelqu’un qui est en train de faire quelque chose qu’il n’a pas à faire. » En combinant l’outil visuel que sont les caméras dotées de logiciels de reconnaissance faciale, avec l’outil thermique, l’objet est capable de tout détecter : « Vous couplez tous les éléments (élévation de température, transformation du visage) pour en faire un outil qui vous permet de tout détecter. La façon de dialoguer entre outils est maintenant normalisée. […] Les possibilités techniques de ce genre d’outils sont infinies. »
« Je ne dis pas qu’avec ça vous évitez un attentat. Mais vous pouvez prévenir un certain nombre de choses » Jean-Philippe Claret. Président de Confidentia
D’autres utilisations possibles
Cet outil est aussi capable de détecter des armes. « Ces produits-là vont aussi à la reconnaissance objets. On peut aller beaucoup plus loin que la détection de visages. On est en train de faire des tests sur des réserves africaines pour reconnaître des armes, pour lutter contre la destruction d’animaux de type rhinocéros ou éléphant. » Pour le patron de Confidentia, la reconnaissance faciale peut avoir une utilisation positive. Comme, par exemple, retrouver un enfant perdu dans la foule. « On a fait des tests l’année dernière à Nice. On a simulé un enfant perdu dans la foule, avec des volontaires. La maman est allée voir l’agent de police qui est à côté. Elle a donné la photo de son fils qu’elle avait dans son téléphone. On a rentré la photo de cet enfant dans le système comme fichier d’une personne d’intérêt — c’est comme ça qu’on l’appelle — et le système a comparé cette photo avec les images qu’il voyait passer dans le système de toutes les caméras qui lui ont été connectées. » Le réglage de la machine permet un seuil de déclenchement différencié : « Le nombre de points comparés vous permet de dire c’est le même visage. Vous pouvez considérer qu’avec 10 points communs, vous avez des chances que ce soit le même visage. Si vous voulez monter le potentiomètre pour être sûr, vous mettez 20 points communs. Le seuil, c’est le nombre de points en commun entre la photo que vous avez entrée dans le fichier, et l’image qui va apparaître dans une caméra ».
Législation et œil humain
Lorsqu’une « personne d’intérêt » est signalée par la machine, que se passe-t-il ensuite ? « Vous avez tous vos écrans dans un centre de vidéo, que ce soit de la police municipale à Nice, ou de la sûreté publique à Monaco. Vous avez un mur d’écrans avec des gens qui ont des “joysticks” [manettes — N.D.L.R.] et qui prennent les caméras qu’ils ont envie. Vers la fin de journée ce sont plutôt les caméras qui sont vers la sortie de Monaco pour voir s’il n’y a pas d’incident. Par contre l’outil [de reconnaissance faciale – N.D.L.R.] a un écran dédié. Toutes les caméras reliées à cet outil, dès que vous avez un incident, vous avez une alerte sonore. Et le visage de la personne qui apparaît avec la sortie de la photo du fichier. Au fur et à mesure que la caméra le voit, ça se transforme en image fixe. Donc, ça vous envoie les images fixes, de tous les endroits où vous pouvez le voir. Vous avez aussi sa localisation, du coup. Vous pouvez le suivre d’une caméra à l’autre. Vous avez deux espaces. Un espace “map” [carte — N.D.L.R.] et un espace alerte. Dans l’espace alerte, vous avez la photo de la personne que vous avez rentrée dans le fichier. Vous avez une géolocalisation, vous avez le point qui se déplace au fur et à mesure que les caméras le trouvent. » Pour que la machine puisse alerter, cela veut dire que tous les visages qui passent devant les caméras sont scannés en permanence. Pour limiter les risques de malveillance ou de reconnaissance d’individus connus par les agents derrière les écrans, il existe un « un mode privé qui permet d’être presque mieux qu’un centre de surveillance classique. Dès que le mode privé aperçoit un visage au loin, il le floute. Vous avez toute une caméra qui est floutée, sauf quand il y a quelqu’un qui correspond au fichier. L’outil scanne tous les visages. Si vous ne mettez pas le mode privé, à chaque fois qu’il y a un visage qui apparaît au loin, vous avez un petit carré autour qui montre qu’il a trouvé le visage. Si c’est un carré vert, la personne continue. Quand ça devient un carré rouge, c’est que c’est quelqu’un qui correspond. »
Un “machine learning” à base d’images du net
Comment est créé l’algorithme qui définit la reconnaissance d’images ? L’entreprise américaine Clearview a été critiquée pour avoir utilisé trois milliards d’images sur Internet pour réaliser leurs tests. Jean-Philippe Claret va lui, beaucoup plus loin. « Aujourd’hui, le “machine learning” est d’origine israélienne. En Israël, c’est plus de 3 milliards d’images qui circulent régulièrement à l’intérieur de la machine. Dès qu’il y a une image publique, récupérable sur Internet, elle est récupérée et entrée dans la machine pour ainsi continuer à l’améliorer. » Toutes les images sur Internet sont-elles publiques ? N’y a-t-il pas des questions de propriété intellectuelle, de droits d’auteur, etc. ? Concernant la sécurité des données, le vendeur botte en touche. « Nous, on ne garantit pas. Nous, c’est crypté, mais c’est un système installé. C’est la sûreté publique qui va avoir un outil supplémentaire, à l’intérieur, qui lui est étanche. C’est-à-dire, qu’une fois qu’on l’a installé, il ne fait que travailler, à l’intérieur de la sûreté publique. Nous, on ne va pas sur Internet pour aller chercher des informations. Ces images ne sont pas conservées dans le système de reconnaissance faciale, elles sont conservées dans le système de flux vidéo. La sécurité doit être assurée par le client. Le problème des gens qui se font prendre des donnés, c’est qu’ils ont une activité sur le “cloud” [stockage de données sur des serveurs distants — N.D.L.R.]. Nous on n’est pas sur le “cloud”. S’il y a vol de données, c’est que la sûreté publique sera mal protégée. Mais étant donné qu’elle a été auditée par l’Agence monégasque de sécurité numérique (AMSN)… En termes de sécurité, il est facile de garantir qu’un fichier crypté situé à l’intérieur du centre informatique de la sûreté publique, ce n’est pas donné au premier venu des hackers. »
Un débat législatif important
Ce sera à la législation de décider l’utilisation qui pourra être faite de ce système de reconnaissance faciale, du respect des personnes, en floutant les visages, ainsi que des bases de données auxquelles sera relié le système. « Actuellement, rien n’est installé. Les décisions de la sûreté publique sont prises, l’appel d’offres a été fait. Aujourd’hui, il y a une discussion au Conseil national. Dans le cadre des lois numériques, la question de la reconnaissance n’a pas encore été traitée. La seule chose qu’il faut que chaque pays décide, c’est qu’est-ce qu’on a le droit de mettre dans un fichier. Après, la conservation des données, c’est un texte sur les caméras, mais pas sur la reconnaissance faciale. La seule chose sur laquelle il faut légiférer, ce sont les fichiers des criminels : est-ce qu’on met tel type de crime ? C’est la seule chose qui justifie de légiférer son utilisation », estime Jean-Philippe Claret. Ce qui est proposé aux Monégasques peut être, en tout cas, beaucoup plus large qu’un simple système relié aux fichiers Interpol. « Dans un pays extrémiste, on met quasiment toute la population dedans. Comme ça, on sait ce que chacun fait, et on peut réprimander celui qui se comporte mal. A partir du moment où on est dans une démocratie, et qu’on sait qu’on a un système de protection qui est fait pour nous protéger et pas pour nous noter sur notre comportement en tant qu’individu, c’est plutôt un outil qui devrait être accueilli favorablement. Si on le prend du bon côté des choses, on ne devrait pas avoir peur. Je ne dis pas qu’avec ça vous évitez un attentat. Mais vous pouvez prévenir un certain nombre de choses. » A Monaco, tout est prêt. Il ne manque donc que le coup de tampon législatif. En espérant que le débat ne se limite pas à l’outil en lui-même, mais à ses utilisations potentielles. Et surtout qu’il réponde à la question : à quel besoin répond la reconnaissance faciale ?
Article 6 de la loi n° 1483 concernant le Registre national monégasque de l’identité numérique
« Il est créé un Registre National Monégasque de l’Identité Numérique qui a pour finalités :
• l’identification des personnes physiques et morales avec l’attribution d’un identifiant numérique lié à une identité numérique ;
• la participation à la réalisation des documents d’identité ou d’autres documents permettant d’établir celle-ci ;
• la participation à la prévention et à la lutte contre la fraude à l’identité ;
• la mise à disposition de données de personnes physiques ou morales aux responsables des fichiers des services publics dans les limites des missions qui leur sont légalement conférées aux fins de faciliter leur exercice ;
• la préservation de l’historique de ces données à des fins administratives ou, à condition que les données soient anonymisées, à des fins statistiques ;
• la simplification des formalités administratives exigées par les autorités publiques ;
• la mise à disposition de données de personnes physiques ou morales aux responsables des fichiers des personnes relevant du secteur privé dans les limites des missions qui leur sont légalement conférées.
Les fichiers d’où proviennent les données à caractère personnel et les données d’identification personnelle enregistrées et conservées dans le Registre National Monégasque de l’Identité Numérique sont interconnectés et interopérables avec ce dernier.
Les modalités d’application du présent article sont fixées par ordonnance souveraine. »
