Reims expérimente une intelligence artificielle de Thalès pour surveiller ses habitants, et personne n’est au courant

Si vous avez déjà flâné aux alentours de la cathédrale Notre-Dame de Reims (51), vous avez peut-être été analysé par une intelligence artificielle. L’outil « Savari », conçu par le géant français Thalès (1), a été intégré aux caméras de surveillance de l’agglomération et utilisé par la police municipale, pour une expérimentation d’un an. Le but : repérer automatiquement des regroupements ou des intrusions, et identifier des armes ou des véhicules. Problème, ni les habitants et ni les élus de l’opposition n’ont été informés.

Une révélation qui arrive au moment où le Sénat vient d’adopter, mardi 24 janvier 2023, l’article 7 du projet de loi des Jeux Olympiques. Il autorise ces expérimentations de caméras dotées d’algorithmes à compter de cette année en vue des JO de 2024 à Paris.

En novembre dernier, Amnesty International avait alerté sur « les risques de dérives dangereuses » pour les libertés individuelles que comporte cette loi. À la différence de la vidéo-surveillance classique, ce type d’outil peut conduire à « un traitement massif de données à caractère personnel, y compris parfois de données sensibles », explique la CNIL dans un rapport publié en juillet 2022.

Reims n’a pas attendu que les parlementaires l’autorisent dans la capitale pour faire ses propres tests et profiter du vide juridique. C’est Arnaud Robinet, maire de la ville depuis 2014, affilié au mouvement Horizons d’Édouard Philippe, qui aurait décidé de cette collaboration. Contacté par StreetPress, l’édile de droite a refusé de répondre à nos questions.

Algorithme et « deep learning »

Savari est une « vidéosurveillance intelligente, clé de la sécurité urbaine des Smart Cities ». C’est ainsi que Thalès présente sa solution sur le site du Salon des maires, un séminaire annuel pendant lequel les entreprises tiennent des stands pour draguer les élus.

Elle utilise des « algorithmes vidéos intelligents » et du « deep learning » pour « surveiller, superviser et analyser automatiquement » des situations telles que des regroupements et des intrusions. Elle peut aussi « détecter, identifier et classifier » des armes, des vélos ou des véhicules, assure le fleuron français. À l’aide de la lecture automatique des plaques d’immatriculation (LAPI), Savari permet également de faire du contrôle routier et de mettre des amendes à ceux qui ne paient pas leur stationnement.

À LIRE AUSSI : À Toulouse, le LAPI est un enfer d’amendes pour les personnes en situation de handicap

Une expérimentation faite dans le dos des Rémois

« Ce qui me choque, c’est que ça a été fait dans une grande opacité. Ce n’est pas normal que les citoyens ne soient pas informés », s’indigne Léo Tyburce, élu Europe-Écologie-Les-Verts à Reims, informé de l’expérimentation de Thalès dans sa ville par StreetPress. Lors du conseil municipal du 16 novembre 2021, l’écolo avait interpellé le maire Arnaud Robinet au sujet de l’utilisation d’une intelligence artificielle dans les caméras de la commune évoquée lors d’une précédente réunion publique. L’édile de droite avait renvoyé la balle à son Monsieur sécurité, Xavier Albertini.

« Dans le cadre de l’évolution de l’organisation de la police municipale, il a été souhaité de mettre en place une étude et le développement avec une entreprise nationale d’un logiciel qui n’est pas de la reconnaissance faciale (…) mais c’est une capacité de reconnaître un certain nombre d’éléments et en particulier, dans la limite de la réglementation, de reconnaître n’importe quel véhicule qui se trouve pris par le champ des caméras », avait déclaré l’adjoint. La vidéo du conseil municipal est toujours en ligne. Il admet donc qu’une étude liée aux caméras de surveillance est en cours avec une entreprise nationale. Sans dévoiler de laquelle il pourrait s’agir, ni dévoiler l’intégralité des usages de cette technologie.

À l’époque, le conseiller municipal de l’opposition Léo Tyburce est rassuré par cette réponse. « On m’avait répondu, ne vous inquiétez pas tout roule, c’est juste pour repérer les véhicules… » Aujourd’hui, il se sent trompé :

« Finalement, on voit que ça permet de repérer des groupements de personnes, d’installer une sorte de surveillance urbaine. J’aurais aimé qu’il y ait un débat public autour de cette question. Il y a un manque de transparence terrible. »

Le Rémois Antoine (2), membre d’Action non-violente COP21, n’était pas au courant de l’utilisation d’une intelligence artificielle par les forces de l’ordre. « Ça m’intéresse de savoir que l’outil repère les rassemblements parce qu’on fait des actions non déclarées », pointe-t-il. Le militant pour l’environnement connaît pourtant bien les caméras de surveillance de sa ville. Avec son groupe, ils s’attaquent aux panneaux publicitaires rétroéclairés. « On se rend bien compte une fois qu’on lève la tête qu’on est surveillés de tous les côtés. » Alors, pour ne pas se faire prendre, ils ont établi une cartographie des zones surveillées :

« On en avait repéré une soixantaine sur à peine un km carré en centre-ville en 2021. »

Reims is watching you

Ce n’est pas un hasard si Thalès a réussi à vendre son outil à la « cité des Sacres », particulièrement friande de caméras de surveillance. Arnaud Robinet en a fait un argument de campagne. Depuis 2014, pas moins de 218 caméras supplémentaires ont été installées dans l’agglomération rémoise, qui n’en comptait que 36. Le maire adepte de la rengaine sécuritaire a même inauguré en 2016 un Centre de Surveillance Urbain (CSU) au sein de l’hôtel de police où 120 agents observent les images 24h/24 et 7 jours sur 7.

À LIRE AUSSI : Dans tous les commissariats de France, on utilise la reconnaissance faciale

La multiplication des caméras et donc des vidéos à analyser est un des arguments avancés par Xavier Albertini pour justifier l’acquisition d’un algorithme. Au conseil municipal, après avoir assuré qu’il ne s’agissait que de surveiller des voitures, il ajoute : « D’un point de vue technique, ce sont 56.000 types de véhicules différents (…) qui sont ainsi rentrés dans une base de données et quand y a une réquisition pour rechercher un véhicule, il y a une quasi-instantanéité de l’ensemble des caméras. »

Pour les industriels du secteur, la multiplication des caméras de surveillance rend nécessaire l’intelligence artificielle pour aider les humains, devenus trop peu nombreux. Un « bluff technologique », selon La Quadrature du Net, qui défend les droits et les libertés sur Internet. « Il y a un énorme marché privé qui est en train de se lancer et qui est en partie financé par des fonds publics », analyse Martin Drago, spécialiste de ces questions au sein de l’association.

Sept millions d’euros pour filmer ses habitants

Arnaud Robinet a dû mettre le prix pour acquérir le tout nouveau produit du géant de l’aérospatial. Dans le budget de la ville, pour son second mandat qui a commencé en 2020, pas moins de sept millions d’euros sont dédiés à des investissements pour la vidéo-surveillance et l’équipement de la police municipale. Un logiciel dit « d’aide à la relecture », qui doit aider les policiers à fournir des éléments probants à l’autorité judiciaire lors des réquisitions, a été financé par ce budget. Mais le montant exact n’est pas connu. Ni Thalès, ni la mairie de Reims n’ont souhaité nous le fournir.

Reims vient ainsi s’ajouter à une longue liste de villes françaises qui ont passé des contrats avec des entreprises leur proposant d’expérimenter la « vidéosurveillance algorithmique ». Sur son site Tecnopolice.fr, La Quadrature du Net en a répertorié dans une dizaine de villes. À Nîmes (30) ou Moirans (38), l’outil de l’entreprise israélienne Briefcam analyse les faits et gestes des habitants. Marseille (13) collabore depuis 2018 avec l’entreprise locale SNEF. En 2016, Toulouse (31) a passé un contrat avec la boîte américaine IBM. Coût pour la ville du Sud : 47.350 euros.

Ces expérimentations coûtent des milliers d’euros aux collectivités. Leur utilité reste pourtant à démontrer. Dans un rapport publié en 2020, la Cour des comptes a jugé qu’« aucune corrélation globale n’a été relevée entre l’existence de dispositifs de vidéoprotection et le niveau de la délinquance commise sur la voie publique, ou encore les taux d’élucidation ».

À LIRE AUSSI : En 2010, déjà, StreetPress testait les caméras de surveillance de Levallois-Perret

Du No man’s land juridique à la légalisation ?

D’après le spécialiste Martin Drago, qui gère la campagne Technopolice, le déploiement de ces outils a été facilité par le flou juridique qui les entoure. « Dans le code pénal, il y a des articles précis sur les caméras de vidéosurveillance, mais rien sur la vidéosurveillance algorithmique qui porte pourtant de nouvelles atteintes aux libertés individuelles. » Il ajoute :

« Les industriels de la surveillance profitent de ce no man’s land juridique pour faire des expérimentations. »

(1) Contacté par StreetPress, Thalès n’a pas souhaité répondre à nos questions.

(2) Le prénom a été modifié.