27/06/2023

Ils utilisent la surveillance algorithmique

Leclerc, Fnac, Biocoop et de nombreux commerces surveillent illégalement leurs clients

Par Thomas Jusquiame

Pour lutter contre les vols à l’étalage, plus de mille magasins utilisent un logiciel de vidéosurveillance algorithmique vendu par la start-up française Veesion. Problème : selon la Quadrature du net, l’usage de cette technologie est illégal.

Entre janvier et août 2022, le ministère de l’Intérieur annonce une hausse de 17 % des vols à l’étalage par rapport à la même période en 2021. Difficile de ne pas faire le lien avec l’inflation : plus 12% sur un an. Pour se prémunir contre ces chapardages, certains magasins et grandes surfaces implantés en France ont fait le choix de s’appuyer sur la vision par ordinateur. Grâce à cette branche de l’intelligence artificielle, le logiciel détecte automatiquement et en temps réel les gestes suspects des clients et ainsi permet aux vigiles – ou à défaut, aux autres employés, d’intervenir rapidement. Selon nos informations, Leclerc, Carrefour, G20, Système U, Biocoop, Kiabi ou encore la Fnac ont tous des magasins clients d’une même société : Veesion.

Créée en 2018 par trois anciens diplômés d’HEC et de Polytechnique, Veesion s’appuie sur le travail d’une centaine de collaborateurs et annonce vouloir « lutter contre le fléau du vol à l’étalage » dans les magasins. Ce phénomène de « démarque inconnue » constitue une perte estimée par la start-up à 100 milliards d’euros par an dans le monde, dont cinq milliards en France. Un chiffre difficile à sourcer mais qui attire les investisseurs. Les fonds d’investissement privés ont senti le filon de ce nouveau marché prometteur et ont alloué à Veesion dix millions d’euros en 2022 pour développer leur activité.

Pour endiguer ce « fléau », la jeune entreprise a su profiter des avancées récentes en intelligence artificielle et notamment dans l’une de ces branches : la vision par ordinateur. Cette dernière repose sur le deep learning, c’est-à-dire le traitement automatisé de grandes quantités d’informations réalisé par des serveurs informatiques – dans le cas présent, des pixels issus d’images de vidéosurveillance. Si de nombreuses sociétés proposent aujourd’hui des logiciels capables de détecter des « objets » (humain, voiture, vélo, trottinette, camion, etc.) et d’en déduire des comportements du type maraudage ou infraction au code de la route, Veesion va plus loin. Afin d’établir une probabilité de vol, la société a non seulement « appris » à son programme informatique à détecter la présence humaine, mais surtout à localiser les parties de son corps (bras, jambes, poitrine, tête). Une seconde analyse algorithmique va détecter la présence d’objets tels que le sac à main, à dos, caddie, casque ou poussette, puis le positionnement des rayons et produits.

À LIRE AUSSI : Reims expérimente une intelligence artificielle de Thalès pour surveiller ses habitants, et personne n’est au courant

Ainsi, le logiciel va, par exemple, détecter le bras d’un individu qui saisit un produit dans « l’objet » rayon et pourra donc déterminer si le bras se dirige ensuite vers le sac à main. Si l’article disparaît du champ de vision, une alerte sera remontée. La start-up n’hésite pas à avancer un taux difficilement vérifiable de 98 % de vols détectés grâce à l’IA. Contactée par StreetPress, la société a refusé de répondre à nos multiples sollicitations. Pour en savoir plus, nous nous sommes présentés comme un responsable de magasin afin de comprendre le fonctionnement de l’application et les arguments de vente qui accompagnent sa commercialisation.

Business de la peur

La société met en avant deux catégories d’arguments pour vendre son outil. La première se concentre sur les voleurs et voleuses potentiels et sur les conséquences financières de leurs agissements. La seconde porte sur la facilité d’utilisation du logiciel et sa supposée efficacité. Dans ses présentations commerciales, la start-up utilise ainsi régulièrement l’argument de la crise inflationnelle, arguant que le vol « risque de devenir de plus en plus fréquent et la tentation de plus en plus grande, même pour des clients fidèles ». D’après ces polytechniciens, un voleur sur deux serait un client régulier et « moins de 5 % des vols seraient détectés ». Car le profil-type du voleur ou de la voleuse n’existerait pas. C’est monsieur et madame tout-le-monde qui sont visés. Lors d’un webinaire (présentation du produit en visioconférence), le directeur des ventes diffuse pour preuve la vidéo d’un militaire pris en flagrant délit de vol à l’étalage, cachant le produit derrière son gilet pare-balles ou avance encore qu’ils ont récemment « attrapé » une personne ayant caché un produit dans la poussette, « sous le bébé ». Il achèvera son argumentaire sur le fait qu’il n’y aurait « plus de profils de voleurs ». Selon lui :

« Tout le monde est susceptible de voler, aussi bien des papis et mamies que des enfants, des collaborateurs […] et également des personnes représentantes de l’État. »

Pour appuyer ses propos, Veesion n’hésite pas à rappeler l’ingéniosité des voleurs (sacs doublés de métal pour passer les portiques, changement d’étiquettes, vol en groupe), les outils communément utilisés (aimant, brouilleur antivol), et le coût important d’un agent de sécurité (environ 20 euros de l’heure, soit environ 60 à 80.000 euros par an) qui ne saurait détecter autant de vols qu’une intelligence artificielle.

Dans cette ambiance de peur généralisée, les fonctionnalités de leur logiciel et sa facilité d’utilisation ont tout pour séduire le gérant de magasin. D’autant plus que d’après Veesion, deux heures suffisent pour connecter le programme informatique au réseau de caméras et lancer les premières analyses comportementales. Quand une suspicion de vol est détectée par l’algorithme, une alerte remonte en temps réel sous forme d’une courte vidéo (un gif) envoyée sur le téléphone du vigile au travers de l’application Telegram. Trois options s’offrent alors à lui. Si le voleur est appréhendé et qu’il restitue la marchandise, le vigile clique sur le bouton « individu appréhendé » et doit renseigner le montant des produits récupérés, par exemple 50 euros. Un message généré automatiquement s’affiche alors, en calculant de façon hasardeuse les économies réalisées : « Si cette personne vous vole une fois par semaine, cela représente un montant de 2.600 euros par an ! » L’option « fuite de l’individu » invite quant à elle l’utilisateur à rester méfiant et à investiguer : « Même si l’individu n’a pas été appréhendé cette fois-ci, 70 % des personnes reviennent sur les lieux lorsqu’ils n’ont pas été arrêtés. N’oubliez pas de consulter les vidéos dans le groupe historique. » Enfin, dans le cas où une fausse alerte serait remontée, il est possible de cliquer sur « rien à signaler ».

À LIRE AUSSI : Des étudiants obligés de voler pour manger

Illégalité

Dans le cadre de sa stratégie de vente et de la démonstration de son outil, l’entreprise n’hésite pas à utiliser des individus pris en flagrant délit de vol par le logiciel. Ces personnes sont-elles au courant d’avoir été filmées ? Si oui, ont-elles donné leur consentement pour que leur image soit utilisée à des fins promotionnelles ? Peu probable…

Et une question encore plus fondamentale reste en suspens : analyser les gestes corporels des citoyens sans leur accord dans un lieu ouvert au public est-il légal ? Il semblerait que non. La loi du 19 mai 2023 relative aux jeux Olympiques et Paralympiques de 2024 et son article 7 venant encadrer l’expérimentation temporaire de la vidéosurveillance algorithmique ne concerne que les « lieux accueillant des manifestations, leurs abords et les transports en commun » et non les supermarchés ou autres magasins. De plus, la loi précise que les entreprises ne pourront utiliser aucun système d’identification récoltant des données biométriques. Or selon Martin Drago et la juriste Noémie Levain, appartenant tous deux à la Quadrature du net, nous avons bien affaire ici à des données biométriques. Pour les deux membres de cette association de défense des libertés publiques, l’usage du logiciel de Veesion, qui a pour objectif « d’analyser et de détecter des gestes dans les magasins afin d’appréhender ou de repérer des personnes en situation de vol », est donc illégal. Selon ces défenseurs des droits, la réglementation européenne définit bien les données biométriques comme « des données relatives aux caractéristiques “comportementales” d’une personne aux fins de son identification unique », et précise que « l’identification unique signifiant ici non pas de retrouver son identité, mais de l’individualiser par rapport au reste des autres personnes ».

L’analyse indifférenciée et croissante des comportements pose elle aussi problème. Veesion annonce améliorer son logiciel de jour en jour grâce aux 100.000 gestes analysés chaque mois, ce qui est, pour la Quadrature du net :

« Une atteinte grave à nos droits et libertés. D’autant que le dispositif de surveillance peut concerner un grand nombre de personnes, y compris des mineurs. »

Sollicitée, la Cnil [commission nationale de l’informatique et des libertés] indique que les caméras « augmentées » installées dans les magasins pour détecter les vols « devraient être encadrées par un texte pour, notamment, écarter le droit d’opposition des personnes (l’exercice de ce droit apparaissant incompatible avec l’objectif même du dispositif). » La commission conclut :

« Une loi pourrait s’avérer nécessaire. »

Interrogées sur l’usage du logiciel, certaines marques renvoient vers la responsabilité des franchisés (Fnac et Système U), qui seraient libres de choisir les services adéquats pour sécuriser leur activité. D’autres, comme Leclerc ou Carrefour, ont refusé de répondre.