Reconnaissance faciale : face au renoncement d’IBM, Amazon et Microsoft, qu'envisage l’Europe ?

C'est un paradoxe qui vient de se révéler… et pas des moindres : alors que trois des plus grandes firmes américaines technologiques déclarent vouloir abandonner la reconnaissance faciale — considérée comme trop discriminante dans le cadre de la surveillance policière aux Etats-Unis —, l'Union européenne continue pour sa part de laisser cette technologie se déployer en dehors de tout cadre précis. Les ONG de défense des droits et des libertés numériques demandent donc des comptes à la Commission européenne afin que celle-ci statue clairement sur les limites de l'usage de ces outils de surveillance — potentiellement de masse.
 

Selon les ONG, ces technologies pourraient mener les pays de l'Union à créer un contrôle des populations, en parfaite opposition avec le Règlement sur la protection des données (RGPD), la directive LED (Law Enforcement Directive, Directive "Police-Justice") et  la Convention européenne des droits de l'homme…

Reconnaissance faciale : qui fait quoi en Europe ?

Plus d'une dizaine de pays européens testent déjà des systèmes de caméras dites "intelligentes" dans l'espace public, ou prévoient de le faire. En Allemagne, le ministre de l’Intérieur Horst Seehofer, a déclaré début 2020 vouloir installer des systèmes de reconnaissance faciale automatiques dans 134 gares et 14 aéroports. La France teste pour sa part la technologie dans cinq aéroports, deux gares et au départ des bus d’Eurotunnel. Le département des Yvelines s'essaye à la reconnaissance faciale par ses caméras de surveillance de rue, tout comme la RATP dans les couloirs du métro. Toutes ces initiatives posent un problème majeur, soulevé par l'association LQDN (La quadrature du Net) en France : une part importante de ces tests de systèmes de surveillance "intelligents", par caméras, sont effectués sans autorisations et sont en réalité illégaux.
 

Le gouvernement français tente quant à lui depuis l'année dernière de faire adopter son système ALICEM, un procédé permettant d'accéder à tous les services administratifs via la reconnaissance faciale sur smartphone. Une levée de boucliers des associations l'a forcé à repousser la mise en place de ce système.

L'ONG Algorithm Watch a référencé fin 2019 "au moins 10 pays en Europe" utilisant des systèmes de reconnaissance faciale. Si la Belgique et l'Espagne n'en utilisent pas encore, deux villes de ces pays (Kortrijk en Belgique et Marbella en Espagne) ont déployé en revanche des systèmes de "reconnaissance corporelle". Les logiciels connectés aux caméras repèrent les "démarches et les styles vestimentaires" suspects… Dans les deux cas, ces systèmes peuvent permettre la reconnaissance faciale, qui, si elle est aujourd'hui désactivée, pourrait entrer en fonction avec une simple autorisation administrative, selon Algorithm Watch.

Carte intéractive sur : https://algorithmwatch.org/en/story/face-recognition-police-europe/ Reconnaissance faciale en utilisation : Marron : oui — Bleu foncé : non — inconnu : gris — Bleu clair : autorisée ou planifiée
 

Copie d'écran du site Algorithm Watch

L'association internationale EDri  (European digital rights, Droits numériques européens) — qui fédère 44 associations de défense des droits et libertés numériques — a donc saisi la Commission européenne en mai dernier. L'ONG a envoyé une demande de bannissement des technologies de surveillance biométriques suite à la publication — par la Commission — d'un Livre blanc sur l'intelligence artificielle le 19 février 2020, (pdf en français). Le Livre blanc laisse en effet entrevoir une autorisation encadrée de ces technologies… à la suite "d'un vaste débat européen sur le sujet".

Le document intitulé "Interdire la surveillance de masse biométrique" envoyé à la Commission détaille les problèmes engendrés par ces technologies et leur contradiction intrinsèque avec les lois, directives et conventions européenne de protection de la vie privée et des données personnelles. Le bannissement de la reconnaissance faciale dans les pays de l'Union y est demandé.

Le "farwest" de l'intelligence artificielle en question

Diego Naranjo, le responsable stratégique de l'EDri se félicite malgré tout de l'annonce d'IBM, Amazon et Microsoft d'abandonner la reconnaissance faciale sur son versant sécuritaire, puisque pour lui, "ces entreprises se sont finalement rendu compte des problèmes que créaient leurs logiciels." Mais Diego Naranjo n'est pas dupe des raisons de cet abandon qui est à son avis, "avant tout une conséquence des mouvements Black lives matter". Ce qui pour de nombreux observateurs pourrait indiquer un moratoire, puis une reprise de ces technologies sécuritaires par les firmes, après "corrections" des biais de discrimination…

La question de l'usage de la reconnaissance faciale dans l'espace public — à l'échelle d'une ville ou d'un pays — par les forces de police, relève d'un changement de régime politique et social pour le responsable de l'association, qui ne cache pas son inquiétude face à ces dispositifs qui tendent à s'implanter discrètement un peu partout en Europe.

La surveillance biométrique (surveillance par des dispositifs numériques des attributs physiques ou physiologiques des personnes, ndlr) pose en effet des questions fondamentales sur les libertés civiles. "La surveillance biométrique est toujours une surveillance de masse, parce que pour trouver un suspect dans la foule, il faut que chaque personne de cette foule soit considérée comme suspecte", explique Diego Naranjo, qui souligne que "la surveillance de masse par ces boîtes noires que sont les intelligences artificielles, implique une suspicion généralisée et peut être utilisée contre des manifestants, ce que l'on a déjà vu dans le cas des protestations Black lives matter aux Etats-Unis".

Le Livre blanc présenté en mai 2020 par l'Union européenne se veut, lui, — par contre — rassurant. Il affirme prendre en compte "les risques liés à l'usage de l'intelligence artificielle", mais il ouvre malgré tout la voie à une légalisation encadrée de la surveillance biométrique, dont la reconnaissance faciale au premier chef. Cet encadrement surviendrait à posteriori, puisque comme le rappelle le reponsable d'EDri, "il y a actuellement 14 à 15 pays européens qui ont installé des dispositifs de reconnaissance faciale. Des polices municipales, des entreprises en ont mis en place, mais comme on ne sait pas précisément tout, c'est aussi le sens de notre demande à la Commission européenne : qu'elle nous donne une liste précise des systèmes installés et des pays concernés". 

Pour l'heure, malgré des précisions de la Commission sur des limitations ou interdictions liées aux règlements européens en matière de protection des données et de droit à la vie privée, l'ONG EDri souligne que l'Europe est en réalité un véritable "farwest" pour les technologies d'intelligence artificielle basées sur le machine learning et le traitement de données en masse

La fuite en novembre dernier par le site The Intercept, d'une série de rapports, qui auraient circulé entre dix États membres, indique par ailleurs une tendance à la généralisation des procédés de surveillance par reconnaissance faciale dans les États de l'Union, selon Diego Naranjo d'EDri. L'un d'eux détaille les mesures prises par l’Autriche pour légiférer sur la mise en place d’un réseau de bases de données de reconnaissance faciale auquel les forces de police de toute l’UE pourraient accéder. Cette possibilité étendrait le traité de Prüm — qui régit la coopération policière opérationnelle entre les États membres de l’UE — afin  d'y inclure des images de reconnaissance faciale.

Questionné finalement au sujet des discours sur la nécessité pour l'Union européenne de rester dans la "course commerciale et stratégique grâce à l'intelligence artificielle", le représentant de l'EDri estime que la question ne devrait pas se poser en la liant à la surveillance : "Les dispositifs de surveillance de masse et de reconnaissance biométrique ne sont pas des procédés indispensables pour l'innovation dans l'intelligence artificielle. La Chine a fait ce choix, mais nous pouvons en faire d'autres et développer l'intelligence artificielle pour créer une société plus bénéfique aux personnes, particulièrement après l'épidémie de Covid-19 et face aux problèmes écologiques que nous rencontrons."