Info

Reconnaissance faciale : face au renoncement d’IBM, Amazon et Microsoft, qu'envisage l’Europe ?

Illustration : iStock

IBM, Amazon et Microsoft abandonnent la vente de systèmes de reconnaissance faciale aux forces de police, admettant qu'elles posent des problèmes de discrimination et de libertés publiques. En Europe, malgré des réglementations de l'Union qui devraient mettre à mal l'utilisation de cette technologie, de nombreuses expérimentations sont à l'œuvre. Explications.

C'est un paradoxe qui vient de se révéler… et pas des moindres : alors que trois des plus grandes firmes américaines technologiques déclarent vouloir abandonner la reconnaissance faciale — considérée comme trop discriminante dans le cadre de la surveillance policière aux Etats-Unis —, l'Union européenne continue pour sa part de laisser cette technologie se déployer en dehors de tout cadre précis. Les ONG de défense des droits et des libertés numériques demandent donc des comptes à la Commission européenne afin que celle-ci statue clairement sur les limites de l'usage de ces outils de surveillance — potentiellement de masse.
 

La surveillance biométrique est toujours une surveillance de masse, parce que pour trouver un suspect dans la foule, il faut que chaque personne de cette foule soit considérée comme suspecte.Diego Naranjo, responsable stratégique pour l'Association European digital rights

Selon les ONG, ces technologies pourraient mener les pays de l'Union à créer un contrôle des populations, en parfaite opposition avec le Règlement sur la protection des données (RGPD), la directive LED (Law Enforcement Directive, Directive "Police-Justice") et  la Convention européenne des droits de l'homme…

Quelques repères :

RGPD : acronyme signifiant Règlement Général sur la Protection des Données, issu du règlement européen et qui impose aux entreprises et organisations des mesures de protection des données personnelles des internautes.

Directive "Police-Justice" : La  directive "Police-Justice" établit des règles relatives à la protection des personnes physiques à l’égard du traitement des données à caractère personnel par les autorités compétentes à des fins de prévention et de détection des infractions pénales, d’enquêtes et de poursuites en la matière ou d’exécution de sanctions pénales, y compris la protection contre les menaces pour la sécurité publique et la prévention de telles menaces. Elle est complémentaire du RGPD. (Sur le site de la CNIL, Commission nationale informatique et ibertés).

Convention européenne des droits de l'homme : La convention européenne des droits de l'homme est un traité du Conseil de l'Europe. Appliqué depuis 1953, il instaure un contrôle judiciaire du respect des droits individuels afin de protéger les libertés fondamentales et les droits de l'homme.

Reconnaissance faciale : qui fait quoi en Europe ?

Plus d'une dizaine de pays européens testent déjà des systèmes de caméras dites "intelligentes" dans l'espace public, ou prévoient de le faire. En Allemagne, le ministre de l’Intérieur Horst Seehofer, a déclaré début 2020 vouloir installer des systèmes de reconnaissance faciale automatiques dans 134 gares et 14 aéroports. La France teste pour sa part la technologie dans cinq aéroports, deux gares et au départ des bus d’Eurotunnel. Le département des Yvelines s'essaye à la reconnaissance faciale par ses caméras de surveillance de rue, tout comme la RATP dans les couloirs du métro. Toutes ces initiatives posent un problème majeur, soulevé par l'association LQDN (La quadrature du Net) en France : une part importante de ces tests de systèmes de surveillance "intelligents", par caméras, sont effectués sans autorisations et sont en réalité illégaux.
 

Il y a actuellement 14 à 15 pays européens qui ont installé des dispositifs de reconnaissance faciale. Des polices municipales, des entreprises en ont mis en place, mais comme on ne sait pas précisément tout, c'est aussi le sens de notre demande à la Commission européenne.Diego Naranjo, responsable stratégique pour l'Association European digital rights

Le gouvernement français tente quant à lui depuis l'année dernière de faire adopter son système ALICEM, un procédé permettant d'accéder à tous les services administratifs via la reconnaissance faciale sur smartphone. Une levée de boucliers des associations l'a forcé à repousser la mise en place de ce système.

L'ONG Algorithm Watch a référencé fin 2019 "au moins 10 pays en Europe" utilisant des systèmes de reconnaissance faciale. Si la Belgique et l'Espagne n'en utilisent pas encore, deux villes de ces pays (Kortrijk en Belgique et Marbella en Espagne) ont déployé en revanche des systèmes de "reconnaissance corporelle". Les logiciels connectés aux caméras repèrent les "démarches et les styles vestimentaires" suspects… Dans les deux cas, ces systèmes peuvent permettre la reconnaissance faciale, qui, si elle est aujourd'hui désactivée, pourrait entrer en fonction avec une simple autorisation administrative, selon Algorithm Watch.

Carte intéractive sur :<a href="http://https://algorithmwatch.org/en/story/face-recognition-police-europe/" rel="nofollow" target="_blank"> https://algorithmwatch.org/en/story/face-recognition-police-europe/ </a>Reconnaissance faciale en utilisation : Marron : oui — Bleu foncé : non — inconnu : gris — Bleu clair : autorisée ou planifiée<br />
 
Carte intéractive sur : https://algorithmwatch.org/en/story/face-recognition-police-europe/ Reconnaissance faciale en utilisation : Marron : oui — Bleu foncé : non — inconnu : gris — Bleu clair : autorisée ou planifiée
 
Copie d'écran du site Algorithm Watch


L'association internationale EDri  (European digital rights, Droits numériques européens) — qui fédère 44 associations de défense des droits et libertés numériques — a donc saisi la Commission européenne en mai dernier. L'ONG a envoyé une demande de bannissement des technologies de surveillance biométriques suite à la publication — par la Commission — d'un Livre blanc sur l'intelligence artificielle le 19 février 2020, (pdf en français). Le Livre blanc laisse en effet entrevoir une autorisation encadrée de ces technologies… à la suite "d'un vaste débat européen sur le sujet".

Extrait du Livre blanc de la Commission européenne : "Intelligence artificielle : une approche européenne axée sur l'excellence et la confiance".

"Il s’ensuit, conformément aux règles de l’Union en vigueur en matière de protection des données et à la charte des droits fondamentaux de l’UE, que l’IA ne peut être utilisée à des fins d’identification biométrique à distance que lorsque cette utilisation est dûment justifiée, proportionnée et assortie de garanties adéquates. Afin de répondre aux éventuelles inquiétudes, du point de vue de la société, quant à l’utilisation de l’IA à de telles fins dans les lieux publics et d’éviter toute fragmentation du marché intérieur, la Commission lancera un vaste débat européen sur les circonstances particulières, le cas échéant, qui pourraient justifier une telle utilisation, ainsi que sur les garanties communes à mettre en place."

IBM, Amazon et Microsoft  se sont finalement rendu compte des problèmes que créaient leurs logiciels, mais cet abandon est avant tout une conséquence des mouvements Black lives matter.Diego Naranjo, responsable stratégique pour l'Association European digital rights

Le document intitulé "Interdire la surveillance de masse biométrique" envoyé à la Commission détaille les problèmes engendrés par ces technologies et leur contradiction intrinsèque avec les lois, directives et conventions européenne de protection de la vie privée et des données personnelles. Le bannissement de la reconnaissance faciale dans les pays de l'Union y est demandé.

Extrait du document "La surveillance biométrique de masse est illégale" de l'ONG EDri :

Cette demande d'interdiction [auprès de la Commission européenne] est fondée sur les droits et protections consacrés par la Charte des droits fondamentaux de l'Union européenne, le Règlement général sur la protection des données (RGPD) et la Directive sur l'application des lois (LED, ou directive "Police Justice" en droit français, ndlr), qui sont actuellement à l'honneur pour leurs anniversaires de révisions après deux ans.

Ensemble, ces instruments garantissent que les peuples de l'UE peuvent vivre sans crainte de traitement arbitraire ou d'abus de pouvoir ; dans le respect de leur autonomie et de leur développement personnel ; et en matière de sûreté et de sécurité en fixant des normes strictes de protection des données et de confidentialité.
La surveillance biométrique de masse constitue une violation de l’essence de ces instruments et est une violation du cœur même des droits fondamentaux de l’UE. Une fois que de tels systèmes sont en place, qui normalisent et légitiment la surveillance permanente de tout le monde, tout le temps, c'est une pente glissante vers l'autoritarisme qui voit le jour. L'UE doit donc garantir, par des moyens législatifs et non législatifs, que la surveillance de masse biométrique soit totalement interdite en droit et en pratique.

Le "farwest" de l'intelligence artificielle en question

Diego Naranjo, le responsable stratégique de l'EDri se félicite malgré tout de l'annonce d'IBM, Amazon et Microsoft d'abandonner la reconnaissance faciale sur son versant sécuritaire, puisque pour lui, "ces entreprises se sont finalement rendu compte des problèmes que créaient leurs logiciels." Mais Diego Naranjo n'est pas dupe des raisons de cet abandon qui est à son avis, "avant tout une conséquence des mouvements Black lives matter". Ce qui pour de nombreux observateurs pourrait indiquer un moratoire, puis une reprise de ces technologies sécuritaires par les firmes, après "corrections" des biais de discrimination…

La question de l'usage de la reconnaissance faciale dans l'espace public — à l'échelle d'une ville ou d'un pays — par les forces de police, relève d'un changement de régime politique et social pour le responsable de l'association, qui ne cache pas son inquiétude face à ces dispositifs qui tendent à s'implanter discrètement un peu partout en Europe.

Les dispositifs de surveillance de masse ou de reconnaissance faciale ne sont pas des procédés indispensables pour l'innovation dans l'intelligence artificielle. La Chine a fait ce choix, mais nous pouvons en faire d'autres et développer l'intelligence artificielle afin de créer une société plus bénéfique aux personnes (…).Diego Naranjo, responsable stratégique pour l'Association European digital rights

La surveillance biométrique (surveillance par des dispositifs numériques des attributs physiques ou physiologiques des personnes, ndlr) pose en effet des questions fondamentales sur les libertés civiles. "La surveillance biométrique est toujours une surveillance de masse, parce que pour trouver un suspect dans la foule, il faut que chaque personne de cette foule soit considérée comme suspecte", explique Diego Naranjo, qui souligne que "la surveillance de masse par ces boîtes noires que sont les intelligences artificielles, implique une suspicion généralisée et peut être utilisée contre des manifestants, ce que l'on a déjà vu dans le cas des protestations Black lives matter aux Etats-Unis".

Le Livre blanc présenté en mai 2020 par l'Union européenne se veut, lui, — par contre — rassurant. Il affirme prendre en compte "les risques liés à l'usage de l'intelligence artificielle", mais il ouvre malgré tout la voie à une légalisation encadrée de la surveillance biométrique, dont la reconnaissance faciale au premier chef. Cet encadrement surviendrait à posteriori, puisque comme le rappelle le reponsable d'EDri, "il y a actuellement 14 à 15 pays européens qui ont installé des dispositifs de reconnaissance faciale. Des polices municipales, des entreprises en ont mis en place, mais comme on ne sait pas précisément tout, c'est aussi le sens de notre demande à la Commission européenne : qu'elle nous donne une liste précise des systèmes installés et des pays concernés". 

Pour l'heure, malgré des précisions de la Commission sur des limitations ou interdictions liées aux règlements européens en matière de protection des données et de droit à la vie privée, l'ONG EDri souligne que l'Europe est en réalité un véritable "farwest" pour les technologies d'intelligence artificielle basées sur le machine learning et le traitement de données en masse

La fuite en novembre dernier par le site The Intercept, d'une série de rapports, qui auraient circulé entre dix États membres, indique par ailleurs une tendance à la généralisation des procédés de surveillance par reconnaissance faciale dans les États de l'Union, selon Diego Naranjo d'EDri. L'un d'eux détaille les mesures prises par l’Autriche pour légiférer sur la mise en place d’un réseau de bases de données de reconnaissance faciale auquel les forces de police de toute l’UE pourraient accéder. Cette possibilité étendrait le traité de Prüm — qui régit la coopération policière opérationnelle entre les États membres de l’UE — afin  d'y inclure des images de reconnaissance faciale.

Questionné finalement au sujet des discours sur la nécessité pour l'Union européenne de rester dans la "course commerciale et stratégique grâce à l'intelligence artificielle", le représentant de l'EDri estime que la question ne devrait pas se poser en la liant à la surveillance : "Les dispositifs de surveillance de masse et de reconnaissance biométrique ne sont pas des procédés indispensables pour l'innovation dans l'intelligence artificielle. La Chine a fait ce choix, mais nous pouvons en faire d'autres et développer l'intelligence artificielle pour créer une société plus bénéfique aux personnes, particulièrement après l'épidémie de Covid-19 et face aux problèmes écologiques que nous rencontrons."