Mort de George Floyd : IBM ne vendra plus d'outils de reconnaissance faciale

Le géant de l’informatique IBM a envoyé un courrier lundi 8 juin 2020 aux membres du Congrès américain pour faire savoir qu’il arrêtait de vendre des technologies de reconnaissance faciale. L’entreprise estime que cette technologie n’est pas compatible avec l’égalité des chances qu’elle prône depuis près de 60 ans. IBM rappelle dans ce courrier, qu'en septembre 1953 — plus d'une décennie avant l'adoption de la loi sur les droits civils — Thomas J. Watson Jr alors président d'IBM, avait pris une position audacieuse en faveur de l'égalité des chances, dans un courrier envoyé à tous les employés :

" …Chacun des citoyens de ce pays a le même droit de vivre et de travailler en Amérique. C'est la politique de cette organisation d'embaucher des personnes qui ont la personnalité, le talent et l'expérience nécessaires pour occuper un poste donné, indépendamment de la race, de la couleur ou de la croyance."

Dans ce même courrier aux membres du Congrès, le chef exécutif d'IBM, Arvind Krishna déclare que son entreprise est fermement opposée "à l'utilisation de toute technologie à des fins de surveillance de masse, de profilage racial, de violations des droits et libertés humaines de base ou encore tout objectif contraire à nos valeurs". Et d'ajouter : "Nous pensons que c'est le moment d'ouvrir un dialogue national sur les technologies de reconnaissance faciale pour déterminer si elles doivent être utilisées, et comment, par les forces de l'ordre".

Un outil à double tranchant très contesté

La reconnaissance faciale "peut aider la police à protéger les communautés mais ne doit pas promouvoir les discriminations ou l'injustice raciale", détaille Arvind Krishna. "Les fournisseurs et les clients utilisateurs d'intelligence artificielle partagent la responsabilité de s'assurer que l'IA n'est pas biaisée, particulièrement quand il s'agit d'appliquer la loi".

Les Etats-Unis sont secoués par une vague de contestation contre le racisme institutionnalisé et les brutalités policières depuis la mort de George Floyd, un Afro-Américain asphyxié par un policier blanc à Minneapolis le 25 mai.

Le patron d'IBM demande au Congrès de faire en sorte que les caméras mobiles portées par les agents et les outils d'analyse permettent  que la police rende des comptes, en cas de besoin.

Neema Singh Guliani, de l'association American Civil Liberties Union (ACLU), estime que la reconnaissance faciale ne devrait pas être intégrée du tout à ces caméras. 

"Nous devons investir dans des technologies susceptibles d'aider à résorber la fracture numérique, pas des technologies qui créent une infrastructure de surveillance et exacerbent les abus de la police et le racisme structurel", a-t-elle argumenté dans un communiqué publié en réponse aux mesures de réforme de la police proposées au Congrès.

Une pétition contre les inégalités raciales

Depuis deux ans, l'ACLU interpelle régulièrement les entreprises technologiques comme Amazon ou Microsoft sur les utilisations potentiellement abusives ou délétères de la reconnaissance faciale. Une pétition a été signée ce mardi 9 juin 2020 par plusieurs associations de lutte contre les inégalités raciales réunies sous le nom de collectif Athéna. Il exhorte Amazon de "cesser toute collaboration technologique avec la police américaine, alors que les manifestations continuent aux Etats-Unis contre les violences policières et le racisme."

Amazon, le géant américain du commerce en ligne, du cloud (informatique à distance) et des technologies, "alimente et profite de l'injustice systématique, des inégalités et des violences contre les communautés noires" dénonce le texte, qui souligne l'implication de l'entreprise dans la surveillance policière :

"Amazon a longtemps cherché à être la colonne vertébrale technologique de la police et de l'ICE (police de l'immigration, ndlr) en promouvant activement Amazon Web Services (cloud), son logiciel de reconnaissance faciale (Rekognition) et ses caméras de surveillance (Ring)".

Les activistes accusent  aussi Amazon de "contribuer à la criminalisation des communautés de couleur".