Surveillance numérique : les "algorithmes de répression" du gouvernement chinois dévoilés par Human Rights Watch

Peut-on devenir suspect aux yeux de la police pour avoir appelé un nouveau numéro de téléphone ou contacté quelqu'un qui a quitté son pays depuis plus de 30 jours, ou encore… avoir consommé plus d'électricité que la normale, ne pas utiliser de smartphone ou ne pas avoir sympathisé avec ses voisins ? Oui, tout cela est possible depuis peu en Chine, puique ces quelques critères font partie des 36 "catégories de conduites" prises en compte par l'application pour smartphone de la police du Xinjiang afin de détecter des suspects potentiels chez les habitants à majorité musulmane : les Ouïgours. Cette population est fortement réprimée par le gouvernement chinois, depuis plusieurs années, avec un million de ses membres incarcérés dans des "camps de rééducation politique", selon les ONG de défense des droits de l'Homme.  

Le système prédictif IJOP

Il y a deux mois, Human Rights Watch (HRW) avait dénoncé un système de surveillance de masse dans cette même province du Xinjang, nommé IJOP (Integrated Joint Operation Platform - Plateforme intégrée d'opérations conjointes). L'ONG annonçait ainsi que "Les autorités chinoises élaborent et déploient actuellement un programme de police prédictif basé sur l'analyse de données volumineuses au Xinjiang (…) Le programme regroupe des données sur les personnes — souvent à leur insu — et signale aux fonctionnaires celles qu’il juge potentiellement menaçantes." C'est désormais l'application pour smartphones androïd reliée au système IJOP et utilisée par la police qui a été dévoilée ce 1er mai 2019 par HRW dans un rapport intitulé "Les algorithmes de répression chinois".

Ce système IJOP contient de nombreuses informations sur la population de 20 millions d'habitants du Xinjiang (dont 11 millions sont Ouïghours), selon Human Rights Watch : "IJOP recueille des informations à partir de plusieurs sources ou «capteurs». L'une des sources est constituée des caméras de vidéosurveillance, dont certaines sont dotées de fonctions de reconnaissance faciale ou infrarouge (leur procurant une «vision nocturne»). Certaines caméras sont placées dans des lieux considérés comme sensibles par la police : lieux de divertissement, supermarchés, écoles et domiciles de personnalités religieuses. Une autre source encore est les «détecteurs de wifi», qui collectent les adresses d'identification uniques des ordinateurs, smartphones et autres périphériques en réseau (…)"

L'app de détection de conduites suspectes

L'application mobile IJOP de la police du Xinjiang a été analysée par l'entreprise allemande Cure53 spécialisée en cybersécurité. Cette dernière a effectué une rétro-ingénierie sur l'app pour connaître ses fonctionnalités internes. Les types d'informations que recueille IJOP afin de déceler des conduites suspectes sont très variés et surtout ne correspondent pas à des activités illégales ou louches, mais au contraire à des activités courantes.

L'app IJOP traite par exemple les titres des livres consultés par les internautes du Xijiang, leur consommation d'électricité, de carburant, l'utilisation de logiciels dits "déloyaux" (des messageries chiffrées et des VPN, les réseaux privés virtuels chiffrés empêchant l'identification des utilisateurs), leurs séjours à l'étranger (et les raisons de leurs séjours), leur géolocalisation, leurs relations à l'étranger, les plaques d'immatriculation de véhicules utilisés, les opinions politiques, croyances religieuses, stockage de nourriture, utilisation de smartphone ou non, relations de voisinage, jusqu'à l'utilisation de la porte principale ou d'une porte arrière pour sortir de son domicile, etc.

Plus de 24 types d'informations répertoriés par Cure53 dans l'app IJOP sont considérés par HRW comme étant en infraction avec la Charte des droits de l'Homme et la quasi totalité "des pratiques de surveillance de masse décrites dans ce rapport semblent être contraires à la législation chinoise. Elles violent le droit international garantissant la protection de la vie privée, la présomption d'innocence et la liberté d'association et de circulation" souligne l'ONG. HRW insiste aussi sur le fait que "Leur impact sur d'autres droits, tels que la liberté d'expression et de religion, est profond."

L'utilisation de l'app mobile par les forces de l'ordre chinoise du Xinjiang est simple : dès qu'une personne change de comportement une alerte est envoyée ou lors d'un contrôle routier, un indicateur de "dangerosité" est donné à l'agent via l'application. Sur les critères permettant de déterminer les comportements suspects, IJOP est capable de détecter et alerter la police si le propriétaire d'un véhicule n'est pas le même que celui qui achète de l'essence à la pompe. Ainsi, les "36 comportements suspects basés sur des activités quotidiennes" absolument légales alertent les forces de l'ordre dès qu'ils remplissent des conditions d'anormalité établies par le logiciel. Avec à la clef des interventions à domicile de la police suivies d'arrestations.

Le "soupçon policier" dans cette région chinoise semble désormais entièrement traité par des algorithmes prédictifs mettant la vie quotidienne des habitants sous contrôle permanent, jusque dans les moindres détails. Le fonctionnement de l'app reliée à IJOP révélé par HRW fait de la Chine et du Xinjiang en particulier, le laboratoire sécuritaire des technologies numériques de contrôle social et politique, le plus avancé au monde. Le pire n'étant jamais certain, un expert indépendant en cybersécurité a estimé après lecture du rapport que "dans quelques années, si les données collectées sont stockées, elles pourraient être analysées avec une logique bien plus sophistiquée". Les habitants du Xijiang apprécieront.