Chine : "Sesame Credit", la clef du contrôle social ?

691 millions de personnes en Chine continentale utilisent des smartphones sur 1,3 milliard de connexions mobiles en Chine, fin 2015 (AP Photo/Mark Schiefelbein)

Sesame Credit est une entreprise chinoise de financement et de notation de crédit. En 2020, son système de pistage des données servira au gouvernement à créer un "indicateur de fiabilité sociale". Le cauchemar orwellien de "1984" sera-t-il chinois ?

dans
L'application pour smartphones Alipay Wallet connaît un succès croissant en Chine. Rien que de très normal, jusque là, puisque cette "app" gratuite de l'entreprise  Sesame Credit — filiale du géant de la vente en ligne Alibaba — offre de nombreux avantages à ses "utilisateurs-consommateurs en ligne".

Le système est simple, puisqu'il permet à l'internaute, au fur et à mesure de ses transactions sur Internet, d'obtenir un score allant de 350 à 950 points. Plus le score est élevé, plus l'internaute reçoit des cadeaux, des avantages, et peut obtenir facilement des emprunts.

Le citoyen-joueur et citoyen modèle

Ces systèmes dits de "score credit" (évaluation des capacités d'emprunt) existent ailleurs dans le monde, de façon importante aux Etats-Unis par exemple, et permettent aux organismes prêteurs de vérifier la confiance pouvant être accordée à un emprunteur en fonction de ses dépenses, de ses remboursements, de ses comportements financiers…

Ainsi, l'internaute est incité — dans le cadre de ces systèmes de notation — à "bien se comporter" dans ses transactions commerciales, en acceptant une surveillance vendue comme ludique, grâce au principe d'un score qui progresse ou baisse.

En Chine, l'idée de pouvoir noter la qualité des citoyens de façon générale pour en faire un instrument de contrôle social, au delà du pur système commercial mis en place par Sesame Credit est déjà envisagé.

Contrôle algorithmique de fiabilité citoyenne

Les algorithmes secrets de l'entreprise Sesame Credit traitent les données des 400 millions de clients en ligne d'AliBaba, la maison mère, ainsi que celles de partenaires comme Baihe, un réseau social de rencontres de 90 millions d'utilisateurs.

Personne ne connaît le fonctionnement de l'algorithme de Sesame Credit, mais il est établi que l'entreprise porte des jugements sur les types d'achats et les comportements en ligne des ses clients afin d'établir leur score. Le directeur technologique de Sesame Credit, Li Yingyun, confiait d'ailleurs il y a quelques mois à un magazine chinois — alors que la question des comportements lui était posée — que  "quelqu'un qui joue à des jeux vidéo pendant 10 heures par jour, par exemple, serait considéré comme un oisif, et quelqu'un qui achète souvent des couches serait probablement considéré comme un "parent", qui sur la balance [du score] est plus susceptible d'avoir un sens de la responsabilité".

Le PDG de l'entreprise chinoise Alibaba de vente en ligne, Jack Ma, le 2 février 2015. Sesame Credit est une filiale de ce géant de l'Internet chinois. (AP Photo/Kin Cheung)

Un document de planification du "Conseil d'Etat des élite chinoises" a dévoilé le grand projet du gouvernement d'une base de données de "crédit social" pour 2020. Ce système national pourrait inclure les scores de Sesame Credit, ou recréer son équivalent. Il est stipulé dans ce document que "la base de données de crédit social forgera un environnement glorieux de l'opinion publique basé sur le maintien de la confiance", et avertit que le "nouveau système récompensera ceux qui signalent des actes d'abus de confiance".

Un carnet numérique de notation sociale de chaque citoyen

Si les détails techniques du futur crédit social numérique chinois ne sont pas encore bien connus, de nombreuses pistes sur son fonctionnement existent, très inquiétantes. Cette base de données nationale fichera et notera chaque citoyen chinois, chaque organisation, et plus particulièrement certaines professions — qui seront soumises à des analyses et des notations plus poussées : enseignants, journalistes, personnel médical, comptables.

Toutes les informations administratives y seront inscrites et traitées pour fabriquer le fameux score (mouvant) du citoyen : acquittement des taxes, des tickets de transport, conditions d'acquisition de  diplômes, et potentiellement, pour les femmes, suivi ou non des formations à la régulation des naissances.

L'objectif du gouvernement chinois — qui suit avec un grand intérêt le système privé de Sesame Credit encore basé sur le volontariat — semble être de pousser la population à devenir des sortes de joueurs-patriotes, qui seraient en compétition permanente les uns avec les autres pour obtenir le meilleur score social. Le système, selon l'auteur de cette vidéo (en anglais), devrait permettre au gouvernement de noter les citoyens à travers leurs échanges sur les réseaux sociaux, leurs fréquentations sur Internet, afin de récompenser les "bons patriotes" (en augmentant leur score) et à l'inverse, baisser celui des "mauvais patriotes" :

Etre en relation avec quelqu'un ayant un mauvais score pourrait dégrader le votre, et serait ainsi censé vous pousser à faire modifier le comportement de cette connaissance, ou bien… ne plus la fréquenter en ligne.

Surveillance, délation, contrôle, auto-soumission, omnipotence de l'Etat : tous les ingrédients du roman dystopique et cauchemardesque de Georges Orwell, "1984", sont contenus dans le projet de crédit social du gouvernement chinois. Pour l'instant, les micro-trottoirs effectués par des chaînes de télévision anglaises sur le sujet, auprès de Chinois équipés de smartphones renvoient le plus souvent une vision très positive du projet : le citoyen semble trouver dans ce contrôle plutôt ludique, une façon de récompenser les honnêtes gens, face aux autres.

La Chine est un géant qui s'éveille, mais un géant plus intéressé par le contrôle social numérique que… la liberté et l'émancipation contenues dans ces technologies.

Rien ne garantit que d'autres nations ne s'inspirent de ce système, les grandes démocraties au premier chef — qui déjà — pensent à centraliser les données médicales, interconnecter des bases de données privées et votent des lois de surveillance numérique. Jusqu'où ira le contrôle offert par les mégadonnées (big data) ?

C'est peut-être là toute la question.