China’s Social Credit System: A Chimera with Real Claws

Depuis que le Conseil des Affaires de l’Etat  a publié un « Plan de programmation pour la construction d'un système de crédit social (2014-2020) », toutes les administrations et localités chinoises ont cherché à développer des systèmes de crédit social appropriés à leur juridiction, et certaines entreprises ont lancé des notes de crédit social privées, qui ressemblent plutôt à des programmes de fidélisation.

 De ce mélange d’expérimentations, deux instruments publics distincts ont émergé : des notes de crédit personnel gérées par les localités d’une part, et, d’autre part, des listes noires d’individus et d’entreprises gérées par les administrations en charge (Cour populaire suprême, ministères et agences des impôts, de l’agriculture, etc.). Des accords entre administrations et entreprises partenaires permettent la mise en place de récompenses et de punitions rattachées aux listes noires, tandis que les notes personnelles n’impliquent que des avantages. 

L’objectif de ce système est de renforcer le respect des lois, dans un contexte où le système judiciaire peine à gérer les délits, et où l’impunité est très courante. Les notations et les listes noires sont faites pour créer des leviers additionnels afin d’encourager et de contraindre les citoyens à se conformer aux lois et aux réglementations. 

Cette étude décrit les différents éléments du Système de crédit social, souvent mal compris, et utilise la métaphore de la chimère pour évoquer certains de ses aspects problématiques. La chimère, dans la mythologie grecque, est une créature fantastique monstrueuse composée de membres provenant de divers animaux. Elle peut aujourd’hui désigner un assemblage d’objets disparates, de nature différente, formant un ensemble sans unité.

Comparer le Système de crédit social à une chimère permet de montrer son caractère fragmenté, décentralisé et bureaucratique. Pour le moment, le système est un assemblage d’indicateurs hétérogènes et de mécanismes d’application contraignants, qui diffèrent en fonction de la localisation géographique des individus ainsi que de leurs activités personnelles ou professionnelles. La collecte de données et leur gestion sont principalement menées à l’échelle locale ou au sein d’administrations spécifiques. Contrairement à l’idée largement répandue, le système utilise des données déjà collectées par des administrations lors de leurs activités ordinaires, et non des données directement prélevées depuis les dispositifs de surveillance. Le système fait donc un usage limité de la technologie, étant donné que de simples listes n’ont pas besoin de Big Data ou de traitements liés à l’intelligence artificielle. Par ailleurs, seules les listes noires (non les données brutes) sont envoyées sur des plateformes nationales pour leur intégration et leur publication. Cette consolidation nationale est souvent effectuée sur une base mensuelle, et, dans tous les cas, jamais en temps réel. 

La métaphore de la chimère souligne également la dimension fantasque d’une note de crédit social qui agrègerait la totalité des interactions d’une personne avec les diverses lois et régulations en un seul indicateur. C’est le cas des systèmes de points personnels des municipalités, mais également et surtout des initiatives d’entreprises privées qui proposent des cotes de solvabilité comme service commercial, basé sur une gamme vaste et hétérogène de données. Ce sont ces systèmes de points qui ont le plus agité l’imagination des commentateurs étrangers. Les notes de crédit commerciales utilisent du Big Data et de l’intelligence artificielle, qui confient à des algorithmes le soin d’attribuer une note globale à des individus selon des critères opaques et souvent biaisés. De plus les gouvernements locaux confient à des entreprises privées le soin de développer des outils plus sophistiqués pour la visualisation de listes noires publiques, telles que des applications mobiles géolocalisées. Or, le recours à une technologie plus avancée ne permet pas une représentation plus fidèle de la réalité, au contraire : en agglomérant des indicateurs dépouillés de leur contexte, on construit des profils chimériques. En revanche, les implications pour les personnes concernées en termes de réputation, de discrimination et d’atteinte à la vie privée sont réelles.

D'autre part, avec les listes noires, de plus en plus d’individus et de représentants d’entreprises se retrouvent confrontés à des sanctions qui restreignent leur mobilité, leur capacité à accéder à des prêts ou à certains types d’emplois par exemple. Ce mécanisme coercitif remet délibérément en cause les notions de protection des données personnelles et de proportionnalité des sanctions, et comporte le risque d’imposer des normes extralégales à l’échelle locale. En revanche, le Système de crédit social ne fait qu’amplifier des lacunes déjà existantes de l’Etat de droit chinois, comme les collectes excessives de données ou l’existence de normes vagues qui peuvent être instrumentalisées à des fins commerciales ou politiques. Si les systèmes de points (pour des permis de conduire par exemple) et de listes noires (casiers judiciaires) sont des outils de gouvernance plus en plus communs à travers le monde, c’est bien le contexte politique et réglementaire chinois qui rend le Système de crédit social si particulier.

Le Système de crédit social a de véritables répercussions sur la vie des individus comme pour celles des entreprises implantées en Chine. On doit, de fait, se méfier des idées fausses tout en prêtant attention aux impacts concrets de ces notes et ces listes noires, en regardant les mesures et contre-mesures spécifiques et localisées, qui impliquent une variété d’acteurs, et qui dépendent des rouages d’une machine administrative complexe. 

Ce document est disponible en anglais uniquement.