« Une cage invisible » : comment la Chine contrôle l'avenir

0
132

A la base, les nouvelles technologies chinoises justifient une surveillance étouffante et violent la vie privée, tandis qu'à l'extrême elles risquent d'automatiser la discrimination systémique et la répression politique. (Photo d'archives)

Les plus de 1,4 milliard de personnes vivant en Chine sont constamment surveillées. Ils sont enregistrés par des caméras de police qui sont partout, aux coins des rues et aux plafonds des métros, dans les halls d'hôtel et les immeubles d'habitation. Leurs téléphones sont suivis, leurs achats sont surveillés et leurs chats en ligne sont censurés.

Maintenant, même leur avenir est sous surveillance.

La dernière génération de technologies fouille dans les vastes quantités de données collectées sur leurs activités quotidiennes pour trouver des modèles et des aberrations, promettant de prédire les crimes ou les manifestations avant qu'ils ne se produisent. Ils ciblent les fauteurs de troubles potentiels aux yeux du gouvernement chinois, non seulement ceux qui ont un passé criminel, mais aussi les groupes vulnérables, notamment les minorités ethniques, les travailleurs migrants et les personnes ayant des antécédents de maladie mentale.

Ils peuvent avertir la police si une victime d'une fraude tente de se rendre à Pékin pour demander un paiement au gouvernement ou si un toxicomane appelle trop souvent le même numéro. Ils peuvent signaler aux agents chaque fois qu'une personne ayant des antécédents de maladie mentale s'approche d'une école.

Best of Express Premium

Premium

UPSC Key-27 juin 2022 : Connaître la pertinence du « vice-président » pour « la nation »…

Premium

Un IITien, un condamné à perpétuité et un &# 8216;dénonciateur’ flic :…

Premium

Route vers 2024 : Alors que le BJP comble les lacunes avant les prochains sondages LS, Draupadi Murmu est… .

Premium

MYn veut être la prochaine grande “super-application” de l'Inde avec une approche unique confidentialitéPlus d'histoires premium >>

Il faut de nombreuses manœuvres d'évitement pour éviter les fils de déclenchement numériques. Dans le passé, Zhang Yuqiao, un homme de 74 ans qui a adressé une pétition au gouvernement pendant la majeure partie de sa vie d'adulte, pouvait simplement rester à l'écart des principales autoroutes pour esquiver les autorités et se rendre à Pékin pour se battre pour obtenir une indemnisation pour la torture. de ses parents pendant la Révolution culturelle. Maintenant, il éteint ses téléphones, paie en espèces et achète plusieurs billets de train vers de fausses destinations.

Lire aussi |Pékin va rouvrir les écoles, Shanghai déclare la victoire sur Covid

Bien qu'en grande partie non éprouvées, les nouvelles technologies chinoises, détaillées dans les documents d'approvisionnement et autres examinés par le New York Times, repoussent encore les limites des contrôles sociaux et politiques et les intègrent de plus en plus profondément dans la vie des gens. À la base, ils justifient une surveillance étouffante et violent la vie privée, tandis qu'à l'extrême, ils risquent d'automatiser la discrimination systémique et la répression politique.

Pour le gouvernement, la stabilité sociale est primordiale et toute menace à son encontre doit être éliminée. Au cours de sa décennie en tant que dirigeant suprême de la Chine, Xi Jinping a durci et centralisé l'État de sécurité, déclenchant des politiques techno-autoritaires pour apaiser les troubles ethniques dans la région occidentale du Xinjiang et imposer certaines des interdictions de coronavirus les plus sévères au monde. L'espace pour la dissidence, toujours limité, est en train de disparaître rapidement.

“Le Big Data devrait être utilisé comme un moteur pour alimenter le développement innovant du travail de sécurité publique et un nouveau point de croissance pour renforcer les capacités de combat”, a déclaré Xi. en 2019 lors d'une réunion de travail nationale sur la sécurité publique.

Les algorithmes, qui feraient polémique dans d'autres pays, sont souvent présentés comme des triomphes.

Des travailleurs en tenue de protection dirigent les résidents faisant la queue pour des tests d'acide nucléique dans une zone résidentielle, au milieu de nouvelles mesures de verrouillage dans certaines parties de la ville pour freiner la maladie à coronavirus (COVID-19) épidémie à Shanghai, en Chine, le 12 juin 2022. (Reuters)

En 2020, les autorités du sud de la Chine ont rejeté la demande d'une femme de déménager à Hong Kong pour être avec son mari après qu'un logiciel les ait alertées que le mariage était suspect, a rapporté la police locale. Une enquête qui a suivi a révélé que les deux n'étaient pas souvent au même endroit au même moment et n'avaient pas passé les vacances de la Fête du Printemps ensemble. La police a conclu que le mariage avait été truqué pour obtenir un permis de migration.

La même année, dans le nord de la Chine, une alerte automatisée concernant l'entrée fréquente d'un homme dans un complexe résidentiel avec différents compagnons a incité la police à enquêter. Ils ont découvert qu'il faisait partie d'un système pyramidal, selon les médias d'État.

Les détails de ces technologies de sécurité émergentes sont décrits dans des documents de recherche de la police, des brevets et des présentations d'entrepreneurs de surveillance, ainsi que des centaines de documents de marchés publics examinés et confirmés par le Times. De nombreux documents d'approvisionnement ont été partagés par ChinaFile, un magazine en ligne publié par l'Asia Society, qui a systématiquement rassemblé des années de documents sur les sites Web du gouvernement. Un autre ensemble, décrivant un logiciel acheté par les autorités de la ville portuaire de Tianjin pour empêcher les pétitionnaires de se rendre à Pékin voisin, a été fourni par IPVM, une publication de l'industrie de la surveillance.

Le ministère chinois de la Sécurité publique n'a pas répondu aux demandes pour commentaire faxé à son siège à Pékin et à six départements locaux à travers le pays.

Lire aussi |Modi écoute, Xi : la mentalité de la guerre froide, la confrontation des blocs doit être abandonnée

La nouvelle approche de la surveillance est en partie basée sur des logiciels de police basés sur les données des États-Unis et d'Europe, une technologie qui, selon les groupes de défense des droits, a encodé le racisme dans des décisions telles que les quartiers les plus surveillés et les prisonniers qui obtiennent une libération conditionnelle. La Chine va à l'extrême, puisant dans des réservoirs de données à l'échelle nationale qui permettent à la police d'opérer dans l'opacité et l'impunité.

Souvent, les gens ne savent pas qu'ils sont surveillés. La police fait peu l'objet d'un examen extérieur de l'efficacité de la technologie ou des actions qu'elle suscite. Les autorités chinoises n'exigent aucun mandat pour collecter des informations personnelles.

À la pointe de la technologie, les systèmes soulèvent des énigmes de science-fiction pérennes : comment est-il possible de savoir que l'avenir a été prédit avec précision si la police intervient avant qu'il ne se produise ?

Même lorsque le logiciel ne parvient pas à déduire le comportement humain, il peut être considéré comme un succès puisque la surveillance elle-même inhibe les troubles et la criminalité, selon les experts.

“Il s'agit d'une cage invisible de technologie imposée à la société”, a déclaré Maya Wang, chercheuse principale sur la Chine à Human Rights Watch, “le poids disproportionné qui en est ressenti par des groupes de personnes qui sont déjà gravement discriminés dans la société chinoise.”< /p>

« Nulle part où se cacher »

En 2017, l'un des entrepreneurs les plus connus de Chine avait une vision audacieuse pour l'avenir : un système informatique capable de prédire les crimes .

Lire aussi |La demande d'électricité en Chine établit de nouveaux records alors que les vagues de chaleur embrasent les villes du nord

L'entrepreneur, Yin Qi, qui a fondé Megvii, une startup d'intelligence artificielle, a déclaré aux médias d'État chinois que le système de surveillance pourrait donner à la police un moteur de recherche pour le crime, analysant d'énormes quantités de séquences vidéo pour comprendre les schémas et avertir les autorités des comportements suspects. Il a expliqué que si les caméras détectaient une personne passant trop de temps dans une gare, le système pourrait signaler un éventuel pickpocket.

“Ce serait effrayant s'il y avait des gens qui regardaient derrière la caméra, mais derrière c'est un système”, a déclaré Yin. “C'est comme le moteur de recherche que nous utilisons tous les jours pour surfer sur Internet – c'est très neutre. C'est censé être une chose bienveillante.”

Il a ajouté qu'avec une telle surveillance, “les méchants n'ont nulle part où se cacher.”

Cinq ans plus tard, sa vision devient lentement réalité . Les présentations internes de Megvii examinées par le Times montrent comment les produits de la startup assemblent des dossiers numériques complets pour la police.

“Construisez une base de données multidimensionnelle qui stocke les visages, les photos, les voitures, les cas et les enregistrements d'incidents”, lit-on dans la description d'un produit, appelé “recherche intelligente”. Le logiciel analyse les données pour “déterrer les gens ordinaires qui semblent innocents” afin “d'étouffer les actes illégaux dans le berceau”.

Un porte-parole de Megvii a déclaré dans un communiqué envoyé par e-mail que l'entreprise s'était engagée à développer de manière responsable l'intelligence artificielle, et qu'il était soucieux de rendre la vie plus sûre et plus pratique et “pas de surveiller un groupe ou un individu en particulier”.Des technologies similaires sont déjà mises en service. En 2022, la police de Tianjin a acheté un logiciel fabriqué par un concurrent de Megvii, Hikvision, qui vise à prédire les manifestations. Le système collecte des données sur des légions de pétitionnaires chinois, un terme général en Chine qui décrit les personnes qui tentent de déposer des plaintes contre des fonctionnaires locaux auprès des autorités supérieures.

Il évalue ensuite les pétitionnaires en fonction de la probabilité qu'ils se rendent à Pékin. À l'avenir, les données seront utilisées pour former des modèles d'apprentissage automatique, selon un document d'approvisionnement.

Les responsables locaux veulent empêcher de tels voyages pour éviter l'embarras politique ou l'exposition à des actes répréhensibles. Et le gouvernement central ne veut pas que des groupes de citoyens mécontents se rassemblent dans la capitale.

Un représentant de Hikvision a refusé de commenter le système.

Sous Xi, les efforts officiels pour contrôler les pétitionnaires sont devenus de plus en plus envahissants. Zekun Wang, un membre de 32 ans d'un groupe qui, pendant des années, a demandé réparation pour une fraude immobilière, a déclaré qu'en 2017, les autorités avaient intercepté d'autres pétitionnaires à Shanghai avant même qu'ils ne puissent acheter des billets pour Pékin. Il soupçonnait les autorités de surveiller leurs communications sur l'application de médias sociaux WeChat.

Le système Hikvision à Tianjin, qui est géré en coopération avec la police de la province voisine de Pékin et du Hebei, est plus sophistiqué.

La plateforme analyse la probabilité des individus de présenter une pétition en fonction de leurs relations sociales et familiales, de leurs voyages antérieurs et de leur situation personnelle, selon le document d'approvisionnement. Il aide la police à créer un profil de chacun, avec des champs permettant aux agents de décrire le tempérament du manifestant, y compris “paranoïaque”, “méticuleux” et “colérique”.

De nombreuses personnes qui présentent une pétition le font au sujet de la mauvaise gestion par le gouvernement d'un accident tragique ou d'une négligence dans l'affaire – tout cela entre dans l'algorithme. “Augmentez le niveau de risque d'alerte précoce d'une personne si elle a un statut social inférieur ou si elle a traversé une tragédie majeure”, lit-on dans le document d'approvisionnement.

Automatisation des préjugés

Lorsque la police de Zhouning, un comté rural de la province du Fujian, a acheté un nouvel ensemble de 439 caméras en 2018, elle a indiqué les coordonnées où chacune irait. Certains étaient suspendus au-dessus des intersections et d'autres près des écoles, selon un document d'approvisionnement.

Neuf ont été installés à l'extérieur des maisons de personnes ayant quelque chose en commun : la maladie mentale.

Alors que certains logiciels essaient d'utiliser des données pour découvrir de nouvelles menaces, un type plus courant est basé sur les notions préconçues de la police. Dans plus de 100 documents d'approvisionnement examinés par le Times, la surveillance ciblait des listes noires de “personnes clés”.

Selon certains des documents d'approvisionnement, ces personnes comprenaient des personnes atteintes de maladie mentale, des criminels condamnés, des fugitifs, des toxicomanes, des pétitionnaires, des terroristes présumés, des agitateurs politiques et des menaces à la stabilité sociale. D'autres systèmes ciblaient les travailleurs migrants, les jeunes désœuvrés (adolescents sans école ni emploi), les minorités ethniques, les étrangers et les personnes infectées par le VIH.

Les autorités décident qui figure sur les listes, et il n'y a souvent aucun processus pour notifier les gens quand ils le font. Une fois que les individus sont dans une base de données, ils sont rarement supprimés, ont déclaré des experts, qui craignaient que les nouvelles technologies ne renforcent les disparités au sein de la Chine, imposant une surveillance aux couches les moins fortunées de sa population.

Dans de nombreux cas, le logiciel va plus loin que le simple ciblage d'une population, permettant aux autorités de mettre en place des fils de déclenchement numériques qui indiquent une menace possible. Dans une présentation Megvii détaillant un produit concurrent de Yitu, l'interface du système a permis à la police de concevoir ses propres alertes précoces.

Avec un simple menu à remplir, la police peut baser les alarmes sur des paramètres spécifiques, y compris l'endroit où une personne sur liste noire apparaît, quand la personne se déplace, si elle rencontre d'autres personnes sur liste noire et la fréquence de certaines activités. La police pourrait configurer le système pour qu'il envoie un avertissement chaque fois que deux personnes ayant des antécédents de consommation de drogue entrent dans le même hôtel ou lorsque quatre personnes ayant des antécédents de protestation entrent dans le même parc.

Yitu n'a pas répondu à demandes de commentaires envoyées par e-mail.

En 2020, dans la ville de Nanning, la police a acheté un logiciel qui pouvait rechercher “plus de trois personnes clés s'enregistrant dans le même hôtel ou à proximité” et “un toxicomane appelant fréquemment un nouveau numéro hors de la ville”, selon un appel d'offres document. À Yangshuo, une ville touristique célèbre pour ses montagnes karstiques d'un autre monde, les autorités ont acheté un système pour les alerter si un étranger sans permis de travail passait trop de temps à traîner dans des écoles ou des bars de langue étrangère, un effort apparent pour attraper les gens qui dépassent la durée de leur visa ou travaillant illégalement.

À Shanghai, une publication gérée par le parti a décrit comment les autorités utilisaient un logiciel pour identifier ceux qui dépassaient la consommation normale d'eau et d'électricité. Le système enverrait un “sifflet numérique” à la police lorsqu'il trouverait des habitudes de consommation suspectes.

La tactique était probablement conçue pour détecter les travailleurs migrants, qui vivent souvent ensemble dans des quartiers proches pour économiser de l'argent. Dans certains endroits, la police les considère comme un groupe insaisissable et souvent appauvri qui peut amener le crime dans les communautés.

Les alertes automatisées n'entraînent pas le même niveau de réponse de la police. Souvent, la police donne la priorité aux avertissements qui signalent des problèmes politiques, comme des manifestations ou d'autres menaces à la stabilité sociale, a déclaré Suzanne E. Scoggins, professeur à l'Université Clark qui étudie le maintien de l'ordre en Chine.

À certains moments, la police a déclaré catégoriquement la nécessité de profiler les gens. “Grâce à l'application des mégadonnées, nous peignons une image des gens et leur donnons des étiquettes avec différents attributs”, a déclaré Li Wei, chercheur à l'université nationale de la police chinoise, dans un discours de 2016. “Pour ceux qui reçoivent un ou plusieurs types d'étiquettes, nous déduisons leur identité et leur comportement, puis appliquons des mesures de sécurité préventives ciblées.”

Vers le techno totalitarisme

Zhang a d'abord commencé à demander au gouvernement une indemnisation pour la torture de sa famille pendant la Révolution culturelle. Depuis, il a adressé une pétition au sujet de ce qu'il dit être le ciblage de sa famille par la police.

Alors que la Chine a développé ses outils techno-autoritaires, il a dû utiliser des tactiques de films d'espionnage pour contourner la surveillance qui, a-t-il dit, a devenir “high tech et nazifié”.

Lorsqu'il s'est rendu à Pékin en janvier depuis son village de la province du Shandong, il a éteint son téléphone et payé le transport en espèces afin de minimiser son empreinte numérique. Il a acheté des billets de train pour la mauvaise destination afin de déjouer le suivi de la police. Il a embauché des chauffeurs privés pour contourner les points de contrôle où sa carte d'identité déclencherait une alarme.

Le système de Tianjin a une particularité pour les gens comme lui qui ont “une certaine conscience de l'anti-reconnaissance” et régulièrement changer de véhicule pour échapper à la détection, selon le document d'approvisionnement de la police.

Qu'il ait déclenché ou non le système, Zhang a remarqué un changement. Chaque fois qu'il éteint son téléphone, dit-il, des agents se présentent chez lui pour vérifier qu'il n'est pas parti pour un nouveau voyage à Pékin.

Même si les systèmes de police ne peuvent pas prédire avec précision le comportement, les autorités peuvent envisager ils ont réussi à cause de la menace, a déclaré Noam Yuchtman, professeur d'économie à la London School of Economics qui a étudié l'impact de la surveillance en Chine.

“Dans un contexte où il n'y a pas de véritable responsabilité politique”, le fait d'avoir un système de surveillance qui envoie fréquemment des policiers “peut assez bien fonctionner” pour décourager les troubles, a-t-il déclaré.

Une fois les mesures définies et les des avertissements sont déclenchés, les policiers ont peu de flexibilité, centralisant le contrôle. Ils sont évalués pour leur réactivité aux alarmes automatisées et leur efficacité à prévenir les manifestations, selon les experts et les rapports de la police publique.

La technologie a encodé les déséquilibres de pouvoir. Certains documents d'appel d'offres font référence à une “liste rouge” de personnes que le système de surveillance doit ignorer.

Un document d'approvisionnement national indiquait que la fonction était destinée aux “personnes qui ont besoin d'une protection de la vie privée ou d'une protection VIP”. Un autre, de la province du Guangdong, est devenu plus précis, stipulant que la liste rouge était destinée aux représentants du gouvernement.

Zhang a exprimé sa frustration face à la façon dont la technologie avait coupé les personnes au pouvoir politique des gens ordinaires.

< p>“Les autorités ne résolvent pas sérieusement les problèmes mais font tout ce qu'il faut pour faire taire les personnes qui soulèvent les problèmes”, a-t-il déclaré. “C'est un grand pas en arrière pour la société.”

Zhang a déclaré qu'il croyait toujours au pouvoir de la technologie pour faire le bien, mais que dans de mauvaises mains, cela pourrait être un “fléau et une entrave”.

“Dans le passé, si vous quittiez votre maison et alliez à la campagne, tous les chemins menaient à Pékin”, a-t-il déclaré. “Maintenant, tout le pays est un filet.”

Abonnement Express Ne vous heurtez pas au mur, abonnez-vous pour la meilleure couverture hors de l'Inde à partir de seulement 5 $ par mois Abonnez-vous maintenant