I sin mest grundläggande rättfärdiggör de nya kinesiska teknologierna kvävande övervakning och kränker integriteten, medan de i yttersta fall riskerar att automatisera systemdiskriminering och politiskt förtryck. (Filfoto)
De mer än 1,4 miljarder människor som bor i Kina övervakas ständigt. De spelas in av poliskameror som finns överallt, i gathörn och tunnelbanetak, i hotellobbyer och flerbostadshus. Deras telefoner spåras, deras köp övervakas och deras onlinechattar censureras.
Nu är till och med deras framtid under övervakning.
Den senaste generationens teknik gräver igenom de enorma mängderna data som samlas in om deras dagliga aktiviteter för att hitta mönster och avvikelser, och lovar att förutsäga brott eller protester innan de inträffar. De riktar sig till potentiella bråkmakare i den kinesiska regeringens ögon — inte bara de med ett kriminellt förflutet utan också utsatta grupper, inklusive etniska minoriteter, migrantarbetare och de med en historia av psykisk ohälsa.
De kan varna polisen om ett offer för ett bedrägeri försöker resa till Peking för att begära betalning till regeringen eller om en droganvändare ringer för många till samma nummer. De kan signalera poliser varje gång en person med en historia av psykisk sjukdom kommer nära en skola.
Best of Express Premium
PremiumRationalisering, reformer kan testa relationer mellan centrum och stat vid GST-mötet
PremiumKryptering och oklar policyuppmaning utbytesgrundare för att lämna Indien
PremiumFörklarat: Vad är 2/3-regeln i lagar mot avhopp? UPSC Key-27 juni 2022: Känna till relevansen av 'vice talman' för 'Nation…Fler premiumhistorier >> Det krävs omfattande undanmanövrar för att undvika de digitala snubbeltrådarna. Tidigare kunde Zhang Yuqiao, en 74-årig man som har vädjat till regeringen under större delen av sitt vuxna liv, helt enkelt hålla sig utanför huvudvägarna för att undvika myndigheter och ta sig till Peking för att kämpa för kompensation för tortyren av hans föräldrar under kulturrevolutionen. Nu stänger han av sina telefoner, betalar kontant och köper flera tågbiljetter till falska destinationer. Läs också |Peking öppnar skolor igen, Shanghai utropar seger över Covid Även om den i stort sett är oprövad, utökar den nya kinesiska tekniken, detaljerad i inköp och andra dokument som granskats av The New York Times, gränserna för sociala och politiska kontroller ytterligare och integrerar dem allt djupare i människors liv. När de är mest grundläggande rättfärdigar de kvävande övervakning och kränker integriteten, medan de i yttersta fall riskerar att automatisera systemdiskriminering och politiskt förtryck. För regeringen är social stabilitet av största vikt och alla hot mot den måste elimineras. Under sitt decennium som Kinas högsta ledare har Xi Jinping härdat och centraliserat säkerhetsstaten, släppt lös tekno-auktoritär politik för att dämpa etniska oroligheter i den västra regionen Xinjiang och genomdriva några av världens allvarligaste låsningar av coronaviruset. Utrymmet för oliktänkande, som alltid är begränsat, försvinner snabbt. “Big data bör användas som en motor för att driva den innovativa utvecklingen av allmänt säkerhetsarbete och en ny tillväxtpunkt för att vårda stridskapacitet”, sa Xi 2019 vid ett nationellt arbetsmöte för allmän säkerhet. Algoritmerna, som skulle visa sig vara kontroversiella i andra länder, utbasuneras ofta som triumfer. År 2020 nekade myndigheterna i södra Kina en kvinnas begäran om att flytta till Hongkong för att vara med sin man efter att programvara varnat dem om att äktenskapet var misstänkt, rapporterade lokal polis. En efterföljande undersökning avslöjade att de två inte ofta var på samma plats samtidigt och inte hade tillbringat vårfesthelgen tillsammans. Polisen drog slutsatsen att äktenskapet hade förfalskats för att få ett migrationstillstånd. Samma år i norra Kina fick en automatisk larm om en mans frekventa inträde i ett bostadsområde med olika följeslagare polisen att utreda. De upptäckte att han var en del av ett pyramidspel, enligt statliga medier. Detaljerna för dessa framväxande säkerhetsteknologier beskrivs i polisforskningsdokument, patent och presentationer av övervakningsentreprenörer, samt hundratals offentliga upphandlingsdokument som granskats och bekräftats av Times. Många av upphandlingsdokumenten delades av ChinaFile, en onlinetidning utgiven av Asia Society, som systematiskt har samlat åratal av register på statliga webbplatser. En annan uppsättning, som beskriver programvara som köpts av myndigheterna i hamnstaden Tianjin för att hindra framställare från att åka till grannlandet Peking, tillhandahölls av IPVM, en övervakningsindustripublikation. Kinas ministerium för allmän säkerhet svarade inte på förfrågningar. för kommentar faxas till dess huvudkontor i Peking och sex lokala avdelningar över hela landet. Läs också |Modi lyssnar, Xi: Kalla krigets mentalitet, blockkonfrontation måste överges Det nya tillvägagångssättet för övervakning är delvis baserat på datadriven polisprogramvara från USA och Europa, teknik som rättighetsgrupper säger har kodat in rasism i beslut som vilka stadsdelar som är mest polisiära och vilka fångar som får villkorlig frigivning. Kina tar det till det yttersta och utnyttjar rikstäckande reservoarer av data som gör det möjligt för polisen att operera med opacitet och straffrihet. Ofta vet folk inte att de blir bevakade. Polisen står inte inför någon extern granskning av effektiviteten av tekniken eller de åtgärder de föranleder. Kinesiska myndigheter kräver inga garantier för att samla in personlig information. I den mest blödande kanten väcker systemen ständiga science fiction-problem: Hur är det möjligt att veta att framtiden har förutspåtts korrekt om polisen ingriper innan det händer? Även när programvaran inte lyckas härleda mänskligt beteende kan den anses vara framgångsrik eftersom övervakningen i sig hämmar oro och brott, säger experter. “Detta är en osynlig bur av teknologi som påtvingats samhället,” sa Maya Wang, senior Kinaforskare på Human Rights Watch, “den oproportionerliga bördan av att det upplevs av grupper av människor som redan är allvarligt diskriminerade i det kinesiska samhället.”< /p> 'Ingenstans att gömma sig' Under 2017 hade en av Kinas mest kända entreprenörer en djärv vision för framtiden: ett datorsystem som kunde förutsäga brott . Läs också |Kinas energibehov sätter nya rekord när värmeböljor bakar städer i norr Entreprenören, Yin Qi, som grundade Megvii, en artificiell intelligensstartup, berättade för kinesiska statliga medier att övervakningssystemet kan ge polisen en sökmotor för brott, analysera enorma mängder videofilmer för att intuita mönster och varna myndigheterna för misstänkt beteende. Han förklarade att om kameror upptäcker en person som tillbringar för mycket tid på en tågstation, kan systemet flagga en möjlig ficktjuv. “Det skulle vara läskigt om det faktiskt fanns människor som tittade bakom kameran, men bakom det finns ett system,” sa Yin. “Det är som sökmotorn vi använder varje dag för att surfa på internet – den är väldigt neutral. Det är tänkt att vara en välvillig sak.” Han tillade att med sådan övervakning, “har de onda killarna ingenstans att gömma sig.” Fem år senare börjar hans vision sakta bli verklighet . Interna Megvii-presentationer som granskats av Times visar hur startupens produkter sammanställer fullständiga digitala underlag för polisen. “Bygg en multidimensionell databas som lagrar ansikten, foton, bilar, ärenden och incidentregister”, lyder en beskrivning av en produkt, kallad “intelligent sökning.” Programvaran analyserar data för att “gräva fram vanliga människor som verkar oskyldiga” för att “kväva olagliga handlingar i vaggan.” En Megvii-talesman sa i ett uttalande via e-post att företaget var engagerat i en ansvarsfull utveckling av artificiell intelligens, och att den var oroad över att göra livet säkrare och bekvämare och “inte om att övervaka någon speciell grupp eller individ.” Läs också |Kinesisk Omicron-studie förnyar debatten om “noll-Covid”-policy Liknande tekniker tas redan i bruk. År 2022 köpte polisen i Tianjin mjukvara tillverkad av en Megvii-konkurrent, Hikvision, som syftar till att förutse protester. Systemet samlar in data om legioner av kinesiska framställare, en allmän term i Kina som beskriver människor som försöker lämna in klagomål på lokala tjänstemän till högre myndigheter. Det poängsätter sedan framställare på sannolikheten att de kommer att resa till Peking. I framtiden kommer uppgifterna att användas för att träna maskininlärningsmodeller, enligt ett upphandlingsdokument. Lokala tjänstemän vill förhindra sådana resor för att undvika politisk förlägenhet eller avslöja missförhållanden. Och centralregeringen vill inte att grupper av missnöjda medborgare samlas i huvudstaden. En representant för Hikvision avböjde att kommentera systemet. Under Xi har officiella ansträngningar att kontrollera framställare blivit allt mer invasiva. Zekun Wang, en 32-årig medlem av en grupp som i åratal sökt upprättelse för ett fastighetsbedrägeri, sa att myndigheterna 2017 hade avlyssnat andra framställare i Shanghai innan de ens kunde köpa biljetter till Peking. Han misstänkte att myndigheterna tittade på deras kommunikation på sociala medier-appen WeChat. Hikvision-systemet i Tianjin, som drivs i samarbete med polisen i närliggande Peking- och Hebei-provinserna, är mer sofistikerat. Plattformen analyserar individers sannolikhet att göra framställningar baserat på deras sociala och familjeförhållanden, tidigare resor och personliga situationer, enligt upphandlingsdokumentet. Det hjälper polisen att skapa en profil för var och en, med fält där poliser kan beskriva demonstrantens temperament, inklusive “paranoid”, “noggrann” och “kortvarig.” Många människor som gör framställningar gör det på grund av att regeringen missköter en tragisk olycka eller försummelse i ärendet – som allt går in i algoritmen. “Öka en persons risknivå för tidig varning om de har låg social status eller gick igenom en stor tragedi”, står det i upphandlingsdokumentet. Automatisera fördomar När polisen i Zhouning, ett landsbygdskommun i Fujian-provinsen, köpte en ny uppsättning med 439 kameror 2018, listade de koordinater vart var och en skulle gå. Vissa hängde ovanför korsningar och andra i närheten av skolor, enligt ett upphandlingsdokument. Nio installerades utanför hemmen för personer med något gemensamt: psykisk ohälsa. Medan vissa program försöker använda data för att avslöja nya hot, är en vanligare typ baserad på polisens förutfattade meningar. I över 100 upphandlingsdokument som granskats av Times riktade övervakningen sig mot svarta listor över “nyckelpersoner”. Dessa personer, enligt några av upphandlingsdokumenten, inkluderade personer med psykisk ohälsa, dömda brottslingar, flyktingar, droganvändare, framställare, misstänkta terrorister, politiska agitatorer och hot mot social stabilitet. Andra system riktade in sig på migrantarbetare, sysslolösa ungdomar (tonåringar utan skola eller jobb), etniska minoriteter, utlänningar och de som är smittade med hiv. Myndigheterna bestämmer vem som går upp på listorna, och det finns ofta ingen process för att anmäla människor när de gör det. När individer väl finns i en databas tas de sällan bort, sade experter, som oroade sig över att den nya tekniken förstärker skillnaderna inom Kina och tvingar på övervakning av de minst lyckligt lottade delarna av dess befolkning. I många fall går programvaran längre än att bara rikta in sig på en befolkning, vilket tillåter myndigheter att sätta upp digitala snubbeltrådar som indikerar ett möjligt hot. I en Megvii-presentation som beskriver en konkurrerande produkt av Yitu, gjorde systemets gränssnitt det möjligt för polisen att utarbeta sina egna tidiga varningar. Med en enkel meny för att fylla i tomrummet kan polisen basera larm på specifika parametrar, inklusive var en svartlistad person dyker upp, när personen rör sig, om han eller hon träffar andra svartlistade personer och frekvensen av vissa aktiviteter. Polisen skulle kunna ställa in systemet så att det skickar en varning varje gång två personer med en historia av droganvändning checkar in på samma hotell eller när fyra personer med en historia av protester går in i samma park. Yitu svarade inte på mailade förfrågningar om kommentarer. År 2020 i staden Nanning köpte polisen programvara som kunde leta efter “mer än tre nyckelpersoner som checkar in på samma eller närliggande hotell” och “en droganvändare som ofta ringer ett nytt nummer utanför staden”, enligt en budgivning dokumentera. I Yangshuo, en turiststad som är känd för sina utomjordiska karstberg, köpte myndigheterna ett system för att varna dem om en utlänning utan arbetstillstånd spenderade för mycket tid på skolor eller barer på främmande språk, ett uppenbart försök att fånga människor som stannade över sina visum eller arbetar illegalt. I Shanghai beskrev en partidriven publikation hur myndigheter använde programvara för att identifiera dem som överskred normal vatten- och elanvändning. Systemet skulle skicka en “digital visselpipa” till polisen när det hittade misstänkta konsumtionsmönster. Taktiken var sannolikt utformad för att upptäcka migrantarbetare, som ofta bor tillsammans på nära håll för att spara pengar. På vissa ställen betraktar polisen dem som en svårfångad, och ofta fattig, grupp som kan föra in brottslighet i samhällen. De automatiska varningarna resulterar inte i samma nivå av polisinsatser. Polisen prioriterar ofta varningar som pekar på politiska problem, som protester eller andra hot mot social stabilitet, säger Suzanne E. Scoggins, professor vid Clark University som studerar Kinas polisarbete. Ibland har polisen uttryckligen uttalat behovet av att profilera människor. “Genom tillämpningen av big data målar vi upp en bild av människor och ger dem etiketter med olika attribut,” sa Li Wei, en forskare vid Kinas nationella polisuniversitet, i ett tal 2016. “För de som får en eller flera typer av etiketter drar vi slutsatser om deras identiteter och beteende och genomför sedan riktade förebyggande säkerhetsåtgärder.” Mot Techno Totalitarianism Zhang började först begära ersättning till regeringen för tortyren av hans familj under kulturrevolutionen. Han har sedan dess ansökt om vad han säger är polisens inriktning på hans familj. När Kina har byggt ut sina tekno-auktoritära verktyg, har han varit tvungen att använda spionfilmstaktik för att kringgå övervakning som, sa han, har bli “högteknologisk och nazifierad.” När han reste till Peking i januari från sin by i Shandong-provinsen stängde han av sin telefon och betalade för transporten kontant för att minimera sitt digitala fotavtryck. Han köpte tågbiljetter till fel destination för att förhindra polisens spårning. Han anlitade privata förare för att ta sig runt kontrollpunkter där hans ID-kort skulle utlösa ett larm. Systemet i Tianjin har en speciell funktion för personer som han som har “en viss medvetenhet om anti-spaning” och regelbundet byta fordon för att undvika upptäckt, enligt polisens upphandlingsdokument. Oavsett om han utlöste systemet eller inte, har Zhang märkt en förändring. Varje gång han stänger av sin telefon, sa han, dyker poliser upp i hans hus för att kontrollera att han inte har åkt iväg på en ny resa till Peking. Även om polissystemen inte kan förutsäga beteende exakt, kan myndigheterna överväga de lyckades på grund av hotet, sa Noam Yuchtman, en ekonomiprofessor vid London School of Economics som har studerat effekten av övervakning i Kina. “I ett sammanhang där det inte finns ett verkligt politiskt ansvar,” sa han. När mätvärdena väl är fastställda och varningar utlöses, poliser har liten flexibilitet, centraliserar kontrollen. De utvärderas för sin lyhördhet för automatiserade larm och effektivitet när det gäller att förhindra protester, enligt experter och offentliga polisrapporter. Tekniken har kodat maktobalanser. Vissa anbudshandlingar hänvisar till en “röd lista” över personer som övervakningssystemet måste ignorera. Ett nationellt upphandlingsdokument sa att funktionen var för “personer som behöver integritetsskydd eller VIP-skydd.” En annan, från provinsen Guangdong, blev mer specifik och fastställde att den röda listan var för regeringstjänstemän. Zhang uttryckte frustration över hur tekniken hade avskurit de som hade politisk makt från vanliga människor. < p>“Myndigheterna löser inte problem på allvar utan gör vad som helst för att tysta de människor som tar upp problemen”, sa han. “Detta är ett stort steg bakåt för samhället.” Zhang sa att han fortfarande trodde på teknikens kraft för att göra gott, men att det i fel händer kan vara ett “gissel och en boja.” “Om du tidigare lämnade ditt hem och tog dig ut på landsbygden, ledde alla vägar till Peking,” sa han. “Nu är hela landet ett nät.” Expressprenumeration Träffa inte väggen, prenumerera för den bästa täckningen av Indien från bara 5 USD per månad Prenumerera nu
Premium
Arbetare i skyddsdräkter leder invånarna i kö för nukleinsyratestning i ett bostadsområde, mitt i nya låsningsåtgärder i delar av staden för att stävja coronavirussjukdomen (COVID-19) utbrott i Shanghai, Kina, 12 juni 2022. (Reuters)