Kinas system til social kontrol

Anonymitet endegyldigt forbi

I august måned var det slut med anonymitet for kinesiske internetbrugere. Cyberspace Administration of China gjorde internetfirmaer ansvarlige for at sikre, at enhver bruger, der poster noget online, er registreret med sit navn. Brugere kan have et online-alias, men internetfirmaet skal sørge for at have registreret brugerens rigtige navn, så de kinesiske myndigheder kan finde frem til personen.

Whatsapp lukket ned inden partikongres

I slutningen af september blev den end-to-end-krypterede Whatsapp blokeret for brugerne i flere omgange i Kina. Blokeringerne varede dog ikke længere end 24 timer. Kommunistpartiets kongres begyndte 18. oktober, og iagttagere mener, at blokeringerne var igangsat grundet den kommende partikongres. Facebook, Twitter, Instagram og Gmail er alle blokeret i Kina, men har hidtil kunnet tilgås via VPN (virtual private network). Myndighederne slår også ned på udbydere af VPN. Apple fjernede udbydere af VPN-services fra sin kinesiske App Store i juli, og de kinesiske myndigheder har anholdt en kinesisk softwareudvikler, som tilbød tilsvarende services.

”AI-teknologier kan nøjagtigt opfatte, forudsige og give tidlige varsler om usædvanlige situationer for infrastruktur og den sociale sikkerhed; rettidigt forstå gruppe-tænkning og psykologiske ændringer samt tage initiativet i beslutningstagning — hvilket vil øge kapaciteten og niveauet for social styring og således spille en uerstattelig rolle i at vedligeholde den sociale stabilitet.”

Sådan lyder det i den kinesiske regerings rapport om AI udgivet 20. juli i år. Rapporten identificerer AI og Big Data som strategiske teknologier, der er vigtige både for Kinas konkurrence-evne og for den nationale sikkerhed.

Det sociale kreditsystem

Fokuseringen på AI og Big Data skal ses i sammenhæng med et bemærkelsesværdigt system, som er under opbygning i Kina. I 2014 publicerede det kinesiske statsråd dokumentet ”Planlægning for konstruktion af et socialt kreditsystem”. Her kan man læse, hvordan det sociale kreditsystem skal være med til at skabe et ”harmonisk samfund” med ”social stabilitet” befolket af ”oprigtige mennesker”.

Systemet skal løbende registrere og opdatere virksomheders og enkeltpersoners sociale kredit, så ”professionelle kreditvurderinger udvides til at guide udviklingen af professionelle, etiske og adfærdsmæssige normer”.

Senere publicerede retningslinjer specificerer, hvilke adfærdsmæssige normer der skal fremelskes, og hvilke der skal undgås. “Upålidelig opførsel” inkluderer blandt andet “opførsel, der alvorligt underminerer den normale sociale orden … alvorligt underminerer transmissioner i cyberspace” ligesom “forsamlinger til forstyrrelse af den sociale orden og trusler mod det nationale forsvars interesser”.

Pilotprojekterne hidtil

Dokumentet fra 2014 beskriver ikke i detaljer, hvordan det sociale kreditsystem skal virke, men sætter en ambitiøs målsætning om at være klar i 2020 med de grundlæggende funktioner. Hvorvidt det landsdækkende system er klar om lidt over to år, er måske tvivlsomt, men der er allerede sat gang i en række pilotprojekter i Kina, som giver fingerpeg om, hvordan et nationalt socialt kreditsystem kommer til at virke.

I 2010 blev indbyggerne i Jiangsu-provinsen tildelt points for god opførsel af de lokale myndigheder og fratrukket point for mindre ønskværdig opførsel som trafikforseelser og unødig forstyrrelse af myndighederne. Indbyggere med en høj score fik blandt andet nemmere adgang til socialt boligbyggeri, ligesom forfremmelse var mere sandsynlig med en høj score. Projektet var imidlertid en fiasko, blandt andet fordi kvaliteten af data, som systemet anvendte til pointfordelingen, var for dårlig.

Ideen med "Honest Shanghai" er at få indblik i enkeltbrugeres ratings for finansielt omdømme.

Bystyret i Shanghai lancerede appen ”Honest Shanghai” i november 2016, og her er der tilsyneladende mere styr på data. Appen indsamler og analyserer op til 3.000 forskellige oplysninger fra 100 offentlige institutioner om brugeren, når brugeren aktiverer appen ved hjælp af et nationalt ID-nummer og ansigtsgenkendelse. Analysen ender med en af tre offentlige kreditvurderinger: Meget god, god eller dårlig. En god score giver eksempelvis adgang til billige flybilletter, mens en dårlig vurdering kan betyde, at det er svært at købe fly- eller togbilletter. Anvendelsen af appen er indtil videre frivillig.

Alibabas Sesame Credit

Der er planer om at udvide antallet af datakilder, så data fra private virksomheder og sociale medier inddrages i vurderingen. Her er den kinesiske internetmastodont Alibaba interessant. Alibaba, som tilbyder e-commerce, sociale medieplatforme, app store, digital betaling og meget andet, er en af otte kinesiske teknologivirksomheder, som i 2015 gik i gang med pilotprojekter for det sociale kreditsystem. Alibabas Sesame Credit er i dag vidt udbredt blandt de mere end 730 millioner kinesiske internetbrugere. Sesame Credit anvendes blandt andet på dating-sitet Baihe, hvor personer med en høj score angiveligt anses som en mere attraktiv partner end personer med lav score.

Som i tilfældet med Honest Shanghai-appen er anvendelsen af Sesame Credit frivillig. Alibaba ønsker ikke at kommentere, hvordan Sesame Credit-scoren udregnes, men har tidligere afvist over for BBC, at en brugers aktivitet på sociale medier indgår i scoren. Det er ifølge Alibaba udelukkende forbrugsmønstre og finansielle oplysninger, som indgår i udregningen af scoren.

Prosabladet har forgæves forsøgt at få en kommentar fra Alibaba om udregningen af Sesame Credit, men en indikation af, hvordan algoritmen fungerer, blev givet af den tekniske direktør for Sesame Credit i 2015. Li Yingyun fortalte, at en gamer, der spiller computerspil 10 timer om dagen, betragtes som værende doven, mens en person, der jævnligt køber bleer, formentlig er en ansvarlig forælder. Med andre ord: Den ansvarlige forælder vil have en højere Sesame Credit end den dovne gamer.

Chatgrupper kan give lavere kreditscore

De positive ord om harmoni, stabilitet og oprigtighed begynder måske at skurre med en orwellsk dissonans, men de kinesiske myndigheder lægger vægt på, at systemet skal luge ud i korruption, dårlige betalere og være med til at skabe tillid blandt kinesiske virksomheder og privatpersoner. Den sociale dimension med mulighed for at anvende udregningen af social kredit som adfærdsregulering er dog ikke til at komme udenom. Eksempelvis blev der i tiden op til det kommunistiske partis partikongres 18. oktober i år udsendt nye retningslinjer fra Cyberspace Administration of China.

De nye regler indskærpede, at administratorer af chatgrupper kan straffes, hvis chatgruppen anvendes til pornografi, terrorisme-relaterede aktiviteter eller udveksling af falsk information. Hvis administratoren ikke forhindrer den slags, bør administratoren blacklistes og hans kreditscore reduceres, lød formaningen den 7. september fra den kinesiske cyberspace-administration .

Det er også en måde at sikre den sociale stabilitet på.