2017. december 16. szombatEtelka, Aletta
12°Kolozsvár >> Más város
kolozsvári események >> Más város

Orwelli rendszer épül Kínában?

Ivácson András Áron 2017. november 28. 10:58, utolsó frissítés: 10:58

A kínai digitális hitelrendszer nem sok jót ígér a polgárainak. Azonban az igazán aggasztó az, hogy mennyi lesz az elvi és gyakorlati követője, amint 2020-tól kezdődően élesben is látni fogjuk a működését.


2014 június 14-én Kína kibocsátott egy dokumentumot, amelynek a Tervkörvonalazás egy Társadalmi Hitelrendszer Kiépítésére címet adta. Rachel Botsman, a Wired szerzője szerint a szöveg a hosszú és száraz, a szokásos ideológiai szóvirágokkal tarkított - „...lehetővé tenni, hogy a megbízható polgárok nyugodtan járjanak-keljenek a szabad ég alatt, a megbízhatatlanok azonban egy lépést se tehessenek...” - azonban a tervezet fő gondolata igencsak meredek: mi lenne, ha volna egy nemzeti szintű bizalmi pontrendszer, amely mérné, hogy mennyire vagy jó állampolgár? A kínai tervezet teljes angol fordítása itt olvasható.

Noha meglátásom szerint Botsman cikke némileg túlzó képet fest (a képet némileg árnyalják a Foreign Policy itt és itt olvasható cikkei), képzeljünk el egy olyan világot, amelyben folyamatosan pontértékkel látják el a mindennapi tevékenységeinket. Mit vásároltál üzletben vagy online, hol vagy épp az adott pillanatban, kik a barátaid és miként ápolsz kapcsolatot velük, hány órát töltesz netes tartalmak böngészésével és mennyit játszol számítógépen, milyen adókat fizettél vagy nem fizettél még be?

Kép: Kevin HongKép: Kevin Hong


Ami meredekké teszi a kínai esetet, hogy egyrészt az állam és a kormány direkt befolyása alatt lenne ez a megfigyelés, illetve a megfigyelés eredményeit az állam pozitív és negatív pontszámokkal látná el, aminek eredményeként az arány egyetlen számban fejeződik ki. A tervek szerint az arányítás algoritmusát az állam irányítaná és ez alapján számolnák ki a Polgári Pontértéket (Citizen Score). A kínai kormány szerint ez a pontszám közvetítené minden lakos számára mindenki más megbízhatósági fokát: az illető ember mennyire megbízható és mennyire nem, ugyanis mindenki száma teljesen nyilvánosan és minden pillanatban előkereshetően létezne egy adatbázisban.

A rendszert 2020-ban akarják teljesen élesben elindítani, addig csak tesztelik különböző formákban. A kormány megítélése szerint ez a módszer meg fogja oldani, de legalábbis enyhíteni ezt a bizalomdeficitet, amellyel Kína egyébként már a Mao utáni reformok bevezetése után küszködik. A fent említett tervezet céljának tekinti egy olyan társadalmi konszenzus létrehozását, amelyben „...a kölcsönös bizalom megtartása dicsőség lesz.” A kormány megítélése szerint ez a rendszer megoldja majd az intézményekkel szembeni bizonytalanság, a piaci bizonytalanság (a be nem tartott szerződések, amelyek egyik fél pénzügyi veszteségét okozzák Kína egyik legnagyobb gazdasági problémája mindmáig) és a társadalmi bizonytalanság (ld. a fenti Foreign Policy cikkekben a példákat) problémáit, valamint újra felépíti az igazságszolgáltatásba vetett hitet.

Johan Lagerkvist a Svéd Nemzetközi Kapcsolatok Intézeténél a kínai internetes világ specialistája. Szerinte a projekt egyszerre mélységében és látókörében is ambíciós hiszen olyan egyéni szintjeiig is elmegy a megfigyelésben, mint a polgárok könyvolvasási és -vásárlási szokásaik. Lagerkvist megfogalmazásában a terv „az Amazon vásárlókövetése egy orwelli politikai fordulattal.Rogier Creemers, aki az eredeti tervezetet angolra fordította a kínai törvénykezés és kormányzás szakértője és a Leiden egyetem Van Vollenhoven intézetének munkatársa. Leírásában a projekt „Yelp recenziók sokasága miközben egy bábáskodó állam leskelődik a vállad felett.” Jelenleg még szabad döntés nyomán lehet csatlakozni a rendszerhez a tesztidőszakban, azonban 2020 kezdetével a tagság kötelező lesz. Ennek értelmében minden egyes magán- és jogi személyre (tehát cégekre is) érvényes lesz, akik egymást rangsorolják - akár tetszik nekik, akár nem.

Egyelőre azonban a kormány óvatos megközelítéseket alkalmaz, mint mondják: figyelj és tanulj. A projekt kifejlesztésére a nyolc hatalmas magáncégnek adott engedélyt, hogy kidolgozzanak egy-egy hitelrendszert, amelyek közül a legjobbnak ítéltet fogja a kormány alkalmazni. Már ez tökéletesen láttatja Slavoj Žižek azon leírásának megalapozottságát, amikor azt mondja, hogy kommunizmus helyett Kína voltaképp „kapitalizmus ázsiai értékekkel”, ami természetesen parodisztikus kiforgatása a Kínai Kommunista Párt azon önmeghatározásának, amely szerint az általuk irányított rendszer „szocializmus ázsiai értékekkel.” Ezen cégek feladata, hogy algoritmusokat és rendszereket fejlesszenek ki, azonban nem túl meglepő módon az ország két legnagyobb tech óriása vezeti a versenyt.

Az egyik a China Rapid Finance, amely a Tencent nevű közösségi média behemót partnercége és a WeChat alkalmazás kifejlesztője, amelynek közel 850 millió aktív felhasználója van. A másik a Sesame Credit, amely az Ant Financial Services Group cége és az Alibaba - az „ottani Amazon” - partnercége és elsősorban biztosításokat és kölcsönöket kínál kis- és középvállalkozások számára. Azonban mindezek között és mögött az AliPay az igazi sztár, amelyet nem csak online vásárlásra használnak Kínában, hanem szinte mindenhol ennek segítségével fizetnek: vendéglőben, iskolai költségek beszerzésére, mozijegyekre, pénzátutalásokat ezzel intéznek, sőt, sokszor még a taxit is ezzel fizetik. Szintén fontos piaci partnernek számít a Didi Chuxing, amely az Uber kínai vetélytársa volt egészen addig, amíg nemes egyszerűséggel fel nem vásárolta azt az országban. Illetve fontos még megemlíteni a Baihe-t, amely az ország legnagyobb társkereső oldala. Ezek tekintetében pedig teljesen tisztán látszik, hogy honnan származik az a hatalmas mennyiségű adat, amellyel az állam készül beindítani a hitelrendszert, ami alapján a különböző értékeléseket majd véghez lehet vinni.

Azonban annál érdekesebb, hogy a kormány egyelőre nem tervez semmiféle konkrét szankciót bevezetni a tesztidőszakban az alacsony bizalmi pontokért a hitelrendszerben. Egyelőre a magas pontszámok során elérhető előnyökkel és kivételezettségekkel próbálják becsalogatni az embereket a tesztelésbe - ami voltaképp mindegy hiszen a tervek szerint 2020-tól egyébként is kötelező lesz a rendszer részének lenni. Amit egyelőre tudni lehet az, hogy a Sesame Strett 350 és 950 pont közé tette az alsó és felső határokat, valamint az, hogy az AliBaba egy öt faktoros rendszert dolgozott ki, azonban az, hogy ezzel pontosan miként is arányítanának még nem köztudott, ugyanis az algoritmusukat nem hozták nyilvánosságra.



Az első faktor az illető személy hiteltörténete, avagy az, hogy visszamenőleg milyen rendszerességgel fizette adóit, voltak-e késései, van-e adóssága egyáltalán és így tovább. Visszamenőleg nem lesz nehéz lekövetni ezt, ugyanis már a modern Kína '49-es létrejötte óta létezik a dang'an rendszer, amely voltaképp egy személyes dosszié, amiben minden benne van, amit az állam egy illető személyről tudhat. A második faktor a betartási kapacitás, ami voltaképp azt jelenti, hogy mennyiben tartotta be az alany a különböző szerződéseiben megfogadott és aláírt kötelezettségeit. Mint fentebb jeleztem, ez Kínában máig egy hatalmas piaci probléma. A harmadik faktor az úgynevezett személyes jellemzők, amelybe a működő és hiteles elérhetőségi források megadása, telefonszám vagy e-mai tartozik, ha már a bizalomdeficit miatt jött létre elvileg az egész rendszer.

A dolog igazából a negyedik faktortól válik érdekessé, ugyanis ennek a megnevezése a viselkedés és preferenciák faktora. Ennek következtében pedig ebben a rendszerben valami annyira ártalmatlan, mint a vásárlói habitus személyiségi jelzővé lép elő, azonban a kérdés itt nem csak az, hogy ez miért kellene személyiségi jelző legyen - hiszen egy akármilyen x dolgot akár tőlem teljesen függetlenül ajándékként is vásárolhatok - hanem az is, hogy létezik-e ártalmatlan vásárlás? Pontosan abban az értelemben ahogy a kortárs kapitalizmuskritikák állítják: kapitalizmusban nincs és lehetetlen az etikus fogyasztás a rendszer alapvető jellemzői (tömeges kizsákmányolás stb.) okán.

Az AliBaba elismerte, hogy az alapján is megítéli a klienseit, hogy mit vásárolnak. Például, aki nagyon sok számítógépes játékok vásárol és nap tíz óránál többet játszik, azt a rendszer automatikusan „tétlen embernek” (idle) minősíti és ezzel szemben azonban, aki sok pelenkát vásárol, az nagy valószínűség szerint szülő és akkor megbízhatónak minősíti a rendszer. Ez annál is inkább visszás, hogy az olyan játékokban, mint például a StarCraft, semelyik országnak nincs akkora e-sport színtere, mint épp Kínának. Ebből pedig pontosan az tűnik ki, hogy a rendszer nem csak megfigyeli, hanem alakítja is a viselkedést: bizonyos viselkedésektől eltereli őket - legelőször is olyanoktól, amelyek nem tetszenek az államnak - és mások fele irányítja a figyelmüket - legelőször is az államnak tetszőek fele.

Ez még jobban szembetűnik az ötödik faktorban, amely a személyközi kapcsolatok faktora. Ebbe nem csak az tartozik bele, hogy mit oszt meg valaki a közösségi médiában, hanem az is, hogy milyen barátai vannak és azok mit osztanak meg a saját falukon. Ezt a faktort olyan cselekedetek módosítják, mint pozitív vagy negatív online tartalmak, szép vagy csúnya üzenetek a kormányról, a gazdaság jelenlegi állapotának bírálata vagy támogatása és mindezek vagy fel vagy lefele viszik az ember pontszámát. Az AliBaba azt állítja, hogy a negatív tartalmakért nem jár pontlevonás, de nem lehet tudni, hogy a rendszer 2020-as élesedése után is így marad-e ez. Annál is inkább, hogy eddig is problémás volt Kínában a disszidens véleménynyilvánítás, azonban a rendszer élesedése után a szó legszorosabb értelmében magánéleti következményei is lehetnek.

Kép: Kevin HongKép: Kevin Hong


A jó pontszámokért cserébe egész komplex speciális jutalmazási rendszert vezetne be az állam. Amennyiben valaki eléri a 600 pontszámot egy 5 000 yuan (2 971 RON) értékű Just Spend vásárlási utalványt kap az Alibaba oldalon. Ha valaki eléri a 650 pontszámot autót bérelhet anélkül, hogy letétet helyezne le, illetve a szállodákban és reptereken gyorsabb check in-t biztosítanak neki. Ha túllépi valaki a 666-os pontszámot, 50 000 (29 730 RON) értékű kölcsönt kap az Ant Financial Services-től, amit kedve szerint bármibe befektethet. Amennyiben elérik a 700 pontértéket lehetséges Szingapúrba utazniuk anélkül, hogy olyan kísérő dokumentumaik legyenek, mint például az alkalmazói levél. Végül pedig ha elérik a 750 pontszámot pán-európai schengeni vízumot kapnak. Egyelőre ennyit lehet tudni a rendszerről, azonban már most biztos az, hogy a tesztalanyok között hatalmas státusszimbólumként működik a minél magasabb pontszám.

A Weibo-n például, amely a Twitter ottani megfelelője, százezrek dicsekszenek a magas pontszámaikkal, ugyanis a magas pontszám emeli a randi és házassági esélyeiket, tekintve, hogy minél magasabb pontszámuk, annál valószínűbb, hogy profiljuk előtérbe kerül a Baihe-n. A Sesame Credit már tippeket is ad, hogy miként emeld a pontszámaidat: például ne jelölj barátnak olyanokat, akiknek túl alacsony a pontszámuk (egy hasonló helyzetet parodizált a South Park 2010-ben a Facebook kapcsán, négy évvel a kínai terv kidolgozása előtt a You have 0 friends című részben, épp csak Kína helyett a Facebook volt a célpont).

Az említett South Park részhez hasonlóan várható, hogy a rendszer beindulása után nem sokkal feltűnjenek a különböző pont tanácsadók és hírnév menedzserek, akik professzionális tanácsokat osztogatnak arra nézve, hogy miként válj egyre pontgazdagabbá. Miként fokozd stratégiailag a pontgyűjtési szokásaidat, vagy akár hogyan kerülj le egy hírnév- és pontérték romboló fekete listáról. Ugyanakkor természetesen az is várható, hogy hamarosan beindul a hírnév fekete piac is. Pont úgy, ahogy lájkok és tweetek vásárolhatóak a Facebook-on és a Twitteren, nagy valószínűséggel beindul majd Kínában is a pult alatti - úgymond - hírnévturbózó tanácsok vagy alkalmazások kereskedelme, arról nem is beszélve, hogy akár magán, akár állami hackerek mit vihetnek véghez egy ilyen területen.

Ez az új rendszer a kritikusai szerint egy éles paradigmaváltás a kínai komformitást kierőszakoló eljárásokban, ugyanis ezt így nem fentről lefele hierarchikus fenyegetéssel akarják megvalósítani, hanem oldalági és legalább látszatában horizontális piaci eljárások segítségével. Botsam kihangsúlyozza, hogy a BBC által levezényelt körkérdésben mindenki a rendszer előnyeit sorolta, de hát ki merne nyíltan az állam ellen beszélni, ha már ettől is lefele mehet a pontértéked?



A kormány úgy tűnik arra törekszik, hogy a társadalmi hitelt és bizalmat egy számítógépes játékhoz tegye hasonlóvá: a társadalmi kontrollt egy jutalompontot rendszerbe építi bele, ami a rendszerszintű megfelelés eljátékosodásához vezet. Ennek egyenes következménye, hogy nem csak alig észrevehető lesz a megfelelés, hanem csalogató is, mint fentebb láttuk, nem is akármilyen jutalmakkal és előnyökkel. Egyelőre a Sesame Credit is azt mondta, hogy nem bünteti a „megbízhatatlanságot”, azonban Hu Tao a Sesame Credit hiteligazgatója azt mondta, hogy a rendszer úgy van kitalálva, hogy azok, akik megbízhatatlannak bizonyulnak, többek közt ne bérelhessenek autót, ne vehessenek fel pénzkölcsönt, ne találjanak munkát – vagyis meglátásában mind olyan dolgoktól essenek el, amivel megkárosíthatják a társadalom egyik vagy másik szegmensét.

Valamivel aggasztóbb viszont az, hogy Botsam szerint a Sesame Credit megkereste a kínai oktatási bizottságot és kikérték azon diákok listáját, akiket csaláson fogtak az országos iskolai felméréseken. Az történt, hogy az illetőknek a hitelükbe beleszámították visszamenőleg a csalást, hogy „a jövőben fizessenek a megbízhatatlanságukért.” Azonban úgy tűnik, hogy a büntetések rendszere drasztikusan meg fog változni, amikor 2020-ban élesben beindul a rendszer. 2016 szeptember 25-én a kínai kormány arra figyelmeztette a lakosságát a „Fegyelmező és Büntetésmechanizmusok a Bizalomtörési Végrehajtás alatt álló Személyek számára” című nyilatkozatában, hogy ha a társadalomban a bizalmat egy helyen megtörik, a büntetés az egész társadalmat érinti - az elszenvedése és a kiosztása is. Hasonlóan messianisztikusan kollektivista volt Mao Cetung felhívása is a Nagy Proletár Kulturális Forradalomra.

A dokumentum annál is aggasztóbb, hogy kilátásba helyezi a következő büntetéseket az alacsony társadalmi bizalmi pontszámért: akik túlságosan alacsony pontszámmal rendelkeznek, azok lassabb internetszolgáltatást kapnak, korlátozhatják a vendéglőkhöz, night clubokhoz, golfpályákhoz való hozzáférésüket, a külföldre utazás jogát, a lakásbérlés korlátozását, a biztosítás és a kölcsön igénylése jogának megvonását, a társadalombiztosítás megvonását (!), a bizonyos munkaköröktől - újságírás, jogi munkahelyek stb. - való eltiltás, bizonyos iskoláktól és felsőoktatási intézményektől való eltiltást.

Kép: Kevin HongKép: Kevin Hong


Luciano Floridi filozófia és etika professzor szerint a történelem során három nagy az önértésünkben beállt decentralizációs mozzanat ment végbe. Az első Kopernikusz heliocentrikus modellje, amely a valóságnak megfelelően láttatta, hogy a Föld kering a Nap körül és nem fordítva, illetve, hogy a Föld nem az univerzum közepe. A második Darwin evolúciós modellje, amely megmutatta, szintén a valóságnak megfelelően, hogy az ember része a természetnek, belőle született, belőle fejlődött ki lassú és hosszú folyamat során és nem egyedi teremtmény, ahogy a teológia tartja. A harmadik pedig Freud pszichoanalitikus modellje, amelyi ismét a valóságnak megfelelően tárta fel, hogy gondolati és egyéb mentális tevékenységeink nagyrészét tudatallati, a tudatos gondolkodás szintjéig el nem jutó folyamatok határozzák meg.

Floridi szerint az önértésünkben épp most lépünk a negyedik fordulatba, amely az offline és online személyiségeink közötti elmosódásban valósul meg. Amikor pedig a kettő összeér, létrejön az a hibrid személyiség, amelyet Floridi „onlife”-nak nevez. Ez az onlife személyiség az infoszférában lakozik, amelynek gyökerei ugyan valós élmények, azonban ezeket a valós élményeket absztrahálja és értelmezésükben átalakítja az infoszféra, aminek következtében ezek elég meredeken eltérhetnek a gyökereikül szolgáló élményektől – az más kérdés, hogy a technológia fejlődésével mi történik, ha ezek az alapító élmények retroaktíve módosíthatóak lesznek. Így pedig az onlife személyiség és az offline, valós személyiség (hogy ez mennyire valós, az más lapra tartozik) között igencsak szélsőséges különbségek léphetnek fel. Miként lehetne ezt jobban megfogalmazni, mint ahogy tette Guy Debord az épp ötven éve megjelent A Spektákulum Társadalma című alapművében: „Minden, amit az ember valaha közvetlenül megélt, reprezentációvá foszlott.”

Nem csak az problémás ebben az egészben, hogy a bizalmi algoritmusok igazságtalanul reduktívak. Hiszen pontosan az az egyik felmerült kritika a rendszerrel szemben, hogy nem képes érzékelni a nüanszokat és például nem képes különbséget tenni aközött, hogy valaki azért késik az adója befizetésével, mert lusta és elhalasztja, vagy azért, mert kórházban volt a befizetési időszakban. A rendszer egyszerűen csak annyit jelenít meg, hogy az illető lekéste a befizetési időszakot. A problémás kérdés az, hogy lehetséges-e és ha lehetséges, szükséges-e egy ilyen tökéletes algoritmus kifejlesztése, avagy: megérvelhető-e egy ilyen társadalmi rendszer bevezetése?

A kérdés érdekes problémákat vet fel. Gondoljunk arra, hogy amint az írásom elején linkelt Foreign Policy cikkek rámutatnak, Kína ezzel egy hatalmas társadalmi bizalmi deficitet szándékszik orvosolni egy radikális társadalmi változtatással. Ennek már igazán nagy hagyománya van az országban – mindenféle következményeik ellenére is – ugyanis hasonló nagyléptékű projektek voltak a Nagy Ugrás (1958 – 1960) és a Nagy Proletár Kulturális Forradalom (1968 – 1976/78), noha minden bizonyossággal kijelenthető, hogy olyan katasztrofális eredményei nem lesznek, mint a két említett korábbi társadalmi, gazdasági és politikai terveknek. Azonban mindkét program olyan korszakban lett elindítva, amikor a kínai vezetés krízishelyzetet vélt látni.

Kép: Kevin HongKép: Kevin Hong


Annál is inkább túlzónak tartom Botsman hangvételét, hogy az ilyen szintű információgyűjtés és ez alapján való civil rangsorolás a nyugati világban ugyanígy megtalálható, éppen annyi különbséggel, hogy nem államilag centralizált ennek az információnak a felhasználása. Ugyanúgy tech óriások gyűjtik be az információt, ugyanúgy továbbadják harmadik félnek – még ha az ellenkezőjét is mondják – és ugyanígy rangsorolnak az információ szerint: egy-egy tartalom megosztása az adott személy hírfalán elzárhatja bizonyos munkahelyektől (vagy más lehetőségektől: vízummegtagadás például), illetve adott esetben munkahelyükbe kerülhet. A korporatív szféra ugyanúgy működik és sok esetben még több hatalma is van, mint az államnak. Annál is inkább fura ez a riogatás, mert az ilyen információgyűjtés és az alapján való fontossági sorrend felállítása megtörténik nap, mint nap a Facebook, a Google, az Instagram, a FitBit, a Tinder és ki tudja még hány és hány alkalmazás által.

A Wired cikke abban is túloz, amint utólag a Tech in Asia cikke rámutat, hogy a barátaink pontszámai nem befolyásolják a mi pontszámainkat, így nem fog előállni az, hogy emberek majd megszakítják a kapcsolatot egymással, mert a másik esetleg lehúzná az ő pontjait. Ugyanakkor pedig Kína esetében az is elmondható – mindenféle relativizálás és apologizmus nélkül – hogy mindössze a technológia szélsőséges felhasználásával szeretnének válaszolni egy szélsőséges világi helyzetre. A materiális világ jellemzői ismét és újfent határozzák meg a felépítmény működését, azok pedig visszahatnak rá.

Részben pont ezért túlzásnak tartom az „orwelli” jelző minduntalan használatát kizárólag erre a projektre. Minden ország minden kormányának létezik mindenféle titkos információhalmaza a lakosságáról és az ez alapján létező valamiféle rangsorolása: már csak a politikai nyelvben létező „hazaárulózás” és „idegenszívűzés” is ennek bizonyítéka (különösen, amikor kormányszervek beszélnek így). Az emberek bizonyos mértékű öncenzúrája már alapvetően kódolva van a közösségi média használatába, nem olyan új fejlemény ez, sőt, az sem, hogy ennek állami implikációi lehetnek. Voltaképp egy mindeddig kormány hatálykörön kívüli szféra ezen hatálykörön belülre vonzása történik Kínában és sajnálom, akinek én kell szólnom, mert új nekik, de az utóbbi legalább öt, de talán már tíz évben minden keleti és nyugati tendenciája nyílegyenesen erre tart és ide vezet.

Az egyetlen ok, amiért esetleg meglepődhetünk az, hogy Kína meg is tette ezt a direkt lépést afelé, ami szinte mondhatni materiális történelmi szükségszerűség. Így inkább minden rémült túlzás helyett talán jobb volna egyelőre felvenni a küzdelmet a technológia ilyen használata ellen és gondolkodni egyet azon is, hogy mindez miként menne végbe – és volna-e ellenállási lehetőségünk – ha mondjuk már létezne a technológiai idealizmusnak hála egy NeuraLink-szerű interface és az állam közvetlen az elménkben turkálhatna anélkül, hogy legalább egy közösségi média-szerű köztes interface lenne a kettő között. A tendenciák pedig mindinkább ebbe az irányba tartanak.

Ha tetszett a cikk, lájkold a Transindexet!

VilágRSS