Pohrávání se sociálním kreditem
Marian Kechlibar: Ve studii německého ministerstva školství a vědy se rozebírají různé scénáře možné budoucnosti. Jedna z nich hovoří o sociálním kreditu.
Německé noviny Die Welt upozorňují na studii vydanou spolkovým ministerstvem pro školství a vědu a na související článek dr. Karima Fathiho, který je tamtéž poradcem. Jedná se o rozebrání možných scénářů budoucího hodnotového vývoje německé společnosti, přičemž jedním ze scénářů je “bonusový systém” (Bonussystem) podobný tomu čínskému. (Čína se v obou materiálech explicitně zmiňuje.)
Takový systém by mohl odměňovat obyvatele například za výkon veřejně prospěšných činností zdarma (Ehrenamt) nebo uhlíkovou stopu (CO2-Abdruck). V oné ministerské studii najdete úvahy nad “bonusovým systémem” od stránky 122 dále.
No uf. Má oblíbená noční můra. Jedna ze tří těch opravdu vytrvalých: přiblblá, leč těžkoruká algoritmizace lidského života, usnadněná dnešním masovým sběrem dat.
Než půjdeme dál, je potřeba upozornit, že žádný z těch materiálů se vysloveně nehlásí k tomu, že by takový systém zavést chtěl. Je to vše v režimu “co by, kdyby”. Samotné ministerstvo odpovědělo na dotaz Weltu, že jde o scénář, který je “myslitelný” (denkbar), ale “v žádném případě se o něj neusiluje” (keineswegs anzustreben). A v obou textech se rozebírají i možné zápory celé věci.
Z pohledu čtenáře si ovšem musíte klást otázku, proč se tedy takový scénář dostal do užšího výběru pouhých šesti scénářů, které se v materiálu rozebírají. Myslitelných možností vývoje je přece daleko více. Seberte sto intelektuálů, dejte jim za úkol přemýšlet nad budoucností jejich země, a sklidíte nejmíň 150 variant, jak by mohla vypadat. Pokud se “bonusový systém” kvalifikoval až do oficiálního materiálu spolkového ministerstva, můžeme z toho soudit minimálně to, že takovou variantu vývoje berou tamní úředníci vážně. (Na rozdíl, dejme tomu, od návratu dynastie Hohenzollernů na císařský trůn, kterou nejspíš neberou úplně vážně ani nepočetní němečtí monarchisté.)
Pojďme tedy chvíli uvažovat nad “bonusovým systémem”, jehož jméno je – všimněte si – formulováno neškodně a optimisticky, jako by šlo o nějaké odměny za chození do téhož supermarketu. I noční můry lze aspoň částečně zabalit do dárkového papíru. Aspoň v době, kdy je představujete publiku, které ještě úplně neví, co od nich čekat.
Za prvé, státy či civilizace mají tendenci se navenek prezentovat tím, co je možno mezinárodnímu publiku takříkajíc prodat.
Zrovna v případě té Číny, která je v materiálech zmiňována coby původce myšlenky a která očividně stojí o to, etablovat se na mezinárodní scéně jako jedna z velmocí a alternativ, to bude stabilita technokratické vlády. Asi takto by mohla vypadat jejich pomyslná reklama:
“Přijměte náš model, nebo aspoň nějaké jeho prvky, a nebudou vám hrozit žádná nepříjemná překvapení jako brexit nebo vítězství nežádoucích stran ve volbách. Umíme řídit společnost seshora tak, aby pěkným, předvídatelným tempem kráčela k určenému cíli a přiměřeně ekonomicky rostla. Chcete-li, ukážeme vám, jak se to dělá. Takhle se maže, takhle se chválí. Toto musí přijít do novin, toto tam přijít nesmí. Tohoto člověka stačí pokárat, tenhle už musí na převýchovu, tohohle rovnou zavřít.”
Bohužel si myslím, že takto prezentované “zboží” má v Evropě řadu potenciálních kupců, ať už je jeho reálná hodnota jakákoliv, a že na takový proces “ideového nákupu” budeme muset dávat pozor. On totiž nemusí vždycky probíhat zjevně a otevřeně a budou k němu mít sklony i lidé, kteří tak na první pohled třeba nevypadají. Úředně řízený utopismus koneckonců nevynalezla Čína, jenom má momentálně k dispozici jeho nejúčinnější implementaci.
Vize stability a růstu za cenu “drobných obětí” má i tady určitou míru podpory mezi voliči, patrně závisející na tom, v jak velkých problémech se daný stát nachází (všimněte si, že jediným státem G7, který se podílí na čínském globálním projektu Belt and Road, je notoricky zadlužená a hospodářsky stagnující Itálie, i když poslední dobou začínají mít v Římě o moudrosti svého angažmá určité pochybnosti). Zejména se ale dá čekat, že na něco takového budou slyšet politici. Demokracie je chaotická; přeběhlí poslanci vrážejí vládě vidle do zad, kolem ctihodných hlav propukají špinavé skandály, táboroví řečníci během pár měsíců poskládají hnutí, které pak sebere ve volbách dvacet procent hlasů a špatně se s ním jedná. Nic z toho neprospívá “klidu na práci”, který prostě v pluralitním státě není možný.
Zato v technokratickém státě řízeném shora by nějaký ten “klid na práci” možný byl, a už to bude jeden z důvodů, proč u nás budou myšlenky na zavedení různých postupů tohoto střihu patrně také vylézat. On to samozřejmě nikdo na plnou hubu neřekne, že by rád, aby jej ve výkonu vládnutí nerušili; oficiální zdůvodnění bude vždycky znít nějak konstruktivně a pozitivně. (Boj proti pedofilii? Boj proti korupci? Boj proti rasismu? Boj proti klimatické změně? Boj, boj, boj.) Ale vsaďte se, že v praxi to bude brzy sklouzávat právě k tomu klidu na práci, který je nejpohodlnější.
A “bonusový systém” se k zajištění takového klidu náramně hodí. Problémoví jedinci zkrátka dostanou špatné skóre a spolu s ním tolik starostí, že se budou nuceni soustředit sami na sebe.
Za druhé, existuje určitý způsob uvažování o historii, který se dívá na technologický vývoj a jeho následky pro vývoj společenský. Podle něj jsou určité technologie z principu disruptivní a mění běh světa už jen svojí existencí, respektive širokým nasazením.
Zabloudíme-li na chvíli do historie, vynález a rozšíření palných zbraní se stal smrtícím problémem pro klasický feudalismus, protože dokáže-li kdejaký sedlák s ručnicí provrtat rytíře (nebo samuraje) kulí skrz naskrz, ztrácejí se důvody k tomu, aby ta společnost vůbec nějaké rytíře vydržovala a krmila. Podobně třeba rychlé pokroky hygieny a medicíny v Evropě 19. století vedly k tomu, že evropského obyvatelstva prudce přibývalo a náš kontinent je “vyvážel” do kolonií. Export těch samých technologií do Asie a Afriky vedl k tomu, že obyvatelstva pro změnu začalo prudce přibývat tam, takže tok migračních proudů se obrátil a dnes se nacházíme spíš v nevděčné roli těch kolonizovaných.
Masový sběr a zpracování dat je další taková technologie, která před vynálezem počítačů neměla ani zdaleka takové možnosti, jaké má teď. Někdy v roce 1920, kdy se údaje v kartotékách musely udržovat ručně, byly možnosti státu sbírat čísla o svých občanech značně omezené. (Schválně se podívejte na fotogalerii ČSSZ, kde je zachycena strojová kartotéka v Praze, jak to vypadalo.) Dělat s těmi čísly na papírcích nějaké hromadné výpočty dle libosti, to už teprve nešlo.
Teď to jde. A jestliže to jde, tak to někteří lidé budou provádět – a jiní lidé budou v pokušení z těch dat dělat nějaké závěry. A ještě jiní lidé podle toho budou organizovat život tomu zbytku. Zrovna téma klimatické změny k takovému mikromanagentu života populace vysloveně navádí: kolikrát sis, chlapče, v minulém týdnu dal maso? Čtyřikrát? To aby sis raději snížil nastavení termostatu v pokoji na osmnáct stupňů. Jinak překročíš doporučenou uhlíkovou stopu, což dělají jenom hanební vrazi planety.
Se snadným sběrem dat je takový mikromanagement desítek milionů lidí možný; dříve to prostě nešlo. Dneska na vás ani nebude pokřikovat živá soudružka dozorčí, stačí na to aplikace v telefonu.
Měli bychom si toho být vědomi, nechceme-li, abychom se jednoho dne probudili v technologické dystopii. Ona už do určité míry vlastně nastala, ale vždycky může být hůř.
Třetí bod – ať už sbírají počítače jakékoliv množství dat a provádějí analýzu na libovolném množství proměnných, výsledek jejich výpočtu musí být vždycky srozumitelný i živému člověku. Koneckonců i ta appka v telefonu musí křičet na toho uživatele tak, aby to pochopil, a aby jej ovlivnila právě tím směrem, kterým chce.
Nejjednodušším způsobem, jak to udělat, je “zdrcnout” celou komplikovanou situaci do jednoho čísla. Bonus, malus, skóre. Jedno jediné číslo totiž pochopí každý kromě úplných idiotů, a stejně tak pochopí, jestli a) to jeho číslo klesá nebo roste a b) jestli má to číslo vyšší nebo nižší než jeho kamarád či soused. A stejně tak to v případě potřeby pochopí vynucující orgán, nějakým domovním důvěrníkem počínaje a vyšetřovatelem konče. Což dost často nebývají nikterak duševně obdaření lidé.
Samozřejmě, jakmile přetavíte celý složitý svět do jednoho jediného čísla, ztratíte přitom velký kus informace a to číslo začne mít poněkud pofidérní vypovídací hodnotu. Tak například v bavorském městě Vilshofen, které zavedlo možnost nechat si přidělit zelené domovní číslo coby symbol, že tato domácnost pečuje o životní prostředí, je k přidělení zeleného čísla potřeba získat určitý počet bodů v dotazníku. Kompletní dotazník není bohužel online k dispozici, ale bulvár Bild vyzobal podobný dotazník z Porýní a uvádí například to, že za předplatní jízdenku BahnCard 100 (pořizovací cena 4395 €) dostane domácnost 10 bodů. Což je spíš měřítko “bohaté domácnosti, které potřebuje někam často jezdit”, než skutečného dopadu na přírodu. A ano, jsou tam i body za to, že jíte maso maximálně dvakrát týdně. Nebo za aktivní členství v organizaci Greenpeace.
Druhý přirozený důsledek degenerace složitého jevu na jednorozměrné číslo je, že manipulace se stane oboustrannou. Jestliže byl systém původně navržen k tomu, aby manipuloval s chováním jedinců, naučí se brzy mnozí jedinci, jak pro změnu manipulovat systém a dosahovat maximálního skóre s minimální námahou.
“When a measure becomes a target, it ceases to be a good measure.”
“Stane-li se z metriky cíl, přestává být dobrou metrikou.”
GOODHARTOVO PRAVIDLO, JAK JEJ REFORMULOVALA MARILYN STRATHERN
Ze stejného důvodu, z jakého dosud nemáme a patrně nikdy nebudeme mít nějaké číselné hodnocení kvality práce vědců, umělců, řemeslníků nebo programátorů, patrně ani nikdy nebudeme mít “bonusový systém”, který by při měření něčeho komplexního dával smysl. Takové systémy se lidskou vynalézavostí snadno podvracejí a končí jako aparát vhodný spíš pro šikanu odpůrců než co jiného.
Bohužel to na jejich povrchní přitažlivosti nic nemění. Do té míry, že si s nimi nezávazně, “co by, kdyby”, pohrává i německé spolkové ministerstvo školství, toho času již řadu let řízené konzervativní CDU.
I když – kdybych měl evropským politickým stranám začít přidělovat “skóre konzervativity”, zrovna CDU by byla v nejlepším případě někde kolem nuly.
Diskusní fórum ke článku najdete zde.
Hudební epilog
Cesta. Ale kam vede?
